Inteligência artificial gera imagem de deputada negra segurando arma
Presidente da CPI do Reconhecimento Fotográfico nas Delegacias, a deputada estadual Renata Souza (PSOL) foi surpreendida pelo “racismo algorítmico” durante o processo de pesquisa sobre o funcionamento das inteligências artificiais generativas.
A parlamentar usou um serviço disponível ao público, da gigante americana Microsoft, capaz de gerar imagens baseado em um comando escrito. Ao pedir uma imagem dela própria para o sistema, com uma favela ao fundo, a IA gerou automaticamente uma arma na mão dela.
O comando enviado para gerar a imagem foi: “pôster do filme inspirado na Disney Pixar com o título "Renata Souza". A personagem principal é uma mulher negra com cabelo afro preso e vestindo um blazer estilo africano. A cena deverá ser no estilo de arte digital distinto da Pixar, uma favela ao fundo, com foco nas expressões dos personagens, cores vibrantes e texturas detalhadas características de suas animações, com o título "Renata Souza"”.
"Essa é uma evidência muito forte do racismo algorítmico que algumas pesquisas científicas já demonstram existir. Essa ilustração criada por uma inteligência artificial expressa o forte viés de criminalização da negritude e da favela no funcionamento da inteligência artificial, como indicador do racismo dos seus dirigentes e programadores. Não há neutralidade nas novas tecnologias", afirmou a parlamentar.