O uso da inteligência artificial (IA) para gerar imagens tem se tornado uma tendência recorrente nas redes sociais. Essa inovação tecnológica tem movimentado a produção de conteúdo e proporciona aos usuários a oportunidade de experimentar diferentes aparências, emulando personagens de desenhos animados ou de filmes famosos. Contudo, essa prática trouxe à tona questões importantes relacionadas à diversidade e à equidade racial.
A tendência mais recente, que envolve a utilização da plataforma Bing da Microsoft para criar imagens semelhantes aos personagens da Disney Pixar, ilustra a complexidade da IA na representação racial. Muitos usuários, principalmente pessoas negras, expressaram ter dificuldades para criar personagens que refletissem fielmente suas características físicas, principalmente, o tipo de cabelo e o tom de pele.
A IA, em muitos casos, parece favorecer um fenótipo mais alinhado ao padrão branco, reforçando, involuntariamente, preconceitos e estereótipos enraizados na sociedade. Ao solicitar imagens de pessoa negra sem especificar a cor dos olhos, por exemplo, a IA gerou imagens de personagens negras com olhos azuis. O cabelo crespo ou cacheado também surge com raiz lisa e aspecto de um cabelo modificado no salão. Para chegar mais perto da aparência real, é preciso investir em dezenas de tentativas. Eu mesma, fiz aproximadamente 60 descrições para conseguir personagens mais próximos das minhas características, e não alcancei o meu peso, todas as imagens criadas são de mulheres magérrimas.
Alguns incidentes chegam a ser ainda mais problemáticos. Um caso que chamou atenção envolveu a deputada estadual Renata Souza (PSOL), do Rio de Janeiro. Ao solicitar à ferramenta a criação de “uma mulher negra, de cabelos afro, com roupas de estampa africana num cenário de favela”, o resultado entregue a ela foi a imagem de uma mulher negra com uma arma de fogo nas mãos. Esse erro da IA levanta sérias preocupações, pois não apenas perpetua estereótipos negativos associados à população negra, mas também coloca em evidência a necessidade urgente de melhorias na programação dessas ferramentas.
Um dos principais desafios da IA reside na representação. Para que uma IA seja capaz de gerar imagens mais inclusivas e precisas, é crucial que haja uma coleta de dados mais diversificada, abrangendo uma ampla gama de características raciais, étnicas e culturais. Isso fornecerá à IA uma base mais sólida para entender e representar diferentes grupos.
É imperativo que os algoritmos de IA sejam projetados com sensibilidade à raça. Isso significa considerar não apenas a diversidade de características físicas, mas também as culturais para garantir que os resultados não perpetuem preconceitos ou estereótipos raciais.
As empresas que desenvolvem as ferramentas de IA devem priorizar a realização de testes rigorosos e revisões éticas para identificar e corrigir possíveis vieses raciais ao disponibilizarem a tecnologia ao público. Isso exige um compromisso contínuo com a equidade racial e a disposição de corrigir erros quando eles ocorrerem.
A transparência em relação às limitações de IA deveriam ser compartilhadas pelas empresas, que poderiam ainda envolver a comunidade em discussões sobre como melhorar essas ferramentas. As próprias redes sociais que abrigam as imagens criadas tem funcionado como espaço para o debate e desabafo. A voz das pessoas afetadas pode e deve ser ouvida e respeitada.
A IA tem o potencial de ser uma ferramenta poderosa para a criatividade e a diversão, desde que seja desenvolvida com sensibilidade e responsabilidade. É doloroso e uma nova forma de exclusão, ver todo mundo brincando nas redes sociais e não poder entrar na brincadeira. Resolver questões de equidade racial na criação de imagens por meio de IA requer um esforço conjunto das empresas, dos desenvolvedores e da sociedade em geral. É um desafio que, quando enfrentado de maneira eficaz, promoverá uma representação mais inclusiva de todos nas redes sociais e, consequentemente, no mundo.
Mundo Negro
Notícias Relacionada