Após o lançamento de uma funcionalidade de geração de imagens por inteligência artificial que resultou em conteúdo “woke” constrangedor, como imagens de nazistas negros e asiáticos em nome da “diversidade”, o Google está agora pedindo desculpas.

A funcionalidade em questão, parte do aplicativo Gemini (anteriormente conhecido como Bard), foi criticada por produzir representações históricas completamente erradas, levando a empresa a pausar temporariamente a geração de imagens de pessoas.

Segundo Prabhakar Raghavan, vice-presidente sênior de Conhecimento e Informação do Google, a empresa reconheceu que a funcionalidade “não atingiu o objetivo”. O reconhecimento das falhas vem após uma série de críticas ao modo como o Gemini gerou imagens que ignoravam ou minimizar a representação de pessoas brancas, entre outros erros embaraçosos.

A decisão de interromper a funcionalidade fomentou debates sobre a manipulação de dados históricos e realidades para se alinhar com visões políticas específicas, uma prática comparada a táticas de regimes autoritários e narrativas de ficção distópica como em “1984”, de George Orwell.

A empresa pediu desculpas por qualquer imprecisão nas imagens históricas geradas. À medida que o Google se compromete a realizar “testes extensivos” antes de reativar a funcionalidade, a comunidade online e os críticos permanecem atentos às próximas etapas da empresa na gestão de IA e na representação de informações históricas e culturais.