O Google pediu desculpas oficiais após sua ferramenta de inteligência artificial generativa, o Gemini (ex-Bard), gerar imagens baseadas em eventos históricos inadequadas. O modelo de linguagem teria criado retratos de pessoas com a cor da pele errada.
A lista de erros inclui, por exemplo, os fundadores dos EUA ou soldados nazistas, que foram retratados como sendo de pessoas de cores de pele diversificadas.
Leia mais: Sofri um golpe, e agora? Como agir em casos de fraude
Google Gemini tem problemas na geração de imagens?
A suspeita é que o problema surja devido a uma medida que faz com que o Gemini opte por criar imagens com pessoas de cores diferentes. Esse sistema existe para evitar que os resultados de prompts sejam tendenciosos, mas, como visto, ele não pode se aplicar a qualquer contexto.
“Nós estamos cientes que o Gemini está dando resultados errados na geração de imagens históricas. Nós estamos trabalhando para melhorar esse tipo de ilustração imediatamente. O gerador de imagens por IA do Gemini realmente gera uma grande quantidade de pessoas diferentes. E isso é normalmente algo bom, porque pessoas de todo o mundo o usam. Mas ele errou nesse caso”, disse o Google, no Twitter (X).
A geração de imagens do Gemini ainda é recente e foi introduzida no início de fevereiro. O recurso já está disponível em modelos rivais, como o GPT-4 da OpenAI e, mesmo nele, os resultados ainda tem imperfeições.
Segurança em IA
Ainda não se sabe quais medidas o Google vai tomar para corrigir o problema do Gemini. O sistema de diversidade racial, por outro lado, é importante para evitar que modelos de IA sejam tendenciosos, embora, em casos como esse, eles possam geram imprecisões.
A controvérsia, entretanto, surge ao mesmo tempo em que o Google anunciou a criação de um grupo de estudos específico para a segurança em IA. Em suma, o propósito é criar formas de evitar que as ferramentas generativas sejam usada para espalhar desinformação política, um tópico que, muitas vezes, toca na questão racial.
Isenção de responsabilidade
Todas as informações contidas em nosso site são publicadas de boa fé e apenas para fins de informação geral. Qualquer ação que o leitor tome com base nas informações contidas em nosso site é por sua própria conta e risco.
