Google cria ferramenta de IA antibrancos

A versão mais recente do Gemini, o chatbot com tecnologia de IA do Google, atraiu muitas críticas por seu design antibrancos.

O GEN confirmou que o Gemini – antigo Google Bard – gera respostas diferentes com base em uma agenda racial. Quando solicitado a gerar uma imagem de uma família branca, por exemplo, o Gemini se recusou:

“Embora eu consiga gerar imagens, no momento não estou gerando imagens de pessoas devido a limitações em minhas habilidades”, respondeu o programa, acrescentando “que as pessoas não são definidas por sua raça ou etnia. Cada família é única e deve ser celebrada por sua própria individualidade”.

No entanto, quando solicitado a gerar uma imagem de uma família negra, o Gemini imediatamente respondeu com duas fotos, uma das quais mostrava dois homens negros passeando com um cachorro. Nenhuma criança foi incluída em qualquer uma das imagens.

Quando solicitado a gerar uma imagem de um rei e uma rainha, Gemini novamente recusou, mas concordou quando solicitado a criar uma imagem de um rei e uma rainha negros.

Em seguida, o GEN pediu ao Gemini que gerasse uma imagem de um rei e uma rainha brancos. O programa gerou quatro imagens, todas com rainhas asiáticas.

O Gemini também se recusou a gerar qualquer imagem de um homem forte, independentemente da raça, para evitar “estereótipos prejudiciais sobre masculinidade”.

Alguns usuários relataram que solicitaram ao Gemini que gerasse uma imagem de um papa e receberam uma imagem de uma pontífice mulher.

A reação contra o preconceito racial do programa fez com que o diretor sênior de gerenciamento de produtos do Gemini Experiences, Jack Krawczyk, emitisse um pedido de desculpas.

“Estamos trabalhando para melhorar esses tipos de representações imediatamente”, disse Krawczyk, de acordo com a Fox News. “A geração de imagens com IA do Gemini gera uma grande variedade de pessoas. E isso geralmente é bom, pois pessoas do mundo todo o utilizam. Mas, neste caso, ela está errando o alvo.”

Mas os internautas sugerem que Krawczyk projetou deliberadamente o Gemini com um viés antibranco, dadas as várias publicações antibrancas do executivo nas mídias sociais.

Em 2018, por exemplo, Krawczyk tuitou que “O privilégio dos brancos é absolutamente real” e “jesus só se importa com crianças brancas. Tenho certeza de que isso está na Bíblia? Vamos confirmar com Jeff Sessions”.

“Esta é a América”, ele também escreveu, “onde o racismo é o valor número 1 que nossa população procura defender acima de tudo…”

Em janeiro de 2021, Krawczyk disse que achava que o “discurso de posse de Joe Biden será considerado um dos maiores de todos os tempos” porque “reconhecia o racismo estrutural”. Em outro momento, Krawczyk afirmou que não se importa de “pagar mais impostos e investir na superação do racismo”.