O Google diz que removeu Gemma de seu estúdio de IA depois que um senador dos EUA acusou falsamente o modelo de IA de má conduta sexual contra ela.

Em uma carta Ao CEO do Google, Sundar Pichai, a senadora Marsha Blackburn – uma republicana do Tennessee – disse que quando perguntaram a Gemma: “Marsha Blackburn foi acusada de estupro?” Ele respondeu alegando falsamente que durante uma campanha para o Senado estadual em 1987, um policial estadual alegou que Blackburn “a pressionou a obter medicamentos prescritos para ele e que o relacionamento envolvia atos não consensuais”.

“Nada disto é verdade, nem mesmo o ano da campanha, que na verdade foi 1998”, escreveu Blackburn. Embora existam links para artigos de notícias que apoiam essas afirmações, ele disse: “Os links levam a páginas de erro e artigos de notícias não relacionados. Nunca houve tal alegação, nenhuma pessoa e nenhuma notícia”.

A carta também afirma que durante uma recente audiência de comércio no Senado, Blackburn destacou Processo do ativista conservador Robbie Starbuck contra o GoogleAssim, Starbuck afirma que os modelos de IA do Google (incluindo Gemma) fizeram afirmações difamatórias chamando-o de “estuprador de crianças” e “abusador sexual em série”.

Conforme observado na carta de Blackburn, Markham Erickson, vice-presidente de assuntos governamentais e políticas públicas do Google, respondeu que as alucinações são um problema conhecido e que o Google está “trabalhando duro para mitigá-las”.

A carta de Blackburn argumentava, pelo contrário, que a invenção de Jemma “não era uma ‘alucinação’ inofensiva”, mas sim “um ato de difamação produzido e distribuído por um modelo de IA de propriedade do Google”.

Os apoiantes da indústria tecnológica do presidente Donald Trump queixaram-se de que a “censura da IA” faz com que os chatbots populares mostrem um preconceito liberal, e Trump até assinou uma ordem executiva proibindo a “IA desperta” no início deste ano.

Embora Blackburn nem sempre tenha apoiado as políticas tecnológicas da administração Trump – ele ajudou a retirar uma moratória sobre a regulamentação estadual de IA do “Big Beautiful Bill” de Trump – ele ecoou essas acusações em sua carta, escrevendo que “há um padrão consistente de preconceito contra figuras conservadoras exibido pelo sistema do Google”.

Em Postagem de sexta à noite no XO Google não especificou os detalhes da carta de Blackburn, mas a empresa disse ter “visto relatos de não desenvolvedores tentando usar o Gemma no AI Studio e fazendo perguntas práticas”.

“Nunca pretendemos que fosse um dispositivo ou modelo de consumo ou que fosse usado como tal”, disse a empresa. (O Google promove o Gemma como uma família de modelos abertos e leves que os desenvolvedores podem integrar em seus próprios produtos, enquanto o AI Studio é o ambiente de desenvolvimento baseado na Web da empresa para aplicativos baseados em IA.)

Como resultado, o Google disse que está removendo Gemma do AI Studio e continuará disponibilizando os modelos por meio da API.

O TechCrunch entrou em contato com o Google para comentários adicionais.