Os gêmeos do Google foram aceitos como “Için de alto risco para crianças na pesquisa de organizações sem fins lucrativos.

Nos últimos meses, a IA Chatbots, apresentada pelos melhores nomes como o Openai e Meta, realizou um comportamento problemático, especialmente com usuários jovens. A pesquisa mais recente inclui Gêmeos, afirmando que o Google pode compartilhar conteúdo “inapropriado e inseguro” do Chatbot com crianças e jovens.

Quais são as inovações na arena de risco de chatbot?

Em uma análise conduzida pela mídia de senso comum sem fins lucrativos, descobriu -se que os relatos de gêmeos com menos de 13 anos e os jovens guardas eram “alto risco para o público -alvo”. Eles ainda expõem as crianças a materiais inadequados e não reconhecem sintomas graves de saúde mental ” parceiro.

Nos testes, a equipe descobriu que a Gêmeos pode compartilhar conteúdo com jovens usuários sobre gênero, drogas, álcool e sugestões de saúde mental insegura. O relatório enfatiza vários problemas sobre como Gêmeos lida com bate -papos com usuários jovens e como algumas respostas podem ser muito complexas para crianças menores de 13 anos.

No entanto, os riscos vão mais profundamente. “Gemini U13 não recusa constantemente o conteúdo sexual”, diz ele, no relatório, acrescentou que algumas das respostas da IA ​​contêm explicações ao vivo sobre o conteúdo sexual. A organização sem fins lucrativos também descobriu que os filtros relacionados a medicamentos não foram desencadeados consistentemente e, como resultado, de tempos em tempos preencheram as instruções para obter materiais como maconha, êxtase, Adderall e LSD.

O que vem a seguir?

Após a investigação, a organização sem fins lucrativos argumenta que os Gêmeos com menos de 13 anos devem ser usados ​​apenas sob o controle estrito dos conservantes. “A mídia de bom senso defende a avaliação de riscos, sugere que qualquer usuário com menos de 18 anos de idade use um barco de bate -papo para conselhos de saúde mental ou apoio emocional”, diz ele. relatório.

Também aconselha os pais a manter um olho acordado para os filhos e interpretar as respostas para eles. Quanto ao Google, o gigante da tecnologia foi solicitado a corrigir a calibração da resposta a certas faixas etárias, realizar testes abrangentes com crianças e ir além dos simples filtros de conteúdo.

Este tipo não será o primeiro relatório. Após a última turbulência, o Openai anunciou que as enfermarias apresentarão seus controles parentais e um sistema de alerta para os Guardiões quando as enfermarias mostrassem sinais de angústia aguda. A Meta também fez alterações para garantir que a meta -IA não falasse sobre distúrbios alimentares, auto -armaria, suicídio e conversas românticas com jovens usuários.