Projetado para fornecer uma resposta rápida à consulta de pesquisa, o esboço da IA do Google cospe “alucinações” de informações falsas, e o editor retira o usuário do link existente para apoiar o editor.
Grande gigante de tecnologia No ano passado, lancei a ferramenta AI “acordada” que criou a imagem do papa feminino e do viking preto e pousou em água quente. -Eu foi criticado por fornecer conselhos falsos e às vezes perigosos em resumo. De acordo com o London Times.
Em alguns casos, há um esboço da IA É melhor adicionar cola ao molho de pizza As lojas relatadas para ajudar o queijo a ficarem melhor.
Por outro Com idioma legal.
que As alucinações dos cientistas da computação os chamamA visibilidade da fonte de boas placas é reduzida pela ferramenta de IA.
Em vez de direcionar o usuário diretamente para o site, resumimos as informações dos resultados da pesquisa e fornecemos respostas auto -geradoras e vários links.
Laurence O’Toule, fundadora do certificado da empresa de análise, estudou o impacto da ferramenta e, quando a IA foi exibida, o clique no site do editor diminuiu em 40% a 60%.
Liz Reid, oficial de pesquisa do Google, disse: “Isso foi por perguntas que as pessoas geralmente não fazem, mas enfatizavam uma área específica que devemos melhorar.
O post encontrou uma opinião no Google.
A visão geral da IA foi introduzida no verão passado e foi impulsionada pelo modelo de linguagem Gemini do Google, um sistema semelhante ao ChatGPT da Openai.
Apesar da preocupação, o CEO do Google, Sunar Pichai, defendeu essa ferramenta. Entrevista com VergeEle diz que o usuário ajuda a encontrar uma ampla gama de fontes de informação.
“É claro que no ano passado, a área em que enviamos pessoas está aumentando. Estamos enviando tráfego para fontes e editores mais amplos”.
O Google parece desconsiderar suas próprias alucinações.
Quando o repórter procurou informações sobre a frequência com que a IA estava no Google, a resposta da IA insistiu nas alucinações entre 0,7% e 1,3%.
No entanto, de acordo com os dados da plataforma de monitoramento da IA, abraçando o rosto, a velocidade real do modelo mais recente de Gemini é de 1,8%.
O modelo de IA do Google também parece fornecer defesa pré -programada contra suas ações.
Em resposta à obra de arte de “roubar”, a ferramenta disse: “Não roubo arte em um sentido tradicional”.
Quando as pessoas perguntaram se deveriam ter medo da IA, essa ferramenta tinha algumas preocupações comuns antes de concluir que “o medo pode ser exagerado”.
Alguns especialistas estão preocupados com o fato de o sistema de IA da criação estar se tornando mais complicado, tornando -o mais vulnerável a erros, e até os produtores não podem explicar completamente o porquê.
As preocupações com as alucinações estão além do Google.
O OpenAI é um modelo mais recente conhecido como O3 e O4-mini. Sinto alucinação com mais frequência do que a versão anterior.
De acordo com o teste interno, a O3 possui 33%das informações, enquanto a O4-mini gastou 48%do tempo, especialmente ao responder perguntas sobre pessoas reais.
