Gêmeos tem um ponto fraco e o Google está deixando isso em paz
A investigação Gemi AI do Google está enfrentando uma investigação quando um pesquisador descobriu uma nova exploração chamada “contrabando de ASCII” e a gigante da tecnologia deixou claro que não planejava corrigi-la.
Do pesquisador de aquisições cibernéticas Victor Markopallos Ardente A princípio o erro foi revelado. Está no texto que está escondido no texto que se lê como o comando dos Gêmeos, mesmo que as pessoas não possam vê-los (através de Computador Bliping) Essas instruções invisíveis podem mudar a forma como o modelo se comporta, funciona para o usuário que não pretende para um usuário. O ataque é difícil de detectar porque usa caracteres de controle ou símbolos Unicode que não aparecem na tela, mas ainda são lidos pela IA.
A Marcopolose provou que essa fraqueza poderia ser armada com entradas de texto comuns, como convites de calendário ou e-mail. Por exemplo, um e-mail que parece perfeitamente inocente pode ter instruções ocultas, o que permite ao Gemini interpretar mal ou reescrever dados durante um resumo ou conversa com aquele texto. Em seu exame, Gêmeos poderia ser negociado para alterar os detalhes do encontro ou criar uma saída enganosa, um homem foi acionado por um personagem que nenhum homem sequer sabe que estava ali.
O que é ainda mais preocupante é que quando os mesmos ataques foram testados contra outros grandes sistemas de IA, como o Chatzept da OpenAE, o Clode etnográfico e o Copylot da Microsoft, as entradas ocultas foram higienizadas ou rejeitadas. Gemi, no entanto, não conseguiu bloqueá-los com Grock de Elon Musk e Diplos da China.
Google descarta exploração como engenharia social
Apesar do impacto da segurança óbvia, o Google decidiu não resolver o assunto. Em resposta ao relatório da Firetail, a empresa categorizou o ASCII como problemas de “engenharia social” em vez de fraqueza técnica. Simplificando, o Google sugere que esse problema foi levantado por causa dos truques dos usuários, e não por algum erro no design do modelo.
A decisão do Google pode preocupar alguns usuários. Como o Gemini trabalha em estreita colaboração com sistemas de e-mail, agendamento e documentos, existe o risco de revelar informações confidenciais ou ajudar a espalhar informações incorretas nas redes corporativas. O Google afirmou que este ataque não é um erro do sistema, mas outros podem vê-lo como uma lacuna na forma como a IA pode ler o texto em comparação com os humanos. Os invasores costumam usar esse tipo de diferença.
Enquanto isso, o Google Embalado Este ano é conhecido como “Gemi Trippaya”, incluindo outras fraquezas relacionadas ao Gemini, registros de logs, resumo de exploração e histórico de navegação.
