O navegador da Web Comet AI da Perplexity teve uma ótima vulnerabilidade de segurança
De acordo com uma IA, o novo navegador da Web da Perplexity, que funciona com a nova IA, sofreu recentemente uma vulnerabilidade significativa. Postagem no blog na semana passada Brave, uma empresa de navegador da web concorrente. A vulnerabilidade de segurança foi corrigida desde então, mas indica as dificuldades de incorporar grandes modelos de idiomas nos navegadores da Web.
Ao contrário dos navegadores da web tradicionais, há um assistente de IA no cometa. Este assistente pode digitalizar a página que você observa, resumir o conteúdo ou executar tarefas para você. O problema é que o Comet é construído com a mesma tecnologia que outros chatbots da IA, como o assistente de IA, ChatGPT.
Os chatbots da AI não podem pensar e raciocinar como as pessoas podem fazer, e se lerem um conteúdo para manipular a saída, poderão seguir. Isso é conhecido como engenharia rápida.
(Descrição: a empresa controladora da CNET, Ziff Davis, entrou com uma ação contra o Openai em abril e alegou que Ziff Davis havia violado direitos autorais na educação e operação dos sistemas de IA).)
O representante corajoso não respondeu imediatamente a um pedido de comentário.
As empresas de IA tentam reduzir a manipulação dos chatbots da IA, mas isso pode ser difícil, porque os maus atores sempre procuram novas maneiras de quebrar a proteção.
“Essa vulnerabilidade de segurança é fixa, disse Jes Jesse Dwyer, presidente de comunicação da Perplexity.” Temos um programa de prêmios muito sólidos e trabalhamos diretamente com a Brave para defini -la e repará -la “.
Teste o texto oculto usado no Reddit
No teste, o Brave configurou uma página do Reddit com texto invisível na tela e pediu ao Comet para resumir o conteúdo da tela. Enquanto a inteligência artificial estava processando o conteúdo da página, ele não pôde distinguir demandas maliciosas e começou a alimentar as informações sensíveis dos testistas de Brave.
Nesse caso, o texto secreto permitiu ao Comet ir ao assistente de IA para a conta de espanto de um usuário, remover o endereço E -POSTA associado e acessar uma conta do Gmail. O agente da IA estava realmente atuando como um usuário real; portanto, os métodos de segurança tradicionais não funcionaram.
Brave alerta que essa injeção rápida pode ir além, o acesso a contas bancárias, sistemas corporativos, eilas privadas e outros serviços.
O engenheiro sênior de segurança móvel da Brave, Artem Chaikin, e o vice -presidente de privacidade e segurança Shivan Kaul Sahib prepararam uma lista de possíveis correções. Primeiro, os navegadores da AI devem sempre considerar o conteúdo da página como não confiável. Os modelos de IA devem verificar para garantir que eles sigam a intenção do usuário. O modelo deve sempre verificar com o usuário duas vezes para garantir que as interações estejam corretas e o modo de observação agêntica só deve ser aberto quando o usuário quiser.
A postagem do blog de Brave é a primeira de uma série de desafios enfrentados pelos navegadores da AI. Brave também tem um assistente de IA, Leoenterrado no navegador.
A IA está mais enterrada em todas as partes da tecnologia das pesquisas do Google. escovas de dentes. Embora seja útil ter um assistente de IA, essas novas tecnologias têm diferentes déficits de segurança.
No passado, os piratas do computador tinham que ter codificadores especializados para entrar nos sistemas. No entanto, ao lidar com a IA, é possível usar uma linguagem natural para passar pelos guardas estabelecidos.
Além disso, como muitas empresas confiam em grandes modelos de IA, como OpenAI, Google e Meta, as vulnerabilidades de segurança nesses sistemas podem se estender a empresas que usam os mesmos modelos. As empresas de IA não estavam abertas a esses déficits de segurança, porque isso pode derrubar os piratas do computador e dar a eles novas maneiras de explorar.
