O Google diz que o caçador de insetos baseado em IA encontrou 20 vulnerabilidades

A Inteligência Artificial do Google -Supported Bug Hunter relatou o primeiro grupo de segurança.

Vice -presidente de segurança do Google, Heather Adkins, anunciado Na segunda -feira, o pesquisador de vulnerabilidades de segurança baseado em LLM, Big Sleep, encontrou 20 falhas em vários softwares populares de código aberto e relatou.

Adkins, o projeto DeepMind e Elit Hacker Project do Departamento de AI da empresa, Zero, desenvolvido por Big Sleep Ele relatou as primeiras lacunas de segurançaPrincipalmente software de código aberto, como biblioteca de vídeos e biblioteca de vídeos FFMPEG e ImageMagick Suite de edição de imagens.

Dado que as lacunas de segurança ainda não foram corrigidas, não temos detalhes sobre seus efeitos ou seriedade como Google. Ele não quer fornecer detalhes aindaUma política padrão enquanto aguarda os erros ser corrigidos. No entanto, a verdade simples, onde o ótimo sono encontra essas lacunas de segurança, é importante porque mostra que, mesmo que essas ferramentas sejam uma pessoa neste caso, começa a obter resultados reais.

O porta -voz do Google, Kimberly Samra TechCrunch, disse: “Para fornecer relatórios de alta qualidade e actável, temos um especialista humano no ciclo antes de relatar, mas toda vulnerabilidade foi encontrada e reproduzida pelo agente da IA sem intervenção humana.

Vice -presidente de engenharia do Google, Royal Hansen, Ele escreveu em x As descobertas mostram um novo limite na descoberta da vulnerabilidade automática de segurança ”.

Os veículos que trabalham com o LLM que podem pesquisar e encontrar lacunas de segurança já são um fato. Exceto pelo ótimo sono RunsybilE Xbow, entre outros.

Xbow levou manchetes depois chegou ao cume Uma das pinturas líderes dos EUA na plataforma Bug Bounty Hackerone. Na maioria dos casos, é importante indicar que esses relatórios têm uma pessoa em algum momento do processo para verificar se o caçador de insetos que trabalha com inteligência artificial encontrou uma vulnerabilidade legítima como em um ótimo sono.

Vlad Ionescu, sócio fundador e gerente de tecnologia da Runsybil, uma iniciativa que desenvolve caçadores de insetos apoiados por IA, disse -se ao TechCrunch: “Considerando que o grande sono tem um bom design, as pessoas por trás dele sabem o que estão fazendo, o Projeto Zero tem uma experiência de encontrar insetos e há um pêlos de depósito”.

Ele promete muita esperança com essas ferramentas, mas também tem desvantagens importantes. Algumas pessoas que continuaram seus diferentes projetos de software reclamaram de relatórios de erros, que são realmente alucinações, e algumas foram chamadas de inseto equivalente à inclinação da IA.

“Temos muitas coisas que parecem sob o problema das pessoas, mas na verdade merda”, disse Ionescu ao TechCrunch.