A história das armas biológicas se esconde em meio às notícias de lucro da OpenAI

A inteligência artificial geral – ou IA – é uma grande novidade para a busca pela inteligência de nível humano em todos os níveis. OpenAI, que descreve A sua missão de “garantir que a AGI beneficie toda a humanidade” finalizou ontem o seu plano de reestruturação empresarial de longa data. Isto poderia mudar completamente a forma como abordamos os riscos da IA, especialmente os riscos biológicos.

Primeiro, uma rápida atualização: a OpenAI foi originalmente fundada em 2015 como uma organização sem fins lucrativos, mas adquiriu um braço com fins lucrativos quatro anos depois. A organização sem fins lucrativos agora será chamada de OpenAI Foundation, e a subsidiária com fins lucrativos agora é uma Corporação de benefício públicoConhecido como Grupo OpenAI. (Ao contrário de outras estruturas, o PBC tem requisitos legais para equilibrar missão e lucros.) A fundação ainda controlará o Grupo OpenAI e terá uma participação de 26 por cento, avaliada em cerca de 130 mil milhões de dólares na conclusão da recapitalização. (Divulgação: Vox Media é uma das várias editoras que assinaram um acordo de parceria com a OpenAI. Nossas reportagens são editorialmente independentes.)

“Acreditamos que as tecnologias mais poderosas do mundo devem evoluir de uma forma que reflita os interesses coletivos do mundo”, escreveu OpenAI. Uma postagem no blog.

Um dos primeiros passos da OpenAI – também Grande negócio com a Microsoft – que a fundação está a gastar 25 mil milhões de dólares para acelerar a investigação em saúde e “apoiar soluções tecnológicas práticas para a resiliência da IA, que consiste em maximizar os benefícios da IA ​​e minimizar os seus riscos”.

Maximizar os benefícios e minimizar os riscos são desafios essenciais para o desenvolvimento de IA avançada, e nenhum assunto representa mais essa vanguarda do que as ciências da vida. O uso da IA ​​em biologia e medicina pode fortalecer doenças identificaçãomelhoria respostae progresso na descoberta de novos tratamentos e vacinas. Mas muitos especialistas acreditam que o maior risco em torno da IA ​​avançada é o seu potencial para ajudar decidir agentes biológicos perigosos, reduzir entrada barrada ligar Um ataque mortal com arma biológica.

E OpenAI é bem consciente que as suas ferramentas poderiam ser mal utilizadas para ajudar no desenvolvimento de armas biológicas.

Existem empresas fronteiriças de IA estabelecido Proteção para seu agente ChatGPT, mas estamos no início do que os recursos de IA-bio podem tornar possível. É por isso que outra notícia recente – a do OpenAI Fundo InicialCom Lux Capital e Fundo de Fundadores, é fornecido US$ 30 milhões em financiamento inicial para uma startup de biodefesa com sede em Nova York Valtos — pode ser quase tão importante quanto a complexa reestruturação societária da empresa.

Valthous pretende criar a próxima geração de “Pilha de tecnologia“Para biodefesa – e rápido.” “À medida que a IA avança, a própria vida se torna programável”, escreveu a empresa em um blog introdutório publicar Isso aconteceu depois que ele saiu do roubo na última sexta-feira. “O mundo está caminhando em direção ao acesso quase universal a biotecnologias poderosas e de dupla utilização, capazes de erradicar doenças ou criá-las”.

Você pode estar pensando que o melhor curso de ação é pisar completamente no freio dessas ferramentas, com seu potencial apocalíptico e destrutivo. Mas isso não é realista numa altura em que corremos para avançar — e investir — na IA a um ritmo cada vez maior. No final das contas, a aposta essencial aqui será se a IA que desenvolvemos minimiza os riscos de… a IA que desenvolvemos. Esta é uma questão que se torna mais importante à medida que a OpenAI e outros avançam em direção à AGI.

A IA pode nos proteger dos riscos da IA?

Valthos prevê um futuro onde qualquer ameaça biológica à humanidade possa ser “instantaneamente identificada e neutralizada, seja originada externamente ou dentro de nossos próprios corpos. Construímos sistemas de IA para identificar rapidamente sequências biológicas e atualizar medicamentos em tempo real”.

Isto permite-nos responder mais rapidamente aos surtos, evitando potencialmente que as epidemias se transformem em pandemias. Podemos reutilizar terapêuticas e conceber novos medicamentos em tempo recorde, ajudando muitas pessoas com doenças que são difíceis de tratar eficazmente.

Não estamos nem perto da AGI para a biologia (ou algo assim), mas não precisamos estar lá para riscos significativos das capacidades da IA-bio, como a criação intencional de novos patógenos mais mortais do que qualquer coisa na natureza que possa ser liberada intencionalmente ou acidentalmente. Esforços como o Valthos são um passo na direção certa, mas as empresas de IA ainda têm um longo caminho a percorrer.

“Estou muito otimista quanto ao potencial de crescimento e aos benefícios que a sociedade pode colher das capacidades de IA-bio”, disse Jaime YasifVice-presidente de Política e Programas Biológicos Globais da Iniciativa de Ameaça Nuclear. “No entanto, ao mesmo tempo, é imperativo que desenvolvamos e implementemos estas ferramentas de forma responsável.”

(Divulgação: eu trabalhava na NTI.)

Mas Yasif argumenta que ainda há muito trabalho a ser feito para refinar o poder preditivo das ferramentas de IA para a biologia.

E a IA não pode, por enquanto, proporcionar os seus benefícios isoladamente – o investimento noutras estruturas deve continuar mudança de direção. A IA faz parte de um ecossistema mais amplo de inovação biotecnológica. Os investigadores ainda têm de fazer muito trabalho de laboratório, realizar ensaios clínicos e avaliar a segurança e eficácia de novas terapêuticas ou vacinas. Têm de difundir esses tratamentos preventivos às populações que mais necessitam deles, o que é notoriamente difícil de fazer e repleto de burocracia e problemas de financiamento.

Por outro lado, os maus intervenientes podem agir aqui e agora e afetar a vida de milhões de pessoas mais rapidamente do que o necessário para concretizar os benefícios da IA, especialmente se não existirem formas inteligentes de intervir. É por isso que é tão importante que as salvaguardas destinadas a proteger contra a exploração de ferramentas úteis possam a) ser implementadas em primeiro lugar eb) acompanhar os rápidos avanços tecnológicos.

SaferAI, que avalia as práticas de gestão de risco de empresas de IA de ponta, classificação OpenAI é o segundo melhor framework depois do Anthropic. Mas todos têm mais trabalho a fazer. “Não se trata apenas de quem está no topo”, disse Yasif. “Acho que todos deveriam fazer mais.”

À medida que a OpenAI e outros se aproximam da IA ​​mais inteligente que a humana, a questão de como maximizar os benefícios e minimizar os riscos da biologia nunca foi tão importante. Precisamos de mais investimento generalizado em IA, biodefesa e biossegurança à medida que as ferramentas para redesenhar a vida se tornam mais sofisticadas. Portanto, espero que usar a IA para lidar com os riscos da IA ​​seja uma aposta que valha a pena.