Como a proteção da IA levou o fundo do dinheiro militar
Olá, e bem -vindo DecodificadorE! Eu sou Hayden Field, repórter da AI sênior A. Virz – e hospede o convidado do seu episódio de quinta -feira. Enquanto eu estava de férias em pais azuis, tenho outro show e vamos mergulhar mais sobre as consequências inesperadas do gerador AI Boom.
Hoje, estou conversando com Heidi Khlaf, que é o principal cientista da IA do Instituto da AI e um dos principais especialistas em arte na proteção da IA entre o sistema de armas autônomas. Heidi realmente trabalhou com o Openai no passado; Até meados de -2021, até meados de -2021, ele era engenheiro de segurança sênior de sistema da empresa em um momento crítico, quando desenvolveu estruturas de segurança e avaliação de riscos para os equipamentos de codificação de códigos da empresa.
Agora, as mesmas empresas que parecem ter defendido suas missões em suas declarações de missão antes que parecem estar vendendo e desenvolvendo ativamente novas tecnologias para aplicações militares.
Em 2024, o OpenAI removeu a proibição do uso de “militar e guerra” de seus termos de serviço. Desde então, a empresa assinou um acordo com o fabricante de armas autônomas Anduril e em junho assinou US $ 200 milhões do contrato de defesa.
Open não está sozinho. Os antropólogos, que têm uma reputação como um dos mais altos laboratórios de AI baseados em segurança, festejaram com a Palanty para permitir que os fins de defesa e inteligência dos EUA permitam uso para o objetivo O próprio contrato de Departamento de Defesa de US $ 200 milhões chegouOs grandes técnicos como Amazon, Google e Microsoft, que há muito trabalham com o governo, agora estão pressionando os produtos de IA para defesa e inteligência, mesmo após o crescimento de críticos e grupos de funcionários de funcionários.
Então, eu queria manter Hadee no programa para essa grande mudança no setor de IA, que inspiração e por que ele acha que algumas das principais empresas de IA estão se tornando cada vez mais equestres sobre a implantação de IA de alto risco em cenas de alto risco. Eu também queria saber que essa pressão sobre a implantação da IA de grau militar para os maus atores que os sistemas de IA poderiam procurar usar produtos químicos, biológicos, radiológicos e armas nucleares–as próprias empresas de risco dizem que estão cada vez mais preocupadas.
Ok, aqui está o Haidi Khlaf em IA nas forças armadas. Nós vamos aqui
Se você quiser ler mais sobre o que falamos neste episódio, consulte os links abaixo:
Perguntas ou comentários sobre este episódio? Faça nos inventar em decoder@theverge.com. Nós realmente lemos todos os e -mails!
