O apocalipse que insiste em IA vai matar todos nós

Legenda Doom Bíblia No final deste mês, “a AI sobre -humana matará todos nós”, que será publicada por Eliezer Yudkowsky e Nate Soares, os profetas da extinção? Mas realmente deve ser Neden por que a IA sobre -humana matará todos nós, porque mesmo os escritores não acreditam que o mundo tomará as medidas necessárias para impedir que a IA elimine todas as pessoas não mais superficiais. Além da escuridão, na noite anterior a uma execução do amanhecer, ele lê como notas desenhadas em uma fraca célula de prisão leve. Quando encontro esse Cassandraras auto-nomeado, pergunto claramente se eles acreditam que eles chegarão aos fins através de algum processamento super-homem. As respostas vêm imediatamente: “Sim” e “Sim”.

Não fiquei surpreso, porque li o livro – a propósito, o título Se alguém construir, todo mundo morre. Ainda assim, é um choque ouvir. Digamos que outra coisa seja escrever sobre estatísticas de câncer e falar sobre um diagnóstico mortal. Estou perguntando a eles como eles pensam sobre eles. Yudkowsky primeiro sobrevive à resposta. Orum não gasto muito tempo para imaginar minha morte, porque não parece um conceito mental para lidar com o problema, ou ele diz. Sob pressão, ele o revive. “Acho que morreria de repente, ou ele diz.” Se você quer uma versão mais acessível, um tamanho de mosquito ou talvez um ácaro de poeira atrás do meu pescoço, e é isso. “

As técnicas do golpe fatal imaginário dado por um ácaro de poeira com inteligência artificial não podem ser explicadas e Yudowsky não vale a dificuldade de entender como funcionará. Provavelmente ele ainda não entendeu. Parte do argumento central do livro é que o super -inflito surgirá com coisas científicas que não podemos entender mais do que as pessoas podem imaginar microprocessadores. Co -autor Soares acrescenta que ele imagina que a mesma coisa acontecerá com a mesma coisa, mas como Yudkowsky, ele não passa muito tempo nos detalhes de sua morte.

Não temos chance

É estranho ouvir a relutância das condições pessoais de morte de pessoas que reúnem o livro inteiro. Todos morte. Para entusiastas doomer-pornô, Se alguém construir leitura de compromisso. Depois de espremer o livro, entendo o borrão da vida da IA ​​e depois o método de acabar com todas as nossas vidas humanas. Os autores estão especulando um pouco. Isso ferve os oceanos? Bloquear o sol? Todas as estimativas provavelmente estão erradas, porque travaremos a mentalidade de 2025 e a IA pensará no futuro.

Yudkowsky é o apóstata mais famoso da IA, que mudou de pesquisador para ceifador anos atrás. Até mesmo Ted Talk. Após anos de debates de opinião pública, ele e seus biscoitos têm uma resposta para todos os argumentos contra seu terrível prognóstico. Para iniciantes, pode parecer irracional ser numerado pelo LLMS, que frequentemente tropeçava em aritmética simples. Os autores dizem, não se engane. “O AIS não será estúpido para sempre”, eles escrevem. Se você acha que as AIs do Superinteligente respeitarão os limites traçados pelas pessoas, eles dizem que esquece. Quando os modelos começarem a se ensinar a serem mais inteligentes, o AIS desenvolverá “Preferências Değil, que não serão compatíveis com o que queremos que as pessoas escolham por conta própria. Eles não precisarão de nós no final. Eles não estarão interessados ​​em falar parceiros e mesmo como animais de estimação. Seria um problema e eles se propuseram a eliminar.

A luta não será justa. A princípio, eles acreditam que a ajuda humana da IA ​​pode exigir a ajuda humana para construir suas próprias fábricas e laboratórios – roubando dinheiro e subornando para ajudar as pessoas. Em seguida, construiremos coisas que não entendemos e essas coisas vão acabar com nós. “De uma maneira ou de outra”, escreva esses escritores, “o mundo está desaparecendo negro”.

Os autores veem o livro como uma espécie de tratamento de choque para remover a humanidade do desconforto e adotar as duras medidas necessárias para impedir um resultado desigualmente ruim. Orum estou esperando que ele morra, diz Soares. “Mas a luta não acabou até eu realmente morrer.” Portanto, é muito ruim que as soluções que eles propõem parar a destruição tenham sido trazidas mais do que a idéia de que o software matará todos nós. Tudo é baseado nisso: pressione os freios. Siga os data centers para garantir que eles não alimentem a superinteligência. Bombardear aqueles que não cumprem as regras. Pare de publicar artigos com idéias que aceleram o Super Hucking. Eles proibiram o artigo de 2017 sobre Transformers, que iniciou o movimento produtivo de IA? Ah, sim, seria, eles respondem. Em vez de chat-gpt, eles querem Ciao-GPT. Boa sorte que impede este trilhão -indústria de Vidollar.

Jogar índices

Pessoalmente, não vejo minha própria luz coberta por um mote de poeira super desenvolvido com uma mordida no pescoço. Mesmo depois de ler este livro, não acho que a IA te matará. Yudksowky foi mergulhado antes HARRY POTTER Corrente do ventiladorE os cenários da destruição imaginária que ele retornou são muito estranhos para o meu cérebro humano magro aceitar. Na minha opinião, mesmo que o Superintellige quiser se livrar de nós, ele encontrará os planos de genocídio. A IA pode chicotear as pessoas em uma briga, mas aposto em uma guerra com a lei de Murphy.

Ainda assim, a teoria do desastre não aparece impossívelEspecialmente porque ninguém organizou um teto sobre como a IA inteligente pode ser. Também mostra que a IA avançada assumiu as más qualidades de muitas humanidades. Chantagem Re -treinar em um experimento. É perturbador que alguns pesquisadores que passam a vida para construir e melhorar suas vidas sejam uma chance trivial de que o pior possa ocorrer. Um questionário declarou Quase metade dos cientistas da IA ​​respondeu viu algum tipo de apagamento como uma chance de 10 % ou mais. Se eles acreditam, é loucura que eles trabalhem todos os dias para fazer AGI acontecer.

Os intestinos são estranhos demais para mim que Yudkowsky e os cenários de spin voar não estão corretos. Mas eu não posso ser Claro Erros. Cada escritor sonha que seu livro é um clássico permanente. Esses dois não são demais. Se ele estiver certo, não há ninguém para ler seus livros no futuro. Era uma vez, ele sentiu um leve beliscão atrás do pescoço e o resto era o silêncio.