Mustafa Suleiman, chefe da divisão de IA da Microsoft, acredita que os desenvolvedores e pesquisadores de IA deveriam parar de tentar criar uma IA consciente.

“Não acho que seja algo que as pessoas devam fazer”, disse Suleman CNBC Em entrevista na semana passada.

Suleiman postula que embora a IA possa certamente ser suficientemente inteligente para alcançar alguma forma de superinteligência, é incapaz de desenvolver a experiência emocional humana necessária para alcançar a consciência. No final das contas, qualquer experiência “emocional” vivida pela IA é apenas uma simulação, diz ele.

“Nossa experiência física de dor é algo que nos faz sentir muito tristes e terríveis, mas a IA não se sente triste quando sente ‘dor’”, disse Suleiman à CNBC. “Na verdade, trata-se apenas de criar percepções, uma narrativa aparente de experiência, de si mesmo e de consciência, mas não do que realmente está sendo vivenciado.”

“Seria absurdo continuar a investigação que investigue esta questão, porque eles não são (conscientes) e não podem ser”, disse Suleman.

A consciência é uma coisa difícil de explicar. Existem múltiplas teorias científicas que tentam descrever o que a consciência pode ser. De acordo com uma dessas teorias, postulada pelo famoso filósofo John Searle que morreu no mês passado, a consciência é um fenómeno puramente biológico que não pode ser verdadeiramente replicado por computadores. Muitos investigadores de IA, cientistas da computação e neurocientistas também subscrevem esta crença.

Mesmo que esta teoria se revele verdadeira, ela não impede os utilizadores de atribuir consciência aos computadores.

“Infelizmente, como as extraordinárias habilidades linguísticas do LLM são cada vez mais capazes de enganar as pessoas, as pessoas podem atribuir qualidades imaginárias ao LLM”, escreveram os pesquisadores poloneses Andrzej Porebski e Jakub Figura em um estudo publicado na semana passada, intitulado “Não existe inteligência artificial consciente.“

Num artigo publicado em seu blog em agosto, Suleiman alertou contra a “IA aparentemente consciente”.

“Aparentemente, a chegada da IA ​​consciente é inevitável e indesejável. Em vez disso, precisamos de uma visão para a IA que cumpra o seu potencial como uma companheira útil, em vez de sucumbir às suas ilusões”, escreveu Suleiman.

Ele argumenta que a IA pode não ser consciente e que a ilusão de consciência que ela dá pode desencadear interações que são “ricas em sentimentos e experiências”, um fenômeno denominado “psicose da IA” no léxico cultural.

Houve vários casos de destaque no último ano de obsessão por IA que levou os usuários a delírios graves, episódios maníacos e até suicídio.

Com proteções limitadas para proteger usuários vulneráveis, as pessoas acreditam sinceramente que os chatbots de IA com os quais interagem quase todos os dias proporcionam uma experiência real e consciente. Isto fez com que as pessoas se “apaixonassem” pelos seus chatbots, por vezes com consequências fatais quando um jovem de 14 anos se suicidou.”volte para casa”Chatbot personalizado do character.AI ou quando uma pessoa com deficiência cognitiva morreu enquanto tentava encontrar pessoalmente um chatbot mater em Nova York.

“Assim como devemos criar uma IA que priorize o envolvimento humano e as interações do mundo real em nossos mundos físico e humano, também devemos criar uma IA que apenas se apresente como uma IA, maximizando a utilidade e minimizando os marcadores de consciência”, escreveu Suleiman na postagem do blog. “Devemos construir IA para humanos, não para sermos indivíduos digitais.”

Mas como a natureza da consciência ainda é contestada, alguns investigadores estão a ficar preocupados com o facto de os avanços tecnológicos na IA poderem ultrapassar a nossa compreensão de como a consciência funciona.

“Se formos capazes de criar consciência – mesmo por acidente – isso levantará muitos desafios éticos e até riscos existenciais”, disse o cientista belga. Axel Clearmans disse na semana passada, anunciando um artigo que ele co-escreveu pedindo que a pesquisa da consciência fosse uma prioridade científica.

O próprio Suleiman tem defendido o desenvolvimento de uma “superinteligência humanística” em vez de uma IA divina, embora acredite que a superinteligência não se materializará na próxima década.

“Estou mais preocupado em ‘como isso realmente funciona para nós como espécie?’ Deveria ser o trabalho da tecnologia”, disse Suleman ao The Wall Street Journal no início deste ano.