A IA pode evitar a armadilha da sensibilização?
Recentemente saí de férias Como acontece hoje em dia na Itália, vasculhei meu itinerário antes do GPT-5 em busca de sugestões de passeios e recomendações de restaurantes. Bot relatou que a melhor opção para jantar perto do nosso hotel em Roma era uma curta caminhada pela Via Margutta. Acabou sendo uma das melhores refeições de que me lembro. Quando cheguei em casa, perguntei à modelo como ela escolheu aquele restaurante, que hesitaria em publicar aqui se quisesse uma mesa em algum lugar no futuro (caramba, quem sabe se algum dia voltarei: chama-se Babette. (Ligue com antecedência para fazer reservas.) A resposta foi complexa e fascinante. Os motivos incluíram ótimas críticas de moradores locais, notícias em blogs de culinária e na imprensa italiana, e a célebre fusão da culinária romana e contemporânea do restaurante. Ah, e caminhadas curtas.
Eu também precisava de algo do fim: fé. Tive que acreditar que o GPT-5 era um corretor honesto, escolhendo meu restaurante sem preconceito; Esse restaurante não me mostra como conteúdo patrocinado e não recebe uma parte do meu cheque. Eu poderia ter feito uma pesquisa aprofundada para verificar a recomendação (dei uma olhada no site), mas o objetivo de usar IA é contornar esse atrito.
A experiência fortaleceu a minha confiança nos resultados da IA, mas fez-me pensar: à medida que empresas como a OpenAI se fortalecem e tentam devolver o dinheiro dos seus investidores, será que a IA sofrerá a erosão de valor que parece endémica às aplicações tecnológicas que utilizamos hoje?
jogo de palavras
O autor e crítico de tecnologia Cory Doctorow chama essa erosão de “enchitificação”. Sua premissa é que plataformas como Google, Amazon, Facebook e TikTok começam com o objetivo de deixar os usuários felizes, mas uma vez que as empresas vencem os concorrentes, elas se tornam menos úteis para obter grandes lucros intencionalmente. Depois que a WIRED republicou o artigo pioneiro de Doctorow de 2022 sobre o fenômeno, o termo entrou no vernáculo, principalmente porque as pessoas reconheceram que estava completamente errado. Enchitification foi selecionada como a Palavra do Ano de 2023 da American Dialect Society. A ideia foi citada tantas vezes que transcende a obscenidade, aparecendo em lugares que normalmente torceriam o nariz para tais palavras. Doctorow acaba de ser publicado Um livro famoso sobre o assunto; A imagem da capa é o emoji… adivinhe.
Se os chatbots e os agentes de IA ficarem anestesiados, poderá ser pior do que a pesquisa do Google se tornar menos útil, os resultados da Amazon ficarem cheios de anúncios e até mesmo o Facebook mostrar menos conteúdo social em favor de clickbait gerador de raiva.
A IA está a caminho de se tornar uma companheira constante, fornecendo respostas únicas a muitas de nossas solicitações. As pessoas já confiam nele para interpretar os acontecimentos actuais e obter conselhos sobre todos os tipos de escolhas de compras e até mesmo de vida. Devido ao enorme custo de construção de um modelo de IA completo, é justo assumir que apenas algumas empresas dominarão este campo. Todos eles planejam gastar centenas de bilhões de dólares nos próximos anos para melhorar seus modelos e colocá-los nas mãos do maior número possível de pessoas. Neste ponto, eu diria que a IA está no que Doctorow chama de estágio “bom para os usuários”. Mas a pressão para recuperar grandes investimentos de capital será enorme – especialmente para empresas com uma base de utilizadores fixa. Essas condições, como escreve Doctorow, permitem que as empresas abusem de seus usuários e clientes empresariais “para recapturar todo o valor para si mesmas”.
Quando se imagina a Ensitificação da IA, a primeira coisa que vem à mente é a publicidade. O pesadelo é que os modelos de IA farão recomendações com base nas empresas que pagaram pelas colocações. Isso não está acontecendo agora, mas as empresas de IA estão explorando ativamente o espaço publicitário. Em Uma entrevista recente“Acredito que provavelmente existem alguns ótimos produtos publicitários que podemos fazer que são uma vitória líquida para o usuário e positivos para nosso relacionamento com o usuário”, disse Sam Altman, CEO da OpenAI. Enquanto isso, a OpenAI acaba de anunciar um acordo com o Walmart para permitir que os clientes do varejista façam compras dentro do aplicativo ChatGPT. Não consigo pensar em uma colisão aí! A plataforma de pesquisa de IA Perplexity tem um programa onde Resultados do patrocinador Aparece em acompanhamentos claramente identificados. Mas promete que “esses anúncios não mudarão nosso compromisso em manter um serviço confiável que forneça respostas diretas e imparciais às suas perguntas”.
