Durante as eleições de 2024, uma rede de centenas de garrafas criadas por pessoas anônimas compartilhou posts de X desconfiança de Kamala Harris e pediu aos republicanos que se unissem atrás de Donald Trump. Após a vitória de Trump e o retorno ao cargo, os bots começaram a elogiar os números em seu governo, incluindo o secretário de Saúde e Serviços Humanos Robert F. Kennedy Jr. e a secretária de imprensa da Casa Branca Carolyn Levit.
UM Mágico A campanha de influência composta por contas falsas de mídia social não é particularmente incomum, nem há preocupações sobre a atividade digital não -autora como um todo. (Uma análise recente da empresa de segurança cibernética Imperva disse que o tráfego automatizado agora representa Metade de todo o tráfego da web.) Mas essa rede de bots tinha uma distinção importante. Quem o construiu usa AI – grandes modelos de idiomas – para gerar seu conteúdo. Por um lado, isso tornou mais eficaz e menos óbvio. Por outro lado, ela levantou problemas na linha. Quando Trumpworld ficou envergonhado por causa do processamento do presidente de arquivos classificados associados ao criminoso sexual Jeffrey Epstein, por exemplo, os bots de repente fizeram festas, alguns atacaram Trump e Pam Bondi General enquanto outros defendiam o governo.
Esse cisma notável entre x contas automatizadas é descrito em um Novo relatório Da Alethea, uma empresa de análise especializada em tecnologia de mitigação de riscos on -line. Sua plataforma de IA, Artemis, revelou pelo menos 400 perfis X de Bagus envolvidos na campanha que dependem do que os pesquisadores da empresa chamavam de “PromptPasta”. Ao contrário das chamadas “copypasta”, onde as frases são copiadas literalmente de uma conta para a seguinte e, portanto, mais perceptível, o LLM corresponde às entradas do usuário com várias respostas semelhantes, embora diferenciadas. “As saídas do ProTspasta são nuances, com variações nas frases entre publicações que correspondem a quaisquer instruções do LLM, tornando -as mais difíceis de detectar do que publicações idênticas compartilhadas através de táticas da CopyPasta”, afirmou o relatório da Aletha. “A escala, a velocidade e a disciplina narrativa da rede ilustram como a IA generativa reduz a barreira às operações complexas de influência”. A identidade do ator ou dos atores por trás da rede permanece desconhecida.
“Suspeitamos que mesmo essa rede seja maior que a que atualmente podemos encontrar e, com certeza, outros participantes começaram a usar as mesmas técnicas”, diz K. Sean Aby, chefe de investigações da Aletea “, o chefe de investigações de Aletea na Rolling StoneS Lisa Kaplan, fundadora e diretora executiva da empresa, acrescenta que o problema “se resume a plataformas que não aplicam suas próprias políticas em torno de spam e fraude”, observando: “LLM são apenas uma nova maneira de criar rapidamente conteúdo e escala”.
Em 2022, quando Elon Musk tentou escapar de um acordo coerente para comprar a plataforma e, em seguida, conhecido como Twitter por US $ 44 bilhões, ele alegou repetidamente que o site foi superado por spambots que distorcem os verdadeiros níveis de comprometimento humano. Depois de ser forçado a terminar a aquisição, ele afirmou que a erradicação de tais contas seria uma prioridade. No entanto, três anos de contraditório e uma rebrand caótica mais tarde, parece que X ainda é incapaz de ou não quer ser bom nessa promessa.
A princípio, os robôs PromptPasta, que mais tarde Atenea revelaram, estavam em um alinhamento próximo. Sempre respondendo à grande mídia ou relatos de influência (e nunca um com o outro), eles acusaram Harris de estar no bolso dos “grandes produtos farmacêuticos” ou de outra forma corrupta e ausente. Em alguns casos, eles se apresentaram como eleitores excluídos de sua incapacidade de lidar com o apoio do governo Biden para Israel, pois este país continuou a bombardear o gás. Outras contas foram explicitamente codificadas por MAGA, postando relatos de como os americanos saíram com “nunca pararam de tentar destruir o presidente Trump” e oferecer identificadores específicos como “Sou um orgulhoso republicano do Arizona”.
De prejudicar a competitividade, a privacidade e a segurança das mulheres, “quando estava respondendo a um usuário que teve um post real -o tópico em primeiro lugar.” Transparência “em suas primeiras aparições como secretária de imprensa, reagindo positivamente aos anti -vaxxadores e outros entusiastas sobre os planos de Kennedy para“ tornar a América saudável.
No entanto, algumas contradições eram obviamente inevitáveis. Quando Rachel Maddow anunciou em janeiro que protegeria seu show do MSNBC cinco noites por semana durante os primeiros 100 dias de Trump na Casa Branca, os bots aparecem em ação. Alguns condenaram Madow por “espalhar a propaganda esquerda”, enquanto outros, curiosos, como se o colocassem como uma voz importante no discurso político. Em alguns casos, eles expressaram contas separadas ambos As posições se opõem efetivamente a si mesmas de uma resposta para a seguinte.
This type of confused behavior erupted as a result of the FBI’s Ministry of Justice and the note in early July, which states that there is no evidence of an “client list” on Epstein’s “client list” of complicits of sexual traffickers – contrary to the more open statements of Bondi and would not be appropriate in the case and would not be appropriate in the case and would not be appropriate for Bondi – and it would not be not appropriate to the BONDI – and it would not be appropriate in the caso e não seria apropriado para Bondi – e não seria. Cerca de 140 dos bots da rede já haviam pedido transparência e aplaudiram Bondi, o diretor de Trump e o FBI Kash Patel por seu suposto compromisso de liberar mais materiais em Epstein. No entanto, após a nota decepcionante, o mesmo cluster se separou rapidamente. Enquanto alguns bots continuavam com o presidente, um grupo de histórias aproximadamente críticas sugere esconder -se, especulando que Trump está mentindo para as investigações de Epstein e acusou a administração de ocultar documentos, pois Epstein era um agente da CIA e/ou Mossad.
“Essa incompatibilidade enfatiza a natureza refletora da automação baseada em LLM, que se beneficia de tendências mais amplas no conteúdo das notícias e nas mídias sociais, e não estritamente adere a um cenário pré-definido escrito por um ator”, afirmou o relatório da Aletea. A divisão refletiu isso à influenza da revista, que também teve que escolher se deveria atingir a Casa Branca sobre a questão de Epstein (um grande interesse pelo conspirador de perigo direito de que Trump tem problemas com a rejeição de algum tipo de democrata, especialmente dada sua longa amizade com o financista) ou racionalizou sua abordagem.
“Se você deixar esses bots funcionar de forma autônoma e permitir que eles interajam com um ambiente de mídia social imprevisível e rápido, será realmente difícil controlar isso ou até prever quais resultados você obterá”, diz Vincent, diretor de diretor de Noções básicas do laboratório de IA cooperativa na Carnegie Melon University e chefe do compromisso técnico da IA no Instituto de Ética da Universidade de Oxford da IA. “Isso disse que existem muitas maneiras diferentes pelas quais você pode configurar uma rede de bots LLM em interação. Portanto, não devemos pensar que toda vez que alguém tenta isso, isso terá os mesmos resultados”.
Enquanto isso, “você pode obter LLM cada vez mais capaz e outros sistemas de IA”, disse Conitzer. “A única coisa que é conveniente para eu prever é que veremos mais tentativas sobre esse tipo de coisa e todos temos que pensar muito sobre como podemos confiar no conteúdo que aparece diante de nós. Em geral, as plataformas podem tentar ajudar, mas se elas o fazem ou não, nós, como cidadãos, somos todos responsáveis”.
Pelo menos 70 bots na rede identificados pela Aletea foram removidos do X durante a investigação da empresa. Muitos outros ficaram por perto, mas caíram no sonho. “Após a primeira publicação de uma pequena parte de nossas descobertas em 20 de julho, as contas” discordo “com o processamento de arquivos Epstein ficaram em silêncio”, disse Eib disse Rolling StoneMas eles não estão parados. É possível para o ator mantê -los, percebendo como eles se separam de outros bots e pararam as operações, considerando uma mudança na estratégia. “Continuaremos assistindo a esta e outras redes para ver como a tecnologia e as técnicas estão se desenvolvendo para a frente”, diz EIB.
Na internet, é claro, a redescoberta de spam enganoso nunca cessa. Desde os links esquemáticos em nossas caixas de correio até imagens inclinadas, movendo o compromisso do Facebook com as respostas X que nos tentam em argumentos políticos, fica claro que a AI promete aqueles que desejam nos enganar por meios digitais. É hora de ser mais tímido do que nunca do que você lê – e sempre pergunte a si mesmo se uma pessoa o escreveu.
