Elon Musk lançou um concorrente da Wikipedia chamado GroKipedia. O que poderia dar errado?

Grokipedia, o esforço de Elon Musk para criar uma alternativa à Wikipedia, já está no ar. A análise inicial mostra que o site – alimentado por xAI de Musk e verificado por Grok, a empresa Assistente de IA voltado para a direita – uma espécie de reação nuclear autossustentável à já desinformação.

No entanto, a Grokipedia representa outra frente na guerra de Musk contra o Despertar, e outro exemplo de Musk trabalhando – neste caso, a Wikipedia – para criar uma versão hackeada dela e declarar a guerra vencida.

Se Musk conseguir o que quer e a Grokipedia se tornar um verdadeiro concorrente da Wikipedia, o usuário médio da Internet enfrentará um problema. Já vimos como Musk pode transformar a sua riqueza e poder numa plataforma, X, uma máquina de desinformação. Construir um repositório dessa desinformação, que possa treinar modelos de xAI ou mesmo modelos de IA concorrentes, irá certamente acelerar a sua propagação.

É que a Grokipedia não pode ser ruim. Isso pode piorar o resto da web.

A Grokipedia parece usar a Wikipedia como fonte primária, mas insere algumas políticas de extrema direita e teorias da conspiração em certos tópicos antes de apresentar as informações como fatos. Atualmente não há fotos nem links, fazendo com que tudo pareça o resultado de um prompt de chatbot, o que na verdade é. A Grokipedia também é cerca de sete vezes menor que a Wikipedia. Mas esta é apenas a versão v0.1, e Musk disse“A versão 1.0 será 10x melhor.”

Fiquei bastante surpreendido por não haver nenhum artigo sobre “racismo”, mas se procurarmos a “teoria do genocídio branco” – uma das obsessões ideológicas de Musk e O centro de muitos discursos Grok contínuos No início deste ano – você encontrará um artigo que “lamenta a tendência da academia de relegar as teorias ao status de conspiração, apesar dos dados observáveis ​​sobre as tendências populacionais”. A Wikipedia, pelo que vale, dá sentido a essa teoria Como uma teoria da conspiração no título do artigo.

Para entender a Grokipedia, você precisa conhecer sua história de origem, que pode ser rastreada até Um tweet do czar da IA ​​do presidente Donald TrumpO capitalista de risco e amigo de longa data de Elon, David Sachs. O tweet de 29 de setembro dizia, em parte, “A Wikipédia é irremediavelmente tendenciosa. Um exército de ativistas de esquerda mantém biografias e luta contra correções razoáveis”.

Na verdade, parece que Sachs tuitou diretamente para Musk, que tem aumentado as suas críticas à Wikipédia ao longo do ano. Última véspera de Natal, máscara disse a seus seguidores “Pare de doar para a Wokepedia” afirma que a organização está gastando demais com diversidade, equidade e inclusão. almíscar chamado Wikipedia “Uma extensão da disseminação da mídia legada” e Anunciou que xAI construirá Grokipedia Em resposta ao tweet de Sachs.

A difusa teoria jpeg da internet

Quando soube do lançamento da Grokipedia, pensei imediatamente em como chamar O artigo “jpeg desfocado” que a New Yorker publicou Em 2023. Escrito pelo autor de ficção científica Ted Chiang, o artigo faz um excelente trabalho ao explicar o conceito então desconhecido de grandes modelos de linguagem, como eles criam texto sintético com base em texto real e se podem comunicar com precisão o conhecimento real.

O JPEG borrado de que ele fala refere-se ao problema de enviar uma imagem para a web, o que requer compactação; Download de versões em baixa resolução; E fazendo isso repetidamente. Eventualmente, a imagem fica irreconhecível porque muitas informações são perdidas no processo de cópia de uma cópia.

Isso vem acontecendo com informações na web desde seus primórdios. E, de certa forma, essa ideia de baixar, remixar e redistribuir conteúdo é o que torna a web tão divertida. O blog, que fez com que eu e muitos outros iniciamos no jornalismo, muitas vezes envolve ler o que está acontecendo online, processar ideias e reembalá-las para um público específico, às vezes em uma postagem inclinada e geralmente mais curta do que o material de origem. Descendente dos blogs, o tweet restringiu ainda mais essas postagens, mas manteve o objetivo original de democratizar o meio e acelerar a disseminação de conhecimento e ideias online. A Wikipédia, em sua forma mais básica, também faz isso.

Mas, inevitavelmente, como JPEGs ou folhas de papel enviadas por uma máquina Xerox antiquada, as cópias das cópias borram alguns detalhes, muitas vezes aqueles que parecem menos importantes. A compactação torna os dados fáceis de compartilhar, mas difícil de rastrear até a fonte original.

Isso parece estar acontecendo com a Grokipedia. Não está claro como o xAI conseguiu, mas Matteo Wong Propor uma teoria sobre o Atlântico. O homem mais rico do mundo comprou o Twitter e acolheu na plataforma as vozes da extrema direita. “Ele então alimenta esse tesouro de teorias da conspiração, vitríolos e memes em um modelo de IA já projetado para não fugir de pontos de vista controversos ou mesmo odiosos”, escreveu Wang. “Eventualmente, Musk usou esse modelo de IA para escrever uma enciclopédia anti-despertar.”

Em outras palavras, há era Pessoas estiveram envolvidas na construção da Grokipedia, mas provavelmente foi principalmente Musk. É como se ele estivesse carregando sua raiva, baixando respostas de seus seguidores de direita e reenviando-as para uma IA que organiza as ideias em uma enciclopédia: Grokipedia. Em contraste, a Wikipédia não é perfeita e, em grande parte devido à sua plataforma aberta, está repleta de desinformação a qualquer momento, mas possui um sistema centrado no ser humano para cuidar disso.

O que me enche de pavor é que a vaga analogia com o JPEG, embora preocupante, não entende o objetivo. Poucos meses após o lançamento do ChatGPT, mal sabíamos que esta tecnologia levaria a mais coisas boas do que ruins. Agora, com a ascensão do AI Slop e de sites como o Grokipedia, estamos vendo coisas muito piores. Parece inevitável que a IA generativa e as suas muitas ramificações, incluindo as enciclopédias geradas pela IA, reproduzam o conteúdo da Internet — e, num certo sentido, o próprio conhecimento — de formas que são de baixa resolução, de baixa qualidade e desfocadas. Slop é apenas um exemplo.

O que realmente me preocupa é quando esse lixo é transformado em arma, treinado para um propósito específico – digamos, para radicalizar um segmento maior da população online – e começa a destruir a integridade de instituições dedicadas a preservar o conhecimento numa web conturbada como a Wikipédia.

Elon Musk não fará mais uma boa Wikipédia. Mas existem muitos bots treinados para fazer com que as pessoas confiem menos na Wikipédia. Quanto mais obscura for a versão da realidade da máscara, mais perigosa ela será.

Uma versão desta história também foi publicada no User Friendly Newsletter. Inscreva-se aqui Então você não perde o próximo!