Contas adolescentes do Instagram ainda sendo servidas conteúdo gráfico, a investigação encontra

Após os anos de crítica pelo tratamento da crise da saúde mental da juventude, o Instagram investiu pesadamente em reforçar seus recursos de segurança adolescentes, incluindo uma maneira totalmente nova para os usuários de menores de idade postarem, se comunicarem e rolar no aplicativo. Mas testes recentes desses novos recursos de segurança sugerem que ainda não pode ser suficiente.

De acordo com um investigação conduzido pela organização sem fins lucrativos liderada por jovens Projete para nós e cão de guarda Tecnologia responsável – posteriormente corroborado por Washington Post Colunista Geoffrey Fowler-A plataforma continua a superfície de conteúdo inadequado à idade, sexualmente explícito e geralmente prejudicial, apesar das salvaguardas de controle de conteúdo.

No estudo, os representantes “Gen-Z envelhecidos” de projetá-lo para uso testaram cinco contas adolescentes falsas nas configurações de conta adolescente padrão do aplicativo durante um período de duas semanas. Em todos os casos, as contas da juventude foram recomendadas com conteúdo sensível e sexual. Quatro em cada cinco contas foram recomendadas conteúdo relacionado à má imagem corporal e aos distúrbios alimentares, e apenas o algoritmo de uma conta surgiu o que a organização sem fins lucrativos considerou conteúdo “educacional”.

Os algoritmos individuais também recomendaram descrições de uso ilegal de substâncias e postagens sexualmente explícitas envolvendo linguagem moderna e codificada escorregou pelos filtros. Mas nem todas as proteções vacilaram, incluindo as restrições internas da plataforma em mensagens e marcação.

“Essas descobertas sugerem que a Meta não promoveu independentemente um ambiente on -line seguro, pois pretendia que pais e legisladores”, escreve o relatório. “Os legisladores devem obrigar a Meta a produzir dados sobre contas adolescentes, para que os reguladores e organizações sem fins lucrativos possam entender com o tempo se os adolescentes estão realmente protegidos ao usar o Instagram”.

Em resposta ao Washington PostA porta -voz da Meta Liza Crenshaw disse que o escopo limitado do teste não captura o verdadeiro impacto dos recursos de segurança do aplicativo. “Um relatório fabricado não altera o fato de que dezenas de milhões de adolescentes agora têm uma experiência mais segura graças às contas adolescentes do Instagram. O relatório é falho, mas até tomado pelo valor nominal, identificou apenas 61 peças de conteúdo que consideram ‘sensíveis’, menos de 0,3 % de todo o conteúdo que esses pesquisadores provavelmente teriam visto durante o teste”.

Abordando um problema em andamento em toda a plataforma

Um experimento de junho de 2024 pelo Wall Street Journal E a Northeastern University descobriu que as contas de idade menores eram frequentemente recomendadas de conteúdo sexualmente explícito e gráfico no feed de bobinas centradas em vídeo do aplicativo, apesar de serem automaticamente definidas para as mais rigorosas configurações de conteúdo da plataforma. O fenômeno era uma questão algorítmica conhecida para a empresa controladora Meta, que, de acordo com documentos internos, foi sinalizada por funcionários que conduzem revisões de segurança desde 2021. Em uma resposta, os representantes do Instagram disseram que os experimentos não refletiam a realidade de como os jovens usuários interagem com o aplicativo.

Naquela época, o Instagram ainda não havia lançado seu novo produto TentPole, Contas adolescentesIntroduzido como uma maneira nova e mais altamente monitorada para os usuários mais jovens existirem e postar on -line – incluindo controles de conteúdo mais fortes. Os usuários menores são colocados automaticamente em contas adolescentes ao se inscrever no Instagram, que define sua página privada, limita os recursos de mensagens e a capacidade de transmitir ao vivo e filtra conteúdo sensível a partir de feeds e DMs. Os adolescentes entre 13 e 15 anos têm rédeas ainda mais rígidas no uso de aplicativos, e as contas que caem nas rachaduras agora estão sendo vistas e sinalizadas pela IA interna da Meta.

Mais de 54 milhões de adolescentes foram transferidos para uma conta de adolescente restrita desde o lançamento inicial, de acordo com a Meta, e a grande maioria dos usuários com menos de 16 anos mantiveram as configurações de segurança inadimplentes e mais rigorosas. E embora os números mostrem uma mudança positiva, mesmo o CEO da Meta Mark Zuckerberg admite que pode haver limites para a eficácia da empresa que a empresa pode monitorar sua vasta base de usuários e algoritmo complexo.