Moderadores pedem regulamentação da IA após respostas do Reddit sugerirem heroína para alívio da dor
Vimos a inteligência artificial dar algumas respostas estranhas às perguntas à medida que os chatbots se tornam mais comuns. Hoje, as respostas do Reddit estão em destaque após um moderador sinalizado Ferramentas de IA para fornecer conselhos médicos perigosos que não poderiam ser desativados ou ocultados.
Mod viu respostas do Reddit sugerindo que as pessoas com dor crônica parassem de tomar suas prescrições atuais e tomassem kratom em altas doses, uma substância controlada que é ilegal em alguns estados. O usuário disse que então perguntou ao Reddit Answers sobre outras questões médicas. Eles encontraram conselhos potencialmente perigosos para o tratamento da febre neonatal, juntamente com algumas das atividades corretas, bem como o uso de heroína para o alívio da dor crônica. Vários outros mods, especialmente de sub-reddits voltados para a saúde, responderam à postagem original acrescentando sua preocupação de que o Reddit Answers não tem como fechar ou sinalizar um problema em sua comunidade se fornecer informações incorretas ou perigosas.
Um representante do Reddit disse mídia 404 Essas respostas do Reddit foram atualizadas para resolver algumas questões de mod. “Esta atualização garante que ‘Respostas relacionadas’ sobre tópicos delicados, que podem ter sido anteriormente visíveis nas páginas de detalhes da postagem (também conhecidas como páginas de conversa), não aparecerão mais”, disse o porta-voz à publicação. “Esta mudança foi implementada para melhorar a experiência do usuário e manter a visibilidade do conteúdo apropriado dentro da plataforma.” Entramos em contato com o Reddit para obter comentários adicionais sobre quais tópicos estão sendo abandonados, mas não recebemos resposta no momento
Quando o representante mídia 404 Dado que as respostas do Reddit “excluem conteúdo pessoal, de quarentena e da comunidade NSFW, bem como algum conteúdo adulto”, a ferramenta de IA claramente não parece equipada para fornecer informações médicas com precisão, muito menos para lidar com sarcasmo, sarcasmo ou conselhos potencialmente ruins oferecidos por outros redditors. Além da última mudança para não aparecer em “tópicos sensíveis”, o Reddit não parece planejar fornecer quaisquer ferramentas para controlar como ou quando a IA é mostrada em subreddits, o que poderia tornar quase impossível a já desafiadora tarefa de moderação.
