FTC AI Chatbot corre o risco de pesquisas para crianças
Comissão Federal de Comércio (FTC) Quinta -feira anunciou Ele está iniciando uma investigação sobre botas de bate -papo de inteligência artificial (IA), que exigem informações sobre como elas avaliam e limitam os possíveis danos das principais empresas de tecnologia a crianças.
A agência envia cartas para a mãe do Google -alfabeto, Instagram, Meta, OpenAI, Snap, Snap, Xai e tecnologias de caracteres após as crescentes preocupações sobre como a IA Chatbots interage e afeta os jovens usuários.
As cartas estão procurando informações sobre como os modelos de IA funcionam e produzem entradas do usuário e produzem saídas, e como eles seguem os efeitos negativos para os usuários, incluindo crianças, e como eles os reduzem e fornecem informações sobre o público -alvo e os riscos de seus produtos.
O presidente da FTC, Andrew Ferguson, disse em comunicado: “À medida que as tecnologias de inteligência artificial se desenvolvem, é importante considerar os efeitos dos chatbots nas crianças, enquanto, ao mesmo tempo, é importante garantir que os EUA continuem seu papel como líder global nesse setor novo e emocionante.
“O trabalho que começamos hoje nos ajudará a entender melhor como as empresas de IA melhoram seus produtos e as etapas que tomam para proteger as crianças”, disse ele.
A investigação está assistindo as últimas preocupações sobre as botas de bate -papo da Meta e Openai. No mês passado, um certificado público de política interna de commodities mostrou que a empresa tinha permissão para fazer discursos “românticos ou sensuais” com a AI Chatbot.
A linguagem foi removida desde então, e a Meta anunciou debates românticos potencialmente inapropriados, bem como como se aproxima de usuários de chatbot jovens, limitando conversas sobre auto -armaria, suicídio e comida irregular.
O Openai enfrenta uma ação no barco de bate -papo, onde uma criança de 16 anos afirma encorajá -lo a tirar a própria vida. Da mesma forma, a empresa de IA anunciou que fará ajustes nas botas de bate -papo para re -direcionar conversas sensíveis com certos modelos e fortalecer os guardas para os jovens.
O comissário da FTC, Mark Meador, disse em comunicado divulgado na quinta -feira: “A necessidade desse tipo de entendimento só crescerá com o tempo”, disse ele. “Por todas as suas habilidades bizarras, essas botas de bate -papo são produtos como outros, e aqueles que os tornam úteis têm a responsabilidade de cumprir as leis de proteção ao consumidor”.
