A Califórnia se tornou o primeiro estado a controlar os chattabs complementares de IA

Governador da Califórnia, Gavin News Assinado Um Landmark Bill na segunda-feira, que controla o chatbot companheiro de IA, transformou os operadores de chatboat de IA no primeiro estado do país para a implementação do protocolo de proteção para companheiros de IA.

Law, SB243, crianças e usuários fracos são projetados para proteger contra alguns danos relacionados ao uso de chatboats de IA. Ele contém empresas – desde grandes laboratórios como Meta e Openai até startups de apoio mais centradas como AI e Replica – que se seus chatboats não cumprirem os padrões da lei são legalmente responsáveis.

O SB 243 foi apresentado pelo senador estadual Steve Padilla e Josh Baker em janeiro, e após uma longa série de conversas sobre suicídio com Chatzept da Openai, Adam Rhine, que morreu de suicídio, ganhou impulso após a morte. A lei também responde a documentos internos vazados de que os chatties de Meta foram autorizados a se envolver em bate-papos “românticos” e “sensíveis” com crianças. Mais recentemente, Uma família do Colorado entrou com uma ação judicial A filha deles, de 13 anos, é contra os chatbots da empresa e contra o personagem da startup baseada em personagens, depois de ter vários problemas e conversas sexuais após conversas sexuais.

A News disse em um comunicado: “As tecnologias emergentes, como chatbots e mídias sociais, podem inspirar, educar e conectar – mas sem o verdadeiro guardião, a tecnologia pode explorar, confundir e colocar nossos filhos em perigo”, disse a News em um comunicado. “Vimos realmente alguns dos jovens afetados por tecnologias incontroláveis ​​e vimos as agências sem as restrições e responsabilidades necessárias. Podemos liderar a IA e a tecnologia, mas devemos fazê-lo com responsabilidade – os nossos filhos precisam de ser protegidos em cada passo de cada passo. Não para a venda dos nossos filhos.”

SB 243 de 1º de janeiro de 2026 entrará em vigor e as agências precisarão de verificação de idade e alguns recursos relacionados às mídias sociais e chatboat complementar. A lei aplica uma multa mais poderosa para o lucro de dipfakes ilegais, incluindo US$ 250 mil por crime. As empresas deverão estabelecer protocolos de combate ao suicídio e autoperda, que serão divididos com a secretaria de saúde pública do estado sobre a forma como o serviço notificou a resistência da crise.

De acordo com a redação do projeto de lei, as plataformas devem deixar claro que uma interação é gerada artificialmente e os chatters não devem se apresentar como profissionais de saúde. As organizações precisam fornecer lembretes de intervalo aos menores e evitar que vejam imagens sexualmente explícitas produzidas pelo seu chatboat.

Algumas empresas já começaram a impor alguma proteção ao público-alvo das crianças. Por exemplo, a OpenAI começou recentemente a usar o ChatGPT para fornecer controle dos pais, proteção de conteúdo e um sistema de identificação de perda automática para crianças. O Replica, projetado para adultos com mais de 18 anos, sacrifica “recursos significativos” para proteger os usuários por meio de sistemas de filtragem de conteúdo e manutenção, que gerencia a crise de recursos confiáveis ​​dos usuários e promete cumprir as regras atuais.

O personagem AI diz que seu chatboat inclui a recusa de que todos os chats sejam expostos à IA e fictícios. Um porta-voz da AI, Techcunch, disse ao Techcunch que “a empresa deu as boas-vindas aos reguladores e legisladores, bem como ao desenvolvimento de leis e legisladores para este lugar emergente e cumpriria o SB243”.

O senador Padilla disse ao TechCrunch que o projeto era “um passo na direção certa” em direção à colocação de “uma tecnologia incrivelmente poderosa”.

Padilla disse: “Precisamos sair rapidamente para perder a oportunidade antes que as janelas desapareçam”. “Espero que outros estados percebam o risco. Acho que muitas pessoas percebem. Acho que é uma conversa em todo o país e espero que as pessoas tomem medidas. É claro que não existe um governo federal e acho que temos aqui a obrigação de proteger as pessoas mais fracas entre nós.”

SB 243 é o segundo controle de IA notável da Califórnia nas últimas semanas. Em 27 de setembro, o Governador Nazm assinou a Lei SB 53K, estabelecendo novos requisitos transparentes para grandes empresas de IA. O projeto de lei determina que grandes laboratórios de IA, como OpenAEE, Ethnic, Meta e Google Dipmind, possam ser transparentes sobre os protocolos de segurança. Também garante proteção aos denunciantes para os funcionários dessas empresas.

Outros estados como Illinois, Nevada e UTA aprovaram uma lei para restringir ou proibir completamente o uso de chatboats de IA como alternativa aos cuidados de saúde mental licenciados.

TechCrunch entrou em contato com Meta e OpenAI para comentários.

Este artigo foi atualizado com base nos comentários do Senador Padilla, personagem AI e Replica.