Bill Faça login para controlar os Chatbots do News AI
O governador da Califórnia, Gavin News (D), assinou um projeto de lei na segunda-feira para que os chatbots de inteligência artificial (IA) se comuniquem com as crianças e novas manutenções sobre suicídio e questões de autorrealização.
O SB243, que foi aprovado pelo Legislativo estadual em meados de setembro, criará protocolos para evitar que a produção de “chatbots associados” produza conteúdo sobre ideais suicidas, suicídio ou autoperda e opere em serviços de crise, se necessário.
Os chatties também são necessários para emitir notificações “claras e óbvias” de que são gerados artificialmente se alguém estiver razoavelmente confuso por acreditar que está conversando com outro ser humano.
Ao conversar com crianças, os chatbots devem receber lembretes a cada três horas de que não são humanos. Os desenvolvedores também precisam criar um sistema para impedir a produção de materiais sexualmente explícitos em conversas com menores.
“As tecnologias emergentes, como os chatbots e as redes sociais, podem inspirar, educar e conectar – mas sem o verdadeiro guardião, tecnologias como os chatbots e as redes sociais podem explorar, confundir e pôr em perigo as nossas crianças”, afirmou a News num comunicado.
“Vimos realmente alguns dos jovens afectados pela tecnologia incontrolável e vimos os exemplos trágicos de alguns dos jovens que são afectados pela tecnologia incontrolável e as organizações não resistirão sem as restrições e responsabilização necessárias”, acrescentou. “Podemos continuar a liderar em IA e tecnologia, mas devemos fazê-lo com responsabilidade – para proteger os nossos filhos em cada passo. Os nossos filhos não estão à venda.”
A família de uma menina da Califórnia processou a inauguração no final de agosto, reclamando que Chatzipt encorajou seu filho de 16 anos a cometer suicídio. Pai, Matthew Rhine testemunhou perante o Painel do Senado no mês passado, assim como dois outros pais que acusaram o chatbo de cometer suicídio ou auto-perda.
Segunda-feira apreciou a assinatura do projeto de lei Chattbott como “um passo significativo no caso dos critérios de segurança de IA”.
Um porta-voz disse em comunicado: “A Califórnia está ajudando a formar uma abordagem mais responsável para o desenvolvimento e implantação de IA em todo o país, estabelecendo uma manutenção clara”.
Os chatbots de IA incentivaram a Comissão Federal de Comércio (FTC) a lançar uma investigação sobre como os chatbots de IA se comunicam com as crianças, solicitando informações de várias agências de tecnologia de ponta.
Senso. Josh Haoli (R-Mo.) E Dick Derbin (D-El.) Também introduziram a lei no final do mês passado, que categorizaria o chatbot de IA como um produto para permitir a reclamação dos usuários vítimas.
A medida da Califórnia é a mais recente de vários projetos de lei sobre IA e tecnologia assinados pela Lei de Notícias. Na segunda-feira, ele também aprovou as medidas necessárias de rótulos de advertência para plataformas de mídia social e verificação de idade pelo sistema operacional e pela App Store.
No final de setembro, ele também assinou o SB 53, que exige que os principais modelos de IA publiquem estruturas detalhadamente como avaliam e aliviam os riscos catastróficos.
Noite :: EDT foi atualizado em
