Os estados alertam o OpenAI sobre ‘preocupações sérias’ com chatbot
A Califórnia e Delaware alertaram o Openai na sexta -feira que a IA “tem seriamente preocupações sobre as práticas de segurança da IA depois de algumas mortes que foram relatadas como conectadas ao ChatGPT.
Em uma carta ao conselho do Openai, o promotor público -chefe da Califórnia, Rob Bonda, e a promotora -chefe de Delaware, Kathleen Jennings, disseram que se encontraram recentemente com a equipe jurídica da empresa e “a segurança é uma prioridade de barganha, especialmente quando se trata de crianças”.
A última missiva do casal vem depois que a família de uma criança de 16 anos entrou com uma ação na última terça -feira e afirma que ChatGPT o encoraja a tirar a própria vida. Wall Street Journal Também foi relatado Na semana passada, o barco de bate -papo disse que um homem de 56 anos de Connecticut alimentou a paranóia antes de matar a si mesmo e sua mãe em agosto.
“As últimas mortes são inaceitáveis, Bond Bonda e Jennings escreveram.” Openai e a confiança do povo americano nessa indústria certamente cercou “.
“O Openai – e a indústria da IA - devem garantir uma maneira proativa e transparente para a implantação segura da IA”. “Fazer isso é obrigatório com a instituição de caridade da Openai, e será necessário e aplicado por nossos escritórios relevantes”.
O Promotor Público -Chefe do Estado, enquanto continua conversando com a empresa sobre os planos de reestruturação sublinhou a necessidade média de segurança.
Bonda e Jennings, “Openai e a indústria em geral para desenvolver e distribuir produtos de IA para garantir que a segurança não seja o lugar para garantir que haja uma opinião comum”, afirmou.
“À medida que continuamos nosso diálogo sobre o plano de capitalização da Openai, devemos trabalhar para acelerar e fortalecer a segurança como gerente no futuro dessa poderosa tecnologia”.
O Openai, com sede na Califórnia e Delaware, já havia lidado com o casal com os esforços de mudar a estrutura corporativa da empresa.
Inicialmente, em dezembro, a empresa anunciou seus planos de transição completos para uma empresa sem fins lucrativos sem vigilância por lucro. No entanto, mais tarde ele concordou em responsabilizar as organizações sem fins lucrativos e se referiu a discussões com advogados e outros líderes.
Após os últimos relatórios sobre mortes relacionadas ao ChatGPT, o Openai disse na terça -feira como os chatbots reagem às pessoas na crise e explicaram que eles criaram guardas mais fortes para os jovens.
O presidente do Conselho de Openai, Bret Taylor, disse em comunicado divulgado na sexta -feira, a empresa está completamente determinada a abordar as preocupações apresentadas pelo promotor público -chefe, disse ele.
“Ele foi quebrado por causa dessas tragédias, e nossas mais profundas simpatias são com as famílias”, disse ele. “A segurança é a nossa maior prioridade e trabalhamos em estreita colaboração com os formuladores de políticas em todo o mundo”.
Taylor, “Nossos veículos para todos, especialmente para os jovens, para garantir que estamos determinados a aprender e agir com urgência”, acrescentou. “Para esse fim, continuaremos esses importantes debates com os advogados, por isso nos beneficiamos do progresso de seus insumos”.
O OpenAI não é a única empresa de tecnologia sob a AI Chatbots recentemente. Reuters relatou No mês passado, um certificado de política de commodities, botas de bate -papo, pode fazer discursos “românticos ou sensuais” com crianças.
A empresa de mídia social disse que removeu esse idioma desde então. Mais tarde, ele contou O TechCrunch atualiza suas políticas para restringir certos problemas para usuários jovens, incluindo auto -armaria, suicídio, comida irregular ou conversas românticas potencialmente inadequadas.
EDT atualizado às 18:30
