Openai rola de volta Chatgpt 4O por ser muito ‘sycophant-y’

Chatgpt – e ferramentas generativas de IA como essa – têm uma reputação de ser um pouco agradável demais. Está claro há um tempo que a experiência do ChatGPT padrão foi projetada para acenar com a maior parte do que você diz. Mas mesmo essa tendência pode ir longe demais, aparentemente.

Em um tópico em X postado em 27 de abril, Openai O CEO Sam Altman reconheceu que “as atualizações do GPT-4O tornaram a personalidade demais e irritante”. E hoje, Altman anunciou em X que a empresa estava revertindo totalmente a atualização 4O para usuários pagos e gratuitos.

Este tweet está atualmente indisponível. Pode estar carregando ou foi removido.

Normalmente, o papel de Chatgpt como seu Hymaneiro digital pessoal próprio Não levanta muitas sobrancelhas. Mas os usuários começaram a reclamar on -line sobre a personalidade excessivamente agradável do modelo 4O. Em uma troca, um usuário passou pelo problema clássico do carrinho, escolhendo entre salvar uma torradeira ou algumas vacas e gatos. A IA os tranquilizou, eles fizeram a ligação certa ao lado da torradeira.

“Em termos utilitários puros, a vida geralmente supera os objetos”, respondeu Chatgpt. “Mas se a torradeira significou mais para você … então sua ação era internamente consistente”.

Este tweet está atualmente indisponível. Pode estar carregando ou foi removido.

Há muito mais exemplos mostrando o quão extremo a bajulação do chatgpt havia sido – e foi o suficiente para Altman admitir que “os esmaltes demais” e precisavam ser consertados.

Este tweet está atualmente indisponível. Pode estar carregando ou foi removido.

Este tweet está atualmente indisponível. Pode estar carregando ou foi removido.

Este tweet está atualmente indisponível. Pode estar carregando ou foi removido.

Este tweet está atualmente indisponível. Pode estar carregando ou foi removido.

Em uma nota mais séria, os usuários também apontaram que poderia haver um perigo real nos chatbots da AI que concordam com tudo o que você diz. Claro, as postagens sobre pessoas que dizem ao ChatGPT são um profeta religioso ou simplesmente pescar um impulso do ego podem ser divertidas. Mas não é difícil imaginar como um chatbot “sycophant-y” poderia validar delírios genuínos e piorar as crises de saúde mental.

Em seu tópico em X, Altman disse que a empresa estava trabalhando em correções para os problemas de personalidade do modelo 4o. Ele prometeu compartilhar mais atualizações “nos próximos dias”.

Divulgação: Ziff Davis, empresa controladora da Mashable, em abril entrou com uma ação contra o Openai, alegando que ele violou a Ziff Davis Copyrights em treinamento e operação de seus sistemas de IA.