OpenAI inunda o aplicativo Deepfakes com vídeos Sora AI de Martin Luther King Jr. como ‘inapropriados’

OpenAI acelera seus usuários e seu aplicativo de mídia social Sora AI. A IA de Martin Luther King Jr. não permitirá a criação de deepfakes. A decisão destaca o intenso conflito entre empresas de IA e detentores de direitos, como propriedades de celebridades, estúdios de cinema e agências de talentos – e como a tecnologia de IA generativa continua a corroer a realidade para todos nós.

Sora, um novo aplicativo irmão do ChatGPT, permite aos usuários Crie e compartilhe vídeos gerados por IA. Foi lançado há três semanas com muito alarde, com entusiastas de IA pesquisando Código de convite. Mas Sora é único entre os geradores de vídeo de IA e aplicativos de mídia social; Isso permite que você use imagens gravadas por outras pessoas em quase todos os vídeos de IA. Tem sido, na melhor das hipóteses, estranho e engraçado – e na pior, Uma rolagem interminável de deepfakes O que é quase indistinguível da realidade.

A OpenAI tem proteções para impedir que pessoas famosas criem vídeos: ela rejeitou minha solicitação de um vídeo de Taylor Swift no palco, por exemplo. Mas essas cercas não são perfeitas, já que vimos uma tendência crescente esta semana de pessoas fazendo vídeos com King. Eles variam de deepfakes estranhos sobre seu rap e luta livre na WWE a conteúdo racista.

Não perca nosso conteúdo imparcial de tecnologia e análises baseadas em laboratório Adicionar CNET Como fonte preferencial do Google.

Uma enxurrada de “representações desrespeitosas”, como a OpenAI as chama em uma declaraçãoÉ por isso que a empresa interrompeu sua capacidade de fazer vídeos com King.

Bernice A. King, filha do falecido líder dos direitos civis, pediu na semana passada ao público que parasse de enviar vídeos de seu pai gerados por IA. ele era o eco A filha do comediante Robin Williams, Zelda, chama esses tipos de vídeos de IA de “nojentos”.

Na sua declaração, a OpenAI disse acreditar que “as figuras públicas e as suas famílias devem, em última análise, ter controlo sobre a forma como as suas réplicas são utilizadas” e que as figuras públicas e os “representantes autorizados” dos seus bens podem solicitar que não sejam incluídos em sora semelhantes.

Esta não é a primeira vez que a OpenAI recorre a terceiros para fazer essas ligações. Antes do lançamento do Sora, a empresa disse às agências de talentos afiliadas a Hollywood que elas poderiam optar por não ter sua propriedade intelectual incluída no Sora. Neste caso, o King’s Estate é a entidade responsável por escolher a forma como a sua imagem será utilizada.

A abordagem da OpenAI não se enquadrava em décadas de leis de direitos autorais – normalmente, as empresas tinham que licenciar conteúdo protegido antes de usá-lo – e a OpenAI Sua posição é oposta Alguns dias depois. Este é um exemplo de como são as empresas e fabricantes de IA Conflito sobre direitos autoraisinclusive através Caso de alto perfil.

(Divulgação: Jeff Davis, empresa controladora da CNET, entrou com uma ação judicial contra a OpenAI em abril, alegando que ela violou os direitos autorais de Jeff Davis no treinamento e operação de seus sistemas de IA.)