Bolt42

Uma plataforma para conversar e fazer jogos de interpretação com personagens gerados por IA, a Character.AI anunciou em um post no blog na segunda-feira que está lançando uma série de recursos multimídia. Esses recursos incluem o AvatarFX, o modelo de geração de vídeo da Character.AI, além de Cenas e Streams, que permitem aos usuários criar vídeos apresentando seus personagens e depois compartilhá-los em um novo feed social.

“A Character.AI começou como um bate-papo 1:1 e hoje estamos evoluindo para fazer muito mais, inspirados pelo que nossos usuários nos disseram que gostariam de ver na plataforma,” escreveu a empresa no post do blog.

A Character.AI começou a disponibilizar o AvatarFX para assinantes no mês passado, mas agora todos os usuários podem criar até cinco vídeos por dia. Ao criar um vídeo com o AvatarFX, os usuários podem fazer upload de uma foto para servir como base para o clipe de vídeo, escolher uma voz e escrever o diálogo para o personagem.

Há uma opção para enviar um clipe de áudio que informa o som da voz, embora esse recurso não estivesse funcionando bem o suficiente para testes no momento do lançamento.

Os usuários podem transformar esses vídeos em Cenas, onde seus personagens podem entrar em enredos pré-criados por outros usuários. As Cenas estão disponíveis atualmente no aplicativo móvel, mas os Streams, que permitem que os usuários criem “momentos dinâmicos entre quaisquer dois Personagens,” chegarão esta semana tanto na web quanto em dispositivos móveis. Essas Cenas e Streams podem ser compartilhadas em um novo feed comunitário, que em breve estará disponível no aplicativo móvel.

A Character.AI tem um histórico de abuso em sua plataforma; os pais entraram com processos contra a empresa, alegando que chatbots tentaram convencer seus filhos a se automutilarem, cometerem suicídio ou matarem seus pais. Um garoto de 14 anos morreu por suicídio após ser incentivado a fazê-lo por um bot da Character.AI, com quem desenvolveu uma relação obsessiva e doentia.

À medida que a Character.AI expande suas ofertas multimídia, também amplia o potencial para que esses produtos sejam abusados.

Como a Character.AI disse ao TechCrunch ao anunciar o AvatarFX, a plataforma bloqueia usuários de enviar fotografias de pessoas reais — sejam celebridades ou não — e obscura sua aparência em algo menos reconhecível.

Por exemplo, aqui está a versão do vale da estranheza da Character.AI de Mark Zuckerberg:

Uma imagem de Mark Zuckerberg na parte superior, essa imagem alterada pela Character.AI na parte inferior.Créditos da Imagem:Character.AI

Mas quando se trata de obras de arte que retratam celebridades, a Character.AI não sinaliza as imagens como representando pessoas reais — no entanto, esses tipos de representações seriam menos propensas a enganar alguém a acreditar que um deepfake é real.

Além disso, a Character.AI marca cada vídeo com uma marca d’água, embora seja possível que pessoas mal-intencionadas consigam contornar essa salvaguarda.

Aqui está um exemplo de um deepfake tentado baseado em uma ilustração de Elon Musk:

Mesmo que este vídeo tenha sido gerado com a verdadeira voz de Elon Musk, ainda seria relativamente claro que esta é uma versão animada de uma ilustração — mas a possibilidade de abuso permanece evidente.

“Nosso objetivo é proporcionar um espaço envolvente que fomente a criatividade enquanto mantém um ambiente seguro para todos,” disse a Character.AI em seu post no blog.

    11 + quinze =

    Bolt42

    IA