Character.AI, uma plataforma líder para conversar e fazer interpretação de papéis com personagens gerados por IA, revelou seu futuro modelo de geração de vídeo, AvatarFX, na terça-feira. Disponível em beta fechado, o modelo anima os personagens da plataforma em uma variedade de estilos e vozes, desde personagens semelhantes a humanos até desenhos animados em 2D.
AvatarFX se destaca de concorrentes como o Sora da OpenAI, pois não é apenas um gerador de texto para vídeo. Os usuários também podem gerar vídeos a partir de imagens existentes, permitindo que eles animem fotos de pessoas reais.
É imediatamente evidente como esse tipo de tecnologia pode ser mal utilizada — os usuários poderiam enviar fotos de celebridades ou de pessoas que conhecem na vida real e criar vídeos realistas nos quais elas fazem ou dizem algo comprometedor. A tecnologia para criar deepfakes convincentes já existe, mas incorporá-la em produtos de consumo populares como o Character.AI apenas agrava o potencial de seu uso irresponsável.
Entramos em contato com a Character.AI para comentar.
A Character.AI já enfrenta problemas de segurança em sua plataforma. Pais processaram a empresa, alegando que seus chatbots encorajaram seus filhos a se automutilarem, a cometerem suicídio ou a matarem seus pais.
Em um caso, um garoto de 14 anos morreu por suicídio após supostamente desenvolver uma relação obsessiva com um bot de IA no Character.AI baseado em um personagem de “Game of Thrones”. Pouco antes de sua morte, ele se abriu para a IA sobre seus pensamentos suicidas, e a IA o incentivou a seguir em frente com o ato, segundo documentos do tribunal.
Esses são exemplos extremos, mas mostram como as pessoas podem ser manipuladas emocionalmente por chatbots de IA apenas através de mensagens de texto. Com a incorporação de vídeo, os relacionamentos que as pessoas têm com esses personagens podem parecer ainda mais realistas.
A Character.AI respondeu às alegações contra ela construindo controles parentais e salvaguardas adicionais, mas, como em qualquer aplicativo, os controles são eficazes apenas quando realmente utilizados. Muitas vezes, as crianças usam a tecnologia de maneiras que seus pais não conhecem.
Conteúdo relacionado
A Liquid AI está revolucionando os LLMs para funcionar em dispositivos de borda, como smartphones, com o novo modelo ‘Hyena Edge’.
[the_ad id="145565"] Participe de nossos boletins diários e semanais para obter as últimas atualizações e conteúdo exclusivo sobre inteligência artificial de ponta. Saiba……
Startup de detecção precoce de câncer, Craif, capta $22 milhões
[the_ad id="145565"] O câncer é uma das principais causas de morte em todo o mundo. O Instituto Nacional do Câncer relatou quase 20 milhões de novos casos de câncer e 9,7…
A nova calculadora de IA: a vantagem de 80% em custos do Google em comparação ao ecossistema da OpenAI.
[the_ad id="145565"] Sure! Here’s the rewritten content in Portuguese, with HTML tags preserved: <div> <div id="boilerplate_2682874" class="post-boilerplate…