CivitAI enfrenta crise com novo provedor de pagamentos, enquanto Trump assina a Lei Anti-Deepfake.

O presidente Trump assinou a Lei Take It Down, criminalizando deepfakes sexuais em nível federal nos EUA. Ao mesmo tempo, a comunidade da CivitAI, em sua tentativa de ‘limpar sua imagem’ em relação a conteúdos NSFW e saídas de celebridades, falhou em acalmar os processadores de pagamento, levando o site a buscar alternativas ou enfrentar o fechamento. Tudo isso aconteceu em meras duas semanas desde que o site de deepfake pornô mais antigo e maior do mundo ficou offline…

As últimas semanas foram marcadas por eventos significativos no campo da deepfake de imagens e vídeos não regulamentados. Há pouco mais de duas semanas, o domínio número 1 da comunidade para compartilhamento de deepfake pornô de celebridades, Mr. Deepfakes, retirou-se do ar após mais de sete anos em uma posição dominante e muito estudada como o local global para conteúdo sexualizado de IA de celebridades. Quando saiu do ar, o site recebia uma média de mais de cinco milhões de visitas por mês.

A interrupção dos serviços do Mr. Deepfakes foi oficialmente atribuída à retirada de um ‘prestador de serviços crítico’ (veja a imagem em destaque acima, que foi substituída por falha de domínio em uma semana). No entanto, uma investigação jornalística colaborativa havia desanonimado uma figura chave por trás do Mr. Deepfakes logo antes do fechamento, permitindo a possibilidade de que o site fosse encerrado por motivos pessoais e/ou legais desse indivíduo.

Quase ao mesmo tempo, a CivitAI, a plataforma comercial amplamente utilizada para LoRAs de celebridades e NSFW, adotou um conjunto de medidas de autocensura incomuns e controversas. Essas medidas afetaram a geração de deepfake, a hospedagem de modelos e uma nova gama de regras e restrições, incluindo banimentos totais sobre certos fetiches marginais de NSFW e o que a plataforma classificou como ‘ideologias extremistas’.

Essas medidas foram motivadas por ameaças de provedores de pagamento de retirar serviços do domínio a menos que mudanças sobre conteúdo NSFW e representações de IA de celebridades fossem feitas.

CivitAI Cortado

A partir de hoje, parece que as medidas tomadas pela CivitAI não acalmaram a VISA e a Mastercard: um novo post^† no site, do Gerente de Engajamento da Comunidade Alasdair Nicoll, revela que os pagamentos com cartão para a CivitAI (cujo sistema de moedas virtuais ‘buzz’ é majoritariamente alimentado por cartões de crédito e débito do mundo real) será interrompido nesta sexta-feira (23 de maio de 2025).

Isso impedirá que os usuários renovem assinaturas mensais ou comprem novos buzz. Embora Nicoll aconselhe que os usuários possam manter privilégios atuais de associação mudando para uma associação anual (custando^†† $100-$550 USD) antes de sexta-feira, é claro que o futuro é um tanto incerto para o domínio neste momento (deve-se notar que as associações anuais entraram em vigor ao mesmo tempo em que o anúncio sobre a perda de processadores de pagamento foi feito).

Quanto à falta de um processador de pagamento, Nicoll diz ‘Estamos conversando com todos os provedores confortáveis com inovação em IA’.

Sobre o fracasso dos recentes esforços para repensar adequadamente as políticas frequentemente criticadas em torno de IA de celebridades e conteúdo NSFW, Nicoll afirma no post:

‘Algumas empresas de pagamento rotulam plataformas de IA generativa como de alto risco, especialmente quando permitimos conteúdo maduro gerado pelo usuário, mesmo quando é legal e moderado. Essa escolha de política, não algo que os usuários fizeram, forçou a interrupção.’

Um comentário do usuário ‘Faeia’, designado como chefe de gabinete da empresa em seu perfil*, acrescenta contexto a este anúncio:

‘Apenas para esclarecer, estamos sendo removidos do processador de pagamento porque escolhemos não remover conteúdo NSFW e adulto da plataforma. Continuamos comprometidos em apoiar todos os tipos de criadores e estamos trabalhando em soluções alternativas.’

Como um motor tradicional de novas tecnologias, não é incomum que conteúdos NSFW sejam usados para despertar interesse em um domínio, tecnologia ou plataforma – apenas para que os primeiros adeptos sejam rejeitados uma vez que capital e/ou uma base de usuários ‘legítima’ sejam estabelecidos (ou seja, usuários suficientes para a entidade sobreviver, quando desprovida de um contexto NSFW).

Parecia que a CivitAI seguiria Tumblr e diversas outras iniciativas por esse caminho rumo a um produto ‘sanitizado’ pronto para esquecer suas raízes. No entanto, a crescente controvérsia/estigma em torno de conteúdo gerado por IA de qualquer tipo representa um peso cumulativo que parece destinado a impedir um resgate de última hora, neste caso. Enquanto isso, o anúncio oficial aconselha os usuários a adotarem criptomoedas como método de pagamento alternativo.

Fake Out

A assinatura entusiástica por parte do presidente Donald Trump da Lei TAKE IT DOWN provavelmente influenciou alguns desses eventos. A nova lei criminaliza a distribuição de imagens íntimas não consensuais, incluindo deepfakes gerados por IA.

A legislação exige que as plataformas removam conteúdo sinalizado em até 48 horas, com a aplicação supervisionada pela Comissão Federal de Comércio. As disposições criminais da lei entram em vigor imediatamente, permitindo a acusação de indivíduos que publicam ou ameaçam publicar imagens íntimas não consensuais (incluindo deepfakes gerados por IA) dentro da jurisdição dos Estados Unidos.

Embora a lei tenha recebido apoio bipartidário raro, além do apoio de empresas de tecnologia e grupos de defesa, críticos argumentam que isso pode suprimir conteúdo legítimo e ameaçar ferramentas de privacidade como a criptografia. No mês passado, a Electronic Frontier Foundation (EFF) declarou oposição ao projeto, afirmando que os mecanismos de remoção que ele manda direcionam um espectro mais amplo de material do que a definição mais restrita de imagens íntimas não consensuais encontrada em outros locais na legislação.

‘A disposição de remoção na TAKE IT DOWN se aplica a uma categoria de conteúdo muito mais ampla – potencialmente qualquer imagem envolvendo conteúdo íntimo ou sexual – do que as definições mais restritas de NCII encontradas em outras partes do projeto. A disposição de remoção também carece de salvaguardas críticas contra pedidos de remoção frívolos ou de má-fé.’

‘Os serviços confiarão em filtros automatizados, que são ferramentas notoriamente imprecisas. Eles frequentemente sinalizam conteúdo legal, desde comentários de uso justo até reportagens. O curto período de tempo da lei exige que aplicativos e websites removam conteúdo em até 48 horas, raramente tempo suficiente para verificar se o conteúdo é realmente ilegal.’

‘Como resultado, os provedores de serviços online, particularmente os menores, provavelmente optarão por evitar o pesado risco legal simplesmente removendo o conteúdo ao invés de tentar até mesmo verificar sua legalidade.’

As plataformas agora têm até um ano após a promulgação da lei para estabelecer um processo formal de notificação e remoção, permitindo que indivíduos afetados ou seus representantes invoquem o estatuto para solicitar a remoção de conteúdos.

Isso significa que, embora as disposições criminais já estejam em vigor, as plataformas não têm a obrigação legal de cumprir a infraestrutura de remoção (como receber e processar pedidos) até que o prazo de um ano tenha expirado.

A Lei TAKE IT DOWN cobre conteúdo gerado por IA de celebridades?

Embora a Lei TAKE IT DOWN atravesse todas as fronteiras estaduais, não necessariamente proíbe toda mídia gerada por IA de celebridades. A lei criminaliza a distribuição de imagens íntimas não consensuais, incluindo deepfakes gerados por IA, apenas quando o indivíduo representado tinha uma expectativa razoável de privacidade:

A lei afirma:

“(2) OFENSA ENVOLVENDO REPRESENTAÇÕES VISUAIS ÍNTIMAS AUTENTICAS.—

“(A) ENVOLVENDO ADULTOS.—Salvo [para fins de evidência, reportagem, etc.], será ilegal para qualquer pessoa, no comércio interestadual ou estrangeiro, usar um serviço de computador interativo para publicar intencionalmente uma representação visual íntima de um indivíduo identificável que não seja menor se—

“(i) a representação visual íntima foi obtida ou criada em circunstâncias nas quais a pessoa sabia ou deveria razoavelmente saber que o indivíduo identificável tinha uma expectativa razoável de privacidade;

“(ii) o que é representado não foi exposto voluntariamente pelo indivíduo identificável em um ambiente público ou comercial[ou seja, pornografia auto-publicada];

“(iii) o que é representado não é uma questão de interesse público; e

“(iv) a publicação da representação visual íntima—

“(I) tem a intenção de causar dano; ou

“(II) causa dano, incluindo danos psicológicos, financeiros ou reputacionais, ao indivíduo identificável.

A contingência da ‘expectativa razoável de privacidade’ aplicada aqui tradicionalmente não favoreceu os direitos das celebridades. Dependendo da jurisprudência que eventualmente surgirá, é possível que mesmo conteúdos explícitos gerados por IA envolvendo figuras públicas em ambientes públicos ou comerciais possam não estar sujeitos às proibições da Lei.

A última cláusula sobre a determinação da extensão do dano é famosamente elástica em termos legais, e, nesse sentido, não acrescenta nada particularmente novo ao fardo legislativo. No entanto, a intenção de causar dano pareceria limitar o escopo da Lei ao contexto de ‘pornografia de vingança’, onde um (desconhecido) ex-parceiro publica conteúdo de mídia real ou falso de outro (também desconhecido) ex-parceiro.

Embora a exigência de ‘dano’ da lei possa parecer mal ajustada para casos em que usuários anônimos postam representações geradas por IA de celebridades, ela pode ser mais relevante em cenários de stalking, onde um padrão mais amplo de assédio apoia a conclusão de que um indivíduo visou deliberadamente e de forma maliciosa uma figura pública em várias frentes.

Embora a referência da Lei a ‘plataformas cobertas’ exclua canais privados como Signal ou email das suas disposições de remoção, essa exclusão se aplica apenas à obrigação de implementar um mecanismo formal de remoção até maio de 2026. Isso não significa que representações não consensuais geradas por IA ou reais compartilhadas por meio de comunicações privadas estejam fora do escopo das proibições criminais da lei.

Obviamente, a falta de mecanismos de reportagem no local não impede que as partes afetadas relatem o que agora é conteúdo ilegal à polícia; nem as partes são impedidas de usar quaisquer métodos de contato convencionais que um site possa disponibilizar para fazer uma reclamação e solicitar a remoção de material ofensivo.

Os Direitos Deixados para Trás

Mais de sete anos de crescente crítica pública e midiática ao conteúdo de deepfake parecem ter culminado dentro de um período incomum e curto de tempo. No entanto, embora a Lei TAKE IT DOWN ofereça proibições federais abrangentes, pode não se aplicar a todos os casos envolvendo simulações geradas por IA, deixando certos cenários para serem abordados sob o crescente mosaico de legislação estadual de deepfake, onde as leis aprovadas geralmente refletem ‘interesses locais’.

Por exemplo, na Califórnia, a Lei dos Direitos das Celebridades da Califórnia limita o uso exclusivo da identidade de uma celebridade a ela mesma e a sua herança, mesmo após sua morte; inversamente, a Lei ELVIS do Tennessee foca na proteção de músicos contra reproduções não autorizadas de voz e imagem geradas por IA, com cada caso refletindo uma abordagem direcionada a grupos de interesse que são proeminentes em nível estadual.

A maioria dos estados agora tem leis abordando deepfakes sexuais, embora muitas não esclareçam se essas proteções se estendem igualmente a indivíduos privados e figuras públicas. Enquanto isso, os deepfakes políticos que supostamente ajudaram a impelir o apoio de Donald Trump à nova lei federal podem, na prática, encontrar barreiras constitucionais em certos contextos.

^† Versão arquivada: https://web.archive.org/web/20250520024834/https:/civitai.com/articles/14945

^†† Versão arquivada (não apresenta preços mensais): https://web.archive.org/web/20250425020325/https:/civitai.green/pricing

* O atual ‘chefe de gabinete’ do CEO da CivitAI está listado no LinkedIn sob um nome não relacionado, enquanto o similar ‘Faiona’ é uma moderador oficial da equipe da CivitAI no subreddit do domínio.

Publicada pela primeira vez na terça-feira, 20 de maio de 2025