A GetReal desvendou o segredo dos deepfakes de IA? $18 milhões e uma impressionante lista de clientes dizem que sim.

A proliferação de deepfakes assustadoramente realistas é um dos subprodutos mais perniciosos do aumento da IA, e ser vítima de fraudes baseadas nesses deepfakes já está custando às empresas milhões de dólares — sem mencionar as implicações que isso pode ter na segurança nacional. Uma startup que construiu um conjunto de ferramentas voltadas para governos e empresas para ajudar a detectar e interromper deepfakes e impersonações em áudio, vídeo e imagens está anunciando um financiamento na quarta-feira, com clientes e investidores impressionantes a bordo.

GetReal — cofundada por Hany Farid, um dos pioneiros na detecção de mídias deepfake — levantou US$ 17,5 milhões em capital, fundos que serão usados para P&D, contratações e desenvolvimento de negócios.

Juntamente com o financiamento, a empresa está lançando sua plataforma de forense como serviço, que inclui uma interface web, uma API e integrações para executar análises de mídia como serviço. As características incluem um painel de exposição a ameaças; uma ferramenta “Inspecionar” especificamente voltada para proteger executivos de alto nível contra spoofing; uma ferramenta “Proteger” para examinar mídias; e “Responder”, que envolve equipes humanas da GetReal realizando análises mais profundas.

A Forgepoint Capital, especializada em cibersegurança e IA, está liderando esta rodada Series A, com a participação de Ballistic Ventures, Evolution Equity e K2 Access Fund.

Ballistic é uma firma-chave nessa lista. A GetReal foi incubada na VC de 2022 até emergir do modo secreto em junho de 2024. A Ballistic também liderou a rodada de seed de US$ 7 milhões da GetReal — uma rodada que, segundo PitchBook, também incluiu Venrock, Artisanal, Qudit e Silver Buckshot.

A Ballistic é importante por outro motivo: o fundador da firma, Ted Schlein, é o presidente e o outro cofundador da GetReal. Antes da Ballistic, Schlein chefiou a Kleiner Perkins.

Hany como serviço

A GetReal se insere no mundo mais amplo da cibersegurança, especificamente na área em rápida evolução da ciberforense. A lacuna no mercado que a startup com sede em San Mateo está abordando é a escassez de talento e conhecimento nesse espaço.

“Se você acha que a cibersegurança tem uma escassez de pessoas, prepare-se para a forense,” disse Matt Moynahan, CEO da GetReal.

Moynahan não é o fundador da startup; ele se juntou à GetReal enquanto ainda estava em modo secreto, após ter uma carreira de três décadas liderando uma série de grandes empresas de cibersegurança, como Symantec, Arbor Networks, Veracode e Forcepoint.

“Para ser honesto, eu não acho que já tenha visto uma ameaça tão onipresente,” ele disse sobre a capacidade de criar e aplicar deepfakes maliciosos.

Ele descreveu os vírus como uma “ameaça nova” em comparação. “O que vimos nos últimos 20 anos é a ameaça se movendo para o usuário final,” ele disse. Aplicativos “divertidos” que permitem que as pessoas criem deepfakes são parte do problema, mas também está o ambiente em que trabalhamos hoje. “As pessoas passaram de tijolos e argamassa para negócios que são agora quase completamente digitais e na nuvem.”

Phishing, ele disse, provou que até mesmo pessoas muito inteligentes podem ser facilmente enganadas e, juntos, isso é um sinal complicado e muito ruim do que pode vir a seguir.

A GetReal é a criação de Farid, um acadêmico renomado por muito tempo (atualmente na UC Berkeley) que é considerado um pioneiro nas técnicas para identificar quando imagens digitais foram manipuladas. Argumentavelmente, Farid já compreendia os riscos dos deepfakes antes mesmo do termo existir.

Como Farid explicou ao TechCrunch, enquanto trabalhava principalmente como acadêmico e pesquisador, ele aplicou seus aprendizados de forma mais ou menos informal por anos como serviço para organizações de mídia, equipes legais (após imagens digitais se tornarem admissíveis em tribunal) e outros. Em 2022, ele se juntou a Schlein para considerar como traduzir isso em um negócio real, transformando esse processo investigativo em código.

“Ninguém está analisando isso da maneira que Hany faz,” disse Moynahan. “Mas Hany não consegue escalar. Então basicamente pegamos Hany e tentamos criar um ‘serviço Hany’ na nuvem.”

Curiosamente, Farid observa que, enquanto a tecnologia que está sendo desenvolvida depende de como os novos aplicativos funcionam — há muita engenharia reversa que acontece na GetReal — ela é combinada com décadas de conhecimento que mudaram muito pouco.

“Existem técnicas que desenvolvemos há 20 anos que ainda funcionam hoje,” ele disse. Ele não quis explicar quais são. “Você não precisa contar a todos o que fazemos, mas é complicado de acertar.”

O efeito Signal: texto ainda por vir

A rodada Series A sendo anunciada na quarta-feira também inclui alguns investidores estratégicos importantes, como Cisco Investments, Capital One Ventures e In-Q-Tel, uma firma de investimento intimamente ligada à CIA.

Essa lista de estratégicos reflete os tipos de empresas que estão interessadas ou que já começaram a adotar o produto da GetReal, disse Alberto Yépez, o cofundador da Forgepoint que liderou o investimento.

O que Yépez descobriu durante a devida diligência foi que indústrias altamente regulamentadas — como instituições financeiras — já estavam perguntando por um produto como este, e os CISOs estavam entrando em contato por um mandato dos conselhos de administração.

“Eles levantaram a questão [de impersonações deepfake] após seus CEOs terem sido colocados em entrevistas de voz,” ele disse. Eles foram impersonados e enganados por impersonações. Clientes nomeados incluem John Deere e Visa.

Quanto ao trabalho governamental, Yépez disse: “Eles também têm algumas prioridades nesse espaço.”

Essas “prioridades” incluem agências de inteligência e funcionários do governo sendo enganados para agir ou não agir com base em informações falsas de atores mal-intencionados.

No entanto, eles ainda não se estenderam a impersonações baseadas em texto.

Isso é algo que surgiu apenas esta semana, quando o editor da The Atlantic — erroneamente adicionado a um grupo de chat Signal planejando um ataque militar no Iémen — inicialmente presumiu que era uma farsa de impersonação. Cho­ca­don­te­mente, aquele chat se revelou ser muito real e muito em violação dos procedimentos de segurança nacional.

Farid disse que texto não está atualmente no escopo da GetReal. “É uma besta diferente,” ele disse. Mas, a longo prazo, o plano é ampliar o escopo ao longo do tempo para incluir todos os tipos de ameaças de deepfake e impersonação.