Startup norueguesa Factiverse quer combater a desinformação com IA

Após as eleições presidenciais de 2024 nos EUA, um fato se tornou claro: a desinformação proliferou online a uma taxa alarmante, moldando a visão dos americanos sobre cada candidato e uma variedade de tópicos, incluindo saúde pública, mudanças climáticas e imigração. A IA generativa – com sua capacidade de produzir deepfakes em segundos e sua propensão a criar fatos fictícios – só tende a agravar o problema.

Factiverse, uma startup que participou do TechCrunch Disrupt Battlefield 200 em outubro, está se preparando para a avalanche. A empresa, que ganhou o prêmio de melhor apresentação na categoria Segurança, Privacidade e Redes Sociais, desenvolveu uma ferramenta business-to-business que fornece verificação de fatos em tempo real de texto, vídeo e áudio. O objetivo da empresa é ajudar os negócios a economizar horas de pesquisa e mitigar quaisquer riscos reputacionais ou responsabilidades legais.

A startup norueguesa ainda está em seus primeiros passos; a Factiverse arrecadou cerca de $1,45 milhão em capital pré-seed desde seu lançamento em 2020. No entanto, já começou a trabalhar com parceiros da mídia e financeiros, incluindo um dos maiores bancos da Noruega, segundo a CEO e cofundadora da Factiverse, Maria Amelie.

A Factiverse até forneceu verificação de fatos ao vivo dos debates presidenciais dos EUA, que foram utilizados por vários parceiros de mídia, disse Amelie.

“Não somos um LLM (modelo de linguagem grande). Construímos um tipo diferente de modelo baseado em recuperação de informações,” disse Amelie ao TechCrunch.

Como ex-jornalista de tecnologia e autora publicada, Amelie tem experiência em primeira mão na luta contra a desinformação. Ela trabalhou com o cofundador e CTO da Factiverse, Vinay Setty, que é professor associado em aprendizado de máquina na Universidade de Stavanger, para lançar a startup com um foco B2B.

O modelo da Factiverse é treinado em dados de alta qualidade, bem curados e credíveis de fontes confiáveis e verificadores de fatos ao redor do mundo, segundo Amelie, e não nos “dados de junk food” que a IA generativa utiliza para treinamento.

“Treinamos nosso modelo de IA para pensar intuitivamente como alguém que tem muita experiência em pesquisa de informações,” disse Amelie.

O modelo, que se baseia em aprendizado de máquina e processamento de linguagem natural, é capaz de identificar reivindicações e pesquisar na web em tempo real – desde mecanismos de busca como Google e Bing até mecanismos de busca baseados em IA como You.com e trabalhos acadêmicos.

“A parte mais interessante é que não estamos mostrando o que aparece primeiro nesses mecanismos de busca,” disse Amelie. “Na verdade, estamos propondo quais fontes são as mais, ou historicamente têm sido as mais, credíveis sobre seu tópico… Olhamos para o domínio em correlação com o assunto, e às vezes até quem está sendo citado em um artigo.”

Atualmente, a Factiverse afirma superar o GPT-4, Mistral 7-b e GPT-3 em sua capacidade de identificar reivindicações dignas de verificação de fatos em 114 idiomas. O modelo da empresa também supera os LLMs ao determinar a veracidade de uma reivindicação. Amelie disse que a taxa de sucesso da Factiverse é de cerca de 80% e o objetivo é melhorar à medida que a empresa recebe novos clientes ao redor do mundo.

“Temos financiamento suficiente para ser os melhores, mas estamos aqui nos EUA para nos tornarmos os mais rápidos,” disse Amelie ao TechCrunch. Ela também observou que a empresa deseja levantar uma rodada semente em 2025. “Estamos procurando clientes e investidores que queiram investir em confiança e credibilidade,” disse ela.