Itália envia primeiro pedido de fiscalização de dados para a DeepSeek: 'Os dados de milhões de italianos estão em risco'

Ainda não se sabe se a nova empresa de IA chinesa DeepSeek é uma mudança de jogo ou parte de um plano elaborado por sua empresa-mãe, um fundo de hedge, para vender ações da Nvidia e outras ações de tecnologia. Seja qual for a situação (talvez ambas?), a DeepSeek e seu modelo de linguagem grande estão causando grandes repercussões. E agora, está chamando a atenção dos órgãos de proteção de dados.

O que parece ser a primeira grande ação de um desses órgãos desde que a DeepSeek se tornou viral nos últimos dias, Euroconsumers, uma coalizão de grupos de consumidores na Europa, apresentou uma reclamação à Autoridade Italiana de Proteção de Dados relacionada a como a DeepSeek lida com dados pessoais em relação ao GDPR, o quadro regulatório de proteção de dados na Europa.

A DPA italiana confirmou hoje que, em seguida, escreveu à DeepSeek com um pedido de informações. “A risco i dati di milioni di persone in Italia,” observa. (“Os dados de milhões de italianos estão em risco.”) A DeepSeek tem 20 dias para responder.

Dois detalhes importantes sobre a DeepSeek que muitos notaram são que o serviço é feito e opera a partir da China. De acordo com sua política de privacidade, isso inclui as informações e dados que a DeepSeek coleta e armazena, que também estão localizados em seu país de origem.

A DeepSeek também menciona brevemente em sua política que, ao transferir dados da China do país onde a DeepSeek está sendo usada, faz isso “de acordo com os requisitos das leis de proteção de dados aplicáveis.”

Mas a Euroconsumers — a organização que trouxe um caso bem-sucedido contra a Grok no ano passado sobre a forma como usou dados para treinar sua IA — e a DPA italiana querem mais detalhes.

Dirigindo-se à Hangzhou DeepSeek Artificial Intelligence e à Beijing DeepSeek Artificial Intelligence, a DPA italiana disse que deseja saber quais dados pessoais são coletados, de quais fontes e para quais finalidades – incluindo quais informações são usadas para treinar seu sistema de IA – além de qual é a base legal para o processamento. Também quer mais detalhes sobre os servidores na China.

Além disso, escreve em seu pedido de informações que quer saber “no caso de dados pessoais serem coletados através de atividades de web scraping,” como os usuários que estão “registrados e aqueles não registrados no serviço foram ou são informados sobre o processamento de seus dados.”

O veículo de notícias MLex observa que a Euroconsumers também destacou que não há detalhes sobre como a DeepSeek protege ou restringe menores em seus serviços, desde verificação de idade até como lida com dados de menores.

(A política de idade da DeepSeek observa que não é destinada a usuários com menos de 18 anos, embora não forneça um meio de aplicar essa restrição. Para aqueles entre 14 e 18 anos, a DeepSeek sugere que esses usuários mais jovens leiam a política de privacidade com um adulto.)

Euroconsumers e o órgão de vigilância italiano representam o primeiro esforço para agir contra a DeepSeek. Eles podem não ser os últimos, embora os acompanhamentos possam não ser tão rápidos.

Mais cedo hoje, a DeepSeek foi um tema principal em uma coletiva de imprensa na Comissão Europeia. Thomas Regnier, porta-voz da Comissão para a Soberania Tecnológica, foi questionado se há preocupações a nível europeu sobre a DeepSeek relacionadas à segurança, privacidade e censura. Por enquanto, porém, a mensagem principal parecia ser: ainda é cedo para comentar sobre investigações.

“Os serviços oferecidos na Europa respeitarão nossas regras,” Regnier observou em resposta a uma pergunta sobre privacidade de dados, acrescentando que a Lei de IA se aplica a todos os serviços de IA oferecidos na região.

Ele se recusou a dizer se, na avaliação da UE, a DeepSeek respeitava essas regras ou não. Ele foi então questionado se a censura do app sobre tópicos que são politicamente sensíveis na China desrespeitava as regras de liberdade de expressão na Europa e se isso justificaria uma investigação. “Estamos em estágios muito iniciais, não estou falando sobre uma investigação ainda,” respondeu rapidamente Regnier em resposta. “Nossa estrutura é sólida o suficiente para lidar com possíveis problemas, se eles existirem.”

Perguntas que o TechCrunch enviou ao ICO no Reino Unido sobre a DeepSeek receberam uma resposta semelhante: a DeepSeek, efetivamente, estará sujeita à mesma fiscalização que qualquer outro desenvolvedor de GenAI. Mas não há ações adicionais no momento.

“Desenvolvedores e implementadores de IA generativa precisam garantir que as pessoas tenham informações significativas, concisas e facilmente acessíveis sobre o uso de seus dados pessoais e tenham processos claros e eficazes para permitir que as pessoas exerçam seus direitos à informação,” disse um porta-voz. “Continuaremos a interagir com as partes interessadas para promover medidas de transparência eficazes, sem evitar ações quando nossas expectativas regulatórias forem ignoradas.”

Enquanto isso, novas avenidas de questionamento regulatório podem se abrir em áreas como proteção de direitos autorais e propriedade intelectual?

Muitos têm se maravilhado com a forma como a própria existência da DeepSeek parece desafiar suposições sobre os custos reais de treinar e operar um modelo de linguagem grande ou um serviço de IA generativa: sua infraestrutura mais barata e base de custos underminam a ideia de que construir IA fundamental e executar aplicações de IA generativas tem que custar uma fortuna em chips, uso de data centers e consumo de energia.

Mas, mais recentemente, alguns começaram a levantar questões sobre tudo isso. A Microsoft e a OpenAI afirmam que parece haver evidências de que foi parcialmente treinada em “destilações” de seus modelos proprietários. Haveria uma ironia inquietante nisso se isso se provar verdadeiro — dado os muitos dramas legais e outros que circulam sobre como alguns construtores de LLM supostamente consideraram a propriedade intelectual e os direitos autorais.

Entramos em contato com a DeepSeek a respeito da reclamação da DPA italiana e atualizaremos este post conforme mais informações se tornarem disponíveis.