AVISO: Você não deve enviar suas imagens médicas para chatbots de IA

Aqui está um lembrete rápido antes de você seguir em frente com o seu dia: Pense duas vezes antes de fazer upload dos seus dados médicos privados para um chatbot de IA.

As pessoas estão frequentemente recorrendo a chatbots de IA generativa, como o ChatGPT da OpenAI e o Gemini do Google, para fazer perguntas sobre suas preocupações médicas e entender melhor sua saúde. Alguns contam com aplicativos questionáveis que utilizam IA para decidir se os genitais de alguém estão livres de doenças, por exemplo. E, mais recentemente, desde outubro, os usuários da rede social X foram incentivados a enviar suas radiografias, ressonâncias magnéticas e tomografias PET para o chatbot de IA Grok da plataforma, a fim de ajudar a interpretar seus resultados.

Os dados médicos são uma categoria especial com proteções federais que, na maior parte, somente você pode optar por contornar. Mas só porque você pode, não significa que deve. Defensores da segurança e privacidade alertam há muito tempo que qualquer dado sensível enviado pode ser utilizado para treinar modelos de IA e corre o risco de expor suas informações privadas e sensíveis no futuro.

Modelos de IA generativa são frequentemente treinados com os dados que recebem, sob a premissa de que os dados enviados ajudam a aprimorar a informação e a precisão das saídas do modelo. No entanto, nem sempre é claro como e para quais propósitos os dados enviados estão sendo utilizados, ou com quem os dados são compartilhados — e as empresas podem mudar de ideia. Você deve confiar nas empresas basicamente em sua palavra.

As pessoas já encontraram seus próprios registros médicos privados em conjuntos de dados de treinamento de IA — e isso significa que qualquer outra pessoa pode, incluindo prestadores de serviços de saúde, potenciais futuros empregadores ou agências governamentais. Além disso, a maioria dos aplicativos para consumidores não está coberta pela lei de privacidade da saúde dos EUA, HIPAA, oferecendo nenhuma proteção para os dados que você enviar.

O proprietário da X, Elon Musk, que em um post incentivou os usuários a enviar suas imagens médicas para o Grok, admitiu que os resultados do Grok ainda estão em “estágio inicial”, mas que o modelo de IA “se tornará extremamente bom”. Ao pedir aos usuários que enviem suas imagens médicas para o Grok, o objetivo é que o modelo de IA melhore ao longo do tempo e se torne capaz de interpretar exames médicos com precisão consistente. Quanto a quem tem acesso a esses dados do Grok, não está claro; como observado em outra parte, a política de privacidade do Grok afirma que o X compartilha algumas informações pessoais dos usuários com um número não especificado de empresas “relacionadas”.

É bom lembrar que o que vai para a internet nunca sai da internet.