Como os Jardins Murados na Segurança Pública Estão Expondo a Crise de Privacidade de Dados nos EUA

A Fronteira em Expansão da IA e os Dados que Ela Exige

A inteligência artificial está mudando rapidamente como vivemos, trabalhamos e governamos. Na saúde pública e em serviços públicos, as ferramentas de IA prometem mais eficiência e decisões mais rápidas. Mas, por trás dessa transformação, há um desequilíbrio crescente: nossa capacidade de coletar dados superou nossa habilidade de governá-los de forma responsável.

Isso vai além de um desafio tecnológico, tornando-se uma crise de privacidade. Desde softwares de policiamento preditivo até ferramentas de vigilância e leitores automáticos de placas, dados sobre indivíduos estão sendo acumulados, analisados e utilizados em uma velocidade sem precedentes. E, no entanto, a maioria dos cidadãos não tem ideia de quem possui seus dados, como eles estão sendo usados ou se estão sendo protegidos.

Eu vi isso de perto. Como ex-Agente Especial de Cibersegurança do FBI e agora CEO de uma empresa líder em tecnologia de segurança pública, trabalhei tanto no setor público quanto no privado. Uma coisa é clara: se não consertarmos a maneira como lidamos com a privacidade dos dados agora, a IA só piorará os problemas existentes. E um dos maiores problemas? Jardins fechados.

O que são Jardins Fechados e Por que Eles São Perigosos na Segurança Pública?

Jardins fechados são sistemas fechados onde uma empresa controla o acesso, o fluxo e o uso dos dados. Eles são comuns em publicidade e redes sociais (pense em plataformas como Facebook, Google e Amazon), mas estão surgindo cada vez mais na segurança pública também.

As empresas de segurança pública desempenham um papel fundamental na infraestrutura moderna de policiamento; no entanto, a natureza proprietária de alguns desses sistemas significa que nem sempre são projetados para interagir de forma fluida com ferramentas de outros fornecedores.

Esses jardins fechados podem oferecer funcionalidades poderosas, como gravações de câmeras corporais baseadas em nuvem ou leitores automáticos de placas, mas também criam um monopólio sobre como os dados são armazenados, acessados e analisados. As agências de aplicação da lei frequentemente se encontram presas a contratos de longo prazo com sistemas proprietários que não se comunicam entre si. O resultado? Fragmentação, insights isolados e incapacidade de responder efetivamente à comunidade quando mais importa.

O Público Não Sabe, e Isso É um Problema

A maioria das pessoas não percebe o quanto de suas informações pessoais está sendo inserido nesses sistemas. Em muitas cidades, sua localização, veículo, atividade online e até mesmo estado emocional podem ser inferidos e rastreados por meio de um mosaico de ferramentas impulsionadas por IA. Essas ferramentas podem ser comercializadas como melhorias para combate ao crime, mas na ausência de transparência e regulamentação, elas podem facilmente ser mal utilizadas.

E não se trata apenas da existência dos dados, mas que eles existem em ecossistemas fechados controlados por empresas privadas com supervisão mínima. Por exemplo, ferramentas como leitores de placas estão em milhares de comunidades nos EUA, coletando dados e alimentando sua rede proprietária. As repartições policiais muitas vezes não possuem o equipamento, apenas o alugam, o que significa que o fluxo de dados, a análise e os alertas são ditados por um fornecedor, e não por consenso público.

Por Que Isso Deveria Acender Sinais de Alerta

A IA precisa de dados para funcionar. Mas quando os dados estão trancados em jardins fechados, não podem ser cruzados, validados ou questionados. Isso significa que decisões sobre quem é parado, onde os recursos são enviados ou quem é sinalizado como uma ameaça estão sendo tomadas com base em informações parciais, às vezes imprecisas.

O risco? Decisões erradas, possíveis violações de direitos civis e um crescente abismo entre as departamentos de polícia e as comunidades que servem. A transparência se erosiona. A confiança se desvanece. E a inovação é sufocada, porque novas ferramentas não podem entrar no mercado a menos que se conformem às restrições desses sistemas fechados.

Em um cenário onde um sistema de reconhecimento de placas erroneamente sinaliza um veículo roubado com base em dados desatualizados ou compartilhados, sem a capacidade de verificar essas informações entre plataformas ou auditar como essa decisão foi tomada, os agentes podem agir com falsos positivos. Já vimos incidentes em que tecnologia falha levou a prisões injustas ou confrontos escalados. Esses resultados não são hipotéticos; estão acontecendo em comunidades em todo o país.

O que a Polícia Realmente Precisa

Em vez de trancar dados, precisamos de ecossistemas abertos que apoiem o compartilhamento de dados seguro, padronizado e interoperável. Isso não significa sacrificar a privacidade. Pelo contrário, é a única maneira de garantir que as proteções de privacidade sejam respeitadas.

Algumas plataformas estão trabalhando nesse sentido. Por exemplo, FirstTwo oferece ferramentas de conscientização situacional em tempo real que enfatizam a integração responsável de dados disponíveis publicamente. Outros, como a ForceMetrics, estão focados em combinar conjuntos de dados díspares, como chamadas para o 911, registros de saúde comportamental e histórico de incidentes anteriores para fornecer melhores contextos aos oficiais em campo. Mas, crucialmente, esses sistemas são construídos com as necessidades de segurança pública e o respeito à comunidade como prioridade, não como um pensamento posterior.

Construindo uma Infraestrutura com Foco em Privacidade

Uma abordagem focada na privacidade significa mais do que redigir informações sensíveis. Significa limitar o acesso aos dados a menos que haja uma necessidade legal clara. Significa documentar como as decisões são tomadas e permitir auditorias de terceiros. Significa fazer parcerias com partes interessadas da comunidade e grupos de direitos civis para moldar políticas e implementações. Essas medidas resultam em segurança fortalecida e legitimidade geral.

Apesar dos avanços tecnológicos, ainda estamos operando em um vácuo legal. Os EUA não possuem uma legislação federal abrangente sobre privacidade de dados, deixando agências e fornecedores a inventar as regras conforme avançam. A Europa possui o GDPR, que oferece um roadmap para uso e responsabilidade de dados baseado em consentimento. Os EUA, em contraste, possuem um mosaico fragmentado de políticas estaduais que não abordam adequadamente as complexidades da IA em sistemas públicos.

Isso precisa mudar. Precisamos de padrões claros e aplicáveis sobre como as organizações de segurança pública coletam, armazenam e compartilham dados. E precisamos incluir as partes interessadas da comunidade na conversa. Consentimento, transparência e responsabilidade devem ser incorporados em todos os níveis do sistema, desde a aquisição até implementação e uso diário.

A Conclusão: Sem Interoperabilidade, a Privacidade Sofre

Na segurança pública, vidas estão em jogo. A ideia de que um único fornecedor poderia controlar o acesso a dados críticos para a missão e restringir como e quando eles são usados não é apenas ineficiente. É antiético.

Precisamos ir além do mito de que a inovação e a privacidade estão em desacordo. A IA responsável significa sistemas mais equitativos, eficazes e responsáveis. Significa rejeitar o aprisionamento de fornecedores, priorizar a interoperabilidade e exigir padrões abertos. Porque em uma democracia, nenhuma empresa deve controlar os dados que determinam quem recebe ajuda, quem é parado ou quem é deixado para trás.