Os estados vão liderar o caminho na regulação da IA?

2024 foi um ano movimentado para os legisladores (e lobistas) preocupados com a IA — principalmente na Califórnia, onde Gavin Newsom sancionou 18 novas leis sobre IA, ao mesmo tempo em que vetou legislações de IA de grande destaque.

E 2025 pode ver igualmente muita atividade, especialmente em nível estadual, de acordo com Mark Weatherford. Weatherford tem, em suas próprias palavras, testemunhado a “fabricação de políticas e legislações” tanto em níveis estaduais quanto federais; ele atuou como Diretor de Segurança da Informação para os estados da Califórnia e Colorado, além de ter sido Secretário Adjunto para a Cibersegurança sob o presidente Barack Obama.

Weatherford disse que, nos últimos anos, ele teve diferentes cargos, mas seu papel geralmente se resume a descobrir “como elevamos o nível da conversa sobre segurança e privacidade para ajudar a influenciar como as políticas são feitas.” No outono passado, ele se juntou à empresa de dados sintéticos Gretel como vice-presidente de política e padrões.

Então, eu estava animado para conversar com ele sobre o que ele pensa que vem a seguir na regulação de IA e por que ele acredita que os estados provavelmente liderarão o caminho.

Esta entrevista foi editada para comprimento e clareza.

Esse objetivo de elevar o nível da conversa provavelmente ressoará com muitas pessoas na indústria de tecnologia, que talvez tenham assistido a audiências no congresso sobre mídias sociais ou tópicos relacionados no passado e ficaram chocadas ao ver o que alguns oficiais eleitos sabem e não sabem. Quão otimista você está de que os legisladores podem obter o contexto necessário para tomar decisões informadas sobre a regulação?

Bem, estou muito confiante de que eles podem chegar lá. O que me deixa menos confiante é o cronograma para isso. Você sabe, a IA está mudando diariamente. É impressionante para mim que as questões das quais estávamos falando apenas um mês atrás já tenham evoluído para algo diferente. Portanto, estou confiante de que o governo chegará lá, mas eles precisam de pessoas para guiá-los, equipá-los e educá-los.

No início desta semana, a Câmara dos Representantes dos EUA teve um grupo de trabalho que começou cerca de um ano atrás, um grupo de trabalho sobre inteligência artificial, e eles divulgaram seu relatório — bem, levaram um ano para fazer isso. É um relatório de 230 páginas; estou analisando agora. [Weatherford e eu conversamos pela primeira vez em dezembro.]

[Quando se trata da fabricação de políticas e legislações, você tem duas organizações muito partidárias diferentes, e elas estão tentando se unir para criar algo que agrade a todos, o que significa que tudo fica um pouco diluído. Isso simplesmente leva muito tempo, e agora, à medida que avançamos para uma nova administração, tudo está em aberto sobre quanta atenção certas coisas receberão ou não.]

Parece que sua visão é que podemos ver mais ações regulatórias em nível estadual em 2025 do que em nível federal. Está correto?

Acredito absolutamente que sim. Quero dizer, na Califórnia, penso que o governador [Gavin] Newsom, apenas nos últimos meses, assinou 12 peças de legislação relacionadas à IA. [Novamente, são 18, segundo a TechCrunch.] Ele vetou o grande projeto de lei sobre IA, que realmente exigiria que as empresas de IA investissem muito mais em testes e realmente desacelerariam as coisas.

Na verdade, fiz uma palestra em Sacramento ontem na Cúpula de Educação em Cibersegurança da Califórnia, e falei um pouco sobre a legislação que está acontecendo em todo os EUA, em todos os estados, e é algo como mais de 400 diferentes projetos de lei a nível estadual foram introduzidos apenas nos últimos 12 meses. Portanto, tem muito acontecendo por lá.

E eu acho que uma das grandes preocupações, uma preocupação grande na tecnologia em geral, e na cibersegurança, mas estamos vendo isso no lado da inteligência artificial agora, é que há uma necessidade de harmonização. Harmonização é a palavra que [o Departamento de Segurança Interna] e Harry Coker na [Casa Branca] de Biden têm usado para [se referir a]: Como harmonizamos todas essas regras e regulamentos em torno dessas diferentes coisas para que não tenhamos essa [situação] de cada um fazendo sua própria coisa, o que deixa as empresas loucas. Porque então eles têm que descobrir como cumprir todas essas diferentes leis e regulamentos em diferentes estados.

Eu realmente acho que haverá muita mais atividade no lado estadual, e espero que possamos harmonizá-las um pouco para que não haja esse conjunto tão diverso de regulamentos com os quais as empresas têm que cumprir.

Eu não tinha ouvido esse termo, mas essa seria a minha próxima pergunta: Imagino que a maioria das pessoas concordaria que a harmonização é um bom objetivo, mas existem mecanismos pelos quais isso está acontecendo? Que incentivo os estados têm para garantir que suas leis e regulamentos estejam alinhados uns com os outros?

Honestamente, não há muito incentivo para harmonizar regulamentos, exceto que eu posso ver a mesma linguagem surgindo em diferentes estados — o que, para mim, indica que todos estão observando o que os outros estão fazendo.

Mas, a partir de uma abordagem puramente estratégica, tipo “vamos tomar uma abordagem de plano estratégico em relação a isso entre todos os estados,” isso não vai acontecer, não tenho grandes esperanças de que aconteça.

Você acha que outros estados podem seguir a liderança da Califórnia em termos de abordagem geral?

Muitas pessoas não gostam de ouvir isso, mas a Califórnia realmente empurra os limites [na legislação de tecnologia] que ajuda as pessoas a avançar, porque eles fazem todo o trabalho pesado, fazem muita da pesquisa que entra em parte dessa legislação.

Os 12 projetos de lei que o governador Newsom acaba de aprovar foram abrangentes, abrangendo tudo, desde pornografia até o uso de dados para treinar sites, e tudo isso. Eles têm sido bastante abrangentes ao avançar nisso.

Embora minha compreensão seja que eles aprovaram medidas mais focadas e específicas e, em seguida, a maior regulação que recebeu mais atenção, o governador Newsom acabou vetando-a.

Eu consigo ver os dois lados. Há o componente de privacidade que estava impulsionando o projeto de lei inicialmente, mas então você precisa considerar o custo de fazer essas coisas e os requisitos que isso impõe às empresas de inteligência artificial para ser inovadoras. Portanto, há um equilíbrio aí.

Eu esperaria totalmente que [em 2025] a Califórnia vai aprovar algo um pouco mais rigoroso do que o que fizeram [em 2024].

E sua sensação é que, em nível federal, há certamente interesse, como o relatório da Câmara que você mencionou, mas não necessariamente será uma prioridade tão grande ou que veremos grandes legislações [em 2025]?

Bem, não sei. Depende de quanta ênfase o [novo] Congresso coloca. Acho que veremos. Quero dizer, você lê o que eu leio, e o que eu leio é que haverá uma ênfase em menos regulamentação. Mas a tecnologia, em muitos aspectos, certamente em torno da privacidade e cibersegurança, é uma questão bipartidária, é boa para todos.

Não sou um grande fã de regulamentação, há muita duplicação e muitos recursos desperdiçados que acontecem com tanta legislação diferente. Mas, ao mesmo tempo, quando a segurança e a proteção da sociedade estão em jogo, como está com a IA, eu acho que definitivamente há espaço para mais regulação.

Você mencionou que isso é uma questão bipartidária. Minha sensação é que, quando há uma divisão, nem sempre é previsível — não é apenas todos os votos republicanos contra todos os votos democratas.

Esse é um ótimo ponto. A geografia importa, quer gostemos ou não, e é por isso que lugares como a Califórnia estão realmente avançando em algumas de suas legislações em comparação com outros estados.

Obviamente, esta é uma área em que a Gretel atua, mas parece que você acredita, ou a empresa acredita, que à medida que há mais regulamentação, isso empurra a indústria na direção de mais dados sintéticos.

Talvez. Uma das razões pelas quais estou aqui é porque acredito que os dados sintéticos são o futuro da IA. Sem dados, não há IA, e a qualidade dos dados está se tornando cada vez mais uma questão, à medida que o pool de dados — ou se esgota ou encolhe. Haverá cada vez mais uma necessidade de dados sintéticos de alta qualidade que garantam privacidade e eliminem preconceitos e cuidem de todas essas questões não técnicas e questões mais suaves. Acreditamos que os dados sintéticos são a resposta para isso. Na verdade, estou 100% convencido disso.

Isto é menos diretamente sobre política, embora eu ache que tenha implicações de política, mas adoraria ouvir mais sobre o que o trouxe a esse ponto de vista. Eu acho que há outras pessoas que reconhecem os problemas que você está falando, mas pensam que os dados sintéticos podem potencialmente amplificar quaisquer preconceitos ou problemas que estavam nos dados originais, em vez de resolver o problema.

Claro, essa é a parte técnica da conversa. Nossos clientes sentem que resolvemos isso, e existe esse conceito do flywheel de geração de dados — que se você gerar dados ruins, isso se torna cada vez pior, mas inserindo controles nesse flywheel que valida que os dados não estão se tornando piores, que estão permanecendo iguais ou melhorando a cada vez que o flywheel passa. Esse é o problema que a Gretel resolveu.

Figuras alinhadas a Trump no Vale do Silício têm alertado sobre a “censura” da IA — os diversos pesos e guardrails que as empresas colocam ao redor do conteúdo criado pela IA generativa. Você acha que isso é algo que provavelmente será regulado? Deveria ser?

Quanto às preocupações sobre a censura da IA, o governo tem uma série de alavancas administrativas que pode acionar, e quando há um risco percebido para a sociedade, é quase certo que eles agirão.

No entanto, encontrar o ponto ideal entre moderação de conteúdo razoável e censura restritiva será um desafio. A nova administração deixou bem claro que “menos regulamentação é melhor” será a operação padrão, então, seja por meio de legislações formais ou ordens executivas, ou meios menos formais, como diretrizes e estruturas do [Instituto Nacional de Padrões e Tecnologia] ou declarações conjuntas por meio de coordenação interagencial, devemos esperar alguma orientação.

Quero voltar a essa questão de como seria uma boa regulação de IA. Há uma grande divergência em como as pessoas falam sobre IA, como se fosse salvar o mundo ou destruí-lo, como a tecnologia mais incrível, ou algo extremamente superestimado. Há tantas opiniões divergentes sobre o potencial da tecnologia e seus riscos. Como uma única peça ou até várias peças de regulação de IA podem abranger isso?

Acho que precisamos ter muito cuidado ao gerenciar a proliferação da IA. Já vimos com deepfakes e alguns dos aspectos realmente negativos, é preocupante ver jovens agora no ensino médio e até mais jovens gerando deepfakes que os colocam em problemas com a lei. Portanto, acho que há um espaço para legislação que controle como as pessoas podem usar a inteligência artificial de modo que não viole o que pode ser uma lei existente — criamos uma nova lei que reforça a lei atual, mas apenas levando em conta o componente de IA.

Acho que nós — aqueles de nós que estivemos no espaço da tecnologia — todos temos que nos lembrar de que muitas dessas coisas que consideramos naturais para nós, quando falo com membros da minha família e alguns amigos que não estão na tecnologia, eles literalmente não têm ideia do que estou falando na maioria das vezes. Não queremos que as pessoas sintam que o grande governo está regulamentando demais, mas é importante discutir essas coisas em uma linguagem que não técnicos possam entender.

Mas, por outro lado, você provavelmente pode perceber apenas conversando comigo que estou empolgado com o futuro da IA. Vejo tanta coisa boa vindo. Acho que teremos alguns anos difíceis, à medida que as pessoas se tornarem mais sintonizadas com isso e mais compreendam, e a legislação terá um lugar para, tanto permitir que as pessoas compreendam o que a IA significa para elas, quanto para colocar algumas barreiras em torno da IA.