Reino Unido remove 'segurança' de seu órgão de IA, agora chamado Instituto de Segurança da IA, e assina MOU com Anthropic.

O governo do Reino Unido deseja fazer uma mudança significativa para impulsionar sua economia e indústria com a IA, e como parte disso, está mudando uma instituição que foi fundada há pouco mais de um ano com um propósito muito diferente. Hoje, o Departamento de Ciência, Indústria e Tecnologia anunciou que irá renomear o Instituto de Segurança de IA para “Instituto de Segurança em IA.” (Mesmas letras iniciais: mesmo URL.) Com isso, o órgão passará a se concentrar menos em áreas como riscos existenciais e viés em grandes modelos de linguagem, focando na segurança cibernética, especificamente em “fortalecer as proteções contra os riscos que a IA representa para a segurança nacional e crimes.”

Juntamente com isso, o governo também anunciou uma nova parceria com a Anthropic. Nenhum serviço específico foi anunciado, mas o MOU indica que as duas partes irão “explorar” o uso do assistente de IA Claude, da Anthropic, nos serviços públicos; e a Anthropic buscará contribuir para trabalhos em pesquisa científica e modelagem econômica. No Instituto de Segurança em IA, irá fornecer ferramentas para avaliar as capacidades da IA no contexto da identificação de riscos de segurança.

“A IA tem o potencial de transformar a forma como os governos atendem seus cidadãos,” disse Dario Amodei, cofundador e CEO da Anthropic, em um comunicado. “Estamos ansiosos para explorar como o assistente de IA Claude da Anthropic poderia ajudar as agências do governo britânico a aprimorar os serviços públicos, com o objetivo de descobrir novas maneiras de tornar informações e serviços vitais mais eficientes e acessíveis aos residentes do Reino Unido.”

A Anthropic é a única empresa anunciada hoje — coincide com uma semana de atividades de IA em Munique e Paris — mas não é a única que está trabalhando com o governo. Uma série de novas ferramentas que foram reveladas em janeiro eram todas alimentadas pela OpenAI. (Na época, Peter Kyle, o secretário de Estado para Tecnologia, disse que o governo planejava trabalhar com várias empresas de IA fundamentais, e é isso que o acordo com a Anthropic está comprovando.)

A mudança do governo em relação ao Instituto de Segurança de IA — lançado há pouco mais de um ano com muito alarde — para Segurança em IA não deve ser uma grande surpresa.

Quando o novo governo trabalhista anunciou seu Plano de Mudança focado em IA em janeiro, foi notável que as palavras “segurança”, “dano”, “existencial” e “ameaça” não apareceram no documento.

Isso não foi um descuido. O plano do governo é iniciar investimentos em uma economia mais moderna, utilizando tecnologia e, especificamente, IA para isso. Quer trabalhar mais de perto com as grandes tecnologias e também deseja construir suas próprias grandes tecnologias nativas.

Para ajudar nisso, as principais mensagens que têm sido promovidas são desenvolvimento, IA e mais desenvolvimento. Os servidores públicos terão seu próprio assistente de IA chamado “Humphrey” e estão sendo incentivados a compartilhar dados e usar IA em outras áreas para acelerar como trabalham. Os consumidores receberão carteiras digitais para seus documentos governamentais e chatbots.

Então, os problemas de segurança da IA foram resolvidos? Não exatamente, mas a mensagem parece ser que eles não podem ser considerados em detrimento do progresso.

O governo afirmou que, apesar da mudança de nome, a essência permanecerá a mesma.

“As mudanças que estou anunciando hoje representam o próximo passo lógico em como abordamos o desenvolvimento responsável da IA – ajudando-nos a liberar a IA e crescer a economia como parte do nosso Plano de Mudança,” disse Kyle em um comunicado. “O trabalho do Instituto de Segurança em IA não mudará, mas esse foco renovado garantirá que nossos cidadãos – e os de nossos aliados – estejam protegidos daqueles que buscam usar a IA contra nossas instituições, valores democráticos e modo de vida.”

“O foco do Instituto desde o início tem sido a segurança e construímos uma equipe de cientistas focados na avaliação de riscos sérios para o público,” acrescentou Ian Hogarth, que permanece como presidente do instituto. “Nosso novo time de uso criminal e o aprofundamento da parceria com a comunidade de segurança nacional marcam a próxima etapa para enfrentar esses riscos.”

Mais longe, as prioridades definitivamente parecem ter mudado ao redor da importância da “Segurança em IA”. O maior risco que o Instituto de Segurança em IA nos EUA está contemplando atualmente é que ele será desmontado. O Vice-Presidente dos EUA, J.D. Vance, indicou isso anteriormente esta semana durante seu discurso em Paris.

A TechCrunch tem um boletim informativo focado em IA! Inscreva-se aqui para recebê-lo em sua caixa de entrada toda quarta-feira.