Esta Semana em IA: Comissão do Congresso alerta sobre AGI da China

Oi, pessoal, bem-vindos ao boletim informativo regular de IA da TechCrunch. Se você deseja recebê-lo em sua caixa de entrada todas as quartas-feiras, inscreva-se aqui.

A guerra de IA da América com a China está se intensificando — ou pelo menos, a retórica em torno disso.

Na terça-feira, uma comissão do Congresso dos EUA propôs um esforço ao estilo do “Projeto Manhattan” para financiar o desenvolvimento de sistemas de IA com inteligência humana — ou super-humana.

Em seu relatório anual, a Comissão de Revisão Econômica e de Segurança EUA-China (USCC) recomendou que os formuladores de políticas autorizassem financiamento para “empresas líderes em IA, nuvem e centros de dados”, e directs the U.S. Secretary of Defense to ensure AI development has “national priority.”

“Ao longo da história, vimos que os países que são os primeiros a explorar períodos de rápida mudança tecnológica podem frequentemente provocar mudanças no equilíbrio de poder global,” citou o comissário da USCC, Jacob Helberg. “A China está se apressando em direção à [superinteligência em IA]. … É crucial que a levemos extremamente a sério.”

A USCC, estabelecida pelo Congresso para fornecer recomendações sobre as relações EUA-China, tende a ser agressiva em suas propostas. Mas a comissão não está sozinha ao advogar por ações mais agressivas para desacelerar as ambições tecnológicas da China.

A secretária de Comércio, Gina Raimondo, por exemplo, sugeriu que os EUA compartilhem tecnologia de IA com aliados estrangeiros para combater a ascensão da China. Funcionários do Departamento de Defesa, por sua vez, pediram por salvaguardas para impedir o vazamento de tecnologia para a China por meio de centros de dados e fornecedores de chips no exterior.

Os EUA já adotaram uma série de políticas destinadas a conter o progresso da IA na China, incluindo proibições de exportação de infraestrutura de hardware e investimentos em tecnologia de IA na região. A China já contornou algumas dessas. Mas os impactos têm sido palpáveis — e abrangentes. Para dar um exemplo, o acesso da China aos chips mais sofisticados necessários para treinar IA, incluindo GPUs de próxima geração, foi completamente cortado.

E à luz disso, as declarações da USCC parecem um pouco exageradas.

Não está claro como seria uma IA superinteligente. Mas, assumindo por um momento que envolve os chamados modelos de raciocínio, como alguns sugerem, os laboratórios chineses parecem estar atrasados, e não liderando. De acordo com uma análise, os modelos das principais empresas chinesas estão cerca de seis a nove meses atrás de seus homólogos nos EUA.

Precisamos considerar a possibilidade de que as recomendações da USCC sejam auto-interessadas. Helberg é um conselheiro sênior do CEO da Palantir, uma empresa com muitos contratos de defesa em IA. E, naturalmente, o financiamento governamental para IA beneficiaria as empresas de IA dos EUA.

Dito isso, os chamados por um programa ao estilo do Projeto Manhattan para IA superinteligente parecem mais alarmistas do que qualquer coisa.

Notícias

IA no Ignite: A Microsoft anunciou uma série de produtos de IA durante o Microsoft Ignite 2024 na terça-feira, incluindo um clonador de voz e uma plataforma de desenvolvimento de IA chamada Azure AI Foundry.

Modo de Voz Avançado na web: A OpenAI expandiu o recurso Modo de Voz Avançado do ChatGPT para a web, permitindo que os usuários conversassem com o chatbot de IA diretamente em seus navegadores de desktop.

Agência de notícias indiana processa OpenAI: A propósito da OpenAI, uma das maiores agências de notícias da Índia, a Asian News International, processou a startup em um caso que pode estabelecer precedentes sobre o uso de conteúdo noticioso protegido por direitos autorais.

Gemini ganha memória: O chatbot Gemini do Google agora pode lembrar informações sobre sua vida, trabalho e preferências pessoais durante as conversas.

Reino Unido aprova investimento na Anthropic: A Autoridade de Concorrência e Mercados do Reino Unido aprovou a parceria e investimento da Alphabet na rival de IA Anthropic, concluindo que não se qualifica para investigação sob as atuais regras de fusão.

Perplexity lança funcionalidade de compras: O motor de busca alimentado por IA, Perplexity, lançou um recurso que oferece recomendações de comércio eletrônico, além da capacidade de fazer pedidos sem navegar até o site de um varejista. Parece que a Stripe está fazendo o trabalho pesado aqui, no entanto.

Altman se junta à equipe de SF: O prefeito eleito de San Francisco, Daniel Lurie, convocou o CEO da OpenAI, Sam Altman, para ajudar a liderar sua equipe de transição. Juntamente com outros nove líderes de San Francisco, Altman fornecerá orientações para a equipe de Lurie sobre como a cidade pode inovar.

Novos modelos da Mistral: A startup francesa de IA Mistral lançou novos produtos e ferramentas importantes esta semana, incluindo um recurso “canvas” em sua plataforma de chatbot que permite aos usuários transformar e editar conteúdo, como maquetes de sites.

Artigo de pesquisa da semana

O Instituto de Segurança de IA do Reino Unido, um órgão do governo britânico que estuda os riscos em sistemas de IA, divulgou seu primeiro artigo acadêmico, que propõe uma forma de os desenvolvedores de IA demonstrarem que seus modelos não representam “riscos cibernéticos inaceitáveis”.

No artigo, os co-autores do Instituto de Segurança em IA observam que “casos de segurança” — argumentos estruturados e fundamentados sobre por que os riscos associados a um modelo são aceitáveis — estão ganhando atenção. No entanto, não existe uma metodologia de caso de segurança “disponível prontamente” para IA de fronteira.

Os co-autores propõem um template de caso de segurança focado em capacidades cibernéticas, que eles afirmam ter riscos de curto prazo bem estabelecidos. O template é projetado para informar decisões de implantação, dizem eles, incluindo se devem iniciar ou continuar o treinamento de um modelo.

“Esse template serve como uma prova de conceito,” escreveram os co-autores. “Não garante segurança; algumas das alegações em nosso template podem não se sustentar na realidade, invalidando a conclusão. No entanto, esperamos que até mesmo esses casos de segurança imperfeitos sirvam para aumentar o nível de rigor na reflexão sobre decisões de desenvolvimento ou implantação.”

Modelo da semana

A Suno, a polêmica startup de música generativa, lançou seu mais recente modelo de geração de música hoje, o Suno v4.

A Suno afirma que o v4, que está disponível apenas para os usuários pagantes da plataforma, entrega áudio mais nítido, melhores letras e estruturas de canções “mais dinâmicas” do que seu antecessor, o v3. O v4 agora alimenta o recurso Covers da empresa, que “reimagina” áudio enviado, e Personas, que captura os vocais, estilo e “vibe” de uma faixa e leva isso para outras criações.

É notável, de muitas maneiras, que a Suno esteja avançando, dado que está sendo processada por três grandes gravadoras alegando violação de direitos autorais. A Sony Music Entertainment, a Universal Music Group e a Warner Music Group processaram a Suno e a empresa concorrente Udio neste verão, alegando que as duas treinaram seus modelos com música sem permissão.

Em suas respostas aos processos, a Suno e a Udio mais ou menos admitiram que seus modelos podem ter ingerido música protegida por direitos autorais durante o treinamento — mas argumentaram que a doutrina de uso justo sob a lei de direitos autorais dos EUA as protege.

Diversos

A HarperCollins fechou um acordo de licenciamento de dados de três anos com a Microsoft para permitir que o gigante da tecnologia treine sua IA com as obras de não-ficção da editora.

A HarperCollins, cuja empresa-mãe, a News Corp., já possui um acordo semelhante com a OpenAI, afirma que os autores terão que optar por participar e que o acordo cobre apenas “títulos selecionados de não-ficção do catálogo anterior”.

Os autores não estão satisfeitos — e isso não ajudou que os pagamentos oferecidos pela HarperCollins são irrisórios. Um autor, Daniel Kibblesmith, diz que lhe foi oferecido um pagamento fixo de $2.500 por livro.

“Eu provavelmente faria isso por um bilhão de dólares,” Kibblesmith escreveu em uma postagem na terça-feira. “Eu faria por um valor que não me obrigasse a trabalhar mais, já que esse é o objetivo final dessa tecnologia.”