OpenAI perde mais uma líder em pesquisa de segurança, Lilian Weng

Outra líder em pesquisa de segurança da OpenAI, Lilian Weng, anunciou na sexta-feira sua saída da startup. Weng atuou como VP de pesquisa e segurança desde agosto e, antes disso, liderava a equipe de sistemas de segurança da OpenAI.

Em uma publicação no X, Weng afirmou que “após 7 anos na OpenAI, sinto que estou pronta para me reinventar e explorar algo novo.” Weng mencionou que seu último dia será 15 de novembro, mas não especificou para onde irá a seguir.

“Tomei a decisão extremamente difícil de deixar a OpenAI,” disse Weng na publicação. “Olhando para o que conseguimos alcançar, estou muito orgulhosa de todos na equipe de Sistemas de Segurança e tenho uma confiança extremamente alta de que a equipe continuará prosperando.”

A saída de Weng é a mais recente em uma longa lista de pesquisadores de segurança de IA, pesquisadores de políticas e outros executivos que abandonaram a empresa no último ano, e vários deles acusaram a OpenAI de priorizar produtos comerciais em detrimento da segurança em IA. Weng se junta a Ilya Sutskever e Jan Leike – os líderes da agora dissolvida equipe Superalignment da OpenAI, que tentava desenvolver métodos para direcionar sistemas de IA superinteligentes – que também deixaram a startup este ano para trabalhar na segurança em IA em outros lugares.

Weng ingressou na OpenAI em 2018, de acordo com seu LinkedIn, trabalhando na equipe de robótica da startup, que acabou criando uma mão robótica capaz de resolver um cubo mágico – uma tarefa que levou dois anos para ser concluída, conforme menciona em sua postagem.

À medida que a OpenAI começou a focar mais no paradigma GPT, Weng também fez a transição para ajudar a construir a equipe de pesquisa em IA aplicada da startup em 2021. Após o lançamento do GPT-4, Weng foi encarregada de criar uma equipe dedicada para desenvolver sistemas de segurança para a startup em 2023. Hoje, a unidade de sistemas de segurança da OpenAI conta com mais de 80 cientistas, pesquisadores e especialistas em políticas, de acordo com a postagem de Weng.

Isso é um número significativo de profissionais de segurança em IA, mas muitos levantaram preocupações em torno do foco da OpenAI na segurança enquanto tenta construir sistemas de IA cada vez mais poderosos. Miles Brundage, um pesquisador de políticas de longa data, deixou a startup em outubro e anunciou que a OpenAI estava dissolvendo sua equipe de prontidão para AGI, da qual ele tinha sido conselheiro. No mesmo dia, o New York Times destacou um ex-pesquisador da OpenAI, Suchir Balaji, que disse ter deixado a OpenAI porque acreditava que a tecnologia da startup traria mais danos do que benefícios para a sociedade.

A OpenAI afirmou ao TechCrunch que executivos e pesquisadores de segurança estão trabalhando em uma transição para substituir Weng.

“Agradecemos profundamente as contribuições de Lilian para pesquisas de segurança inovadoras e para a construção de salvaguardas técnicas rigorosas,” disse um porta-voz da OpenAI em uma declaração enviada por e-mail. “Estamos confiantes de que a equipe de Sistemas de Segurança continuará desempenhando um papel fundamental em garantir que nossos sistemas sejam seguros e confiáveis, atendendo centenas de milhões de pessoas em todo o mundo.”

Outros executivos que deixaram a OpenAI nos últimos meses incluem a CTO Mira Murati, o diretor de pesquisa Bob McGrew e o VP de pesquisa Barret Zoph. Em agosto, o proeminente pesquisador Andrej Karpathy e o co-fundador John Schulman também anunciaram que deixariam a startup. Alguns desses profissionais, incluindo Leike e Schulman, migraram para um concorrente da OpenAI, a Anthropic, enquanto outros iniciaram seus próprios empreendimentos.