Yoshua Bengio lança o LawZero, um laboratório sem fins lucrativos de segurança em IA.

O vencedor do Prêmio Turing, Yoshua Bengio, está lançando um laboratório de segurança em IA sem fins lucrativos chamado LawZero para desenvolver sistemas de IA mais seguros, informou ele ao Financial Times na segunda-feira.

A LawZero arrecadou US$ 30 milhões em contribuições filantrópicas de Jaan Tallinn, engenheiro fundador do Skype, do ex-chefe do Google Eric Schmidt, da Open Philanthropy e do Future of Life Institute, entre outros. O nome LawZero é uma referência a um conceito de ficção científica: a Zeroth Law of Robotics, que estabelece a proteção da humanidade acima de tudo.

Bengio, considerado um dos “padrinhos” do boom da IA moderna, tornou-se um dos defensores mais proeminentes do movimento pela segurança da IA. Ele apoiou publicamente o SB 1047, o polêmico projeto de lei da Califórnia sobre segurança em IA, que visa evitar que sistemas de IA causem cenários catastróficos.

Em uma entrevista ao Financial Times, Bengio declarou que tinha pouca confiança de que a OpenAI e o Google priorizariam a segurança enquanto competem em direção a sistemas de IA mais inteligentes.