Mulheres na IA: Tamar Eilam está ajudando a IBM a desenvolver computação sustentável.

Para dar às mulheres acadêmicas focadas em IA e a outros o tempo que merecem — e que já era devido — TechCrunch está lançando uma série de entrevistas que destacam mulheres notáveis que contribuíram para a revolução da IA.

Tamar Eilam trabalha na IBM há 24 anos. Ela é atualmente uma colega da IBM, atuando como cientista-chefe em computação sustentável para ajudar equipes a reduzir o consumo de energia em suas atividades. O que ela mais se orgulha de ter trabalhado é em um projeto de código aberto chamado Kepler, que ajuda a quantificar o consumo de energia de uma única aplicação containerizada.

De muitas maneiras, ela esteve à frente da curva: O consumo de energia se tornou um dos tópicos mais importantes na indústria à medida que essa revolução da IA avança. A IA utiliza uma quantidade enorme de recursos naturais; tanto o treinamento quanto o uso da IA são intensivos em energia. Um relatório da Goldman Sachs deste ano afirmou que uma busca no ChatGPT requer 10 vezes mais eletricidade para ser processada em comparação com a Busca do Google. A IA deve aumentar a demanda de energia dos data centers em 160% no curto prazo, segundo o relatório. 

É isso que Eilam está tentando mitigar na IBM.

“É necessário haver um foco na sustentabilidade em geral”, contou Eilam ao TechCrunch. “Temos um problema, mas também temos uma oportunidade.”

A questão da energia

Eilam acredita que a indústria está presa em um dilema. A IA tem o potencial de tornar as indústrias mais sustentáveis, mesmo que no momento a tecnologia em si seja um dreno de recursos, afirmou. 

Na verdade, a computação e a IA podem ajudar a descarbonizar a rede elétrica, disse ela. Atualmente, a rede depende parcialmente de energias renováveis, como água, sol e vento: recursos que variam em preço e disponibilidade. Isso significa que os data centers alimentados por essas fontes lutam para garantir um serviço consistente (em termos de preço e fonte de energia) aos consumidores. “Ao fazer com que a rede funcione em conjunto com a computação, transferindo ou reduzindo cargas de trabalho, podemos realmente ajudar na descarbonização”, afirmou.

Mas os recursos naturais não são sua única preocupação. “Pense em quantos chips estamos fabricando e nos custos de carbono e materiais tóxicos que vão para a fabricação desses chips,” disse ela sobre a indústria.

Ela mantém todos esses problemas em mente na IBM e diz que tenta abordar a IA sustentável de maneira holística ao buscar soluções para eles. Por exemplo, ela menciona que a IBM lidera um programa patrocinado pela Fundação Nacional de Ciência para identificar onde existem produtos químicos eternos nos chips de IA, para que a empresa possa acelerar a descoberta de novos materiais para substituí-los.

Quando se trata de operações, ela aconselha as equipes sobre como treinar modelos de IA de maneira a economizar energia. “Usando menos dados, mas também dados de alta qualidade, você irá convergir mais rapidamente para uma solução mais precisa,” disse ela.

Para ajustes finos, ela menciona que a IBM possui uma técnica de decodificação especulativa para melhorar a eficiência da inferência. “Então você vai descendo a pilha,” continuou. “Temos nossa própria plataforma, então estamos construindo muita otimização relacionada a como você implanta esses modelos em aceleradores.”

Ela afirma que a IBM acredita em abertura e heterogeneidade, sendo que isso significa que não existe uma solução única para todos os modelos. “É por isso que liberamos o Granite em vários tamanhos diferentes, porque dependendo do seu caso de uso, você vai escolher o tamanho certo para você, que custará potencialmente menos e atenderá às suas necessidades, e você consumirá menos energia.”

Eles incorporam a observabilidade para quantificar tudo, incluindo consumo de energia, latência e throughput, disse ela. Ela vê seu trabalho como cada vez mais importante, especialmente porque espera que mais pessoas confiem que os modelos da IBM estão oferecendo maneiras de computação eficazes e sustentáveis. “O que estamos dizendo a eles é ‘Ei, não comece do zero,’” disse ela. “Pegue o Granite e agora você o ajusta. Você sabe quanto energia você economizou porque não começou do zero?” continuou.

“A razão pela qual eles querem começar do zero desenvolvendo seus próprios modelos é que não confiam no que está disponível. Porque você não sabe quais dados foram inseridos no treinamento e talvez você esteja violando alguma propriedade intelectual,” disse ela. “Temos indenização de propriedade intelectual para todos os nossos modelos, porque podemos dizer exatamente quais dados foram usados, e vamos assegurar que não há violação de propriedade intelectual. Então, é aí que estamos dizendo ‘Ei, você pode confiar em nossos modelos.’”

Uma mulher na IA

O histórico de Eilam é em computação em nuvem distribuída, mas em 2019, ela participou de uma conferência de software onde uma das palestras principais foi sobre mudanças climáticas. “Eu não conseguia parar de pensar em sustentabilidade desde que saí da palestra,” disse ela.

Assim, ela uniu o clima e a computação e se propôs a fazer uma mudança. Mas ao se aprofundar na IA, ela frequentemente era a única mulher na sala. Ela disse que aprendeu muito sobre preconceitos inconscientes, que ambos os sexos têm de maneiras diferentes. “Penso muito sobre criar consciência,” disse ela, especialmente como mulher em uma posição de liderança.

Ela co-liderou um workshop na pesquisa da IBM há alguns anos, conversando com mulheres sobre esses tipos de preconceitos, como o fato de que mulheres não se candidatarão a um emprego mesmo que tenham mais de 70% das qualificações, enquanto homens se candidatarão mesmo com menos de 50%. Ela tem alguns conselhos para mulheres que estão iniciando suas próprias jornadas profissionais: Nunca tenha medo de ter opiniões e expressá-las.

“Persista, persista. Se eles não ouviram, diga isso outra vez, e mais uma vez. Esse é o melhor conselho que posso dar.”

O que o futuro reserva

Eilam pensa que os investidores devem olhar para startups que são transparentes sobre suas inovações.

“Eles estão divulgando suas fontes de dados?” disse ela, acrescentando que isso também se aplica a se uma empresa está compartilhando quanto energia sua IA consome. Ela também afirma que é importante que os investidores notem se uma startup possui alguma estrutura de proteção que pode ajudar a prevenir cenários de alto risco.

Ela também é a favor de mais regulamentações, mesmo que isso possa ser complicado, pois a tecnologia pode ser bastante complexa, disse. O primeiro passo, no entanto, volta à transparência — ser capaz de explicar o que está acontecendo e ser honesto sobre o impacto que terá.

“Se a explicabilidade não estiver presente, e então estivermos usando [IA] sem consequências para o futuro potencial das pessoas, há um problema aqui,” disse ela.

Essa matéria foi atualizada.

TechCrunch possui um boletim informativo focado em IA! Inscreva-se aqui para recebê-lo em sua caixa de entrada todas as quartas-feiras.