A corrida do ouro da IA: Por que riscos e recompensas continuam a ser um ato de equilíbrio

Apresentado pela Stibo Systems

Na corrida para capitalizar o potencial transformador da IA, as empresas podem estar correndo grandes riscos com o futuro de suas organizações ao implantar soluções de IA sem considerar plenamente as implicações éticas, de governança e de segurança.

Um estudo recente da provedora global de soluções SaaS Stibo Systems, “IA: O Jogo de Alto Risco para Empresas,” revelou que 49% dos líderes empresariais admitem que não estão preparados para usar a IA de maneira responsável, 79% das organizações não possuem políticas e práticas de mitigação de viés em vigor, e 54% das organizações não implementaram novas medidas de segurança para acompanhar a integração de IA — mas apenas 32% dos líderes empresariais admitem que apressaram a adoção de IA.

As lacunas em alfabetização, uso ético e preparação organizacional são preocupações críticas, diz Gustavo Amorim, CMO da Stibo Systems, mas é um ato de equilibrar.

“As empresas precisam adotar a IA para se manterem competitivas — para perceber os grandes benefícios, como eficiência, maior produtividade, redução de custos e maior inovação,” diz Amorim. “Mas na necessidade de avançar, elas muitas vezes deixam a prontidão dos negócios e da organização de lado.”

Parte da onda de adoção vem de uma mudança na maneira como os líderes empresariais estão vendo a IA — hoje, é amplamente considerada como um facilitador geral: quase 90% dos líderes empresariais pesquisados disseram que estão ansiosos para usar a tecnologia como parceira na tomada de decisões críticas.

“Não é que os líderes não vejam os riscos ou não reconheçam que existem alguns riscos envolvidos,” ele explica. “É que já vimos os benefícios comerciais de curto prazo até este ponto, e os riscos e implicações de longo prazo ainda não se materializaram para muitas organizações. Mas o custo é alto, incluindo danos à reputação, penalidades regulatórias e a erosão de confiança entre clientes e partes interessadas.”

Onde a gestão da mudança falha na adoção de tecnologia

Os três pilares da prontidão dos negócios e da gestão da mudança são tecnologia, pessoas e processos. Do ponto de vista da IA, tornou-se muito mais fácil e rápido implementar uma ferramenta de IA, ativar e, em seguida, considerar as potenciais consequências. Analisar os dados para garantir que sejam justos e livres de viés, e totalmente seguros em todo o pipeline de IA, exige um grande esforço e tempo de gestão de mudanças. Infelizmente, esses dados e como são usados também são fundamentais para os resultados que uma iniciativa de IA produz.

“As empresas não estão necessariamente tomando as medidas e o tempo para garantir que essas coisas sejam feitas em paralelo com a adoção,” diz Amorim. “Mudar um processo interno ou treinar as pessoas que irão usar a tecnologia, dando-lhes as habilidades necessárias para eliminar viés e incorporar tratamento justo e privacidade de dados no DNA de uma estratégia, é um enorme obstáculo.”

A governança, também, é um desafio e muitas vezes é negligenciada. Sem estabelecer padrões e processos em torno da gestão dos insumos e resultados, em vez de funcionar em paralelo com outros processos empresariais e se tornar uma parte regular de como os negócios são feitos, os resultados se tornam um problema a ser gerenciado.

Todas essas questões impactam como os dados dos clientes são usados na IA, por exemplo — aumentando significativamente o potencial para problemas como uso de dados não-compliant ou violações de dados. No entanto, o estudo da Stibo Systems mostra que essas não são atualmente grandes preocupações para a maioria dos líderes empresariais, e eles não tomaram essas etapas preliminares. A adoção da IA simplesmente está superando o desenvolvimento de diretrizes éticas, 61% dos líderes relatam, enquanto 49% dizem que não estão preparados para usar a IA de maneira responsável, embora 65% se sintam confiantes em suas habilidades de alfabetização em IA. Infelizmente, essa confiança em sua preparação não se reflete nas políticas e procedimentos de IA de suas organizações. Por exemplo, 69% das organizações não implementaram nenhum treinamento em governança de dados como parte de sua estratégia de IA.

Alfabetização em IA: a base de uma estrutura ética

Os dados são a base da IA, mas os humanos permanecem o elemento mais importante de uma estratégia de IA desde o começo. Os modelos são criados por humanos, e os humanos são responsáveis por escolher e preparar os dados necessários para treinar esses modelos, os dados que levam a conclusões e resultados. Mas a alfabetização em IA também inclui as implicações comerciais da tecnologia e entender que tipos de processos de negócios podem ser executados, como podem ser executados de forma justa e precisa, e que eles estão em conformidade com as políticas internas de uma empresa.

E porque é uma tecnologia que está evoluindo a uma velocidade vertiginosa, e que se auto-aprende, adapta-se e se torna mais inteligente com base nos dados que recebe, você nunca termina. Parte da alfabetização em dados inclui analisar continuamente os resultados em relação a certos critérios, que evoluirão tão rapidamente quanto.

A alfabetização em IA e a prontidão organizacional, como a maioria das iniciativas tecnológicas, começam de cima para baixo. Não é apenas o patrocínio de iniciativas de IA, mas sim o nível executivo superior se envolvendo ativamente com o assunto, oferecendo educação sobre como a IA é incorporada no dia a dia dos processos de negócios de uma organização e dando exemplo sobre a importância da IA responsável.

“Essa geralmente não é uma conversa com a qual a maioria dos executivos seniores se envolverá,” diz Amorim. “Imagine um CMO, um CFO ou um CEO falando sobre viés de dados e como isso pode se tornar um risco corporativo para a organização,” ele diz. “Não é uma agenda comum, razão pela qual é ideal começar daí.”

A partir daí, é uma questão de transformar isso em ação, estabelecendo equipes multifuncionais que possam desenvolver políticas, padrões e diretrizes.

“Quase toda empresa tem diretrizes e padrões sobre o uso de mídias sociais no local de trabalho, mas nem todas as empresas têm diretrizes sobre como você deve usar a IA — e isso é essencial,” diz Amorim.

Artigos patrocinados são conteúdos produzidos por uma empresa que está pagando pela postagem ou tem um relacionamento comercial com a VentureBeat, e estão sempre claramente marcados. Para mais informações, entre em contato sales@venturebeat.com.