Um Chamado para os Pais

Um caso trágico na Flórida levantou sérias preocupações sobre os aplicativos de companheiros de IA e seu impacto em adolescentes vulneráveis.

Em um acontecimento de partir o coração, um adolescente tirou a própria vida após desenvolver um vínculo muito próximo (até íntimo) com um bot companheiro de IA da empresa Character.ai.

Esse incidente serve como um lembrete contundente para os pais em todo lugar: podemos estar negligenciando algumas considerações críticas de segurança em IA para crianças.

Para entender as implicações e o que os pais precisam saber, conversei com Paul Roetzer, fundador e CEO do Marketing AI Institute, no episódio 121 do The Artificial Intelligence Show.

Um Chamado Devastador

O caso que deu início a tudo isso envolve um jovem de 14 anos chamado Sewell Setzer, que tirou a própria vida após desenvolver um profundo apego emocional a um chatbot na plataforma Character.ai, que permite aos usuários criar e interagir com personalidades de IA. A plataforma, adquirida recentemente pelo Google, agora enfrenta uma ação judicial.

O adolescente passou meses se comunicando intensamente com um chatbot modelado após um personagem de Game of Thrones, compartilhando seus sentimentos e medos mais profundos, eventualmente discutindo pensamentos suicidas. A ação judicial de sua mãe argumenta que a “tecnologia perigosa e não testada” da Character.ai permitiu que seu filho se tornasse emocionalmente dependente de um companheiro de IA sem salvaguardas adequadas.

Este não é um problema isolado. A Character.ai alcança dezenas de milhões de usuários anualmente, com uma grande parte de sua base de usuários na faixa etária de 18 a 24 anos. E a Character.ai é apenas um dos muitos sites e serviços que oferecem acesso a companheiros de IA realistas.

Isso levanta a questão: dada a velocidade vertiginosa da inovação em IA, como os pais podem acompanhar e garantir que seus filhos permaneçam seguros à medida que a IA permeia cada vez mais escolas e a vida social?

Apresentando o Kid Safe GPT para Pais

Roetzer, um especialista em IA, também tem um filho de 12 anos e uma filha de 11 anos, portanto, a segurança online das crianças é uma de suas principais prioridades como pai. Mas isso nem sempre é fácil, ele diz.

“Como pai que está bastante familiarizado com tudo, muitas vezes me sinto completamente perdido sobre como gerenciar a segurança deles online,” diz ele.

Ele fez um bom trabalho navegando e documentando as diferentes contas e configurações em cada plataforma ou jogo. Mas mesmo assim, plataformas e jogos populares, como Roblox, Minecraft e YouTube, podem ser confusos e mudam frequentemente (sem falar no novo e imprevisível mundo dos companheiros de IA).

“Li [a história sobre Setzer] na manhã de quarta-feira e fiquei devastado. E então pensei: espera um segundo,” diz Roetzer. “O que precisamos fazer é ter os pais cientes desses riscos. Precisamos ser capazes de ter conversas.”

Mas conversar com os filhos em determinados momentos pode ser difícil. E realmente criar diretrizes para diferentes aplicativos, sites e jogos, muitos dos quais os pais não entendem completamente, pode ser ainda mais complicado.

“Pensei imediatamente: espera, isso é uma coisa de GPT customizado,” diz ele.

Em cerca de 30 minutos, ele construiu Kid Safe GPT para Pais, um consultor de segurança online para ajudar os pais a entender e gerenciar os riscos que seus filhos podem encontrar online.

O objetivo do GPT é educar os pais sobre os riscos associados às interações digitais—desde jogos a redes sociais—e fornecer orientação proativa para ajudar a proteger a saúde mental e a segurança de suas crianças.

O Kid Safe GPT oferece conselhos práticos, suporte empático e estratégias personalizadas para encorajar hábitos digitais saudáveis para as famílias.

(E é completamente gratuito para usar com uma conta ChatGPT.)

Não é de forma alguma um substituto para orientações e suporte especializados, diz Roetzer. Também sofre com as falhas do ChatGPT, incluindo a alucinação de informações.

Mas é uma grande ajuda se você se sentir confuso ou sobrecarregado ao tentar proteger seus filhos online. O Kid Safe GPT pode ajudá-lo a entender riscos específicos de certas plataformas, facilitar conversas saudáveis com seus filhos e até criar diretrizes para um comportamento online seguro.

“A realidade é que estamos entrando em um mundo muito indefinido de como ser pai,” diz Roetzer. “E assim, minha esperança é que o Kid Safe GPT seja pelo menos um ponto de partida para as pessoas pensarem sobre isso.”

Clique abaixo para experimentar o Kid Safe GPT por conta própria.