Roblox atualiza seus sistemas de segurança e controles parentais sob pressão externa

Pressionada por críticas, Roblox anunciou atualizações em seus sistemas de segurança e controles parentais hoje para proteger as crianças.

Em um post no blog, Matt Kaufman, diretor de segurança da Roblox, afirmou que as atualizações vão proteger melhor os usuários mais jovens da plataforma e fornecer ferramentas fáceis de usar para dar aos pais e cuidadores mais controle e clareza sobre o que seus filhos fazem no Roblox.

Essas ações vêm enquanto a Roblox é alvo de várias críticas na mídia, incluindo uma matéria da Bloomberg que destacou “o problema de pedofilia na Roblox.” A segurança é um tema muito importante para todas as empresas de jogos atualmente. É claro que isso não é fácil de fazer, já que a Roblox tem 90 milhões de usuários ativos diários em 190 países e há seis milhões de jogos na plataforma.

A companhia está ajustando os limites embutidos sobre como as crianças menores de 13 anos podem se comunicar. Agora, os pais podem acessar os controles parentais a partir de seus próprios dispositivos, em vez de a partir do dispositivo de seu filho, e monitorar o tempo de tela de seus filhos.

“A segurança é e sempre foi fundamental para tudo o que fazemos na Roblox. Passamos quase duas décadas construindo sistemas de segurança robustos, mas estamos sempre evoluindo nossos sistemas conforme novas tecnologias se tornam disponíveis,” disse Kaufman. “Regularmente enviamos atualizações para nossos sistemas de segurança e políticas. Já implementamos mais de 30 melhorias este ano.”

Hoje, a Roblox fez alterações nos controles parentais, mudanças na forma como usuários menores de 13 anos podem se comunicar na Roblox, novos rótulos de conteúdo e proteções adicionais incorporadas para usuários mais jovens. Algumas das mudanças nas políticas estão em desenvolvimento há mais de um ano.

Essas alterações foram desenvolvidas e implementadas após várias rodadas de pesquisa interna, incluindo entrevistas, estudos de usabilidade e pesquisas internacionais com pais e crianças, além de consultas com especialistas em organizações de segurança infantil e alfabetização mediática.

Dina Lamdany, gerente de produto da Roblox, afirmou em uma coletiva de imprensa que as mudanças foram baseadas na própria pesquisa de usuários da Roblox, assim como na consulta com especialistas externos.

A Roblox está fazendo essas mudanças para seus usuários mais jovens ao: (1) tornar mais fácil e intuitivo para os pais gerenciarem as configurações de seus filhos, e (2) atualizar os limites embutidos para fornecer certas proteções,
independentemente dos controles parentais. Essas mudanças foram apoiadas por parceiros, incluindo a National Association for Media Literacy Education (NAMLE) e o Family Online Safety Institute (FOSI).

Stephen Balkam, CEO da FOSI, disse em um comunicado: “A FOSI elogia os esforços contínuos da Roblox para priorizar
a segurança e o bem-estar de seus usuários mais jovens. Ao capacitar os pais com novos controles que permitem supervisionar a atividade de seus filhos de maneira flexível e significativa, a Roblox está dando passos significativos em direção à construção de um ambiente digital mais seguro.”

Ativando os controles parentais remotos

A Roblox já fornece controles parentais, incluindo limites de gastos. Mas esses controles eram gerenciados a partir da conta da criança. Hoje, a empresa está lançando o gerenciamento remoto, que permite que os pais e cuidadores ajustem controles e revisem a atividade de seus filhos mesmo se não estiverem fisicamente juntos.

Os pais que desejam estar mais envolvidos no monitoramento das atividades de seus filhos podem vincular suas contas Roblox à conta de seu filho—após se identificarem usando um ID ou cartão de crédito. Após vincular as contas, os pais podem gerenciar a experiência e o acesso de seu filho a partir dos Controles Parentais.

A Roblox também está ativando a lista de amigos e o monitoramento do tempo de tela. Parte da visão a longo prazo é dar aos pais controles granulares para monitorar e limitar quanto tempo seus filhos passam no Roblox.

No painel de Controles Parentais, os pais agora podem ver a média de tempo de tela de seus filhos na semana passada, bem como a lista de amigos de seus filhos. Pais e cuidadores também podem estabelecer limites diários de tempo de tela. Uma vez que o limite é atingido, a criança não pode acessar o Roblox até o dia seguinte.

A Roblox também atualizou seu Guia para Pais e Cuidadores.

Restrições incorporadas para comunicações

Conectar-se com outros é fundamental para a experiência Roblox. Mas Kaufman afirmou que a empresa quer facilitar isso com segurança em mente. Nos próximos meses, a Roblox está mudando como crianças menores de 13 anos podem se comunicar na plataforma.

Vale lembrar que os filtros embutidos e as regras de moderação para comunicação ainda se aplicam para qualquer recurso de chat e para usuários de todas as idades, incluindo aqueles com 13 anos ou mais.

Agora, usuários com menos de 13 anos não poderão mais enviar mensagens diretas a outros usuários no Roblox fora dos jogos ou experiências (também conhecido como chat da plataforma).

Além disso, a Roblox está introduzindo uma configuração embutida que limitará usuários menores de 13 anos a mensagens de transmissão públicas apenas dentro de um jogo ou experiência. Por padrão, usuários com menos de 13 anos não poderão enviar mensagens diretas. Os pais podem alterar essa configuração nos Controles Parentais.

A empresa está constantemente evoluindo e inovando seus sistemas de segurança.

“Estamos sempre trabalhando para tornar o chat incrivelmente seguro e estamos explorando novas maneiras para usuários de todas as idades se comunicarem e interagirem de forma segura no Roblox,” disse Kaufman. “Muitas dessas atualizações estão lançando hoje. Para outras, a Roblox está trabalhando ativamente com a comunidade de criadores para implementar atualizações em todas as experiências. A Roblox espera que todas essas mudanças sejam implementadas até o primeiro trimestre de 2025.

Limites de maturidade de conteúdo

Com os rótulos de conteúdo, a Roblox trabalhará de perto com crianças e pais para entender seu conhecimento da
plataforma da Roblox; as informações e controles que eles estão procurando; e as preocupações que têm
sobre segurança, engajamento e comunicação na plataforma.

Crianças se desenvolvem em diferentes ritmos e, a partir da pesquisa interna da Roblox e da pesquisa externa, a empresa sabe que os pais têm níveis diferentes de conforto em relação ao tipo de conteúdo com o qual seus filhos interagem. Rotular experiências apenas com base na idade não respeita as diversas expectativas que diferentes famílias têm.

Hoje, a Roblox está lançando descrições simplificadas dos tipos de conteúdo disponíveis. Diretrizes de Experiência serão renomeadas como Rótulos de Conteúdo, e a Roblox não rotulará mais experiências por idade. Em vez disso, rotulará experiências com base no tipo de conteúdo que os usuários podem esperar em uma experiência.

Essas atualizações devem fornecer aos pais maior clareza para tomar decisões informadas sobre o que é apropriado para seus filhos.

A Roblox também atualizou suas configurações de maturidade incorporadas para os usuários mais jovens. Usuários com menos de nove anos podem agora acessar apenas conteúdo de “Mínimo” ou “Leve” por padrão e podem acessar conteúdo “Moderado” apenas com consentimento dos pais. Os pais ainda têm a opção de selecionar o nível que consideram mais apropriado para seus filhos.

Haverá também restrição por idade. Sistemas tradicionais de avaliação se aplicam ao conteúdo, mas não consideram o comportamento do usuário ao determinar uma classificação por idade. A Roblox adotará uma abordagem mais restritiva para usuários mais jovens e a empresa agora está restringindo certas experiências para usuários menores de 13 anos, com base no tipo de
comportamentos que podem ser encontrados nessas experiências.

Essas novas restrições se aplicam a experiências principalmente projetadas para socializar com usuários fora da lista de amigos e experiências que permitem escrever ou desenhar de forma livre, como em um quadro negro ou um quadro branco ou com spray.

Configurações baseadas em idade: a Roblox se adapta à medida que as crianças crescem, então as configurações de conta incorporadas de uma criança serão atualizadas automaticamente à medida que elas avançam de um grupo etário para outro. A empresa deseja que os pais e as crianças tenham a oportunidade de discutir o uso atual do Roblox, quais recursos são apropriados para o futuro e se devem fazer alguma atualização nas configurações embutidas.

Para facilitar essas conversas, a Roblox notificará a criança e os pais vinculados sobre as mudanças futuras nas configurações baseadas em idade da criança 30 dias antes das mudanças entrarem em vigor.

Continuando a priorizar a segurança

Quando a Roblox projeta novos produtos, tem em mente vários fatores importantes. A empresa é fundamentalmente uma plataforma de jogos, o que difere de outros lugares na internet, onde o foco está em navegar ou consumir conteúdo. Desde o dia do lançamento, a Roblox tem uma população crescente de usuários mais jovens e a empresa deseja ajudar a mantê-los seguros na plataforma.

“Levamos a segurança extremamente a sério,” disse Kaufman.

A empresa afirmou estar grata pelas contribuições e pelo apoio que recebeu de organizações de segurança infantil, organizações de alfabetização mediática e especialistas em desenvolvimento infantil. Esses especialistas forneceram sugestões, revisaram
atualizações e compartilharam perspectivas que ajudaram a tornar esses controles o mais úteis possível para pais e crianças.

A diretora executiva da NAMLE, Michelle Ciulla Lipkin, disse em um comunicado: “Como especialistas em alfabetização midiática, nós
elogiamos os esforços para melhorar as salvaguardas, mitigar riscos e dar aos pais e crianças a oportunidade de interagir juntas em torno de tópicos importantes como privacidade e segurança. A NAMLE tem orgulho de fazer parceria com a Roblox e apoiar seu compromisso em tornar o espaço online mais seguro e mais civil para os jovens.”

Se uma criança quiser ingressar em uma experiência e vir um cadeado, isso significa que precisa de permissão dos pais. Ela pode solicitar que essa permissão seja concedida. Os pais recebem um e-mail em seu próprio dispositivo informando que há um pedido de seu filho. Eles podem revisar as informações sobre a experiência e aprová-la ou não.

Por questões de privacidade, a Roblox não exige que os usuários tenham um ID governamental para enviar uma senha privada. Mas é necessário um ID governamental para acessar certos recursos, como conteúdo restrito ou conteúdo em que pode ser necessário usar o telefone. Pais, cuidadores ou responsáveis precisam fornecer um ID governamental mostrando que são parentes ou fornecer uma autorização de cartão de crédito, disse Lamdany.

Para verificação, a Roblox exige uma selfie ao vivo e utiliza fornecedores terceirizados que oferecem tecnologia de identificação.

“Embora não haja um ‘perfeito’ quando se trata de segurança online, nossa abordagem geral é sistemática e reflexiva,” disse Kaufman. “Regularmente atualizamos nossas políticas e sistemas para ajudar a manter as crianças seguras na Roblox—independentemente de os pais optarem ou não por usar os nossos controles parentais. Nosso objetivo é tornar a Roblox a plataforma online mais segura e civil possível, porque é a coisa certa a se fazer para as crianças, seus pais e cuidadores, nossos investidores e nossa empresa.”

Um grande investimento em capital humano

A Roblox afirmou que 10% de seus funcionários em tempo integral—um par de mil pessoas em todo o mundo—trabalham na segurança, disse Kaufman em uma coletiva de imprensa.

“Como há 20 anos, a segurança continua sendo nossa maior prioridade,” disse Kaufman. “Estamos dedicados a construir sistemas de segurança que mantenham todos os nossos usuários seguros e garantir que todas as experiências disponíveis na plataforma estejam em conformidade com nossas políticas.”

“Não acreditamos que o número de moderadores seja proporcional à qualidade da moderação que acontece na plataforma,” disse Kaufman. “Utilizamos aprendizado de máquina líder da indústria e IA para realizar uma quantidade significativa de moderação automaticamente. Fazemos isso para que possa acontecer em tempo real e escalável automaticamente durante o aumento do número de usuários ao longo do dia.”

Moderadores humanos se concentram em recursos de apelação dos usuários e no tratamento das questões mais complexas, que muitas vezes são encaminhadas a investigadores que passam mais tempo examinando os detalhes.

“A plataforma é usada principalmente por crianças e isso influenciou como desenvolvemos nossas políticas,” disse Kaufman. “O centro de nossas políticas são nossos padrões da comunidade. Eles governam o que é permitido na plataforma e o que é apropriado para usuários de diferentes idades. Acreditamos que os padrões da comunidade são algumas das políticas mais rigorosas da indústria e a base dessas políticas é realmente dos primórdios da Roblox, onde havia principalmente crianças na plataforma.”

Por exemplo, as políticas proíbem palavrões em toda parte, exceto quando os usuários são verificados como tendo mais de 17 anos. Elas proíbem representações de tabaco e farmacêuticos, e proíbem referências ou representações de embriaguez. Além disso, gestos românticos ou flertivos entre usuários também são proibidos na plataforma.

Todos os sistemas de segurança são construídos em torno dessas políticas.

“Manter nossos usuários seguros requer uma abordagem em várias camadas. A primeira camada são nossos padrões e políticas da comunidade,” disse Kaufman. “Esses abordam preocupações de segurança e a maturidade do conteúdo. Que conteúdo deve estar disponível para quais usuários com base em sua idade e nas configurações de seus pais. Todo o conteúdo enviado à Roblox passa por moderação automatizada. Essa moderação analisa imagens, vídeos, arquivos de áudio e modelos 3D.”

A Roblox identifica conteúdo problemático antes que este seja exposto a outros usuários e o remove imediatamente da plataforma, abordando o problema com os usuários que enviaram esse conteúdo.

Para evitar que predadores fiquem sozinhos com crianças, a Roblox não criptografa nenhuma comunicação entre usuários, independentemente da idade.

“E temos sistemas automatizados que identificam automaticamente violações em nossos padrões da comunidade e tomam as ações apropriadas,” disse Kaufman. “Evidências de qualquer dano crítico na plataforma são imediatamente escaladas para nossa equipe de investigadores para revisão e ação diante da situação. Também filtramos conteúdo inadequado da comunicação de texto. Usamos filtros automáticos de ponta da indústria em vários idiomas, e isso é essencial para bloquear a exposição a comportamentos violadores para nossos usuários mais jovens.”

Kaufman acrescentou: “Nossos filtros de texto também são especificamente projetados para bloquear o compartilhamento de informações pessoalmente identificáveis. Isso inclui tentativas de levar conversas para fora da Roblox, onde os padrões de segurança e os sistemas de moderação são menos rigorosos do que os que esperamos em nossa própria plataforma.”

Por fim, a Roblox não permite que os usuários troquem imagens ou vídeos no chat.