A plataforma de entretenimento online Roblox divulgou hoje (5) uma inovação em seu sistema de moderação, que emprega inteligência artificial para reformular mensagens com linguagem inapropriada em tempo real. Esse recurso automaticamente substitui palavras consideradas ofensivas por termos mais neutros, mantendo o sentido original da frase.

Até então, ao digitar palavras proibidas, o texto simplesmente era exibido como “####”, o que muitas vezes dificultava a compreensão das interações entre os jogadores, conforme relatado pela empresa.

Com a nova funcionalidade, a mensagem não será mais ocultada, mas sim reformulada automaticamente, tornando-a mais adequada sem interromper a comunicação em andamento.

Como isso funciona na prática?

Segundo a companhia, o sistema de inteligência artificial analisa a mensagem escrita pelo usuário e substitui partes consideradas inadequadas por uma versão mais respeitosa.

Um exemplo fornecido pela empresa ilustra o mecanismo em ação. Uma expressão como “Anda logo, p****!”, anteriormente exibida como “####” no chat, agora pode ser automaticamente ajustada para algo como “Anda logo!”. Todos os participantes são notificados de que o texto foi modificado.

Continua após a publicidade

Segurança mantida

A Roblox assegura que o novo recurso não substitui os sistemas de segurança já existentes. Situações mais sérias ainda podem acionar outras medidas de moderação, como bloqueios ou restrições de conta.

Essa ferramenta também opera em todos os idiomas suportados atualmente pela plataforma de tradução automática, ampliando a abrangência da moderação para diferentes comunidades ao redor do mundo.

Além disso, a empresa comunicou que aprimorou seu sistema de detecção de linguagem imprópria para identificar variações utilizadas na tentativa de burlar filtros, como o leetspeak, técnica que substitui letras por números ou símbolos. De acordo com a Roblox, testes preliminares indicam que o sistema também aumentou em até 20 vezes a identificação de conteúdo inadequado.

Continua após a publicidade

Caso Felca e discussões sobre segurança

Embora não haja conexão direta entre a nova tecnologia e o influenciador Felca, o anúncio ocorre em meio a debates recentes sobre segurança na plataforma.

Em janeiro deste ano, o criador de conteúdo brasileiro, de 27 anos, afirmou ter recebido ameaças de usuários após alterações nas regras de verificação de idade para acesso aos chats do Roblox. Nas redes sociais, ele compartilhou mensagens privadas de jogadores insatisfeitos com as novas restrições.

As medidas incluem sistemas de verificação facial de idade e controle da comunicação entre adultos e menores, implementados para reforçar a segurança dos usuários mais jovens na plataforma.