La IA detecta señales de acoso sexual y otros riesgos para menores en Roblox

Roblox refuerza sus herramientas de inteligencia artificial para identificar posibles amenazas contra menores, como grooming, solicitudes de información personal y comportamientos inapropiados en conversaciones de voz.

Roblox Corporation intensificó sus esfuerzos para reforzar la seguridad de los menores en su plataforma mediante el desarrollo y la apertura de herramientas de inteligencia artificial capaces de detectar señales tempranas de posibles riesgos en las interacciones digitales.

La iniciativa forma parte del trabajo de la compañía con ROOST (Robust Open Online Safety Tools), una comunidad tecnológica enfocada en desarrollar herramientas de seguridad digital de código abierto. Roblox se incorporó como socio fundador junto con empresas y organizaciones del sector tecnológico, entre ellas Google, OpenAI y Discord. 

Roblox ya cuenta con sistemas de inteligencia artificial destinados a analizar las conversaciones dentro de la plataforma. En junio de 2026, la compañía anunció una nueva versión de su clasificador de seguridad de voz, capaz de procesar comunicaciones en múltiples idiomas y detectar categorías adicionales de posibles infracciones. Según Roblox, la herramienta fue entrenada con cientos de miles de horas de datos de voz etiquetados y está diseñada para funcionar a gran escala. 

Las nuevas medidas llegan en medio de un creciente escrutinio sobre las herramientas de protección infantil de Roblox. El Comité Judicial del Senado de Estados Unidos informó que la plataforma presentó más de 65.000 reportes relacionados con posibles casos de explotación sexual infantil ante el National Center for Missing & Exploited Children (NCMEC) durante 2025.

Con el avance de estas tecnologías, Roblox busca que la inteligencia artificial no solo permita reaccionar ante una denuncia, sino también identificar señales de riesgo antes de que una interacción pueda convertirse en una amenaza para un menor.