Escucha la noticia:
Roblox, uno de los videojuegos en línea más populares entre niños y adolescentes, ha dado un paso importante para reforzar la seguridad en su plataforma. La compañía presentó oficialmente Roblox Sentinel, una herramienta de inteligencia artificial que detecta en tiempo real mensajes de chat que podrían poner en riesgo a menores de edad.
Este sistema, que ya funcionaba desde finales de 2024, analiza diariamente más de seis mil millones de mensajes, buscando señales de acoso, intento de contacto inapropiado o cualquier otra conducta que pueda derivar en peligro para los usuarios más jóvenes. Cuando identifica un mensaje sospechoso, toma una captura y lo envía a un equipo de revisión que, de ser necesario, informa a las autoridades competentes.
En lo que va de 2025, Roblox Sentinel ha permitido detectar y reportar 1.200 casos al Centro Nacional para Niños Desaparecidos y Explotados. La compañía también decidió liberar su código como open source para que otras plataformas y aplicaciones puedan implementar la misma tecnología.
Roblox ya contaba con reglas claras que prohíben compartir información personal, imágenes reales y datos de contacto, pero con Sentinel busca adelantarse y actuar más rápido antes de que los riesgos escalen. Esta medida se suma a otros esfuerzos como la moderación en 25 idiomas y la verificación de edad para ciertos chats.
Con esta apuesta tecnológica, Roblox espera no solo proteger mejor a sus millones de usuarios jóvenes, sino también dar un ejemplo de cómo la inteligencia artificial puede utilizarse de manera responsable para la seguridad digital infantil.
