Roblox reformulará los mensajes con lenguaje inapropiado en los chats mediante IA para mantener la cordialidad

Roblox ha agregado una nueva función para las conversaciones en los chats con la que, mediante inteligencia artificial (IA), reformulará en tiempo real los mensajes con contenido dañino para eliminar el lenguaje inapropiado y mantener "la civilidad" y la fluidez de juego.

La comunicación en los chats de Roblox es una parte importante a la hora de coordinarse en los juegos. Sin embargo, existen normas de moderación con las que la plataforma busca evitar que los usuarios aprovechen estos canales para tener comportamientos dañinos, contrarios a sus normas de uso.

Por ejemplo, utilizan filtros que bloquean lenguaje inapropiado de los chats y lo sustituyen por cadenas de símbolos de almohadillas '####', de cara a evitar que las conversaciones se interrumpan y sean difíciles de seguir.

Ahora, Roblox ha anunciado una nueva función para las conversaciones en los chats que, mediante IA, reformularán automáticamente las frases para eliminar las palabrotas, en lugar de sustituirlas por almohadillas.

Así lo ha compartido la compañía de videojuegos en un comunicado en su blog, donde ha explicado que el texto filtrado se traducirá a un lenguaje "más respetuoso" que siga las líneas de la intención original del usuario.

Como ha ejemplificado, en una frase que incluya una palabra grosera como "Hurry TF up!" (que se traduciría como "date prisa, joder"), se reformularía a "date prisa". De esta forma, se preserva el flujo de la conversación sin cambiar el significado del mensaje y evita comportamientos inadecuados.

"Este enfoque reduce la fricción en el chat manteniendo a la vez los estándares que ayudan a mantener a nuestra comunidad civilizada", ha manifestado al respecto el vicepresidente de Producto de Usuario y Descubrimiento en Roblox, Rajiv Bhatia.

No obstante, cabe destacar que, cuando un mensaje sea modificado por este sistema, se notificará a todos los usuarios en el chat con un mensaje informativo en el que se explicará que ha sido reformulado para mantener la cordialidad y por violar la política de Roblox.

Además, esta función solo estará disponible para las experiencias de chat entre usuarios con control de edad en grupos similares, y tiene compatibilidad con todos los idiomas disponibles a través de las herramientas de traducción automática de Roblox.

MEJORAS EN LOS FILTROS DETECTAR INTENTOS DE ELUSIÓN

Siguiendo esta línea, Roblox también está implementando mejoras significativas en sus sistemas de filtrado de texto, de cara a detectar más variaciones de lenguaje en los chats, con los que los usuarios tratan de incumplir los Estándares de la Comunidad de la plataforma.

Los primeros resultados de estas mejoras demuestran un avance en la detección de 'leet-speak', esto es, una práctica que se basa en sustituir las letras por números o símbolos similares visualmente para eludir filtros, entre otros intentos más sofisticados.

"Esto ha permitido a Roblox reducir la prevalencia de falsos negativos por compartir o solicitar información personal, como cuentas de redes sociales o números de teléfono, en 20 veces", ha afirmado al respecto la compañía.