Microsoft apuesta por las IA para controlar la toxicidad en los videojuegos

No existe ningún juego de video que tenga un sistema de chat que pueda evitar que algunos de sus usuarios se vuelvan agresivos, irrespetuosos o simplemente vulgares. Controlar el comportamiento de los usuarios para que las conversaciones no se vuelvan tóxicas y ofrezcan una experiencia negativa para la mayoría de las personas no es una tarea sencilla.

Sin embargo, Microsoft cree tener la respuesta en la implementación de un sistema de inteligencia artificial y aprendizaje automático en su plataforma Xbox.

Personalización

Un aspecto interesante del sistema es que puede ser regulado por el usuario para establecer lo que le parece adecuado.

Existen cuatro niveles de filtros, que van desde el que está pensado para los niños, con un mayor nivel de restricciones, hasta el que tiene como objetivo a los adultos con una piel suficientemente gruesa para soportar cualquier tipo de expresión y diálogo.

Los niveles son: amistoso, medio, maduro y sin filtro.

Los jugadores también pueden establecer filtros de diferentes niveles para sus amigos y para los desconocidos. Esto se debe a que Microsoft entiende que a menudo entre conocidos lo que puede aparecer como una conversación agresiva es en realidad un conjunto de comentarios sin pretensión de seriedad.

Los filtros se encargarán de las conversaciones por texto, pero se espera que en el futuro puedan aplicarse al chat por audio.

Implementación

Las primeras prueban se realizarán durante octubre, el sistema se extendería al resto de los usuarios de la consola de Microsoft para fin de año. Las opciones de filtro estarán disponibles tanto para Xbox como para los usuarios de Windows 10.

Todas las cuentas de Xbox identificadas con niños comenzarán con el nivel amistoso, que elimina todos los términos de carácter ofensivo.

El sistema de filtros también podría conectarse al sistema de reputación de Xbox, lo que haría que un mal puntaje termine con la suspensión de un jugador. Por eso será importante recordarle a nuestros amigos que ajusten el filtro.

La entrada Microsoft apuesta por las IA para controlar la toxicidad en los videojuegos aparece primero en RedUSERS.

via Juegos – RedUSERS