La popular página, YouTube de Google, bloqueó el canal que gestiona el ajedrecista croata Antonio Radic por considerar que incluían “contenido dañino y peligroso”. Los insólitos motivos.
Según un estudio realizado por investigadores de la Universidad de Carnegie Mellon, en Pensilvania, Estados Unidos, los videos del popular canal de ajedrez fueron bloqueados porque consideraron que las referencias “blanco contra negro” eran expresiones racistas.
El sistema de inteligencia artificial de la plataforma revisó las conversaciones en los videos y frases que hacían referencias al color de las piezas del juego, fueron calificadas dentro de los discursos de odio.
Las conclusiones del estudio se presentaron en la conferencia “Association for the Advancement of AI”.
El canal de Radic, conocido por su alias Agadmator, fue bloqueado en junio de 2020, cuando presentaba un video junto al maestro de ajedrez Hikaru Nakamura.
Al principio Google no explicó las razones de la decisión, y luego de 24 horas lo restableció. El propio Radic, sospechó que el color de las fichas del juego pudieron ser el detonante.
Falla de algoritmos
Según The Idependent, la moderación de YouTube es realizada tanto por humanos, como por algoritmos y fueron estos los que fallaron al evaluar los diálogos del video de ajedrez.
“Si confían en la inteligencia artificial para detectar el lenguaje racista, este tipo de accidentes pueden suceder”, dijo uno de los investigadores del Instituto de Tecnologías del Lenguaje, de la mencionada universidad estadounidense.
Para probarlo, filtró casi 700.000 comentarios en canales de YouTube centrados en el juego de estrategia y tras revisar manualmente una selección de 1.000 de ellos, encontró que el 82% había sido clasificado erróneamente.
Los algoritmos tomaron palabras como “negro”, “blanco”, “ataque” y “amenaza”, términos que también son usados durante el juego de ajedrez.
Fuente: Cadena 3