En medio de la polémica de Spotify, YouTube habla sobre la limitación de contenido dudoso como las teorías antivacuna

• La plataforma aseguró que no recomienda videos que tienen datos que propician la desinformación mientras buscan opciones para que no sean compartidos en otros sitios y sin caer en la censura
• YouTube aloja videos de canciones, trailers de películas, podcasts, recomendaciones, reseñas de videojuegos, entre otros.
• Sin embargo, en algunas ocasiones se han subido videos con información dudosa, como ocurrió durante el 11 de septiembre o con la pandemia y el “terraplanismo”, teniendo que implementar varios métodos para que esos contenidos no sean vistos.

El machine learning ha sido una de sus principales herramientas para detectar videos con narrativas que van en contra de las políticas, sin embargo, las necesidades han ido aumentado, por lo que YouTube continúa haciendo esfuerzos contra la desinformación.

Cabe recordar que esto ocurre tras las polémicas de Spotify, pues se le acusa de “proteger” contenidos antivacunas y se le ha cuestionado por los métodos que utiliza para recomendar música con letras que motivan a no inocularse contra COVID-19 en lugar de limitarlos, sobre todo cuando intenta pisar los talones de YouTube en cuanto a contenidos.

Neal Mohan, Director de Producto de YouTube, escribió en un blog que en los últimos cinco años se han basado en su política de 4Rs de la Responsabilidad (Remove, Raise, Reward y Reduce), que combina el machine learning con el trabajo de las personas para eliminar contenido infractor de forma inmediata.

Temas como el terraplanismo los detectan rápidamente porque sus sistemas están entrenados, cuando surgen nuevas teorías de conspiración les puede resultar difícil detectarlas con la misma rapidez.

“Estamos buscando formas de aprovechar una combinación más específica de clasificadores, palabras clave en decenas de idiomas e información de analistas regionales para identificar narrativas que nuestro clasificador principal no capta. Con el tiempo esto nos hará más rápidos y más precisos para detectar estas narrativas virales de desinformación”.

Además, en caso de que alguien vea un video con contenido dudoso, el sistema les recomienda videos acreditados como paneles de noticias y están agregando etiquetas para agregar a un video o resultado de búsqueda, mientras tratan de no limitar la discusión.

“Debemos tener cuidado de equilibrar la limitación de la difusión de información errónea potencialmente dañina, al mismo tiempo que damos espacio para la discusión y la educación sobre temas delicados y controvertidos.”

Señaló que en el combate a la desinformación un gran problema por resolver son las visitas multiplataforma, es decir, que los usuarios lleguen a un video de YouTube con contenido dudoso a través de otros sitios web. Cabe recordar que sus algoritmos los recomiendan menos de un 1 por ciento.

Para que los videos posiblemente desinformativos (que no bajan de la plataforma) no sean vistos al ser compartidos están analizando la opción de deshabilitar el botón de compartir o inhabilitar el enlace en videos que ya limitan en las recomendaciones.

“Nuestros sistemas reducen el contenido límite en las recomendaciones, pero compartir un enlace es una elección individual que hace una persona, distinta de una acción más pasiva como mirar un video recomendado.”

Aunque nuevamente señalan un problema sobre limitación, ya que asegura la plataforma que esos videos dudosos podrían ser usados en un estudio de investigación o reporte de noticias con un enfoque distinto al de difundir datos falsos, sino el de discutirlos.

Sumado a ello tienen el problema de qué es considerado como información dudosa según la región. Recordó que a inicios de la pandemia cada país tenía sus investigaciones con fuentes confiables pero que podían ser interpretados de diferentes maneras a lo largo de las diversas culturas e idiomas, por lo que también están trabajando bajo los diversos contextos culturales.

YouTube reconoció que es posible que no tenga todas las respuestas para combatir la desinformación pero está comprometida a que no se propaguen ideas dudosas.