"Debemos encontrar el equilibrio entre limitar la difusión de desinformación potencialmente dañina y permitir el diálogo": estos son los desafíos a los que se enfrenta YouTube en su lucha contra la información falsa

Neal Mohan, CPO (en inglés, Chief Product Officer) de Youtube, desgrana los desafíos a los cuales se enfrenta la plataforma en su lucha contra la desinformación, entre los que destaca la rapidez a la que aparece –y la diversidad de temáticas que entraña–, su difusión fuera de la aplicación o la dificultad de abarcar una misma estrategia para todos los mercados en los que opera.  

El responsable de producto de la plataforma ha explicado en un comunicado que la compañía ha invertido en los últimos 5 años en un modelo llamado "Las cuatro erres de la responsabilidad" con el que luchan contra la difusión del contenido que infringe sus normas y políticas mediante la combinación del aprendizaje automático con el trabajo manual de sus empleados. 

Mohan explica que gracias a la acción sinérgica de estas herramientas han logrado que el contenido inapropiado "no consiga muchas visualizaciones sin poner en peligro la libertad de expresión" dentro de la aplicación. 

Sin embargo, precisa que la rapidez con la que surge la desinformación y el alcance que puede tener en la actualidad ha obligado a YouTube a modificar su estrategia para que siga siendo eficaz.

El directivo señala que durante algunos años la desinformación en la red estuvo dominada por un número reducido de temas que generaron un amplio archivo de contenido, por lo que pudieron entrenar a sus sistemas de aprendizaje automático para reducir las recomendaciones sobre esos temas a partir de patrones identificados. 

Sin embargo, Mohan apunta que cada vez es más habitual que aparezca un nuevo discurso y obtenga visualizaciones rápidamente, al igual que hay ciertas temáticas que dan paso a otras (por ejemplo, información genérica sobre bienestar que suscite desconfianza en las vacunas).

Las compras en directo, una mayor transparencia en las políticas publicitarias y un botón para regalar suscripciones como en Twitch: los propósitos de YouTube para 2022

El responsable de producto de la plataforma explica que en el caso del COVID-19, pudieron tomar medidas de forma rápida porque habían definido unas políticas sobre la desinformación basadas en las directrices de autoridades sanitarias mundiales y locales.

No obstante, precisa que no siempre pueden contar con los consejos de expertos para elaborar políticas que ayuden a frenar este tipo de discursos. 

"Además, cuanto más novedosa sea la desinformación, menos ejemplos tenemos para entrenar nuestros sistemas", añade. 

El experto explica que, para abordar esta situación, preparan de forma continua su sistema con nuevos datos con el objetivo de aprovechar un conjunto aún más específico de clasificadores, palabras clave en más idiomas e información de analistas locales para identificar los discursos que pasen desapercibidos para el clasificador principal.

"Con el tiempo, esto nos permitirá identificar esos discursos virales de desinformación más rápido y con mayor precisión", avanza. 

La compañía señala que sus sistemas están preparados para acercar a los usuarios a vídeos de fuentes fiables en los resultados de búsqueda y en las recomendaciones. 

Además, en el caso de los temas que estén "vacíos de datos", es decir, los que se produzcan después de una noticia urgente, han decidido introducir paneles de noticias de última hora que dirijan a los usuarios, por ejemplo, a artículos de texto o, simplemente, disponer una etiqueta que avise que aún no hay información fiable sobre ese hecho. 

"Nunca ha sido tan urgente avanzar en nuestros esfuerzos por proteger la seguridad"

Otro reto al que se enfrenta YouTube destacado por Mohan es la difusión de contenido cuestionable fuera de la plataforma. "Se trata de vídeos que rozan la línea de lo que se consideraría una infracción de nuestras políticas, pero que no llegan a cruzarla", precisa. 

El directivo explica que han remodelado sus sistemas de recomendación para reducir el consumo de esta tipología de información. "En la actualidad, menos del 1 % de las visualizaciones de este contenido procede de las recomendaciones", apunta. 

No obstante, lo que preocupa a la aplicación es que, aunque ella no lo promocione, este puede obtener visualizaciones a través de otros sitios web que lo enlacen. Para atajar este problema, la compañía se ha planteado retirar el botón de Compartir, pero lo han desestimado –de momento– por falta de evidencias sobre que esto sea efectivo y no restrinja las libertades individuales de los usuarios. 

Cuánto dinero gana al mes una 'youtuber' con más de 100.000 suscriptores

Así, Mohan precisa que será necesario tener en cuenta el contexto, ya que los vídeos cuestionables que estén insertados en un estudio de investigación o en una noticia "podrían necesitar excepciones o tratamientos totalmente distintos".

"Debemos encontrar el equilibrio entre limitar la difusión de desinformación potencialmente dañina y permitir el diálogo y la información instructiva sobre temas sensibles y controvertidos", precisa. 

Otra de las estrategias que se han planteado es mostrar un mensaje antes de que comience el vídeo en el que se advierta que puede incluir información falsa. "Creemos que son una herramienta importante para que los usuarios puedan elegir con conocimiento de causa los vídeos que van a ver". 

Por otro lado, el responsable de producto de la plataforma explica que una de las dificultades que entraña su lucha contra la desinformación es tener que ponerlas en marcha en diferentes países con normas e idiomas distintos. 

De esta forma, están en el camino por reforzar sus equipos con profesionales que comprendan los matices asociados a un área geográfica concreta e invirtiendo en colaboraciones con expertos y ONG de todo el mundo. 

"Nunca ha sido tan urgente avanzar en nuestros esfuerzos por proteger la seguridad y el bienestar de la comunidad", concluye Mohan. 

Conoce cómo trabajamos en BusinessInsider.

Etiquetas: Trending, YouTube