¿Puede la IA ser la solución para las noticias falsas?

12 min read
artificial-intelligence-fake-news
Artwork by Bruno Silva

Humanoides con alas de murciélago, cabras de piel azul, castores bípedos sin cola, un templo hecho de zafiro… Estas fueron algunas de las escenas presenciadas por Sir John Herschel, un conocido astrónomo británico, cuando apuntó su telescopio hacia el cielo desde un observatorio de Sudáfrica. O, al menos, eso es lo que el New York Sun publicó en una serie de relatos en 1835.

Las noticias provocaron tal furor que la tirada del periódico se duplicó con creces, pasando de 8 000 a más de 19 000 copias. De repente, todos los que habían leído las noticias creyeron que había una próspera colonia de hombres murciélago en la Luna.

Pero había un pequeño detalle: nada de eso era cierto. Richard Adams Locke, el editor del Sun, había creado esas historias.

El incidente pasó a la historia como el Gran Engaño de la Luna, pero si todo esto sucediera hoy, lo llamaríamos de otra manera: ¡noticias falsas!

Puede que Donald Trump crea que él inventó el término, que en los últimos años ha aumentado su popularidad, pero nada más lejos de la realidad. Las noticias falsas llevan años circulando, solo que ahora nos preocupan más que nunca. ¿Cómo hemos pasado del mayormente inofensivo Gran Engaño de la Luna a la seria amenaza planteada por el escándalo del Pizzagate?

Bueno, la velocidad y el alcance de Internet lo hicieron cien veces peor. Tal y como explica el New York Times, en una serie dividida en tres partes publicada este noviembre, la desinformación se propaga como un virus.

Entonces, ¿cómo evitar que este virus se propague?

Si le preguntáramos a Mark Zuckerberg, creador de Facebook, probablemente repetiría lo que le dijo al Congreso americano a principios de este año: la inteligencia artificial lo solucionará.

Pero, ¿es cierto que la IA puede ser la solución para las noticias falsas? ¿Será posible que una máquina verifique automáticamente si algo es verdadero o falso? Y, lo que es más importante, ¿puede la IA solucionar un problema que inicialmente ayudó a crear?

IA, tenemos un problema

Se ha escrito mucho sobre la inteligencia artificial y la desinformación, pero no podemos decir lo mismo acerca del papel de la IA en la producción y distribución de noticias falsas por todo el mundo.

Ariel Conn, directora de Medios y Difusión en el Future of Life Institute, explica: “Cuando los mismos investigadores de IA han creado programas con los que pueden modificar los vídeos en los que parece que alguien ha dicho algo que no ha dicho, eso nos hace pensar sobre las implicaciones éticas de esta tecnología.”

Por ejemplo, este video del expresidente de los Estados Unidos, Barak Obama. Se realizó como un experimento por investigadores de la Universidad del Sur de California para un episodio de RadioLab titulado “Noticias de última hora.” Si vieras esto en tu ordenador o en tu teléfono, ¿te lo creerías?

El episodio de RadioLab se emitió en julio de 2017. Avanza rápidamente hasta abril de 2018, solo unos meses después, y consigues una versión mejorada, esta vez publicada en Buzzfeed como una noticia de interés público. Resulta que Obama no calificó a Trump de ser un “completo inepto”. El cineasta ganador de un Óscar Jordan Peele lo hizo, con su más convincente interpretación de la voz de Obama. El audio falso había sido convincentemente superpuesto en imágenes de vídeo originales del expresidente.

La tecnología algorítmica de aprendizaje automático que se ha utilizado para crear estos vídeos se llama “deepfakes” (videomontajes), y permite a cualquiera crear una simulación altamente realista de casi cualquier ser humano (siempre y cuando se tengan grabaciones en vídeo y audio).

Pero el verdadero problema con los videomontajes llega cuando la gente deja de usar esta tecnología para añadir a Nicolas Cage en películas aleatorias y se empiezan a hacer videos de líderes políticos diciendo cosas que nunca han dicho, como hemos visto antes. Como dice Ariel Conn: “Va a ser mucho más fácil manipular a las personas, y eso es extremadamente preocupante”.

Entonces, ¿cuál es la función de la IA en todo esto? ¿Es la cura o la enfermedad?

artificial-intelligence-fake-news-gauge

Solucionando las noticias falsas

Para saber si la inteligencia artificial puede ayudarnos a corregir noticias falsas, primero debemos entender cómo funciona el aprendizaje automático.

El aprendizaje automático es la ciencia de lograr que los ordenadores aprendan de los datos, identifiquen patrones y tomen decisiones con la mínima intervención humana. La idea es que las máquinas mejoren su rendimiento a lo largo del tiempo y sean cada vez más autónomas.

Por lo tanto, para aplicar esto a nuestra lucha contra la desinformación, necesitaríamos desarrollar una tecnología que analice los datos para determinar correctamente si un fragmento del contenido es verdadero o falso. Sin embargo, según los expertos, incluido el director europeo de Investigación de IA de Facebook, Antoine Bordes, es más fácil decirlo que hacerlo:

“Si se trata de reconocer algo extraño en una imagen, eso es algo que una máquina puede hacer, pero si se trata de interpretar si un texto es verdadero o falso, eso es mucho, mucho más complejo. Es mucho más complicado de detectar y eso todavía no es algo que pueda hacer una máquina”.

¿Por qué? Porque las máquinas carecen de habilidades humanas básicas como “comprensión, sentido común y poder situar las cosas dentro de un contexto”.

No obstante, esto no quiere decir que los investigadores no estén trabajando incansablemente para resolver este problema. El número de estudios sobre este tema ha aumentado significativamente en los últimos dos años, y algunos han demostrado ser bastante fructíferos.

La mejor IA para detectar noticias falsas

En la revista MIT Technology Review, Preslav Nakov, científico principal del Qatar Computing Research Institute y uno de los investigadores de un nuevo estudio sobre la fiabilidad de los medios de comunicación, escribe que, a pesar de todo el escepticismo, se siente optimista sobre el uso de las máquinas para detectar noticias falsas. De la misma forma predice que probablemente eso no sucederá a corto plazo.

En el estudio que Nakov ayudó a realizar, entrenaban su sistema utilizando variables que las máquinas podían analizar sin intervención humana. Se realizó el análisis de contenido de la estructura del título y la variedad de palabras, se evaluó el tráfico web y la influencia de los medios de comunicación midiendo la participación en las redes sociales.

Al final del experimento, su mejor modelo etiquetó con precisión los medios de comunicación con una confiabilidad “baja”, “media” o “alta” solo el 65 % de las veces.

Pero analizar la confianza de los medios de comunicación e identificar noticias falsas es un baile delicado. Los periodistas siguen (o al menos se supone que deben seguir) metodologías meticulosas y códigos de conducta para producir las noticias que leemos todos los días. Y ningún ordenador podría entenderlo nunca.

artificial-intelligence-fake-news-robot

¡Humanos y máquinas del mundo,uníos!

“Creo que la IA va a ser cada vez más útil a la hora de detectar noticias falsas, pero también tenemos que intensificar el papel humano”. Al final, será un esfuerzo de equipo entre máquinas y humanos “.

Antoine Bordes, director europeo del Laboratorio de Investigación de IA de Facebook

Combinar lo mejor de lo humano y de la inteligencia artificial podría ser nuestra mejor esperanza. Las máquinas nos dan velocidad y adaptabilidad, mientras que los seres humanos aportan comprensión y, con ello, la capacidad de considerar el contexto y los matices al evaluar la veracidad de un texto. Esto también nos permite introducir más datos en el sistema y mejorar su rendimiento con el tiempo.

No obstante, es importante resaltar el hecho de que también estamos hablando de periodismo, una actividad increíblemente centrada en el ser humano que sigue rigurosas reglas para llegar a la verdad. Esta es la razón por la que las plataformas de verificación de datos son una pieza importante en este rompecabezas de noticias falsas.

Hablamos con Aaron Sharockman, Director Ejecutivo de Politifact, uno de los sitios web de investigación más reconocidos de los Estados Unidos, sobre el papel que desempeñará la IA en el futuro y la metodología que impulsa su Medidor de Verdades (Truth-o-Meter).

Tienen once periodistas a tiempo completo que trabajan todos los días filtrando las historias más importantes en periodismo impreso o de difusión para obtener datos verificables.

“A partir de ahí, lo primero que hacemos es preguntar al orador: “¿Qué pruebas tiene para afirmar que esto es cierto?” Mientras que en los Estados Unidos si te arrestan eres inocente hasta que se demuestre lo contrario. Aquí, eres más o menos culpable hasta que se demuestre lo contrario. Si dices algo, deberías tener los datos que lo respalden, para corroborarlo”.

Luego, confían en fuentes independientes y expertas que están dispuestas a participar en el registro. “A partir de ahí, un escritor recomienda un veredicto o una calificación. Usamos seis calificaciones, desde verdadero hasta falso, las cuales son nuestras mentiras más grandes. Pero en última instancia el escritor no llega a decidir la calificación. Lo que sucede es que va a un panel de tres editores que hacen de jurado.”

¿Podría la IA reemplazar eso algún día?

Ahora bien, es imposible que una máquina pueda aplicar sus algoritmos, pero podría ayudar a mejorar su eficiencia y enviar esa información a un mayor número de personas, según Aaron Sharockman:

“La gente siempre tendrá que involucrarse en la verificación de los hechos, ayudando a las personas a entender lo que es cierto y lo que no. En última instancia, es un sistema muy centrado en la persona. Sin embargo, dicho esto, creo que los ordenadores pueden ayudar a que el proceso sea mucho más eficiente. Entonces, lo que estoy deseando es ¿cómo pueden los ordenadores coger mi verificador de hechos, uno de nuestros 11 verificadores de hechos, y tener la capacidad de duplicar la cantidad de verificaciones de datos que escriben? “

Sharockman explica más:

“¿Cómo pueden los ordenadores reducir el tiempo que se tarda en redactar un informe de datos desde seis hasta tres horas? Y luego, en segundo lugar, ¿cómo pueden los ordenadores y la IA amplificar el alcance de nuestra verificación de datos? Eso funciona de dos maneras. Una es la manera fácil, que consiste en que publiquemos una verificación de hechos, ¿cómo podemos asegurarnos de que todo el mundo lo vea? La segunda es que la información errónea continúe difundiéndose, sin importar lo que hagamos, ¿cómo puede la verificación de hechos mantenerse cerca de la fuente que ha propagado la información errónea? Si eso significa que se repite en otro blog, ¿cómo puede vincularse la verificación de datos a ese blog? ¿Es un bot de Twitter el que responde a alguien que publicó un enlace erróneo en Twitter? Creo que esas son las cosas que más me entusiasman. Y puedo verlas en mi horizonte; siento que llegarán”.

Ponerse al día con la realidad

Al final, parece que todavía nos estamos poniendo al día con la realidad. A medida que la línea entre la simulación y la realidad continúa difuminándose, necesitamos saber exactamente cuál es nuestra posición en esta tecnología y si va a dictar la verdad o va a detectarla.

Ariel Conn, del Future of Life Institute, no está muy segura de que tengamos una respuesta todavía. “Tengo la sensación de que esto va a ser muy parecido a las demás amenazas con las que nos hemos enfrentado. La seguridad cibernética es casi totalmente un caso de que nos pongamos al día. Pero, una vez que tengamos una idea más clara de cuáles son algunas de estas amenazas, podemos crear buenos programas para protegernos contra las amenazas cibernéticas. Así que creo que la IA será la misma, donde, especialmente al principio, probablemente se pondrá al día. Pero con suerte, se volverá más proactiva “.

Hoy, la lucha por la información está en el centro del debate y el daño es real. Podríamos no estar avivando los temores de una invasión extraterrestre (es decir, sé perfectamente quién sería el primero en tuitear sobre ello), pero estamos difundiendo mentiras que podrían tener un grave impacto en nuestras vidas, nuestra democracia y nuestro futuro. La tecnología solo nos llevará hasta la mitad del camino: tendremos que verificar nuestros propios malos hábitos.

ArtboardFacebook iconInstagram iconLinkedIn iconUnbabel BlogTwitter iconYouTube icon