¿Imagen real o generada por IA?

Es martes y no hay tiempo que perder. Esta es la edición exprés de nuestro boletín.

“Ver para creer”. Desde tiempos bíblicos, la frase se utiliza para exigir pruebas fehacientes de lo que da la apariencia de incierto. Una dosis de escepticismo es saludable.

Con los avances vertiginosos de la inteligencia artificial, una imagen puede despertar más dudas que certezas.

Stuart Thompson , quien cubre para el Times cómo se propaga la desinformación en internet y las formas en que impacta a la gente en todo el mundo, acaba de publicar una nota interactiva que pone a prueba nuestra capacidad para identificar imágenes generadas con IA, incluidos ultrafalsos o deepfakes.

Contacté a Stuart con algunas preguntas sobre los avances y desafíos de este tipo de imágenes. A continuación, presentamos sus respuestas, que han sido traducidas, editadas y condensadas por claridad y extensión:

Parece que con la inteligencia artificial generativa, la velocidad es la clave del juego: las herramientas mejoran muy rápidamente. ¿Cuáles dirías que han sido los avances tecnológicos más sorprendentes de este año?

Ahora hay muchas tecnologías de inteligencia artificial impresionantes, no solo herramientas fotográficas como las que presentamos en este cuestionario. Hemos visto mejoras increíbles en el audio generado por la inteligencia artificial, que puede incluir pausas naturales y expresiones como enfado o preocupación. Más recientemente, se han lanzado varias herramientas de IA que crean videos asombrosos, aunque no muy realistas. A veces, la cantidad de empresas que dedican tiempo al desarrollo de mejores modelos puede ser alucinante: es difícil estar al día con todos los avances.

Solemos oír hablar de sus peligros y amenazas, pero ¿en qué espacios está repercutiendo de manera positiva esta tecnología? ¿Cuáles son las ventajas indiscutibles de las imágenes generadas con IA?

Probablemente sea justo decir que algunos de los efectos positivos se están produciendo entre bastidores, con empresas que incorporan herramientas de inteligencia artificial a sus flujos de trabajo o nuevas compañías que desarrollan instrumentos de IA que no reciben atención nacional. Pero una de las áreas más positivas es, sin duda, el arte impulsado por IA. Muchos artistas desconfían, con razón, de las herramientas de inteligencia artificial, sobre todo después de que muchas empresas de este sector entrenaron a sus modelos con obras protegidas por derechos de autor. Pero ha florecido una comunidad de artistas que aceptan esas herramientas y experimentan con sus posibilidades. Para mí, el espíritu creativo que se manifiesta es un atisbo de esperanza.

Más allá del ámbito de la desinformación ¿qué es lo más grave? ¿Cuáles son otros efectos perjudiciales de las imágenes creadas con IA?

Como cualquier nueva tecnología, la IA se suma a muchos de los problemas que ya existen. Los que más atención están recibiendo son la pornografía ultrafalsa no consentida y las suplantaciones de identidad, como cuando un operador político utilizó una herramienta de IA para copiar la voz del presidente Biden y advertir a la gente de que no votara. Los legisladores analizan formas de detener la propagación de la pornografía ultrafalsa no consentida y la Comisión Federal de Comunicaciones prohibió rápidamente las llamadas robóticas ultrafalsas. Pero hay muchos más problemas en internet —estafas, desinformación, acoso, odio— y todos se están potenciando por las herramientas de inteligencia artificial.

¿Qué te entusiasma de cubrir este tema?

Es emocionante ver lo rápido que avanza la tecnología. Aunque hay innumerables formas en las que la inteligencia artificial está perjudicando a la gente o puede perjudicarla en el futuro, hay momentos en los que veo una fotografía, una obra de arte o un video increíble hecho con inteligencia artificial y me quedo sin aliento. Si te gusta la tecnología, como a mí, es un momento muy emocionante. Es probable que lo preocupante sea todo lo demás.

¿Qué se puede hacer a fin de detectar mejor los deepfakes y otras imágenes maliciosas? ¿Cómo hacer para evitar que se propaguen?

Es importante saber lo que las herramientas pueden hacer. Si los lectores completan el cuestionario, tendrán una buena idea del estado actual de la tecnología. Según lo que he reportado, está claro que no todo el mundo presta atención a lo rápido que avanza la IA ni a lo que es capaz de hacer. Así que comparten una imagen falsa o un video ultrafalso sin darse cuenta de que algo está mal.

En general, es inteligente contar el número de dedos, fijarse en los elementos del fondo para ver si son confusos o sin sentido, y buscar cualquier texto, ya que muchas herramientas de IA aún tienen dificultades para escribir texto.

Pero es igual de importante evitar perder la confianza en lo que se ve en internet. Muchos expertos afirman que el mayor riesgo de la IA es que la gente empiece a desconfiar de todo, tanto de las imágenes creadas por esa tecnología como de las fotografías auténticas. Es importante encontrar fuentes que conozcas y en las que confíes, que se responsabilicen de hacer las cosas bien y que publiquen correcciones cuando se equivoquen. Esa puede ser una de las mejores defensas en esta era del auge de la IA.

P. D.: Aquí hay otro interactivo preparado por Stuart para poner a prueba tu capacidad de identificar rostros falsos.

Si alguien te reenvió este correo, puedes hacer clic aquí y recibirlo en tu correo.

— Gregory Escobar y Sabrina Duque produjeron y editaron este boletín.

¡Hasta mañana! Si te gustó este boletín, compártelo con tus amigos, colegas y seres queridos (y no tan queridos). Y por favor, cuéntanos qué te parece.