Los peligros de las fotos creadas con inteligencia artificial

El expresidente de Estados Unidos Donald Trump no fue arrestado en las calles de Nueva York ni está en la cárcel como se ve en una docena de fotos que se compartieron en las redes sociales en las últimas horas.

Aunque las imágenes son muy similares a lo que podría ser una escena de la vida real, todo es falso. Fueron fotos creadas con ayuda de la inteligencia artificial (IA) Midjourney v5 que genera piezas tan exactas que llegan a un nivel de detalle asombroso: es muy difícil diferenciar si son verdaderas o falsas. Es un sistema en el que se pueden convertir en imágenes todo lo que se le pida a partir de texto (text to image).

Retomando el caso de Trump hay una foto, por ejemplo, en la que se ve al exmandatario forcejeando con varios policías, y en otras está con el traje de color naranja tras las rejas en una prisión.

El encargado de compartir este contenido que ha generado todo tipo de opiniones fue el periodista británico Eliot Higgins, quien lo hizo en su cuenta de Twitter.

El hecho suma varios temas al debate de la IA: dónde están los límites, hasta dónde se puede llegar, cómo puede afectar la percepción de realidad y crear “realidades” que no existen.

Porque la Inteligencia Artificial cada vez crece, aprende y permite más posibilidades. Según los creadores de Midjourney, la más reciente versión de esta herramienta tiene, entre otras mejoras, “mucha mayor calidad de imagen, salidas más diversas, rasgos estilísticos más amplios, soporte para texturas, formatos de imagen más anchos y rango dinámico más amplio”. Es decir, cada vez se pueden conseguir fotos más realistas.

Ya ha pasado

En 2017, el también expresidente de Estados Unidos, Barack Obama, fue víctima de la inteligencia artificial. Investigadores de la Universidad de Washington crearon, aplicando IA, un video digital en el que el político dice con su voz algunos de sus logros presidenciales. Simula su boca con todo lo que habla. Los expertos mezclaron imágenes de archivo del exmandatario con audios similares a la voz de Obama, como la de un imitador.

Para generar estos contenidos se utiliza una tecnología conocida como inteligencia artificial generativa multimodal: se unen textos, videos, fotos y hasta lenguajes de programación. Es muy diferente a la que se utiliza para hacer predicciones y clasificaciones.

El profesor de la Universidad de Antioquia, John Fredy Duitama, explicó que este tipo de tecnología no es nueva. “Desde hace rato está andando, lo que estamos viendo es que está en primera plana”, y que cada vez es más fácil acceder para la gente común y corriente. En la lista figuran Dall-e y Stability.ai para generar imágenes a partir de palabras, Booth.ai para hacer fotos de calidad en segundos o GitHub Copilot que le puede ayudar a programar.

Cualquiera puede entrar a Dall-e, por ejemplo, para decirle que haga una imagen a su gusto: un gato en la luna comiendo helado al estilo pop. Y aunque hay versiones pagas, hay posibilidades gratuitas. En la del ejemplo hay créditos gratis.

Desde la percepción de una audiencia, para Karina Ochoa, docente de La Colegiatura, este tipo de contenidos tienen un impacto muy fuerte en la sociedad, sobre todo cuando se difunden en los canales y las plataformas digitales como las redes sociales.

“La IA como herramienta puede convertirse en el mejor asistente para eliminar procesos repetitivos, por lo que debemos empezar a hablar de las éticas y la moralidad de la IA para usarla de manera responsable”.

Ahí están dos palabras claves: la ética y la moral.

¡Mucho ojo!

¿Cómo darse cuenta cuando una imagen es real o no? Este es uno de los grandes interrogantes que hay por estos días. El docente Duitama dijo que para una persona desprevenida no es tan fácil descubrirlo, porque detrás de todo hay un problema de fondo y es la postura de quién recibe la información. Algo similar a lo que ocurre con las noticias falsas que rondan en internet.

Pero calma. El panorama no es tan oscuro como parece. El docente explicó que en la actualidad existen herramientas que pueden ayudar a detectar esas “deep fakes” o contenidos manipulados por IA. Una es FakeCatcher que ofrece una eficacia del 96 %.

“A simple vista es muy difícil reconocer este tipo de imágenes porque son simulaciones muy bien hechas y a esto se suma la postura de quien la ve, si lo asume como verdad de entrada o no”, agregó el profesor.

También manifestó que toda tecnología se puede usar para bien o para mal. En la educación, por ejemplo, la IA puede ser muy útil para crear contenidos personalizados para los estudiantes como versiones de cuentos según los intereses de los lectores.

El lado no tan bueno es que la IA se puede usar de muchas maneras negativas para hacer fraudes (códigos para hacer ataques a los servidores) y promover noticias, imágenes (como en el caso de Trump) y videos falsos con el propósito de “incendiar a un país”.

“Es muy importante como consumidores ser conscientes y tener una percepción de lo que se está consumiendo en las redes sociales, ya sea una marca, una experiencia o una afiliación con una entidad o un político. Es importante siempre corroborar la información, no dejarse guiar por los likes o porque es un tema controversial”, dijo Ochoa.

En cuanto al tema de regulación, son pocos los avances que existen. Sin embargo, el robot ChatGPT, creado por la empresa estadounidense OpenAI, ha puesto a la Unión Europea (UE) ante una encrucijada en su esfuerzo por regular el uso de esta tecnología para proteger a los usuarios.

Desde hace más de un año, la UE viene trabajando en un reglamento que le ponga orden al uso de la IA: avanza en un marco para regular este tipo de tecnología en forma efectiva. En abril de 2021, la Comisión Europea anunció por primera vez un plan con un conjunto de reglas sobre IA y el Parlamento Europeo espera finalizar un proyecto de ley sobre IA en este mes. En el caso de Colombia, la regulación de la inteligencia artificial todavía es nula.

Los nuevos anuncios

Este martes, Microsoft también anunció la herramienta Bing Image Creator, la IA que convierte textos a imágenes. Y la semana pasada, el gigante tecnológico hizo otro gran anuncio: agregará su IA generativa a algunas de sus aplicaciones comerciales más populares como Word, PowerPoint y Excel.

Google no se quiso quedar atrás: informó que abrió el acceso anticipado a un grupo selecto de usuarios en Estados Unidos y el Reino Unido para que interactúen con Bard, su chatbot impulsado con IA y rival tanto de ChatGPT de OpenAI como de Bing de Microsoft.