Nueva herramienta permite detectar escritos creados por IA y predecir qué modelo los creó

Una nueva herramienta desarrollada por científicos de Johns Hopkins promete revolucionar la detección de textos generados por inteligencia artificial (IA), al permitir no solo identificar si un escrito fue creado por una máquina, sino también predecir qué modelo específico fue utilizado, incluyendo reconocidos como ChatGPT, Gemini o LLaMa.

Este avance tecnológico surge en un contexto donde la proliferación de contenidos generados por IA, desde imágenes virales de figuras públicas hasta comentarios en redes sociales, ha generado preocupaciones sobre la autenticidad y la legalidad del uso de estas herramientas. 

La capacidad de la herramienta para distinguir entre los diversos modelos de IA abre nuevas vías para abordar el uso indebido de la tecnología, como la generación de desinformación y trampas académicas.

La legislación existente, como la Ley de IA de la Unión Europea y la Ley de Autorización de Defensa Nacional de Estados Unidos, busca regular estos aspectos, pero la herramienta de Hopkins podría ofrecer un método más directo y eficiente para hacer cumplir estas regulaciones. 

Según Nicholas Andrews, investigador principal del Centro de Excelencia en Tecnología del Lenguaje Humano de Johns Hopkins y autor del estudio, "Somos los primeros en demostrar que el texto generado por IA comparte las mismas características que la escritura humana, y que esto se puede utilizar para detectarlo de manera confiable y atribuirlo a modelos de lenguaje específicos".

Este descubrimiento fue presentado en la Conferencia Internacional sobre Representaciones de Aprendizaje, donde se destacó la capacidad única de la herramienta para identificar el estilo distintivo de cada modelo de IA. 

"Ahora tenemos esta herramienta que pasamos años construyendo y podemos aplicarla para detectar qué es falso y qué no está en línea. No solo eso, podemos averiguar si fue ChatGPT o Gemini o LLaMA, ya que cada uno tiene huellas digitales lingüísticas que los separan no solo de los autores humanos sino también de otros autores de máquinas", explicó Andrews.

Los resultados del estudio indicaron que la herramienta puede identificar con precisión estilos de lenguaje específicos solicitados por los usuarios, como el de un adolescente, un ciudadano preocupado, un optimista escéptico, un realista pragmático o un activista apasionado. Durante una demostración en vivo en la conferencia, se reveló que aproximadamente el 10 % de las presentaciones analizadas habían sido generadas por IA, principalmente por ChatGPT.

El equipo de Hopkins planea hacer disponible la herramienta al público en breve, permitiendo su descarga y uso libre, lo que podría significar un paso importante hacia una mayor transparencia y seguridad en el uso de la inteligencia artificial generativa.

Matías Miguens

La Nación (Argentina) / GDA

Más noticias en EL TIEMPO

*Este contenido fue reescrito con la asistencia de una inteligencia artificial, basado en información de La Nación (GDA), y contó con la revisión de la periodista y un editor.