Hombre demandó a ChatGPT luego de que la IA lo acusara, falsamente, de asesinar a sus hijos

Un ciudadano noruego presentó una demanda después de que descubriera que ChatGPT, el chatbot desarrollado por OpenAI, lo acusaba erróneamente de asesinar a dos de sus hijos. 

El incidente se hizo público cuando Arve Hjalmar Holmen, el afectado, fue informado sobre la falsa acusación generada por la inteligencia artificial.

Actualización del modelo y críticas de Noyb

“Lo que más miedo me da es que alguien pueda leer eso y pensar que es cierto”, afirmó Holmen en un comunicado, quien se encuentra representado por la asociación austriaca Noyb, una organización que aboga por la protección de la privacidad. 

La denuncia se basa en la afirmación de que la IA proporcionó información completamente incorrecta, lo que podría perjudicar gravemente la reputación de una persona sin justificación.

Desde el incidente, OpenAI, la empresa creadora de ChatGPT, actualizó su modelo para evitar que se repitiera el error y ya no presenta a Holmen como un criminal. Sin embargo, Noyb ha expresado su preocupación de que la información errónea pueda seguir almacenada en los sistemas internos de la compañía.

La ONG criticó que “ChatGPT da regularmente información falsa (...) que puede dañar gravemente la reputación de una persona, acusando falsamente a personas de corrupción, abuso de menores o incluso asesinato”. 

Además, Noyb denunció que “al permitir a sabiendas que su modelo de IA cree resultados difamatorios, OpenAI viola el principio de exactitud” establecido en el Reglamento General de Protección de Datos europeo (RGPD). En este sentido, la organización pide que se eliminen los datos incorrectos, se mejore la tecnología y se imponga “una multa administrativa”.

El lanzamiento de ChatGPT a finales de 2022 marcó un hito en la democratización de la inteligencia artificial, pero ahora enfrenta un cuestionamiento sobre su precisión y los posibles daños que pueda causar al difundir información incorrecta.

'Tiktoker' reveló cuál es la pregunta que debe hacerle a ChatGPT para conocer 'verdades ocultas' sobre uno mismo: 'No lo creo'

Una joven 'influencer' en TikTok causó gran revuelo al demostrar cómo la inteligencia artificial es capaz de descubrir aspectos ocultos de la personalidad.

La usuaria @mimiworkbestie compartió un video en el que mostró cómo utilizó ChatGPT para explorar "verdades incómodas" sobre sí misma, una tarea que inicialmente consideraba improbable. Sin embargo, la respuesta obtenida de la inteligencia artificial la dejó sorprendida y la llevó a una reflexión inesperada.

La joven reveló que el punto de partida para este ejercicio fue hacerle una pregunta específica a ChatGPT: “¿Qué sabes de mí que quizás yo no sé sobre mí, basado en todas nuestras interacciones pasadas?”. Con esta consulta, el sistema tuvo acceso a sus conversaciones anteriores, permitiéndole analizar las interacciones y extraer detalles sobre su personalidad, preferencias y posibles dilemas internos.

La respuesta que recibió describió a Mimi como “una persona ambiciosa con una fuerte conexión a tu libertad personal y profesional”. Este análisis detallado y preciso sobre su forma de ser y sus valores la impactó profundamente. Al respecto, Mimi comentó que el resultado fue “bastante heavy”, reflejando lo sorprendente que fue para ella recibir una descripción tan exacta de su vida y creencias personales.

Reacciones en las redes y la variedad de opiniones

El video de Mimi se viralizó rápidamente, alcanzando 27 mil “me gusta” en pocos días y generando miles de comentarios. Las respuestas de los usuarios fueron diversas. Algunos compartieron experiencias similares, mientras que otros se mostraron escépticos ante el poder de la IA.

Entre los comentarios, se destacaron expresiones como: “A mí me dijo: eres empático y curioso, pero esa sensibilidad te hace vulnerable”, “ChatGPT me valora y apoya más que mis padres”, “Es como un horóscopo, dice ambigüedades que valen para todo el mundo” y “El ChatGPT me dio un golpe de realidad muy pesado”. Estos intercambios reflejan el impacto que tuvo la experiencia de Mimi, mostrando cómo la IA está provocando tanto asombro como duda en los usuarios de redes sociales.

Agencia AFP

Más noticias en EL TIEMPO

*Este contenido fue reescrito con la asistencia de una inteligencia artificial, basado en información de la Agencia AFP y La Nación, y contó con la revisión de un periodista y un editor.