Cuando la mentira tiene bibliografía

Hace unas semanas vi a una mujer contar una historia en internet que no he podido quitarme de la cabeza.

Había ido a un pódcast y el presentador le preguntó cómo había sido crecer en México. Ella no había crecido en México. Supuso que el presentador simplemente se había equivocado. Después fue a otro evento y alguien le preguntó cómo había sido aprender a programar por su cuenta en Guadalajara. Eso ya era más difícil de descartar. Nunca había estado en Guadalajara. Así que se buscó en Google.

El resumen de IA de Google había construido, al parecer, una biografía alternativa para ella. Decía que era de Guadalajara. Sospechaba que la había confundido con otra mujer con un nombre y una trayectoria profesional parecidos que sí era de México. Eso ya es una alucinación bastante convencional de la IA. Lo que pasó después no lo es.

Empezaron a aparecer artículos generados con IA sobre ella que repetían la información del resumen. Esas páginas se indexaron y, a partir de ahí, cuando la IA decía que era de Guadalajara, podía citar fuentes que lo demostraban. La alucinación se había escapado del modelo y había entrado en el propio cuerpo de evidencia.

Tal y como ella lo explicaba, la IA ya no estaba simplemente alucinando que era de Guadalajara. Afirmaba con total seguridad que era de Guadalajara y citaba una fuente que lo decía. El error se había vuelto tan convincente que al final su propia madre la llamó para preguntarle cuándo la había llevado a México.

Hay otro detalle de esta historia que resulta casi demasiado perfecto. La publicación original se volvió difícil de encontrar después de que la historia estallara en internet. Solo pude recuperarla porque otra persona la había vuelto a publicar en LinkedIn, donde la transcripción seguía indexada. Incluso la prueba de la prueba falsa necesitaba un archivo.

Llevamos años hablando de las alucinaciones de la IA como si fueran fallos pasajeros dentro de un modelo. La máquina dice una tontería, alguien se da cuenta, lo corregimos y seguimos adelante. Pero internet les da a las alucinaciones un sitio donde vivir.

Cuando un dato inventado se convierte en una página web, un perfil, una entrada de blog, un artículo generado automáticamente o un registro de base de datos, los sistemas futuros pueden recuperarlo. El cambio importante no es solo de la alucinación a la publicación. Es de la publicación a la apariencia de evidencia. Una vez que la falsedad está indexada, recuperada y citada, la repetición empieza a parecerse a la corroboración.

Diez sitios web que dicen lo mismo no son necesariamente diez fuentes. Pueden ser diez descendientes del mismo error. Esa distinción importa porque una de las soluciones que hemos propuesto frente a una IA poco fiable han sido las citas. Les pedimos a las máquinas que muestren su trabajo, que nos den fuentes, que enlacen la evidencia. Es una mejora, pero una cita responde a una pregunta mucho más estrecha de lo que a veces fingimos. Puede decirnos de dónde salió una afirmación. No puede decirnos si la afirmación es verdadera. Un modelo puede citar de forma impecable y estar completamente equivocado.

No me resulta ajeno que se escriban mentiras sobre mí en internet. Durante casi toda mi vida, sin embargo, lo consideré un riesgo laboral bastante inusual. Ocurría si eras una persona pública, más o menos conocida, candidata política, directiva, activista o simplemente lo bastante visible como para que desconocidos se interesaran por ti.

En mi caso, el volumen aumentó muchísimo a medida que me hacía más pública. En 2022 fui seleccionada para el programa Leaders Europe de la Obama Foundation y, cuando el presidente Obama vino a Copenhague, me eligieron para presentarlo antes de su intervención en el Copenhagen Democracy Summit. Ese tipo de visibilidad cambia la cantidad de información que se produce sobre ti. Parte es correcta, parte es descuidada, parte es interpretación y buena parte sencillamente no es cierta.

Las mentiras en internet pasan factura. Pero si has vivido en público el tiempo suficiente, ocurre algo un poco extraño: te insensibilizas. Aprendes que corregirlo todo es imposible. Dejas de dar por hecho que algo merece respuesta solo porque se ha publicado. También aprendes que publicar no equivale a decir la verdad.

Con el tiempo tu familia también lo aprende. A estas alturas, cuando alguien de mi familia lee algo sobre mí en internet, su primer impulso suele ser el escepticismo. A veces saben de inmediato que algo no puede ser cierto simplemente porque saben dónde estaba yo, qué estaba haciendo, con quién trabajaba o qué dije en realidad.

Es una alfabetización rara de desarrollar en familia. La mayoría de la gente nunca ha tenido que desarrollarla. Sus padres nunca han tenido que preguntarse si un artículo sobre su hija es inventado. Su pareja nunca ha tenido que preguntar si la biografía que acaba de encontrar es real. Sus hijos nunca han necesitado entender que la persona descrita en internet y la persona sentada enfrente en la mesa pueden ser, de vez en cuando, dos personas muy distintas. Hasta ahora, casi nadie ha tenido motivos para prepararse para esa experiencia.

Eso es lo que cambia cuando fabricar una mentira ya no exige que a un ser humano le importe lo suficiente como para fabricarla. Ya no hace falta ser lo bastante famoso para que otra persona se moleste en inventar algo sobre ti. Una máquina puede confundirte con otra persona, inventarte una infancia, mudarte a otro país, darte un título que nunca obtuviste, una empresa en la que nunca trabajaste, una opinión política que nunca expresaste o una carrera que nunca tuviste. Otro sistema puede convertir ese error en un artículo, otro puede indexarlo y otro puede citarlo.

El sistema de información puede cometer un error y después empezar a usar su propio error como evidencia. La identidad pública falsa era sobre todo un riesgo laboral de la visibilidad. Ahora, potencialmente, la tiene todo el mundo.

Hay algo que he aprendido tras años de ver cosas inexactas escritas sobre mí en internet y que quizá le resulte útil a todo el mundo: las fuentes primarias importan más que antes.

Hay afirmaciones sobre mí en internet que son categóricamente falsas. A veces tengo la suerte de poder demostrarlo con relativa facilidad, no porque pueda insistir más alto en que son falsas, sino porque existe un registro original. Un discurso muestra lo que dije de verdad. Una organización puede documentar qué cargo ocupé en realidad. Un registro mercantil muestra en qué trabajé realmente. Un vídeo muestra lo que pasó de verdad. La fuente existía antes de que otra persona escribiera su interpretación de ella.

Esa distinción se vuelve mucho más importante en un entorno informativo donde la repetición puede hacerse pasar por confirmación. Cien páginas secundarias pueden repetir la misma afirmación, pero la pregunta clave sigue siendo si hay algo debajo de ellas que sea anterior a la afirmación misma.

Por eso pienso cada vez más que la transparencia radical puede convertirse en una forma de autodefensa digital. Guarda el original. Publica el discurso. Documenta el proyecto. Conserva el cargo. Guarda el vídeo. Haz posible que humanos y máquinas rastreen una afirmación hasta algo que existía antes de que internet empezara a repetirse.

Eso puede resolver algunos problemas, pero también crea una carga extraordinaria y profundamente injusta. Una máquina puede inventar algo sobre ti en segundos. Corregirlo puede exigir años de documentación. La falsedad puede propagarse de forma automática mientras la verdad puede requerir un archivo. Y la carga recae sobre la persona tergiversada.

No deberíamos tener que mantener archivos públicos de pruebas sobre nuestra propia vida solo porque algún día los sistemas de información puedan inventar versiones alternativas de nosotros. Pero es hacia ahí donde tiene que ir ahora la conversación sobre la IA y la verdad.

La pregunta importante ya no es solo si una respuesta tiene citas. Necesitamos saber dónde se originó la afirmación, si las fuentes son realmente independientes, si son anteriores a la afirmación, si alguien las verificó y si hay una fuente primaria debajo de todo ello.

Porque la próxima crisis de la información quizá no parezca desinformación. Quizá parezca documentada. La prosa será pulida, los resultados de búsqueda coincidirán, la respuesta sonará segura y las notas al pie estarán ahí.

Y la mentira tendrá bibliografía.

Referencias

El relato de la mujer descrita falsamente por la IA de Google como criada en Guadalajara se conserva en una republicación en LinkedIn de Cameron Turner. En la transcripción del vídeo, ella explica que el resumen de IA de Google le había atribuido un origen mexicano, que después aparecieron artículos generados con IA que repetían la afirmación y que el resumen de IA empezó entonces a citar esos artículos como evidencia. La publicación original parece haber sido eliminada o haberse vuelto difícil de consultar, pero la republicación y la transcripción siguen indexadas.

Republicación y transcripción de Cameron Turner en LinkedIn: https://www.linkedin.com/posts/camjturner_ai-processimprovement-governance-activity-7497586593373974528-6fjl?utm_source=chatgpt.com