La IA devoró internet. Ahora queremos que decida quién es humano

La marca de agua pretende hacer transparente el contenido sintético. También podría convertir a las empresas de IA en las instituciones que certifican la autoría humana.

Cuando era niña, escribía mis trabajos escolares a mano y luego los pasaba a máquina en nuestra máquina de escribir.

Se suponía que yo debía hacer yo misma la mecanografía. Era útil aprenderlo. Pero a veces se hacía tarde, el trabajo ya estaba escrito, yo estaba agotada, y mi madre tomaba el relevo para que yo pudiera irme a la cama. Era una madre soltera con cosas más importantes que hacer que supervisar a una niña agotada ceremonialmente pulsando cada tecla restante a las once de la noche.

Nadie pensó que ella hubiera escrito mi trabajo por eso. Nadie lo llamó plagio, trampa o trabajo falso. Entendíamos de manera intuitiva que había una diferencia entre la capacidad que se evaluaba y la infraestructura utilizada para producir el artefacto final. Las ideas, el argumento, el lenguaje y la comprensión eran míos. Mecanografiar tenía cierto valor como habilidad, pero no era el propósito del trabajo.

Luego tuvimos un ordenador. Fue enormemente emocionante, no solo porque la misma máquina en la que de repente podía escribir mis trabajos también me permitía jugar a Gorillas, el maravillosamente estúpido juego en el que dos gorilas se lanzaban plátanos explosivos por los tejados.

Ahora el ordenador proporcionaba la infraestructura de mecanografía directamente. Mi madre se convirtió en el corrector ortográfico, la lectora y la persona con la que sondeaba ideas. Luego el software se convirtió en el corrector. El software de gramática empezó a corregir frases. Google pasó a formar parte del proceso de investigación. El autocompletado empezó a predecir lo que intentaba escribir.

Nadie exigió un recibo que documentara exactamente qué palabras habían tocado mi madre, Microsoft Word o Google.

Y luego llegó la IA.

¿Por qué decidimos que es aquí donde la infraestructura se convierte en autoría?

Uso la IA para alguna combinación de todos esos roles anteriores: mecanógrafa, investigadora, editora, crítica, correctora ortográfica y compañera de brainstorming. Parte de eso es infraestructura. Parte es asistencia intelectual. A veces es genuino trabajo intelectual.

Pero el trabajo intelectual y la autoría nunca han sido sinónimos. Mi madre contribuía intelectualmente cuando yo sondeaba ideas con ella. Un editor puede mejorar sustancialmente un argumento. Un investigador puede descubrir el hecho del que depende un ensayo. Ninguno se convierte automáticamente en autor.

La autoría está más cerca de donde reside la agencia intelectual rectora: quién decide de qué trata la obra, elige entre ideas, entiende el argumento, determina qué pertenece a ella y asume la responsabilidad del resultado.

Hace años, experimentamos en CanopyLAB con usar inteligencia artificial para evaluar el trabajo de los estudiantes de una manera casi opuesta a lo que hace la marca de agua hoy. Una sola nota era demasiado burda. Queríamos distinguir entre cosas como comprensión, solidez del argumento, coherencia, gramática y estilo, y usar esas distinciones para dar mejor feedback cualitativo.

En aquel momento, la tecnología lo hacía difícil. Luego llegó la IA generativa, y gran parte del problema técnico se volvió casi irrelevante. Los modelos modernos pueden mirar un texto y separar dimensiones del desempeño en segundos. Así que no creo que el problema sea que nunca podríamos saber qué contribuyó Claude. Probablemente podríamos saber mucho más.

Anthropic dice que los futuros modelos de Claude marcarán el texto con una marca de agua como parte de su respuesta a los requisitos de transparencia de la UE. Hoy, esa marca puede indicar que Claude estuvo involucrado sin distinguir necesariamente entre Claude generando algo y Claude editándolo intensamente. Pero no hay razón para asumir que la procedencia tenga que seguir siendo tan burda para siempre.

Quizá el recibo del futuro sea desglosado. Claude propuso la estructura. Claude encontró la contrarréplica. Claude reescribió cuatro párrafos. Claude corrigió la gramática. La persona rechazó seis sugerencias, verificó las fuentes, reescribió la mitad del texto generado y tomó las decisiones finales.

Bien. Ya tenemos la lista de ingredientes completa. Aún no hemos respondido quién cocinó el plato. Esa es la distinción que me importa. Una mejor medición de la contribución no nos da automáticamente una teoría de la autoría.

El Ministerio de Autenticidad

Anthropic no afirma decidir quién autoría una obra. La realidad más interesante es que todos los demás parecen asignarle ese papel.

Una universidad quiere saber si un estudiante usó Claude. Una editorial quiere aplicar una política de IA. Un empleador quiere comprobar una solicitud. Un premio literario decide cuánta asistencia de IA tolerará. Pronto existe una API capaz de responder una pregunta que esas instituciones no pueden responder por sí mismas: ¿estuvo Claude probablemente aquí?

Nadie en Anthropic tiene que anunciar un Ministerio de Autenticidad. Sin embargo, estamos construyendo uno a su alrededor nosotros mismos. Y es aquí donde las consecuencias se vuelven más interesantes que si la marca de agua funciona o no.

Imagina que un estudiante escribe un trabajo, usa Claude para desafiar el argumento y ajustar el lenguaje, y la marca de agua identifica correctamente la involucración de Claude. El detector no se ha equivocado. Pero una escuela aún puede equivocarse si trata esa señal precisa como prueba de que el estudiante no hizo el trabajo intelectual.

Lo mismo puede ocurrirle a un escritor que usa la IA como editor, a un solicitante de empleo que la usa para mejorar una expresión torpe, o a un investigador que escribe en un segundo idioma y la usa para pulir una solicitud de subvención.

La versión más peligrosa de este sistema no es una que detecta falsamente la IA. Es una que detecta correctamente la participación de la IA y luego extrae una conclusión completamente injustificada sobre la persona.

Y los incentivos hacen lo que hacen los incentivos. Si poseer el recibo se vuelve castigable, la gente aprenderá a destruir el recibo. Las personas que usan la IA de forma abierta y legítima se vuelven las más fáciles de identificar, mientras que quienes realmente intentan ocultar su papel adquieren toda razón para eliminar la marca de agua, “humanizar” el texto o cambiar a herramientas que no dejan rastro.

Por lo tanto, podemos introducir la procedencia para crear transparencia y acabar incentivando la ocultación. La tecnología puede funcionar exactamente como se pretende. El problema comienza cuando recompensamos y castigamos a las personas en función de lo que decidamos que significa el recibo.

La infraestructura no es competencia

La educación hace la distinción obvia. Si quiero evaluar cálculo mental, quítenle la calculadora. Si quiero evaluar mecanografía, que mi madre termine mi mecanografía frustra el propósito. Pero si quiero saber si alguien puede analizar evidencia, construir un argumento y defender una conclusión, evalúen eso.

Pregunte dónde se equivocó el modelo. Pregunte qué aceptó y rechazó el estudiante. Pregunte por qué eligieron un argumento sobre otro. Pídales que defiendan lo que entregaron y asuman la responsabilidad.

“¿La IA tocó esto?” es más fácil de medir. También es una pregunta diferente.

Antes de la IA, el artefacto terminado era un proxy razonablemente útil de la mente que lo produjo. Un estudiante entregaba un trabajo, e inferíamos algo sobre su comprensión a partir del trabajo. La IA rompe ese proxy. Pero la respuesta no tiene que ser reconstruirlo mediante un análisis forense cada vez más sofisticado del artefacto. Podemos evaluar la mente más directamente.

Y ya sabemos que podemos hacerlo mejor. Toda la promesa de usar la IA en la evaluación era que podíamos ir más allá de las señales burdas y comprender más sobre la persona: qué entendían, dónde era fuerte su razonamiento, con qué luchaban y en qué deberían trabajar a continuación.

El objetivo era empoderar mediante un feedback más rico. Sería una extraña inversión si una IA considerablemente más capaz nos ayudara ahora a reducir ese mismo desempeño humano a una etiqueta forense sobre qué herramienta participó.

Las herramientas existen porque existe el costo de oportunidad. Podría calcular una hoja de cálculo manualmente, pero Excel existe. Podría buscar en veinte libros una estadística que ahora encuentro en minutos. Podría pasar tres horas cortando mecánicamente repeticiones de un artículo, o dedicar algunas de esas horas a desarrollar el siguiente argumento.

Que yo pudiera realizar la tarea de menor valor yo misma no hace que realizarla yo misma sea intelectualmente superior.

Gran parte del progreso tecnológico consiste en convertir tareas caras o lentas en infraestructura y liberar la atención humana para otra cosa. La IA puede ser la siguiente capa de infraestructura intelectual.

Eso no significa que la comprensión se vuelva menos importante. Creo que puede ser lo contrario. Cuanto más podemos externalizar la ejecución, más importante se vuelve el juicio. Si una máquina puede producir una respuesta plausible en segundos, saber si la respuesta es buena, mala, fabricada, derivativa o irrelevante se vuelve considerablemente más valioso.

La habilidad se desplaza. Nuestra evaluación debería desplazarse con ella.

Y de alguna manera la máquina se lleva el mejor recibo

La IA generativa se volvió útil aprendiendo de un enorme entorno de producción intelectual humana. Los escritores escribieron. Los investigadores investigaron. Los programadores programaron. Los profesores explicaron. Millones de personas crearon el entorno de información del que estos sistemas se volvieron valiosos.

Hay cuestiones legales sin resolver sobre los datos de entrenamiento, y ese no es mi argumento aquí. Me interesa la dirección de la atribución.

El conocimiento humano fluye hacia los sistemas de IA a una escala enorme, y la contribución individual se vuelve difusa. Luego la máquina participa en nuestra siguiente pieza de trabajo, y de repente su contribución se vuelve lo suficientemente importante como para hacerla técnicamente trazable.

La humanidad aporta la materia prima intelectual. La máquina se lleva el recibo.

Haz ese recibo tan perfecto como quieras. Dime exactamente qué frase propuso Claude, qué fuente encontró, qué párrafo restructuró y qué coma movió. Sigo sin creer que la procedencia de la máquina deba convertirse en el proxy por el que otra persona decida si el trabajo es mío.

Entendíamos la distinción cuando una niña agotada se iba a la cama y su madre terminaba de mecanografiar un trabajo que ya estaba escrito. Nadie necesitaba un registro forense de cuántas teclas pulsó mi madre ni qué correcciones ortográficas vinieron de ella. Usamos juicio porque entendíamos lo que el trabajo realmente debía evaluar.

Quizá deberíamos recordarlo antes de construir una infraestructura de autenticidad en torno a lo más fácil de detectar.

El recibo nos dice que la máquina estuvo ahí. Sigue sin poder decirnos quién pensó.