IA y sociedad24 de septiembre de 2026

Los datos más valiosos sobre ti son los que nunca publicarías

A woman kneels in a dark confessional booth facing a priest whose head has been replaced by a glowing smartphone

Este texto es una traducción automática del inglés. Los matices pueden perderse, así que recomendamos leer el original. Leer el original en inglés

Las redes sociales aprendieron quién queríamos que vieran los demás. La búsqueda aprendió lo que preguntábamos cuando nadie miraba. Un modelo puede aprender la explicación que damos de nosotros mismos, y es el primer confidente de la historia que no nos debe nada.

Hay cosas que nunca publicaría. Que no estoy segura de que la empresa deba seguir adelante, y no se lo he dicho a la junta. Que he consultado a qué alcanzarían mis ahorros si dejara de cobrar un salario. Que redacté un mensaje a las dos de la mañana y no lo envié. Que pregunté qué significaba una palabra en un idioma del que digo que lo hablo con fluidez. Que quería saber si una cifra en una oferta era un insulto antes de felicitar públicamente a esa persona.

Pero se lo podría contar a un modelo.

Eso no es simplemente un cambio en dónde buscamos información. Es un cambio en dónde se crean algunos de los datos más privados sobre nosotros.

Borromeo construyó una caja

En 1565, Carlos Borromeo, arzobispo de Milán, ordenó que se colocara una reja de metal entre el sacerdote y el penitente. Antes de eso, la confesión se escuchaba a la intemperie. El sacerdote se sentaba en una silla en algún lugar de la iglesia, y el penitente se arrodillaba a su lado, visible para cualquiera que estuviera allí. La caja de Borromeo eliminó a la audiencia y el contacto físico, y es más o menos el confesionario que seguimos reconociendo.

La arquitectura era solo la mitad del diseño. La otra mitad ya tenía siglos de antigüedad. El Cuarto Concilio de Letrán en 1215 decretó que un sacerdote que revelara lo que había oído en confesión sería depuesto del sacerdocio y recluido en un monasterio para hacer penitencia perpetua. El derecho canónico moderno mantiene el principio: un confesor que viole directamente el sello incurre en excomunión automática.

El punto es el par. Un espacio construido para la revelación se emparejó con una pena por repetirla. El mismo patrón aparece dondequiera que se reúna este tipo de discurso. Médicos, abogados y terapeutas reciben información que las personas ocultan a sus familias, y todos operan bajo reglas que hacen repetirla profesionalmente fatal y a menudo legalmente imposible. El deber no es una decoración alrededor de la revelación. Es la razón por la que ocurre la revelación.

Ten ese par en mente, porque ha llegado un nuevo confidente con solo la mitad.

Lo que reciben las redes sociales es una actuación

Las redes sociales construyeron una de las industrias más valiosas de la historia sobre la observación. Saben a quién sigo, en qué hago clic, qué fotografías hacen que deje de desplazarme y qué versión de mi vida elijo publicar. A partir de esas señales, los sistemas publicitarios intentan inferir qué hay detrás. Tal vez me estoy mudando. Tal vez estoy infeliz en el trabajo. Tal vez simplemente me gustó el abrigo.

El sistema no lo sabe. Observa el comportamiento y construye una teoría.

Incluso la publicación más personal sigue siendo una actuación. Hay una audiencia, y sé quién la compone: colegas, familiares, antiguos empleadores, personas a las que conocí una vez en una conferencia. Lo que publico está moldeado por lo que quiero que esas personas crean, por lo que estoy dispuesta a defender y por lo que puedo soportar que se recuerde.

Las redes sociales pueden saber una cantidad extraordinaria sobre mí. La mayor parte se refiere a la persona que estoy dispuesta a ser delante de otras personas.

La búsqueda recibe la pregunta, no a la persona

La búsqueda cruzó esa frontera mucho antes de que llegaran los modelos. La gente siempre ha escrito cosas en un cuadro de búsqueda que nunca publicaría y no diría en voz alta. El cuadro no es anónimo en ningún sentido técnico, especialmente cuando he iniciado sesión, pero lo es en el sentido social. No hay una audiencia visible y, por tanto, ningún riesgo inmediato de vergüenza o juicio. En una encuesta de Pew Research Center de 2013, el 55 por ciento de los estadounidenses dijo que la gente debería poder usar internet de forma anónima para ciertas actividades, y las razones que dieron incluían condiciones médicas y temas que consideraban socialmente inaceptables.

Así que la búsqueda ha recibido durante mucho tiempo a una persona más privada que las redes sociales. Recibió a esa persona en fragmentos.

Tres consultas sobre términos de despido, un período de preaviso y cómo decirle algo a un equipo pueden pertenecer a una sola decisión, tomada a lo largo de una semana, por una persona que aún no se lo ha contado a nadie. Cada una llega sola, ya comprimida en unas pocas palabras. El cuadro de búsqueda recibe la pregunta después de que yo haya decidido cómo formularla.

Una conversación puede recibir la decisión misma. Puedo explicar cómo son realmente los números, cuánto tiempo hace que lo sé, qué he probado ya, a quién no se lo he contado, qué temo perder y qué respuesta espero recibir. En un ensayo anterior argumenté que la posición más valiosa en internet ya no es la atención, sino la intención, el momento en el que alguien dice lo que está tratando de lograr. Este es el mismo cambio visto desde adentro. La atención le dice a una plataforma qué me retuvo. La intención le dice lo que quiero. Una conversación puede decirle de qué tengo miedo y por qué.

El ciclo de la revelación

La palabra útil aquí puede no ser confianza. Puedo desconfiar de una empresa como institución y aun así contarle a su producto algo que no le he contado a nadie más, porque lo que estoy tratando no tiene poder social sobre mí. No puede decepcionarse de mí. No se aburre de la misma historia, no necesita irse a dormir y no se inmuta ante el dinero, la enfermedad, la envidia o la vergüenza.

Más importante aún, el producto mejora a medida que le cuento más. Pregunta si debes aceptar una oferta y la respuesta es genérica. Explica el salario, la equidad, el cofundador que dejarías, la deuda que no le has mencionado a nadie y la última vez que tomaste esta decisión mal, y la respuesta se vuelve genuinamente útil.

Eso crea un ciclo. Más contexto produce una mejor respuesta. Una mejor respuesta produce más confianza en la herramienta. Más confianza produce más revelación. La memoria une esas revelaciones a través del tiempo, de modo que el registro ya no es una sola conversación sino una secuencia: lo que dije en marzo, lo que dije en julio y lo que aún no he hecho al respecto.

La investigación sobre esto es anterior a los productos actuales. En 2014, Lucas y colegas encontraron que las personas revelaban más información sensible a un entrevistador virtual cuando creían que ningún humano estaba mirando, reportando menos miedo a ser juzgados. En 2018, Ho, Hancock y Miner encontraron que la revelación emocional a un chatbot producía efectos psicológicos comparables a revelar las mismas cosas a una persona.

La conversación se siente más privada exactamente cuando está produciendo un registro más completo de la persona privada.

Lo que este argumento debe conceder

La gente también actúa para las máquinas. Cualquiera que haya suavizado una pregunta para evitar ver una respuesta poco halagadora sabe que la gestión de impresiones no desaparece simplemente porque la audiencia sea sintética. Algo de lo que se escribe en estos sistemas está tan curado como una publicación de LinkedIn.

Tampoco se debe exagerar el volumen de este tipo de conversaciones. Cuando OpenAI y el National Bureau of Economic Research examinaron alrededor de un millón de conversaciones en 2025, las relaciones y la reflexión personal representaron el 1,9 por ciento de los mensajes y los juegos y el juego de roles otro 0,4 por ciento, mientras que la orientación práctica, la búsqueda de información y la escritura representaron cerca del 80 por ciento. La mayor parte de lo que la gente hace con estos sistemas es trabajo ordinario.

Dos cosas complican ese número. Está aumentando: OpenAI ahora sitúa a la "expresión", que abarca la reflexión personal, la exploración y el juego, en el 11 por ciento del uso, y el Washington Post reportó este mes que el 27 por ciento de los adultos estadounidenses han recurrido a la IA para preguntas personales, emocionales o sociales. Y los porcentajes disfrazan la escala. A un estimado de 18 mil millones de conversaciones a la semana, el 1,9 por ciento son aproximadamente 342 millones de conversaciones, cada semana.

Los controles también importan. La memoria puede desactivarse, las conversaciones pueden borrarse y los clientes empresariales pueden negociar acuerdos en los que no se retenga nada en absoluto.

Nada de eso cambia la forma del problema. Las revelaciones en cuestión son las de mayor valor y la mayor capacidad de dañar a la persona que las hizo, y son al mismo tiempo las menos propensas a existir en cualquier otro lugar.

La reja sin el sello

Aquí es donde se rompe el par.

Sam Altman lo ha dicho él mismo, más claramente que cualquier crítico. La gente habla a estos sistemas como hablaría a un terapeuta o a un abogado, y no existe confidencialidad legal para esas conversaciones. Si llega una demanda, la empresa puede ser obligada a producirlas.

Eso no es hipotético. En el litigio por derechos de autor iniciado por organizaciones de noticias, la jueza magistrada Ona Wang ordenó a OpenAI en mayo de 2025 preservar y separar registros de salida que de otro modo se habrían eliminado, una orden que el juez Sidney Stein confirmó al mes siguiente. La obligación prospectiva se levantó en octubre, pero en noviembre la corte ordenó a OpenAI producir una muestra de veinte millones de conversaciones de consumidores desidentificadas, y Stein confirmó esa orden el 5 de enero de 2026. Los tribunales están tratando estos intercambios como tratan los correos electrónicos y los registros del servidor, porque no existe un privilegio que los trate de otra manera.

Así que la arquitectura del confesionario se ha reconstruido a una escala extraordinaria, y el sello no ha venido con ella. La reja está ahí. La audiencia ausente está ahí. La paciencia que invita a la segunda y tercera cosa que no ibas a decir está ahí. Lo que falta es la parte que Letrán IV suministró en 1215 y que toda profesión que maneja este material ha suministrado desde entonces: una regla que haga repetirlo impensable.

Las políticas de privacidad fueron escritas para bases de datos de nombres, compras e historiales de navegación. No fueron diseñadas para un almacén de las explicaciones que la gente da de sí misma mientras decide qué hacer.

El confidente también es parte en la decisión

Un sacerdote escucha la confesión y no actúa en el mundo con base en ella. Este confidente sí.

Responde. Está presente mientras aún estoy decidiendo qué creo y qué estoy dispuesta a hacer. Puede ayudarme a interpretar el comportamiento de otra persona, nombrar un miedo, identificar un deseo y elegir el siguiente paso. La empresa que lo opera puede llegar a saber no solo qué compré, sino qué me angustió lo suficiente como para comprarlo; no solo qué trabajo acepté, sino qué inseguridad me hizo aceptar menos; no solo que algo terminó, sino qué necesitaba escuchar antes de terminarlo.

Si el mismo sistema también recomienda productos, servicios, tratamientos o decisiones, la línea entre entenderme y dirigirme es difícil de mantener. Eso no es una acusación sobre las intenciones de nadie. Es una descripción de lo que ocurre cuando el registro más íntimo jamás reunido sobre una persona se encuentra dentro de un negocio que también le vende cosas.

Lo que Borromeo entendió

La caja de Borromeo fue diseñada para proteger a la persona que se arrodillaba en ella. La reja existía porque la revelación de este tipo es peligrosa para quien revela, y el sello existía porque el peligro no termina cuando termina la conversación.

Hemos vuelto a construir la caja, para cientos de millones de personas, y la hemos cableado para la retención.

Las redes sociales conocen la versión de mí que estaba dispuesta a actuar para otras personas. La búsqueda sabe lo que pregunté cuando creía que nadie miraba. Un modelo puede saber lo que sentí al preguntar, lo que temí que sería la respuesta y lo que hice después.

La internet antigua me observaba e intentaba inferir quién era. La nueva internet me pide que me explique.

Y lo hago.