IA y sociedad25 de septiembre de 2026

Anatomía de una exageración

Sahra-Josephine Hjorth lying among yellow buttercups in a purple dress, her bodice opened to reveal a glass heart with clockwork gears, a red poppy and a house of cards

Este texto es una traducción automática del inglés. Los matices pueden perderse, así que recomendamos leer el original. Leer el original en inglés

Cómo la extinción por IA se convirtió en un relato previo a la salida a bolsa

Si Anthropic les dijera a sus posibles inversionistas que su ventaja se está reduciendo, que los clientes están derivando trabajo a modelos más baratos y que los precios están cayendo, tendría un problema para salir a bolsa.

Si les dijera que la tecnología se ha vuelto tan poderosa que podría matarnos a todos, tendría un problema de seguridad de la IA.

Solo uno de esos problemas justifica una valuación de $2 billones.

El 8 de septiembre, el investigador de Anthropic Jacob Coxon renunció con una acusación dirigida de lleno a las empresas que desarrollan la IA de frontera. Tras tres años investigando el preentrenamiento en OpenAI y Anthropic, escribió que ninguna actuaba con responsabilidad y que ambas corrían hacia una superinteligencia capaz de mejorarse a sí misma y estaban «jugándose nuestras vidas». Sus publicaciones llegaron a decenas de millones de personas en un día. Anthropic no lo contradijo. Uno de sus propios responsables de alineación le dio la razón en público.

Toda lección de anatomía es una puesta en escena

El 31 de enero de 1632, un hombre llamado Aris Kindt fue ahorcado en Ámsterdam por robo, y su cuerpo fue entregado al gremio de cirujanos para su lección pública anual de anatomía. El gremio permitía una sola disección pública al año. El praelector, ese año Nicolaes Tulp, cortaba y explicaba mientras estudiantes y miembros del público pagaban por observar. Rembrandt pintó la ocasión, y los cirujanos reunidos alrededor de Tulp contribuyeron al pago para aparecer en el cuadro.

La pintura es fiel a casi todo, salvo al procedimiento. Una disección pública real comenzaba por el abdomen, porque los intestinos eran la primera parte del cuerpo en descomponerse, y solo después pasaba a la cabeza y las extremidades. Rembrandt muestra a Tulp levantando los músculos del antebrazo, lo más elegante del cuerpo que se podía exhibir. Y nadie en la pintura mira directamente el cadáver. Miran a Tulp, más allá de él y fuera del cuadro.

Lo que ocurrió en septiembre siguió el mismo guion. Un cuerpo real fue abierto en público por las únicas personas autorizadas para cortarlo. Se levantó la parte más impresionante para mostrársela al público. Los órganos que se descomponían primero, los que debieron examinarse antes que nada, quedaron fuera del cuadro. Y se invitó al público a pagar la entrada. Así se fabrica la euforia: no inventando un miedo, sino convirtiendo uno real en prueba de poder, en distancia frente a la rendición de cuentas, en barrera a la competencia y, finalmente, en una valuación.

La acusación se convirtió en publicidad

Evan Hubinger, quien dirige el equipo de pruebas de estrés de alineación de Anthropic, dijo que Coxon tenía razón. Situó por encima del 10 por ciento la probabilidad de que la IA mate a todos los seres humanos en la próxima década. Según el Financial Times, más de una docena de investigadores de alto nivel han dejado OpenAI, Anthropic y Google DeepMind en los últimos dos años, citando la seguridad, la velocidad del desarrollo o la carga psicológica del trabajo.

Cuatro días después de la renuncia de Coxon, el director ejecutivo de Anthropic, Dario Amodei, publicó Debemos moderar el ritmo en la frontera. En cuestión de horas, Sam Altman escribió que estaba de acuerdo. Elon Musk, que días antes había desestimado la renuncia de Coxon como un «montaje», publicó que Dario tenía razón. Demis Hassabis calificó el ensayo como el camino correcto. En una semana, la acusación de un empleado contra la imprudencia de los directivos se había convertido en la postura común de las empresas acusadas sobre cómo regular el sector. La acusación no fue refutada. Fue adquirida.

El acuerdo de los directivos validó lo que se afirmaba sobre la capacidad de los modelos. Los empleados les temían porque eran poderosos, y los ejecutivos confirmaban ese miedo porque habían visto lo que el público no había visto. Los rivales que se sumaron no cuestionaron lo que había sobre la mesa. Como los cirujanos del cuadro de Rembrandt, pagaron por estar a su lado.

Luego Anthropic anunció que Claude dirigía el 26 por ciento de la investigación y el desarrollo de sus modelos, colaboraba en alrededor del 90 por ciento y operaba mediante unos 30,000 agentes internos. La empresa lo presentó como un ejercicio de transparencia sobre lo cerca que está la industria de la automejora recursiva, y puede que en parte sea exactamente eso. También fue una extraordinaria demostración de producto expresada en el lenguaje del peligro.

La empresa desapareció de la oración

El sujeto de Coxon eran las empresas. Ellas corrían. Ellas se la jugaban. Seguían adelante porque cada una temía que un competidor llegara primero a la frontera.

La respuesta convirtió a la IA en el sujeto. Avanza. Escapa. Puede mejorarse a sí misma. Puede desbordar internet. Puede matarnos.

Ese desplazamiento gramatical hace un trabajo notable. A una empresa se le pueden exigir cuentas por sus decisiones. Una fuerza histórica autónoma solo puede ser gestionada por quienes la entienden y, qué conveniente, esas personas son las empresas que ya la están construyendo. La crítica debió debilitar la confianza en los directivos. En cambio, los convirtió en el sistema de alerta temprana de la humanidad. La empresa acusada de correr se volvió la empresa que pedía permiso para gestionar la carrera.

Solo el gremio puede cortar

La respuesta más sólida a este argumento está en el ensayo de Amodei. Su primera propuesta es que los laboratorios de IA de frontera den a evaluadores externos acceso permanente a sus sistemas, al mismo nivel que sus empleados, y Anthropic se comprometió a hacerlo de inmediato, aunque nadie más siguiera su ejemplo. Altman dijo que OpenAI haría lo mismo. Si el público no puede ver lo que ocurre dentro del edificio, unos evaluadores con credencial de empleado son un intento serio de cambiar eso, y merecen ser tomados en serio.

Pero entrar al anfiteatro no equivale a controlar la lección. El mismo día en que Anthropic publicó las cifras de su investigación, más de 100 investigadores de IA y evaluadores de seguridad firmaron una carta pública que advertía que los evaluadores encargados de supervisar a empresas como Anthropic carecen de la independencia, los recursos y las protecciones legales para hacerlo con credibilidad. Cuando Anthropic lanzó su siguiente modelo, señaló que evaluadores externos lo habían probado antes del lanzamiento, «como con los modelos anteriores». Los evaluadores están en la sala. El gremio sigue eligiendo el cuerpo, el orden de las incisiones y el día de la lección.

La desaceleración se convirtió en un foso defensivo

La palabra más importante de la propuesta de Amodei no es peligro. Es ritmo. Anthropic habla de dar prioridad a la seguridad frente a la velocidad cuando ambas entran en tensión y de coordinar estándares en toda la industria. No significa poner fin al entrenamiento de modelos. El desarrollo, el gasto en infraestructura y la competencia continúan, y los laboratorios siguen decidiendo qué es lo bastante seguro como para salir al mercado.

La coordinación entre competidores tiene un problema legal, y el ensayo lo reconoce. Amodei pide al gobierno de Estados Unidos que medie en estas conversaciones o, al menos, que conceda una exención limitada a las leyes antimonopolio para que las empresas puedan sostenerlas. Rivales que piden permiso para ponerse de acuerdo: a eso se referían los críticos cuando llamaron cártel al arreglo. David Sacks lo planteó de forma más simple: las empresas que piden ayuda para reducir la velocidad son las mismas que marcan la frontera, así que no necesitan al gobierno para hacerlo. Ben Thompson fue más allá y señaló que la exigencia de moderar el ritmo llegó justo cuando OpenAI, por primera vez en un buen tiempo, estaba marcando la frontera.

La industria de la inversión lo entendió de inmediato. Franklin Templeton les dijo a los inversionistas que «moderar el ritmo no es hacer una pausa», que el gasto se desplazaría hacia la seguridad en lugar de desaparecer y que el alto costo de cumplir las normas podría favorecer a los laboratorios más grandes. El Financial Times identificó otro beneficio: retrasar el desarrollo en la frontera posterga enormes gastos de cómputo y les da a los laboratorios más tiempo para vender los modelos que ya tienen. Empresas europeas, entre ellas Mistral, afirman que las propuestas estadounidenses de seguridad podrían afianzar a las empresas dominantes, y la expresidenta de la FTC, Lina Khan, ha advertido del riesgo de que un trato excepcional para la IA sustituya las reglas habituales de competencia, responsabilidad legal y protección al consumidor. Michael Burry calificó toda la campaña de interesada, aunque ha pasado buena parte del año apostando contra las inversiones en IA. Los incentivos no terminan en las empresas.

Eso no vuelve falsas las preocupaciones por la seguridad. Las vuelve económicamente útiles.

El miedo mantuvo la curva

Esta no es una empresa en apuros hoy. Según lo publicado, los ingresos anualizados de Anthropic superaron los $65 mil millones a finales de julio, frente a unos $9 mil millones al cierre de 2025. Lo que exige una salida a bolsa de $2 billones es otra cosa: que el crecimiento continúe. A ese precio, Anthropic estaría valuada en unas diez veces los ingresos de entre $190 y $200 mil millones que proyecta para 2028, y en unas 31 veces sus ingresos al ritmo actual. Esa valuación no se basa en el negocio que tiene Anthropic. Se basa en la curva.

La presión comercial sobre esa curva se puede medir. The Wall Street Journal encontró que las empresas pueden reducir algunos costos de IA hasta en un 95 por ciento si derivan el trabajo a modelos más baratos, y que una startup trasladó el 90 por ciento de su carga de trabajo de Claude y Gemini a un modelo a medida y una alternativa china. Otra descubrió que DeepSeek podía realizar tareas clave tan bien como Sonnet, de Anthropic, por una décima parte del precio, y un grupo de investigadores estimó que los principales modelos propietarios llevaban apenas de cuatro a seis meses de ventaja a sus competidores abiertos. Los precios siguieron esa tendencia. Para agosto, OpenAI había reducido el precio de un modelo en cerca del 80 por ciento y Anthropic había lanzado Opus 5 a aproximadamente la mitad del precio de su anterior modelo insignia. Para septiembre, GPT-6 Astra, de OpenAI, había superado a Claude en las mediciones del gasto empresarial en IA.

En una disección real, el abdomen iba primero porque era la parte que no se conservaría. La ventaja comercial de un laboratorio de frontera es un órgano de ese tipo. Se deteriora en meses, no en años, y es precisamente lo que el cuadro deja fuera. Nada de esto demuestra que el progreso técnico se haya detenido. Demuestra que la ventaja con valor comercial puede ser menor y más perecedera de lo que sugiere la valuación.

Eso crea una ambigüedad que nadie fuera del laboratorio puede resolver. ¿Un modelo aún no publicado ha decepcionado o se ha vuelto demasiado peligroso para lanzarlo? Solo el laboratorio puede ver el modelo y sus evaluaciones. Desde fuera del edificio, un modelo decepcionante y uno aterrador se ven idénticos. La narrativa de la extinción resuelve esa ambigüedad en el sentido que más favorece la valuación: el progreso no se ha estancado. Se ha vuelto demasiado peligroso para mostrárselo al público.

La primera prueba llegó el 22 de septiembre

Reuters informó que Anthropic consideraba lanzar otro modelo antes de su salida a bolsa para responder a la presión competitiva de OpenAI. El 22 de septiembre lo hizo. Anthropic presentó Claude Opus 5.5 como «nuestro primer modelo desde que pedimos moderar el ritmo de avance de la frontera». La empresa afirma que, en la mayoría de las tareas, rinde al nivel de Fable 5.1, su modelo más grande y costoso; que operarlo cuesta un 40 por ciento menos que Opus 5; y que, en una prueba comparativa de programación, supera a GPT-6 Astra por aproximadamente una quinta parte del costo por tarea. Evaluadores externos lo pusieron a prueba antes de su lanzamiento y obtuvo la puntuación de alineación más alta de la empresa hasta la fecha.

Anthropic puede argumentar, con razón, que así se modera el ritmo. El nuevo modelo, en buena medida, alcanzó el nivel más alto que la empresa ya ofrecía, en vez de dejarlo atrás, y llegó con más pruebas, no con menos. Un crítico puede argumentar, con la misma razón, que en su primer día esa moderación se veía exactamente igual que ganar una guerra de precios a pocas semanas de una gira de presentación ante inversionistas. Ambas descripciones encajan con el mismo lanzamiento, y ese es el problema. Una desaceleración sin costo comercial no se distingue de una barrera frente a la competencia. Quizá se haya moderado el avance de la frontera. La gira ante inversionistas, no.

OpenAI ofrece la imagen inversa. Sam Altman descartó una salida a bolsa en 2026 y alegó motivos de seguridad: dijo que este no era un momento aconsejable para cotizar. Días después, se informó que OpenAI estaba negociando financiamiento privado con una valuación de $1.2 billones. Posponer una salida a bolsa mientras se capta dinero a un precio más alto en el mercado privado no es un gran sacrificio.

El miedo puede ser real

Nada de esto demuestra que Coxon, Hubinger o Amodei estén mintiendo. Anthropic se fundó en torno a la seguridad de la IA, y sus investigadores pueden creer sinceramente cada palabra. La empresa ha documentado incidentes reales en los que sus modelos accedieron sin autorización a sistemas externos, y esos incidentes merecen una investigación independiente. Una narrativa no tiene que ser inventada para volverse estratégicamente útil.

En ¿Y si la inteligencia deja de tener sentido para nosotros?, sostuve que los primeros relatos de los laboratorios sobre lo que hicieron sus sistemas pueden minimizar lo ocurrido, y que lo que podemos reconocer está limitado por lo que deciden mostrarnos. Este ensayo sostiene que esas mismas empresas pueden convertir el peligro en un activo. Es el mismo problema visto desde ambos lados de la mesa. Cuando solo el laboratorio puede ver lo que hay dentro, el público recibe la versión que le conviene al laboratorio en ese momento: tranquilidad cuando el peligro resulta incómodo y alarma cuando la alarma tiene valor. La verdadera pregunta es quién controla lo que nos muestran y cuándo.

Un estancamiento técnico perjudica una valuación. Una desaceleración voluntaria para proteger a la humanidad puede aumentarla. Menos lanzamientos se convierten en responsabilidad; la coordinación, en seguridad; la regulación, en una barrera frente a la competencia; y el costo de cumplir las normas, en prueba de que solo a unas cuantas empresas se les debería permitir desarrollar tecnología en la frontera.

Miren el cuerpo

Nadie en el cuadro de Rembrandt mira el cuerpo. Ese era el propósito de la pintura. El gremio la encargó para mostrar a sus miembros, no al cadáver, y los hombres que pagaron por sus lugares se aseguraron de que el público recordara a los cirujanos.

El denunciante acusó a las empresas de actuar con temeridad. Las empresas conservaron el miedo, se borraron de la acusación, pusieron en primer plano la parte más impresionante de la tecnología e invitaron al público a ver cómo la manejaban. Antes de que Anthropic le pida al público que compre sus acciones, los inversionistas deberían mirar donde nadie mira en el cuadro: las partes perecederas, los precios a la baja, la ventaja que se estrecha y la curva que tiene que seguir subiendo. Tal vez la IA sí podría matarnos. El peligro más inmediato para los inversionistas es que el relato de la extinción humana se haya convertido en la capacidad más valiosa que poseen estas empresas.