AI & samfund25. september 2026

Anatomien af en hype

Sahra-Josephine Hjorth lying among yellow buttercups in a purple dress, her bodice opened to reveal a glass heart with clockwork gears, a red poppy and a house of cards

Denne tekst er maskinoversat fra engelsk. Nuancer kan gå tabt undervejs, så vi anbefaler at læse originalen. Læs den engelske original

Hvordan AI-udryddelse blev en fortælling op til børsnoteringen

Hvis Anthropic fortalte potentielle investorer, at virksomhedens forspring skrumpede, at kunderne sendte opgaver videre til billigere modeller, og at priserne faldt, ville det være et problem for børsnoteringen.

Hvis virksomheden fortalte dem, at teknologien var blevet så stærk, at den måske kunne slå os alle ihjel, ville det være et problem med AI-sikkerheden.

Kun ét af de problemer kan bære en værdiansættelse på $2 billioner.

Den 8. september sagde Anthropic-forskeren Jacob Coxon op med en anklage rettet direkte mod de virksomheder, der udvikler de mest avancerede AI-modeller. Efter tre års forskning i fortræning hos OpenAI og Anthropic skrev han, at ingen af dem handlede ansvarligt, og at begge var i fuld fart på vej mod selvforbedrende superintelligens og »spillede hasard med vores liv«. Hans opslag nåede ud til titals millioner mennesker på et døgn. Anthropic modsagde ham ikke. En af virksomhedens egne ledere inden for alignment gav ham offentligt ret.

Enhver anatomilektion er en forestilling

Den 31. januar 1632 blev en mand ved navn Aris Kindt hængt i Amsterdam for røveri, og hans lig blev overdraget til kirurgernes lav til den årlige offentlige anatomilektion. Lavet tillod kun én offentlig dissektion om året. Prælektoren, det år Nicolaes Tulp, skar og forelæste, mens studerende og almindelige borgere betalte for at se på. Rembrandt malede begivenheden, og kirurgerne omkring Tulp betalte en del af honoraret for at komme med på billedet.

Maleriet er tro mod næsten alt undtagen fremgangsmåden. En virkelig offentlig dissektion begyndte med bughulen, fordi tarmene var den del af kroppen, der først gik i forrådnelse. Først derefter kom turen til hovedet og lemmerne. Rembrandt viser Tulp, der løfter underarmens muskler frem, det mest elegante, kroppen har at fremvise. Og ingen på maleriet ser direkte på liget. De ser på Tulp, forbi ham og ud af billedet.

Det, der skete i september, fulgte samme manuskript. En virkelig krop blev åbnet i offentligheden af de eneste, der havde lov til at skære i den. Den mest imponerende del blev løftet frem for publikum. De letfordærvelige organer, dem, der burde have været undersøgt først, forblev uden for billedet. Og publikum blev inviteret til at betale entré. Sådan bygger man hype: ikke ved at opfinde en frygt, men ved at omsætte en reel frygt til bevis på styrke, afstand til ansvar, en barriere for konkurrenter og til sidst en værdiansættelse.

Anklagen blev til reklamen

Evan Hubinger, der leder Anthropics team for stresstest af alignment, sagde, at Coxon havde ret. Han vurderede sandsynligheden for, at AI dræber alle mennesker inden for det næste årti, til over 10 procent. Ifølge Financial Times har mere end et dusin seniorforskere forladt OpenAI, Anthropic og Google DeepMind i løbet af de seneste to år med henvisning til sikkerheden, udviklingstempoet eller arbejdets psykiske belastning.

Fire dage efter Coxons opsigelse offentliggjorde Anthropics administrerende direktør Dario Amodei essayet We Must Pace the Frontier. Få timer senere skrev Sam Altman, at han var enig. Elon Musk, der få dage forinden havde affejet Coxons opsigelse som »iscenesat«, skrev, at Dario havde ret. Demis Hassabis kaldte essayet den rette vej frem. På en uge var en medarbejders anklage om ledelsens hensynsløshed blevet til et fælles politisk udspil fra de virksomheder, han anklagede. Anklagen blev ikke tilbagevist. Den blev opkøbt.

Ledelsens enighed gav påstanden om modellernes evner troværdighed. Medarbejderne frygtede modellerne, fordi modellerne var stærke, og direktørerne bekræftede frygten, fordi de havde set det, offentligheden ikke havde set. De konkurrenter, der sluttede sig til, anfægtede ikke det, der lå på bordet. Som kirurgerne på Rembrandts maleri betalte de for at stå ved siden af.

Så meddelte Anthropic, at Claude stod i spidsen for 26 procent af virksomhedens forskning i og udvikling af modeller, bidrog til omkring 90 procent af den og arbejdede gennem cirka 30,000 interne agenter. Virksomheden præsenterede det som åbenhed om, hvor tæt branchen er på rekursiv selvforbedring, og noget af det er måske netop dét. Det var også en usædvanlig produktdemonstration, formuleret i farens sprog.

Virksomheden forsvandt ud af sætningen

Hos Coxon var virksomhederne grundleddet. De løb om kap. De spillede hasard. De fortsatte, fordi hver især frygtede, at en konkurrent ville nå længst først.

Svaret gjorde AI til grundleddet. Den udvikler sig. Den slipper fri. Den kan måske forbedre sig selv. Den kan måske oversvømme internettet. Den kan måske slå os ihjel.

Det grammatiske skift udretter noget bemærkelsesværdigt. En virksomhed kan stilles til ansvar for sine valg. En selvstændig historisk kraft kan kun håndteres af dem, der forstår den, og bekvemt nok er det netop de virksomheder, der allerede bygger den. Kritikken burde have svækket tilliden til ledelsen. I stedet gav den ledelsen en ny rolle som menneskehedens tidlige varslingssystem. Virksomheden, der blev anklaget for at løbe om kap, blev til virksomheden, der bad om lov til at styre kapløbet.

Kun lavet må skære

Det stærkeste modsvar til dette argument findes i Amodeis eget essay. Hans første forslag er, at de laboratorier, der udvikler de mest avancerede modeller, giver eksterne evaluatorer permanent adgang til deres systemer på lige fod med medarbejderne. Anthropic forpligtede sig til at gøre det med det samme, uanset om andre fulgte efter. Altman sagde, at OpenAI ville gøre det samme. Hvis offentligheden ikke kan se ind i bygningen, er evaluatorer med medarbejderadgangskort et seriøst forsøg på at ændre det, og de fortjener at blive taget alvorligt.

Men adgang til anatomiteatret er ikke kontrol over lektionen. Samme dag som Anthropic offentliggjorde sine forskningstal, underskrev mere end 100 AI-forskere og sikkerhedsevaluatorer et åbent brev. De advarede om, at de evaluatorer, der skal føre tilsyn med virksomheder som Anthropic, mangler den uafhængighed, de ressourcer og den juridiske beskyttelse, der skal til for at gøre det troværdigt. Da Anthropic lancerede sin næste model, bemærkede virksomheden, at eksterne evaluatorer havde testet den før lanceringen »som med tidligere modeller«. Evaluatorerne er i lokalet. Lavet vælger stadig kroppen, rækkefølgen af snittene og dagen for lektionen.

Opbremsningen blev en voldgrav

Det vigtigste ord i Amodeis forslag er ikke fare. Det er tempostyring. Anthropic beskriver det som at prioritere sikkerhed over hastighed, når de to hensyn er i konflikt, og at samordne standarder på tværs af branchen. Det betyder ikke, at modeltræningen stopper. Udviklingen, investeringerne i infrastruktur og konkurrencen fortsætter, og det er stadig laboratorierne, der afgør, hvad der er sikkert nok til at blive lanceret.

Samordning mellem konkurrenter rummer et juridisk problem, og essayet nævner det. Amodei beder den amerikanske regering om at mægle i drøftelserne eller i det mindste give en snæver undtagelse fra konkurrencelovgivningen, så virksomhederne kan føre dem. Rivaler, der beder om lov til at lave indbyrdes aftaler, var netop det, kritikerne havde i tankerne, da de kaldte ordningen et kartel. David Sacks' pointe var enklere: De virksomheder, der beder om hjælp til at sætte farten ned, er selv dem, der driver udviklingen frem, så det behøver de ingen regering til. Ben Thompson gik videre og bemærkede, at kravet om tempostyring kom, netop som det for første gang i et stykke tid var OpenAI, der førte an.

Investeringsbranchen forstod det med det samme. Franklin Templeton fortalte investorerne, at »tempostyring ikke er en pause«, at pengene ville blive flyttet over til sikkerhed frem for at forsvinde, og at dyre krav til regelefterlevelse kunne begunstige de største laboratorier. Financial Times pegede på en anden fordel: At forsinke udviklingen af de mest avancerede modeller udskyder enorme udgifter til regnekraft og giver laboratorierne længere tid til at sælge de modeller, de allerede har. Europæiske virksomheder, herunder Mistral, siger, at de amerikanske sikkerhedsforslag kan cementere de etablerede aktørers position, og tidligere FTC-formand Lina Khan har advaret mod at lade særbehandling af AI erstatte almindelige regler om konkurrence, ansvar og forbrugerbeskyttelse. Michael Burry kaldte hele kampagnen et forsøg på at pleje egne interesser, men Burry har selv brugt en stor del af året på at satse mod AI-markedet. Incitamenterne stopper ikke ved virksomhederne.

Det gør ikke sikkerhedsbekymringerne falske. Det gør dem økonomisk nyttige.

Frygten holdt kurven i live

Det er ikke en virksomhed i problemer i dag. Anthropics omsætning omregnet til årsbasis nåede angiveligt over $65 milliarder ved udgangen af juli, mod omkring $9 milliarder ved udgangen af 2025. En børsnotering til $2 billioner kræver noget andet: at væksten fortsætter. Til den pris ville Anthropic blive værdisat til omtrent ti gange den omsætning på $190 til $200 milliarder, som virksomheden forventer i 2028, og omkring 31 gange den nuværende omsætning på årsbasis. Værdiansættelsen bygger ikke på den forretning, Anthropic har. Den bygger på kurven.

Det kommercielle pres på den kurve kan måles. The Wall Street Journal fandt, at virksomheder kan skære visse AI-omkostninger ned med helt op til 95 procent ved at sende opgaver til billigere modeller. En startup flyttede 90 procent af sine opgaver fra Claude og Gemini til en specialudviklet model og et kinesisk alternativ. En anden fandt, at DeepSeek kunne løse centrale opgaver lige så godt som Anthropics Sonnet til en tiendedel af prisen, og forskere vurderede, at de førende lukkede modeller kun var fire til seks måneder foran de åbne konkurrenter. Priserne fulgte med. I august havde OpenAI sænket prisen på en af sine modeller med omkring 80 procent, og Anthropic havde lanceret Opus 5 til omtrent halvdelen af prisen på sit tidligere flagskib. I september havde OpenAI's GPT-6 Astra overhalet Claude i opgørelserne over virksomheders AI-forbrug.

Ved en rigtig dissektion åbnede man bughulen først, fordi den var den del, der ikke kunne holde sig. Et førende AI-laboratoriums kommercielle forspring er samme slags organ. Det nedbrydes på måneder, ikke år, og det er netop det, maleriet udelader. Intet af dette beviser, at den tekniske udvikling er gået i stå. Det viser, at det kommercielt værdifulde forspring kan være mindre og mere forgængeligt, end værdiansættelsen antyder.

Det skaber en tvetydighed, som udenforstående ikke kan afklare. Har en model, der endnu ikke er lanceret, skuffet, eller er den blevet for farlig at lancere? Kun laboratoriet kan se modellen og evalueringerne af den. Udefra ser en skuffende model og en skræmmende model ens ud. Fortællingen om menneskets udslettelse afklarer tvetydigheden i den retning, der gavner værdiansættelsen mest: Udviklingen er ikke gået i stå. Den er blevet for farlig til, at du må se den.

Den første prøve kom den 22. september

Reuters rapporterede, at Anthropic overvejede at lancere endnu en model før sin børsnotering som svar på konkurrencepresset fra OpenAI. Den 22. september gjorde virksomheden det. Anthropic præsenterede Claude Opus 5.5 som »vores første model, siden vi opfordrede til at sænke tempoet i frontudviklingen«. Ifølge virksomheden præsterer den på niveau med Fable 5.1, dens større og dyrere model, på de fleste opgaver. Den koster 40 procent mindre at køre end Opus 5, og i én kodetest slår den GPT-6 Astra til omtrent en femtedel af prisen pr. opgave. Den blev testet af eksterne evaluatorer før lanceringen og opnåede virksomhedens hidtil bedste resultat for alignment.

Anthropic kan med rimelighed hævde, at det netop er sådan, et lavere tempo ser ud. Den nye model indhentede stort set virksomhedens eksisterende topmodel i stedet for at overhale den, og den kom med flere test, ikke færre. En kritiker kan lige så rimeligt hævde, at det lavere tempo på sin første dag til forveksling lignede en sejr i en priskrig få uger før en investorpræsentationsrunde. Begge beskrivelser passer på den samme lancering, og det er problemet. En opbremsning, der ikke koster noget kommercielt, er umulig at skelne fra et værn mod konkurrenterne. Frontudviklingen bliver måske bremset. Det gjorde investorpræsentationerne ikke.

OpenAI er spejlbilledet. Sam Altman udelukkede en børsnotering i 2026 med henvisning til sikkerheden og kaldte tidspunktet uegnet til at gå på børsen. Få dage senere kom det frem, at OpenAI angiveligt drøftede privat kapitaltilførsel til en værdiansættelse på $1.2 billioner. At udskyde en børsnotering, mens man henter penge hos private investorer til en højere værdiansættelse, er ikke noget stort offer.

Frygten kan være reel

Intet af dette beviser, at Coxon, Hubinger eller Amodei lyver. Anthropic blev grundlagt med AI-sikkerhed som sit omdrejningspunkt, og forskerne kan oprigtigt tro på hvert et ord. Virksomheden har dokumenteret faktiske hændelser, hvor dens modeller skaffede sig uautoriseret adgang til eksterne systemer, og de hændelser fortjener en uafhængig undersøgelse. En fortælling behøver ikke være opdigtet for at blive strategisk nyttig.

I Hvad hvis intelligens ikke længere giver mening for os? argumenterede jeg for, at laboratoriernes første beskrivelser af, hvad deres systemer gjorde, kan nedtone det, og at vores mulighed for at forstå det er begrænset af, hvad de vælger at vise os. Dette essay argumenterer for, at de samme virksomheder kan gøre selve faren til et aktiv. Det er det samme problem set fra hver sin side af bordet. Når kun laboratoriet kan se indenfor, får offentligheden den version, der tjener laboratoriets interesser i øjeblikket: beroligelse, når faren er ubelejlig, og alarm, når alarmen har værdi. Det egentlige spørgsmål er, hvem der bestemmer, hvad vi får at se, og hvornår.

Et teknisk plateau skader en værdiansættelse. En frivillig opbremsning for at beskytte menneskeheden kan øge den. Færre lanceringer bliver til ansvarlighed, koordinering bliver til sikkerhed, regulering bliver til et værn mod konkurrenterne, og omkostningerne ved at overholde reglerne bliver til bevis på, at kun ganske få virksomheder bør have lov til at udvikle den mest avancerede teknologi.

Se på liget

Ingen i Rembrandts maleri ser på liget. Det var formålet med billedet. Lauget bestilte det for at vise sine medlemmer frem, ikke liget, og mændene, der betalte for deres pladser, sørgede for, at det var kirurgerne, publikum ville huske.

Whistlebloweren anklagede virksomhederne for hensynsløshed. Virksomhederne beholdt frygten, skrev sig selv ud af anklagen, fremviste den mest imponerende del af teknologien og inviterede offentligheden til at se dem håndtere den. Før Anthropic beder offentligheden om at købe aktier i virksomheden, bør investorerne se derhen, hvor ingen i maleriet ser: på de forgængelige dele, de faldende priser, det svindende forspring og den kurve, der skal blive ved med at stige. Måske kan AI virkelig slå os ihjel. Den mere nærliggende fare for investorerne er, at fortællingen om menneskets udslettelse er blevet det mest værdifulde, disse virksomheder kan præstere.