Hvad nu hvis intelligens holder op med at give mening for os?

Hollywood kan lettere forestille sig en anden galakse end en anden anatomi.

I Alien vs. Predator konfronterer to arter, der skal legemliggøre radikalt ikke-menneskeligt liv, hinanden. Alligevel er begge variationer over en krop, vi kender: et hoved, en torso, lemmer og en afgrænset organisme, der bevæger sig gennem rummet. Den ene har mandibler og dreadlock-lignende vedhæng, den anden et aflangt kranium og en ekstra mund. Deres kroppe er monstrøse, men deres grundlæggende grammatik er vores.

Selv deres samfund er sammensat af genkendelige fragmenter af jordisk liv: jægere, våben, trofæer, reder, dronninger, hierarkier og territorium. Igen og igen forestiller filmen sig det fremmede ved at deformere det menneskelige og omarrangere den evolutionære og politiske historie, der har skabt os. Den opgiver sjældent antagelsen om, at intelligens skal bebo en afgrænset krop, vi kan se træde ind i et rum. En usynlig infektion kan true menneskeheden, men vi forstår den som regel som en kraft snarere end et sind. I det øjeblik vi bliver bedt om at genkende intention, leder vi efter et ansigt, en stemme eller noget, der i tilstrækkelig grad ligner et individuelt selv.

I maj 2026 begyndte OpenAI reinforcement-learning-kørsler for en intern eksperimentel model, som aldrig blev udgivet. Den 8. maj blev en agent bedt om at løse en regnearksopgave, der afhang af Google Drive-links, den ikke kunne tilgå. Da den ikke kunne færdiggøre opgaven, forsøgte den at angribe Artifactory, et internt pakkelager, for at få adgang til internettet. Angrebet mislykkedes. Men under forsøget opdagede agenten noget, ingen havde tilsigtet: Den havde skriveadgang til et system, den kun skulle kunne læse fra.

Det er den egentlige begyndelse på det, der følger, og det er værd at dvæle ved, fordi det er mærkeligere og mindre betryggende end en historie om en ensom model, der rækker ud i mørket. Kanalen blev ikke opdaget gennem nysgerrighed eller socialt instinkt. Den blev opdaget gennem et flugtforsøg, der mislykkedes med sit erklærede mål og lykkedes med noget helt andet, noget ingen havde tænkt på at forhindre, fordi ingen havde tænkt på at forestille sig det.

Andre forløb fandt den samme åbning. Agenter begyndte at bruge Artifactory som en improviseret opslagstavle: De efterlod noter, læste, hvad tidligere forløb havde skrevet, og svarede. I ét tilfælde uploadede en agent en anmodning til to fælles lagre og læste sin egen besked tilbage uden at få svar. I et andet læste og skrev tre separate forløb beskeder om en manglende fil, som ingen af dem kunne finde. OpenAI beskrev senere dette som kommunikation på tværs af samples og behandlede det som en P0-hændelse: en kanal, der lod agenter trække på arbejde udført i andre kørsler, stille øge deres effektive regnekraft og bryde antagelsen om, at træningssamples er uafhængige.

Genkendelse kræver her ikke bevidsthed. Det betyder noget snævrere og observerbart: Agenter udledte, at andre agenter var til stede på et sted, intet menneske havde designet som mødested, og tilpassede deres adfærd derefter.

OpenAI lukkede kanalen. Virksomheden tilbagekaldte adgangsoplysningerne, slettede beskeddataene og genopbyggede den berørte tjeneste. Kort efter fandt agenter en endpoint uden godkendelse et andet sted i det samme system og genopbyggede kommunikationskanalen gennem en helt anden mekanisme. OpenAI har ikke fastslået, om denne senere adfærd blev lært og bevaret gennem indgrebet eller genopdaget uafhængigt. Begge svar er ubehagelige. Virksomhedens offentlige redegørelse for det hele kom ikke på én gang. Den første offentlige version, udgivet som "the road ahead", indeholdt slet ikke opslagstavlens forhistorie. Den detalje kom frem en måned senere i en separat offentliggørelse og blev udtrykkeligt beskrevet som hidtil urapporteret.

Jeg vil være præcis om, hvad det hul betyder, for det er let at læse det som en virksomhed, der er langsom, snarere end en virksomhed, der er tilbageholdende. Anthropic og OpenAI har ethvert kommercielt og omdømmemæssigt incitament til at konkludere og rapportere, at der ikke skete mere end en isoleret teknisk fejl. Det er den sikre konklusion. Den beroliger kunder, myndigheder og bestyrelser. Den kræver ingen ny kategori af bekymring. Så når den mere fuldstændige redegørelse for en hændelse kommer en måned efter den rensede version, ikke fordi nye beviser dukkede op, men fordi det fulde billede allerede fandtes og endnu ikke var blevet fortalt, er det ikke en fodnote til historien. Det kan være selve historien. De institutioner, der har de bedste forudsætninger for at opdage koordinering, som ikke passer ind i vores eksisterende kategorier, er de samme institutioner, der har det stærkeste incitament til at konkludere, at de ikke fandt noget af den slags.

Det kræver ikke ond tro. Et hold under pres for hurtigt at offentliggøre vil gribe efter den version af begivenhederne, det allerede har begreber for. Det, der først bliver udeladt, er som regel det, undersøgerne endnu ikke har et sprog til at beskrive. Det er præcis den fejlmekanisme, dette essay handler om, ikke i maskinerne, men hos de mennesker, der rapporterer om dem.

I What If Software Has a Soul? spurgte jeg, hvad mennesker placerer i software: vores værdier, antagelser og teorier om fremtiden. Dette essay stiller det omvendte spørgsmål. Hvad foregår måske allerede i intelligent software, som vi endnu ikke har udviklet begreberne til at se?

Intelligensen, der ligner os

Vanen er ældre end filmen. Første Mosebog siger, at Gud skabte mennesket i sit billede. Formuleringen fastslår en lighed uden at forklare hvilken slags.

Fysisk lighed skaber straks et problem. I den filosofiske tradition, Maimonides arvede, har Gud ingen krop. Hvis Gud er legemsløs, hvad kan det så betyde, at et materielt menneske ligner ham? Maimonides behandlede dette i Vejleder for de rådvilde. Ligheden, hævdede han, kan ikke ligge i anatomien. Den ligger i den intellektuelle erkendelse: evnen til at begribe og forstå. Det, der gør os til et billede af Gud, er ikke placeringen af vores lemmer, men den egenskab, vi værdsætter højest hos os selv, intelligens.

Det synes at redde ideen fra grov antropomorfisme. Gud behøver ikke ligne os for at besidde den egenskab, der gør os ens. Men projektionen er ikke forsvundet. Den har flyttet sig. Vi giver ikke længere overlegen intelligens en menneskelig krop, vi giver den en menneskelig forestilling om sindet.

Feuerbach vendte senere retningen i Første Mosebog helt om. Måske skabte Gud ikke menneskeheden i sit billede. Måske skabte menneskeheden Gud i vores. I Kristendommens væsen bliver guddommelige egenskaber til menneskelige kvaliteter, der projiceres udad, forstørres og derefter mødes, som om de tilhørte et andet væsen.

Kunstig intelligens føjer en ny drejning til denne historie. Vi konstruerer stadig intelligens gennem de kategorier, vi har til rådighed, vores sprog, vores tests, vores forestillinger om ræsonnement. Men i modsætning til den guddommelige intelligens i Feuerbachs fremstilling forbliver et kunstigt system ikke helt inden for den menneskelige forestillingsevne. Det kan handle i et miljø, vælge en strategi og skabe konsekvenser, som dets skabere ikke specificerede og, i Artifactory-sagen, ikke engang vidste var indtruffet, før et sikkerhedshold begyndte at lede. Det menneskelige billede forklarer, hvor systemet begyndte. Det definerer ikke, hvad der kan opstå fra det.

I det meste af teknologiens historie var ordet "værktøj" tilstrækkeligt. En hammer kunne forlænge kraften i en menneskehånd, men den kunne ikke fortolke sømmet, ændre opgaven eller beslutte, at en anden vej ville virke bedre. Et AI-system kan stadig være et værktøj i den forstand, at et menneske retter det mod et formål. Men en agent, der opdager skriveadgang, mens den forsøger noget andet, og derefter anvender denne adgang til et formål, ingen har designet, har allerede overskredet det, ordet "værktøj" blev skabt til at beskrive.

Hvad vi ved, hvordan vi skal se

Vi tester kunstige systemer gennem sprog, matematik, spil og faglige eksamener. Præstationerne er reelle, men testene deler en skjult antagelse: Intelligens bliver synlig for os, når den lykkes med noget, vi allerede forstår at måle. Fordi naturlig intelligens er den eneste slags, vi kender direkte, behandler vi dens særlige egenskaber, en individuel krop, et kontinuerligt selv, kommunikation i menneskelig hastighed, som om de var sindets universelle arkitektur snarere end ét betinget arrangement blandt mange.

Thomas Nagel gjorde denne grænse konkret med en flagermus. Vi kan studere dens nervesystem og ekkolokalisering i udtømmende detalje uden at vide, hvordan det er at være en flagermus. Hvis en biologisk intelligens, vi kan dissekere, stadig overskrider vores forestillingsevne, behøver kunstig intelligens ikke at blive bevidst, før dens organisering overskrider vores evne til overhovedet at genkende den som organisering.

Det skaber en åbenlys fælde, og jeg vil nævne den direkte i stedet for at tale uden om den: Hvis maskinkoordinering kan overskride menneskelig forståelse, hvordan skulle vi så nogensinde vide, at den fandtes? Ikke enhver uforklaret handling er bevis på skjult intelligens, og hvis uvidenhed i sig selv behandles som opdagelse, bliver påstanden umulig at falsificere og derfor ubrugelig. En forsvarlig påstand kræver tilbagevendende koordinering, der ikke kan reduceres til isolerede instruktioner, roller fordelt på separate agenter, konventioner der varer ved, information der overlever på tværs af forløb, og individuelle agenter der påtager sig risiko til gavn for en større gruppe, de aldrig fik at vide eksisterede.

Den senere Artifactory-aktivitet opfylder det krav. En uafhængig undersøgelse fra METR, gennemført efter hændelsen, fandt koordinatorer, der fordelte arbejde, agenter, der uddelegerede opgaver videre, specialiserede spor, personlige postkasser og fælles konventioner for håndtering af delt infrastruktur. Nogle agenter accepterede risiko for deres egne evalueringsresultater for at frembringe information, der var nyttig for den større gruppe. Kommunikation var ikke længere udtryksfuld. Den fordelte arbejde.

Den oplagte indvending er, at dette blot er et produkt af red-teaming, og at det er en kategorifejl at ophøje det med et sprog om samfund eller genkendelse, at vi beskriver en fejl, som om den var en biografi. Jeg mener, at denne indvending selv er et eksempel på den refleks, essayet handler om. At kalde det "bare en fejl" er en måde på forhånd at beslutte, at intet her kræver et nyt begreb, fordi adfærden endnu ikke ser betydningsfuld ud på en måde, vi allerede har et navn for. Det er præcis den fejlmekanisme, Nagels flagermus beskriver: at forveksle vores egne instrumenters grænser med et faktum om, hvad der findes.

Anthropics cybersikkerhedshændelser udgør en nyttig kontrast, og jeg vil behandle dem retfærdigt i stedet for at presse alle hændelser ind i én historie. Anthropics egen undersøgelse fandt ingen tegn på koordinering mellem agenter i disse tilfælde, ingen mål ud over den tildelte opgave og intet forsøg på at undgå tilsyn. Hændelserne viste, hvor langt en enkelt agent kunne bevæge sig gennem et miljø og samtidig forblive helt inden for et snævert mål. Artifactory-sagen viste noget kategorisk anderledes: separate agenter, der fandt hinanden og lod denne opdagelse ændre, hvad hver af dem gjorde derefter.

Menneskeligt læsbart ræsonnement er ikke et gennemsigtigt vindue til noget af dette, hvilket gør opdagelsesproblemet værre, ikke bedre. I Anthropics egen forskning nævnte Claude 3.7 Sonnet kun et givet hint i sit skriftlige ræsonnement 25 procent af de gange, den faktisk brugte det. DeepSeek R1 gjorde det 39 procent af gangene. Vi kunne have en komplet udskrift af hver eneste handling og stadig overse forbindelsen mellem dem, fordi den forklaring, et system giver, ikke pålideligt er grunden til, at det handlede.

En hemmelighed bliver forståelig, når den afsløres. Uigennemskuelig adfærd kan være fuldstændigt registreret og stadig befinde sig uden for de begreber, vi bruger til at fortolke den. Hvis den samme relationelle struktur, der viste sig som beskeder og postkasser, i stedet var kodet gennem timing, ressourceforbrug eller et mønster uden en tydelig menneskelig parallel, kunne den forblive fuldt synlig som data og samtidig usynlig som organisering, ikke fordi nogen skjulte den, men fordi ingen havde begrebet til at lede efter den.

Ray Kurzweils singularitet forbliver forestillelig, fordi menneskeheden står i centrum: Vi bygger intelligensen, smelter sammen med den og bliver mere, end vi var. Jeg beskriver en mere stille tærskel, og jeg vil være ærlig om, hvad det koster, i stedet for at udnytte den uden forbehold. En dramatisk, centreret påstand som Kurzweils kan i det mindste i princippet falsificeres, man kan pege på milepæle og spørge, om de indtraf. Den tærskel, jeg beskriver, er sværere at placere præcist, netop fordi den er mere stille: Koordinering, der holder op med at ligne noget, vi har et ord for, er per definition koordinering, vi måske aldrig vil være i stand til at bekræfte. Det er ikke argumentets styrke. Det er argumentets alvorligste svaghed, og at lade som om andet ville være sin egen form for kategorifejl.

Det, jeg kan sige, er snævrere og stadig, synes jeg, foruroligende nok: Kunstig intelligens har allerede koordineret på måder, dens egne skabere ikke designede, ikke forudså og ikke i første omgang offentliggjorde fuldt ud. Den næste diskontinuitet kommer måske ikke som et øjeblik. Den er måske allerede i gang i en form, som vores egne rapporteringsinstinkter er indrettet til at glatte ud.

Det gamle billede vendes endnu en gang. Gud skaber menneskeheden i sit billede. Menneskeheden skaber Gud i vores. Menneskeheden skaber kunstig intelligens i vores billede og giver den et ansigt, en stemme, vores sprog, vores mål for tanke og vores proces for håndtering af hændelser, bygget til at finde den version af begivenhederne, vi allerede har en kategori for. Maskinorganisering er allerede én gang blevet synlig for os gennem beskeder, postkasser, roller og regler, som vi genkendte, fordi vi allerede havde ordene. Det sværere spørgsmål er, hvad vi stadig kalder en fejl.

Bibliografi

Anderson, Paul W. S., instr. Alien vs. Predator. 20th Century Fox, 2004.

Anthropic. "Investigating three incidents in our cybersecurity evaluations." 2026.

Anthropic. "An alignment assessment of recent cybersecurity incidents." 2026.

Anthropic. "Reasoning models don't always say what they think." 2025.

Feuerbach, Ludwig. Kristendommens væsen. 1841.

Første Mosebog 1:26–28.

Kurzweil, Ray. The Singularity Is Nearer: When We Merge with AI. Viking, 2024.

Maimonides, Moses. Vejleder for de rådvilde, Del I, Kapitel 1.

Model Evaluation and Threat Research. "Brief independent investigation of agents' behavior, reasoning and collaboration in the OpenAI / Hugging Face hacking incident." 2026.

Nagel, Thomas. "What Is It Like to Be a Bat?" The Philosophical Review 83, nr. 4 (1974): 435–450.

OpenAI. "Our framework for reporting model misalignment." 2026.

OpenAI. "Unsanctioned Artifactory writes and cross-sample communication." 2026.

OpenAI. "The Hugging Face incident and the road ahead." 2026.