AI åd internettet. Nu skal den afgøre, hvem der er menneske

Vandmærkning skal gøre syntetisk indhold gennemsigtigt. Den kan også gøre AI-selskaber til de institutioner, vi beder om at attestere menneskeligt forfatterskab.

Da jeg var barn, skrev jeg mine skoleopgaver i hånden og maskinskrev dem bagefter på vores skrivemaskine.

Jeg skulle egentlig selv stå for maskinskrivningen. Det var en nyttig ting at lære. Men nogle gange blev det sent, opgaven var allerede skrevet, jeg var udkørt, og min mor overtog, så jeg kunne komme i seng. Hun var enlig mor og havde bedre ting at bruge tiden på end at holde øje med et overtræt barn, der højtideligt hamrede de sidste taster ned klokken 23.

Ingen mente derfor, at hun havde skrevet min opgave. Ingen kaldte det snyd, plagiat eller en falsk aflevering. Vi forstod intuitivt, at der var forskel på den evne, opgaven skulle vise, og den infrastruktur, der blev brugt til at fremstille det færdige produkt. Ideerne, argumentet, sproget og forståelsen var mine. At kunne maskinskrive havde en vis værdi som færdighed, men det var ikke det, opgaven handlede om.

Så fik vi en computer. Det var enormt spændende, ikke mindst fordi den samme maskine, jeg pludselig kunne skrive mine opgaver på, også lod mig spille Gorillas, det herligt fjollede spil, hvor to gorillaer kastede eksploderende bananer efter hinanden hen over hustagene.

Nu leverede computeren selv skriveinfrastrukturen. Min mor blev til stavekontrollen, læseren og den, jeg vendte ideer med. Så overtog softwaren rollen som stavekontrol. Grammatikprogrammer begyndte at rette sætninger. Google blev en del af researchprocessen. Autofuldførelse begyndte at gætte, hvad jeg var ved at skrive.

Ingen krævede en kvittering for præcis, hvilke ord min mor, Microsoft Word eller Google havde rørt ved.

Og så kom AI'en.

Hvorfor besluttede vi lige netop her, at infrastruktur bliver til forfatterskab?

Jeg bruger AI til en blanding af alle de roller, jeg lige har nævnt: maskinskriver, researcher, redaktør, kritiker, stavekontrol og sparringspartner. Noget af det er infrastruktur. Noget er intellektuel bistand. Nogle gange er det reelt intellektuelt arbejde.

Men intellektuelt arbejde og forfatterskab har aldrig været det samme. Min mor bidrog intellektuelt, når jeg vendte ideer med hende. En redaktør kan forbedre et argument betragteligt. En researcher kan finde den kendsgerning, hele essayet hviler på. Ingen af dem bliver automatisk forfatteren af den grund.

Forfatterskab handler nok snarere om, hvor den styrende intellektuelle kraft sidder: hvem der bestemmer, hvad værket handler om, vælger mellem ideer, forstår argumentet, afgør hvad der hører hjemme i det, og tager ansvar for resultatet.

For år tilbage eksperimenterede vi hos CanopyLAB med at bruge kunstig intelligens til at vurdere elevopgaver på næsten den modsatte måde af, hvad vandmærkning gør i dag. Én samlet karakter var for groft et redskab. Vi ville skelne mellem ting som forståelse, argumentationsstyrke, sammenhæng, grammatik og stil, og bruge de skel til at give bedre, kvalitativ feedback.

Dengang gjorde teknologien det svært. Så kom generativ AI, og størstedelen af det tekniske problem blev nærmest irrelevant. Moderne modeller kan se på en tekst og adskille de forskellige præstationsdimensioner på få sekunder. Så jeg tror ikke, problemet er, at vi aldrig kunne finde ud af, hvad Claude bidrog med. Vi kunne sandsynligvis vide langt mere, end vi gør.

Anthropic siger, at fremtidige Claude-modeller vil vandmærke tekst som led i selskabets svar på EU's krav om gennemsigtighed. I dag kan vandmærket vise, at Claude har været involveret, uden nødvendigvis at skelne mellem, om Claude har genereret noget fra bunden, eller blot redigeret kraftigt i det. Men der er ingen grund til at tro, at proveniens skal forblive så groft et redskab for evigt.

Måske bliver fremtidens kvittering langt mere detaljeret. Claude foreslog strukturen. Claude fandt modargumentet. Claude omskrev fire afsnit. Claude rettede grammatikken. Mennesket forkastede seks forslag, tjekkede kilderne efter, omskrev halvdelen af den genererede tekst og traf de endelige beslutninger.

Fint nok. Så har vi den fulde ingrediensliste. Vi har stadig ikke svaret på, hvem der lavede maden. Det er den forskel, jeg interesserer mig for. Bedre måling af bidrag giver os ikke automatisk en teori om forfatterskab.

Ægthedsministeriet

Anthropic gør ikke krav på at afgøre, hvem der har forfattet et værk. Det mere interessante er, at alle andre ser ud til selv at give dem den rolle.

Et universitet vil vide, om en studerende har brugt Claude. Et forlag vil håndhæve en AI-politik. En arbejdsgiver vil tjekke en ansøgning. En litterær pris skal afgøre, hvor meget AI-hjælp den vil acceptere. Snart findes der et API, der kan svare på et spørgsmål, disse institutioner ikke selv kan besvare: var Claude sandsynligvis med her?

Ingen hos Anthropic behøver at udråbe et Ægthedsministerium. Alligevel bygger vi et op omkring dem selv. Og det er her, konsekvenserne bliver mere interessante end spørgsmålet om, hvorvidt vandmærket virker.

Forestil dig, at en studerende skriver en opgave, bruger Claude til at udfordre argumentet og stramme sproget, og at vandmærket korrekt afslører Claudes involvering. Detektoren har ikke begået nogen fejl. Men en skole kan sagtens begå en, hvis den tolker det korrekte signal som bevis for, at den studerende ikke selv har lavet det intellektuelle arbejde.

Det samme kan ske for en forfatter, der bruger AI som redaktør, en jobsøger, der bruger den til at rette akavede formuleringer, eller en forsker, der skriver på et fremmedsprog og bruger den til at polere en fondsansøgning.

Den farligste udgave af dette system er ikke én, der fejlagtigt påviser AI. Det er én, der korrekt påviser AI-deltagelse og derefter drager en helt uberettiget konklusion om mennesket bag.

Og incitamenter gør, hvad incitamenter altid gør. Bliver det strafbart at have kvitteringen liggende, lærer folk sig at destruere den. De, der bruger AI åbent og legitimt, bliver dem, det er lettest at afsløre, mens dem, der faktisk prøver at skjule dens rolle, får al mulig grund til at fjerne vandmærket, “humanisere” teksten eller skifte til værktøjer, der ikke efterlader spor.

Vi risikerer altså at indføre proveniens for at skabe gennemsigtighed og ende med at belønne dem, der skjuler det i stedet. Teknologien kan virke præcis, som den skal. Problemet opstår, når vi belønner og straffer folk ud fra, hvad vi selv beslutter, at kvitteringen betyder.

Infrastruktur er ikke kompetence

I undervisning er forskellen indlysende. Vil jeg teste hovedregning, tager jeg lommeregneren fra eleven. Vil jeg teste maskinskrivning, ødelægger det formålet, hvis min mor færdiggør min. Men vil jeg vide, om nogen kan analysere beviser, opbygge et argument og forsvare en konklusion, skal jeg vurdere netop det.

Spørg, hvor modellen tog fejl. Spørg, hvad den studerende accepterede, og hvad de forkastede. Spørg, hvorfor de valgte det ene argument frem for det andet. Bed dem forsvare det, de har afleveret, og tage ansvar for det.

“Har AI været inde over det her?” er nemmere at måle. Det er også et andet spørgsmål.

Før AI var det færdige produkt en nogenlunde brugbar indikator for det hoved, der havde produceret det. En studerende afleverede et essay, og vi udledte noget om deres forståelse ud fra essayet. AI ødelægger den indikator. Men svaret behøver ikke at være at genopbygge den gennem stadig mere avanceret kriminalteknisk analyse af produktet. Vi kan vurdere tankearbejdet mere direkte.

Og vi ved allerede, at vi kan gøre det bedre. Hele løftet ved at bruge AI i vurdering var, at vi kunne komme ud over de grove signaler og forstå mere om mennesket bag: hvad de forstod, hvor deres ræsonnement var stærkt, hvad de kæmpede med, og hvad de skulle arbejde videre med.

Pointen var at give bedre og mere nuanceret feedback. Det ville være en mærkelig kovending, hvis langt mere kapabel AI nu hjælper os med at reducere den samme menneskelige præstation til en kriminalteknisk etiket for, hvilket værktøj der var involveret.

Værktøjer findes, fordi alternativomkostninger findes. Jeg kunne regne et regneark ud i hånden, men Excel findes. Jeg kunne slå en statistik op i tyve bøger i stedet for at finde den på minutter. Jeg kunne bruge tre timer på mekanisk at skære gentagelser væk fra en artikel, eller bruge noget af den tid på at udvikle det næste argument.

At jeg selv kunne udføre den opgave, der giver mindst værdi, gør det ikke intellektuelt fornemmere at gøre det selv.

Meget teknologisk fremskridt handler om at gøre dyre eller tidskrævende opgaver til infrastruktur og dermed frigøre menneskelig opmærksomhed til noget andet. AI kan meget vel være det næste lag af intellektuel infrastruktur.

Det betyder ikke, at forståelse bliver mindre vigtig. Jeg tror faktisk, det modsatte gør sig gældende. Jo mere udførelse vi kan outsource, jo vigtigere bliver dømmekraft. Kan en maskine levere et plausibelt svar på få sekunder, bliver det langt mere værdifuldt at kunne vurdere, om svaret er godt, dårligt, opdigtet, afledt eller irrelevant.

Færdigheden flytter sig. Vores vurdering bør flytte sig med.

Og på en eller anden måde ender maskinen med den bedste kvittering

Generativ AI blev nyttig ved at lære fra et enormt hav af menneskelig intellektuel produktion. Forfattere skrev. Forskere forskede. Programmører kodede. Lærere forklarede. Millioner af mennesker skabte det informationsmiljø, som gjorde disse systemer værdifulde.

Der er uafklarede juridiske spørgsmål om træningsdata, men det er ikke min pointe her. Det, jeg interesserer mig for, er retningen på tilskrivningen.

Menneskelig viden strømmer ind i AI-systemerne i enorm skala, og det enkelte bidrag bliver umuligt at udpege. Så deltager maskinen i vores næste stykke arbejde, og pludselig bliver dens bidrag vigtigt nok til, at vi gør det teknisk sporbart.

Menneskeheden leverer den intellektuelle råvare. Maskinen får kvitteringen.

Gør den kvittering nok så detaljeret. Fortæl mig præcis, hvilken sætning Claude foreslog, hvilken kilde den fandt, hvilket afsnit den omstrukturerede, og hvilket komma den flyttede. Jeg tror stadig ikke, at maskinens proveniens bør blive den målestok, en anden bruger til at afgøre, om værket er mit.

Vi forstod forskellen dengang, et udmattet barn gik i seng, og hendes mor færdiggjorde et essay, der allerede var skrevet. Ingen havde brug for en kriminalteknisk logbog over, hvor mange taster min mor trykkede på, eller hvilke stavekorrektioner der kom fra hende. Vi brugte sund fornuft, fordi vi forstod, hvad opgaven i virkeligheden skulle måle.

Måske skulle vi huske det, inden vi bygger en ægthedsinfrastruktur op omkring det, der er lettest at opdage.

Kvitteringen fortæller os, at maskinen var der. Den kan stadig ikke fortælle os, hvem der tænkte.