Når løgnen har en litteraturliste

For nogle uger siden så jeg en kvinde fortælle en historie på nettet, som jeg ikke har kunnet slippe siden.

Hun havde været med i en podcast, og værten spurgte, hvordan det havde været at vokse op i Mexico. Hun var ikke vokset op i Mexico. Hun gik ud fra, at værten simpelthen havde taget fejl. Så var hun til et andet arrangement, hvor nogen spurgte, hvordan det havde været at lære sig selv at kode i Guadalajara. Det var sværere at afvise. Hun havde aldrig så meget som været i Guadalajara. Så hun googlede sig selv.

Googles AI-resumé havde tilsyneladende konstrueret en alternativ biografi til hende. Der stod, at hun var fra Guadalajara. Hun havde en mistanke om, at den havde forvekslet hende med en anden kvinde på nettet med et lignende navn og en lignende faglig baggrund, som rent faktisk var fra Mexico. Det er allerede en ret almindelig AI-hallucination. Det, der skete derefter, er det ikke.

Der begyndte at dukke AI-genererede artikler op om hende, som gentog oplysningerne fra AI-resuméet. De sider blev indekseret, og når AI'en nu sagde, at hun var fra Guadalajara, kunne den henvise til kilder, der beviste det. Hallucinationen var undsluppet modellen og blevet en del af belægget.

Som hun forklarede det, hallucinerede AI'en ikke længere bare, at hun var fra Guadalajara. Den sagde med stor sikkerhed, at hun var fra Guadalajara, og henviste til en kilde, der sagde det samme. Fejlen var blevet så overbevisende, at hendes egen mor til sidst ringede for at spørge, hvornår hun havde taget hende med til Mexico.

Der er en detalje mere ved historien, som virker næsten for perfekt. Det oprindelige opslag blev svært at finde, efter at historien eksploderede på nettet. Jeg fik kun fat i den, fordi en anden havde delt den igen på LinkedIn, hvor transskriptionen stadig var indekseret. Selv beviset for det falske bevis havde brug for et arkiv.

Vi har brugt år på at tale om AI-hallucinationer, som var de midlertidige fejl inde i en model. Maskinen siger noget dumt, nogen opdager det, vi retter det, og vi går videre. Men internettet giver hallucinationer et sted at bo.

Når en opfundet oplysning først er blevet til en hjemmeside, en profil, et blogindlæg, en automatisk genereret artikel eller en post i en database, kan fremtidige systemer hente den frem. Det afgørende skift er ikke bare fra hallucination til publicering. Det er fra publicering til tilsyneladende bevis. Så snart usandheden er indekseret, fundet frem og citeret, begynder gentagelse at ligne bekræftelse.

Ti hjemmesider, der siger det samme, er ikke nødvendigvis ti kilder. De kan være ti efterkommere af den samme fejl. Den skelnen betyder noget, fordi en af vores foreslåede løsninger på upålidelig AI har været kildehenvisninger. Vi beder maskinerne vise deres arbejde, give os kilder, linke til belæg. Det er en forbedring, men en kildehenvisning svarer på et langt snævrere spørgsmål, end vi somme tider lader som om. Den kan fortælle os, hvor et udsagn kommer fra. Den kan ikke fortælle os, om udsagnet er sandt. En model kan henvise helt korrekt og alligevel tage fuldstændig fejl.

Jeg er ikke uvant med at få skrevet løgne om mig på internettet. Det meste af mit liv har jeg dog tænkt på det som en ret usædvanlig arbejdsskade. Det skete, hvis man var offentlig person, nogenlunde kendt, politisk kandidat, direktør, aktivist eller bare synlig nok til, at fremmede fik en interesse i en.

I mit eget tilfælde steg mængden markant, i takt med at jeg blev mere offentlig. I 2022 blev jeg udvalgt til Obama Foundations Leaders Europe-program, og da præsident Obama kom til København, blev jeg valgt til at introducere ham før hans tale på Copenhagen Democracy Summit. Den slags synlighed ændrer mængden af information, der bliver produceret om en. Noget af det er korrekt, noget er sjusket, noget er fortolkning, og meget af det er simpelthen ikke sandt.

Løgne på nettet tærer. Men hvis man har levet offentligt længe nok, sker der noget lidt mærkeligt: man bliver afstumpet. Man lærer, at det er umuligt at rette alting. Man holder op med at gå ud fra, at noget fortjener et svar, bare fordi det er blevet publiceret. Man lærer også, at publicering ikke er det samme som sandhed.

Til sidst lærer familien det også. Efterhånden er det ofte skepsis, der er min families første reaktion, når de læser noget om mig på nettet. Nogle gange ved de med det samme, at noget ikke kan passe, simpelthen fordi de ved, hvor jeg var, hvad jeg lavede, hvem jeg arbejdede sammen med, eller hvad jeg faktisk sagde.

Det er en besynderlig form for dannelse at udvikle som familie. De fleste har aldrig været nødt til at udvikle den. Deres forældre har aldrig skullet spekulere på, om en artikel om deres datter er opdigtet. Deres partner har aldrig skullet spørge, om den biografi, de lige har fundet, er ægte. Deres børn har aldrig haft brug for at forstå, at den person, der bliver beskrevet på nettet, og den person, der sidder over for dem ved middagsbordet, en gang imellem kan være to vidt forskellige mennesker. Indtil nu har de fleste ikke haft nogen grund til at forberede sig på den oplevelse.

Det er dét, der ændrer sig, når opdigtning ikke længere kræver, at et menneske gider at digte. Man behøver ikke længere at være kendt nok til, at et andet menneske gider finde på noget om en. En maskine kan forveksle en med en anden, opfinde en barndom, flytte en til et andet land, give en en uddannelse, man aldrig har taget, en virksomhed, man aldrig har arbejdet for, en politisk holdning, man aldrig har udtrykt, eller en karriere, man aldrig har haft. Et andet system kan gøre den fejl til en artikel, et tredje kan indeksere den, og et fjerde kan citere den.

Informationssystemet kan begå en fejl og derefter begynde at bruge sin egen fejl som bevis. Den falske offentlige identitet var før i tiden især en arbejdsskade ved synlighed. Nu har potentielt alle en.

Der er én ting, jeg har lært af i årevis at se unøjagtigheder blive skrevet om mig på nettet, som måske bliver nyttig for alle andre: primære kilder betyder mere, end de gjorde før.

Der findes påstande om mig på nettet, som kategorisk er forkerte. Nogle gange er jeg heldig at kunne vise det forholdsvis let, ikke fordi jeg kan råbe højere om, at de er forkerte, men fordi der findes en oprindelig optegnelse. En tale viser, hvad jeg faktisk sagde. En organisation kan dokumentere, hvilken rolle jeg faktisk havde. En virksomhedsregistrering viser, hvad jeg faktisk arbejdede med. En video viser, hvad der faktisk skete. Kilden fandtes, før nogen anden skrev sin fortolkning af den.

Den skelnen bliver langt vigtigere i et informationsmiljø, hvor gentagelse kan forklæde sig som bekræftelse. Hundrede sekundære sider kan gentage den samme påstand, men det vigtigste spørgsmål er stadig, om der ligger noget under dem, som går forud for selve påstanden.

Derfor tænker jeg i stigende grad, at radikal gennemsigtighed kan blive en form for digitalt selvforsvar. Gem originalen. Udgiv talen. Dokumentér projektet. Bevar titlen. Gem videoen. Gør det muligt for både mennesker og maskiner at spore en påstand tilbage til noget, der fandtes, før internettet begyndte at gentage sig selv.

Det kan løse nogle problemer, men det skaber også en ekstraordinær og dybt urimelig byrde. En maskine kan opfinde noget om dig på få sekunder. At rette det kan kræve års dokumentation. Usandheden kan sprede sig automatisk, mens sandheden kan kræve et arkiv. Og byrden falder på den, der er blevet fremstillet forkert.

Vi burde ikke være nødt til at vedligeholde offentlige bevisdepoter over vores egne liv, bare fordi informationssystemer en dag kan finde på at opfinde alternative udgaver af os. Men det er her, samtalen om AI og sandhed skal bevæge sig hen nu.

Det vigtige spørgsmål er ikke længere bare, om et svar har kildehenvisninger. Vi har brug for at vide, hvor påstanden opstod, om kilderne reelt er uafhængige, om de går forud for påstanden, om nogen har verificeret dem, og om der overhovedet ligger en primær kilde under det hele.

For den næste informationskrise ligner måske ikke fake news. Den ser måske grundigt researchet ud. Sproget vil være poleret, søgeresultaterne vil være enige, svaret vil lyde sikkert, og fodnoterne vil være der.

Og løgnen vil have en litteraturliste.

Kilder

Beretningen om kvinden, der fejlagtigt blev beskrevet af Googles AI som opvokset i Guadalajara, er bevaret i en LinkedIn-deling af Cameron Turner. I videoens transskription forklarer hun, at Googles AI-resumé havde tillagt hende en mexicansk baggrund, at AI-genererede artikler efterfølgende gentog påstanden, og at AI-resuméet derefter begyndte at citere de artikler som bevis. Det oprindelige opslag ser ud til at være fjernet eller blevet svært tilgængeligt, men delingen og transskriptionen er stadig indekseret.

Cameron Turners LinkedIn-deling og transskription: https://www.linkedin.com/posts/camjturner_ai-processimprovement-governance-activity-7497586593373974528-6fjl?utm_source=chatgpt.com