Derfor finder AI på ting: 7 tjek, der afslører en hallucination

AI finder på ting, fordi en sprogmodel er bygget til at producere de mest sandsynlige næste ord, ikke til at tjekke, om de er sande, og fordi måden, modeller trænes og bedømmes på, belønner et selvsikkert gæt frem for et ærligt "jeg ved det ikke". Denne guide forklarer mekanismen på klart sprog, hvor ofte det sker på nuværende modeller, hvad det kostede tre firmaer, og de syv tjek, der afslører det.

Du har set det: chatbotten, der henviser til en forskrift, som ikke findes, citerer en statistik, ingen undersøgelse nogensinde har skabt, eller nævner en leverandør, du ikke kan finde. Det kaldes en hallucination, og det er ikke en fejl, som den næste opdatering fjerner. OpenAIs egne forskere skrev i september 2025, at modeller producerer "overconfident, plausible falsehoods" (overdrevent sikre, plausible usandheder), fordi deres træning og evaluering "reward guessing over acknowledging uncertainty" (belønner gæt frem for at erkende usikkerhed). At forstå, hvorfor AI finder på ting, er forskellen på et værktøj, der sparer dig en dag om ugen, og et, der lægger et falsk tal foran en kunde, en bank eller en domstol.

Det følgende er den forklaring, en travl ejer har brug for, ikke et foredrag i datalogi: hvordan maskinen faktisk fungerer, hvor fejlene samler sig, tre virkelige sager med regningen vedlagt, hvad leverandørerne selv fortæller dig, og de syv tjek. Det sidste afsnit handler om, hvordan en AI-agent, der viser sine kilder og sin browser, ændrer problemet, og hvad den stadig ikke kan gøre for dig.

Sådan har vi tjekket denne guide

1. Kun primære kilder til mekanismen: OpenAI-forskningsartiklen fra 4. september 2025 og de udtalelser fra tilsynsmyndigheder, der citerer leverandørerne.
2. Målte rater fra en offentlig rangliste, læst den 22. oktober 2026, med dens metode oplyst, for en hallucinationsrate uden metode er i sig selv en slags hallucination.
3. Retslige og offentlige optegnelser for de tre sager, ikke nyhedsresuméer.
4. Leverandørernes egne hjælpesider om, hvad ChatGPT og Claude siger om deres begrænsninger.
5. Tjek, som en ikke-teknisk person kan udføre på under et minut, uden andet værktøj end et søgefelt.

Hvad en hallucination er, og hvorfor den opstår

En stor sprogmodel fungerer ved at forudsige den tekst, der sandsynligvis følger efter den tekst, den har fået. Da Solicitors Regulation Authority (den britiske tilsynsmyndighed for advokater) advarede juraprofessionen i november 2023, sagde den det ligeud: disse værktøjer "work by anticipating the text that should follow the input they are given, but do not have a concept of 'reality'" (fungerer ved at forudse den tekst, der skal følge efter inputtet, men har ikke et begreb om "virkelighed"). Bed om en sag, der støtter dit argument, og modellen producerer noget, der ligner en sag: et plausibelt navn, et plausibelt årstal, et plausibelt citat. Intet inde i den tjekker, om sagen findes, for intet inde i den er bygget til det.

Den anden årsag er, hvordan modeller bedømmes. I deres artikel fra september 2025, "Why language models hallucinate", viste fire OpenAI-forskere, at de gængse tests belønner et selvsikkert svar og ikke giver noget for at indrømme usikkerhed, så "under binary grading, abstaining is strictly sub-optimal" (ved binær bedømmelse er det strengt suboptimalt at afstå fra at svare). En model, der gætter, får flere point end en model, der siger, at den ikke ved det, på samme måde som en studerende, der gætter på en multiple choice-eksamen, slår en, der lader spørgsmålet stå tomt. Gættevanen er indlært, og den er indlært, fordi den vinder.

De tal, OpenAI offentliggjorde sammen med artiklen, gør afvejningen synlig. På en faktabaseret benchmark afstod en model, der var trimmet til at afholde sig fra at svare, fra at besvare 52% af spørgsmålene, fik 22% rigtige og 26% forkerte; en tidligere model, der næsten aldrig afstod, fik 24% rigtige og 75% forkerte. Færre forkerte svar kom af flere "jeg ved det ikke", ikke af mere viden. Det er hele historien i én tabel, og det er grunden til, at tjekkene nedenfor begynder med tilladelse til at sige nej.

Hvor ofte det sker i 2026

Det ærlige svar er "ofte nok til, at man altid bør tjekke". Vectaras hallucinationsrangliste, opdateret den 22. oktober 2026, bedømmer modeller på én snæver opgave: opsummer et dokument, de har fået, og tæl, hvor ofte resuméet indeholder noget, dokumentet ikke siger. Selv med fakta foran sig opfandt gængse modeller indhold i en målbar andel af resuméerne.

To ting skiller sig ud. Nyere og større betyder ikke tryggere: GPT-5-konfigurationen fra august 2025 klarede sig dårligere end det et år ældre GPT-4o på denne test. Og det er forankringstal, hvor kilden er givet; når modellen skal huske fakta fra hukommelsen, er raterne højere.

Specialistundersøgelserne er enige. Forskere, der skrev i Annals of the Royal College of Surgeons of England, rapporterede i april 2026, at de dårligste modeller på tværs af 108 chatbotsvar på kirurgiske spørgsmål med i alt 1.249 referencer fabrikerede eller ikke kunne dokumentere 25% til 34% af deres citater, mens de bedste ikke producerede nogen. Et brev i The Lancet rapporterede i maj 2026, at omkring én ud af 277 nylige artikler i PubMed indeholdt fabrikerede referencer, mod én ud af 2.828 i 2023. En Stanford-undersøgelse af juridiske researchværktøjer, der bruger retrieval, fandt, at de stadig hallucinerede mellem 17% og 33% af gangene. Retrieval hjælper, men løser ikke det hele.

Hvad det har kostet: tre sager

New York, juni 2023. I Mata v Avianca indgav to advokater et processkrift med sager, der ikke fandtes, genereret af ChatGPT, og retten pålagde en bøde på $5,000. Det var den første bredt omtalte sag, og den er nu én af mere end 2.200 retsafgørelser verden over om fabrikerede AI-citater, som registreres i en offentlig database, der vedligeholdes af advokaten Damien Charlotin.

London, juni 2025. I Ayinde v Haringey og Al-Haroun v Qatar National Bank behandlede High Court to sager på én gang: det ene processkrift citerede fem sager, der ikke fandtes, det andet citerede 45 retskilder, hvoraf 18 var opfundet. Præsidenten for King's Bench Division skrev, at generative værktøjer "are not capable of conducting reliable legal research" (ikke er i stand til at udføre pålidelig juridisk research) og "may cite sources that do not exist" (kan citere kilder, der ikke findes), at advokater har en professionel pligt "to check the accuracy of such research by reference to authoritative sources" (til at kontrollere rigtigheden af sådan research ved hjælp af autoritative kilder), og at følgerne af at undlade det kan omfatte foragt for retten og indberetning til politiet. Siden har Solicitors Regulation Authority udsendt en advarselsmeddelelse (17. august 2026), der nævner "fictitious cases, references or seemingly factual assertions" (fiktive sager, referencer eller tilsyneladende faktuelle påstande) og minder advokater om, at de fortsat er ansvarlige for resultatet.

Canberra, oktober 2025. Deloitte Australia leverede en rapport til et ministerium under en kontrakt til en værdi af AU$440,000. Den indeholdt et fabrikeret citat tilskrevet en dom og henvisninger til akademiske artikler, der ikke fandtes. Firmaet offentliggjorde en rettet version den 3. oktober 2025, oplyste for første gang, at en Azure OpenAI-model var blevet brugt, og tilbagebetalte den sidste rate på cirka AU$98,000. Arbejdet blev udført af et stort professionelt firma med en kontrolproces. Fabrikationen slap alligevel igennem, fordi ingen åbnede referencerne.

Ingen af disse mennesker var skødesløse amatører. De var travle professionelle, som behandlede flydende tekst som kontrolleret tekst. Det er den fejl, man skal undgå, og den kan undgås.

Hvad leverandørerne selv siger

Anthropics dokumentation for Claude opregner de gængse afbødninger, blandt andet at lade modellen sige "I don't know", bede den citere, før den svarer, og begrænse den til leverede dokumenter, og tilføjer derefter, at de "don't eliminate them entirely. Always validate critical information." (ikke fjerner dem helt. Valider altid kritiske oplysninger.) Dens supportartikel om forkerte svar, opdateret i marts 2026, siger klart, at Claude "can occasionally produce responses that are incorrect or misleading" (af og til kan give svar, der er forkerte eller vildledende), og at man ikke bør stole på den som "a singular source of truth" (en enkelt kilde til sandhed). OpenAIs hjælpeside om, hvorvidt ChatGPT fortæller sandheden, siger det samme: den kan fabrikere citater, og du bør verificere. ICO (den britiske databeskyttelsesmyndighed) bemærkede i sit arbejde med generativ AI i 2024, at selv korrekte træningsdata "will not stop" (ikke vil forhindre) modeller i at producere falske udsagn, og FCA's gennemgang af AI i finansielle tjenester fra oktober 2026 gentager, at virksomheder "remain responsible for consumer outcomes" (fortsat er ansvarlige for forbrugerudfald), uanset hvilket værktøj der frembragte dem.

Læst samlet er budskabet fra dem, der bygger og regulerer disse værktøjer, entydigt: brug dem, og tjek dem.

De 7 tjek, der afslører en hallucination

1. Bed om kilden, og åbn den

En model producerer gerne en reference på forlangende; testen er, om referencen åbner og siger det, modellen påstår, den siger. Deloitte-rapporten havde referencer. Ingen åbnede dem. Hvis linket er dødt, artiklen ikke findes, eller siden siger noget andet, er hele svaret mistænkeligt, ikke blot den ene linje.

2. Verificér navne, tal, datoer og citater enkeltvis

Disse fire kategorier er der, hvor fabrikation samler sig, fordi det er de dele af en sætning, der er sværest at forudsige ud fra konteksten. Et citat er lettest at tjekke: indsæt det i en søgemaskine inden for anførselstegn. En statistik bør føre til en undersøgelse med en stikprøve og en dato, på samme måde som denne guide nævner undersøgelsen fra Royal College of Surgeons og dens 1.249 referencer.

3. Spørg to gange, eller spørg en anden model

Et faktum, der overlever omformulering, er mere sandsynligt et faktum. Stil det samme spørgsmål med andre ord, eller indsæt det i et andet produkt (ChatGPT, Claude, Gemini, Microsoft Copilot, Manus og Metas Muse opfører sig alle forskelligt på den samme prompt). At to modeller er enige, er ikke bevis, men at to modeller er uenige, er et pålideligt tegn på, at du skal tjekke.

4. Giv den dokumentet, og hegn den inde

Tallene fra ranglisten ovenfor er det bedste tilfælde, med kilden givet; hukommelsen er værre. Så giv kilden. Vedhæft kontrakten, regnearket eller forskriften, bed modellen svare kun ud fra den og citere den linje, den brugte, og læs citatet. Hvis den ikke kan citere en linje, kom svaret ikke fra dokumentet.

5. Giv den lov til at sige "jeg ved det ikke"

Fordi træningen belønner gæt, må du ændre bedømmelsen i prompten. "Hvis du ikke er sikker, så sig det, og fortæl mig, hvad jeg skal tjekke" er den mest effektive enkeltsætning i denne guide; den er den skriftlige pendant til den afstående model i OpenAIs tabel, og den koster dig ingenting.

6. Regn efter

Sprogmodeller forudsiger tekst; de regner ikke, medmindre de kører kode. En sum, der er forkert med én linje, en procent af det forkerte grundlag, en dato, der er et år forkert: det ser rigtigt ud, fordi den omgivende sætning er rigtig. Læg kolonnen sammen selv, eller bed en agent, der kører beregningen i et regneark og viser den.

7. Behandl penge, jura, sundhed og omdømme som udkast

Advokaterne i London og konsulenterne i Canberra manglede ikke intelligens; de manglede en regel. Reglen er, at alt, der når en kunde, en tilsynsmyndighed, en långiver eller en domstol, er et udkast, indtil en navngiven person har tjekket de fakta, det indeholder. Skriv den regel ned, og AI-politikken i AI-politik for små virksomheder: en gratis skabelon giver dig en version på én side.

Hvor små virksomheder oftest bliver fanget

• Tilbud og overslag. En model, der bliver bedt om "typiske priser", opfinder typiske priser. Brug dit eget prisark eller en kilde med priser.
• Juridisk og skattemæssig ordlyd. Grænser, datoer og sanktioner ændrer sig hver april; modellens hukommelse kan være to år gammel. Tjek GOV.UK.
• Leverandør- og produktoplysninger. Modelnumre, kompatibilitet og specifikationer er netop den tætte, svært forudsigelige tekst, der bliver fabrikeret.
• Anmeldelser og udtalelser. Lad aldrig en model skrive en anmeldelse eller et citat fra en kunde. Foruden at være opfundet er falske anmeldelser ulovlige i Storbritannien i henhold til Digital Markets, Competition and Consumers Act 2024.
• Oversættelser af tal. Når en model oversætter et dokument, kan tal flytte sig. Tjek hvert tal i den oversatte version mod originalen.

Hvordan en AI-agent ændrer problemet

En chatbot giver dig et svar og overlader kontrollen til dig. En agent kan udføre noget af kontrollen som en del af opgaven, og derfor betyder mekanikken noget, når du vælger en.

• Den viser sine kilder. En agent, der browser, returnerer de sider, den har læst, så tjek 1 bliver et klik i stedet for en søgning. Jobbit Research knytter kilderne til hvert fund i den rapport, den skriver.
• Den kører i en browser, du kan følge med i. Når agenten åbner en side, ser du siden. Et tal i rapporten kan spores til den skærm, det kom fra.
• Den arbejder ud fra dine dokumenter. Vedhæft kontrakten eller regnearket i et Jobbit-projekt, og agenten svarer ud fra filen med linjen citeret, hvilket er tjek 4 udført som standard.
• Den regner i et regneark, ikke i prosa. Bed om en likviditetsprognose, og agenten bygger arket og viser formlerne; regnestykket kan gentages.
• Den spørger, før den bruger penge eller sender. En agent, der holder pause for godkendelse, før en e-mail går ud, giver tjek 7 et indbygget stop.
• Den kan få besked på at afstå. Projektinstruktioner som "sig til, når du ikke er sikker, og list, hvad der skal verificeres" gælder for hver chat, så tjek 5 sættes op én gang.

ChatGPT, Claude, Gemini, Microsoft Copilot, Manus og Metas Muse udarbejder alle gode udkast, og flere browser og citerer nu. Det, ingen af dem fjerner, er den endelige kontrol fra et menneske, og det gør Jobbit heller ikke. Det, Jobbit tilføjer, er et menneskeligt netværk: når opgaven er en lejekontrakt, en selvangivelse eller et sygdomskrav, kan agenten overlade kontrollen til en godkendt fagperson i den samme ordre i stedet for til dig klokken elleve om aftenen.

Din plan for denne uge

• Mandag: skriv den ene regel. "Alt, der går til en kunde, HMRC, en bank eller en domstol, er et udkast, indtil en navngiven person har tjekket fakta." Skriv den ind i din AI-politik og dine projektinstruktioner.
• Tirsdag: tilføj afstå-linjen. Skriv "hvis du ikke er sikker, så sig det, og fortæl mig, hvad jeg skal tjekke" ind i de faste instruktioner i hvert værktøj, du bruger.
• Onsdag: kør tjek 1 på sidste uges resultater. Tag de tre sidste AI-skrevne dokumenter, du har brugt, og åbn hver reference. Tæl dem, der fejler.
• Torsdag: flyt én opgave til forankret tilstand. Vælg den opgave, hvor fejl koster mest, vedhæft de rigtige dokumenter, og kræv citerede linjer.
• Fredag: beslut, hvad der aldrig går ud uden kontrol. Lav listen (priser, juridisk ordlyd, sundhedspåstande, kundecitater) og del den med alle, der bruger AI i din virksomhed.

Læs videre

• Er AI sikkert at bruge? En guide i klart sprog til dine data, dine penge og de svindelnumre, du skal holde øje med
• 12 fejl, begyndere begår med AI-agenter, og den hurtige løsning på hver enkelt
• Hvordan fungerer AI-agenter? Den 5-trins løkke bag hver opgave, forklaret enkelt

Ofte stillede spørgsmål

Hvorfor finder AI på ting?

Fordi en sprogmodel genererer de mest sandsynlige næste ord i stedet for at tjekke fakta, og fordi de tests, der bruges til at træne og rangere modeller, belønner et selvsikkert gæt frem for en indrømmelse af usikkerhed. OpenAIs egne forskere beskrev resultatet i 2025 som "overconfident, plausible falsehoods". Flydende sprog og rigtighed frembringes af den samme proces, og derfor læses et forkert svar præcis som et rigtigt.

Hvad er en AI-hallucination?

Et svar, der er flydende og plausibelt, men falsk: en opfundet sag, en statistik, ingen undersøgelse har skabt, et citat ingen har sagt, et produkt, der ikke findes. Det er ikke en fejl i systemet; det er den normale adfærd hos en model, der bliver bedt om noget, den ikke ved.

Hvor ofte finder ChatGPT på ting?

Det afhænger af opgaven. På en offentlig forankringstest læst i oktober 2026 opfandt gængse modeller indhold i omkring 4% til 15% af dokumentresuméerne, selv med kilden givet; undersøgelser af citater inden for kirurgi og jura fandt fabrikationsrater på 17% til 34% for de dårligst præsterende. Den sikre antagelse er "ofte nok til at tjekke hvert navn, tal, hver dato og hvert citat".

Kan man stoppe AI-hallucinationer helt?

Nej. At give kildedokumentet, bede om citater, tillade "jeg ved det ikke" og bruge en agent, der viser sine kilder, sænker alt sammen raten, og Anthropics egen dokumentation siger, at disse tiltag "don't eliminate them entirely". Den endelige kontrol af alt, der betyder noget, er et menneske.

Er nogen blevet bødefældt for AI-hallucinationer?

Ja. En domstol i New York pålagde i 2023 en bøde på $5,000 for falske sager i et processkrift; High Court i London advarede i juni 2025 om, at fabrikerede citater kan føre til foragt for retten og indberetning til politiet; og Deloitte Australia tilbagebetalte den sidste rate af en offentlig kontrakt på AU$440,000 i oktober 2025, efter at dens rapport viste sig at indeholde opfundne referencer.

Er en AI-agent mere pålidelig end en chatbot?

En agent, der browser, citerer sine kilder og arbejder ud fra dine dokumenter, gør tjekkene hurtigere og fejlene lettere at spore, men der skal stadig en person til at godkende alt, der berører penge, jura eller sundhed. Jobbits agent viser sin browser og sine kilder, mens den arbejder, og kan give den endelige kontrol videre til en godkendt fagperson, når opgaven kræver det.