thumb|AI-genereret video af Glenfinnan viadukten, hvor Sora har hallucineret bl.a. et ekstra spor og inkonsistente længde på vognene.
Inden for kunstig intelligens (AI) er en hallucination eller kunstig hallucination (også kaldet bullshit, konfabulering eller vrangforestilling) et svar genereret af AI, som indeholder falske eller vildledende oplysninger, der fremstilles som faktum. Betegnelserne bygger på en løs analogi til menneskets psykologi, hvor en hallucination typisk indebærer falske sanseindtryk.
Chatbotter baseret på store sprogmodeller (LLM'er), såsom ChatGPT, kan indarbejde tilfældige, men tilsyneladende troværdige usandheder i det genererede indhold, eksempelvis opdigtede kildehenvisninger. Det er en betydelig udfordring at opdage og begrænse fejl og hallucinationer ved praktisk anvendelse af store sprogmodeller og sikre deres pålidelighed i situationer, hvor fejl kan få alvorlige konsekvenser, såsom design af mikrochips, forsyningskædelogistik og medicinsk diagnostik. Nogle softwareingeniører og statistikere har kritiseret den specifikke betegnelse "AI-hallucination" for på urimelig vis at tillægge computere menneskelige egenskaber. Modeller baseret på symbolsk kunstig intelligens frembringer generelt ikke hallucinationer i modsætning til store sprogmodeller.
Referencer
Kategori:Kunstig intelligens Kategori:Programmering