Lühidalt
Hallutsinatsioon on keelemudeli väljund, mis kõlab usutavalt, kuid on faktiliselt vale või täielikult välja mõeldud: vale seaduse paragrahv, olematu artikkel, vale hinnanumber. IBM-i sõnastuses on need juhud, kus süsteem esitab väljamõeldud fakte, leiutatud uuringuid või olematuid linke. Põhjus on mudeli tööviisis: ta ennustab tõenäolist järgmist tekstiosa, mitte ei kontrolli fakte.
Hallutsinatsioon on usutav vale
Hallutsinatsioon on keelemudeli vastus, mis kõlab korrektselt, aga ei ole seda: vale paragrahv seaduses, olematu teadusartikkel, vale hinnanumber, link lehele, mida kunagi ei olnud. IBM kirjeldab neid juhtudena, kus süsteem esitab väljamõeldud fakte, leiutatud uuringuid ja linke, mis ei tööta. Akadeemilises kirjanduses jagatakse nähtus sisendiga vastuolus olevaks ja sisendist sõltumatuks väljamõeldiseks, sest põhjused on neil kahel juhul erinevad.
Eesti ärikontekstis on tüüpiline näide see, kui bot vastab küsimusele käibemaksu tähtaja kohta kindla kuupäevaga, mida ükski allikas ei kinnita. Vastus on vormilt korrektne ja sisult ohtlik.
Miks see tekib
Mudel ennustab tõenäolist järgmist tekstiosa. Kui materjalis puudub fakt, pakub ta kõige tõenäolisema kuju: õige struktuuriga paragrahvinumber, õige formaadiga ISBN, usutava nimega artikkel. Ta ei tee vahet sellel, kas ta teab või arvab, sest tema väljundis on mõlemad ühesugused laused.
Kolmele asjale lisandub veel surve vastata. Kui süsteemikäsklus ütleb „ole abivalmis ja vasta alati“, käitub mudel nii ka siis, kui tal andmeid ei ole. Kui vestlus on pikk ja sisendisse jääb vähe ruumi, võib ta unustada varasema täpsustuse. Kui kasutaja survestab („aga sa pead teadma“), kipub mudel siiski vastama.
Näide: kolm sammu, kus viga tekib
Küsimus puudutab detaili, mida teadmistebaasis ei ole
Töötaja küsib botilt „mis on meie hooldustasu alates 2027“. Lepingute kaustas on ainult 2026. aasta hinnakiri.
Otsing toob välja peaaegu sobiva lõigu
Süsteem leiab vana hinnakirja, sest see on ainus tekst, kus sõna „hooldustasu“ esineb. Vastuse juures on link, mis tehniliselt töötab, aga sisaldab aegunud numbrit.
Mudel vormistab vastuse kindlas kõneviisis
Vastus ei ütle „2026. aasta hinnakirja järgi“. Ta ütleb „sinu hooldustasu on …“. Mudel ei tea puuduvat fakti, aga viga on ka süsteemis, mis ei öelnud talle, mida puuduva infoga teha.
Sama muster on kirjeldatud ka teadmistebaasi artiklis: kui süsteemil puudub ehitatud „ei tea“, siis täidab tühiku mudel ise.
Mis päriselt vähendab
| Meede | Mõju | Piirang |
|---|---|---|
| Vastus ainult leitud lõikude põhjal (RAG) | Vähendab väljamõeldud fakte, kui leitud lõigud on õiged | Ei aita, kui otsing toob vale lõigu |
| Kohustuslik „ei tea“ vastus | Muudab puuduva info nähtavaks | Vajab testimist, muidu jääb vastus ainult paberile |
| Viide iga väite juures | Inimene saab kontrollida sekunditega | Viide peab olema algallikas, mitte teine kokkuvõte |
| Kindlate vastuste reeglid koodis | Tähtsamad numbrid ei tule mudelist üldse | Nõuab süsteemide liidestamist |
| Vastuse pikkuse ja vormi piiramine | Vähem ruumi spekulatsioonile | Ei asenda allikate kontrolli |
Millal mudelit ei tasu vastuses kasutada
Kui vastus on rahalise või õigusliku tagajärjega ja seda ei saa enne kasutamist kontrollida, ei tohi lõplik sõna tulla mudelilt. Maksusumma, tähtaeg, lepingu tõlgendus ja kliendiõigused tulevad registrist või allikdokumendist. Mudel võib kirjutada seletuse, aga number tuleb süsteemist.
Teine piir on maine. Kui bot vastab avalikult veebilehel ja vastus on vale, loeb seda klient, mitte kolleeg, kes jõuab enne saatmist parandada. Seetõttu pannakse avalikku vestlusroboti ette kas allikapiirang või inimese üleandmise reegel.
Töö ja kulu
Hallutsinatsiooni vähendamine ei ole ühekordne seadistus. Selleks on vaja testkogu päris küsimustest, kus on ka vigased ja ebatäpsed sõnastused, ning regulaarset kordamist iga kord, kui allikaid või mudelit muudetakse. See on tunde inimtööd; kas see tasub end ära, sõltub vastuste mahust ja ühe vea hinnast.
Kui AI-süsteem kuulub reguleeritud valdkonda, võib olla nõutav dokumenteerida kasutatud mudel ja allikad; vt AI määrus Eesti ettevõttele, ja tööde järjekorda saab vaadata AI konsultatsiooni lehelt.
Küsimused
Kas hallutsinatsiooni saab täielikult välja lülitada?
Ei. Seda saab vähendada ja piirata, aga mitte kõrvaldada, sest mudel genereerib tõenäolist teksti, mitte ei loe andmebaasi. Usaldusväärse tulemuse annab see, kui vastuse taga on konkreetne allikas, mida inimene saab lahti teha, ja kui süsteemil on lubatud öelda, et vastust materjalides ei ole.
Miks on väljamõeldis ohtlik just juriidilises ja raamatupidamise tekstis?
Sest vale paragrahv või vale maksumäär kõlab täpselt sama kindlalt kui õige. Lugeja ei saa veast aru enne, kui on ise allika avanud. Kui vastust kasutatakse otsuse tegemiseks, peab iga viide olema kontrollitav algallikast, näiteks Riigi Teatajast või EMTA juhendist.
Kas suurem mudel hallutsineeri vähem?
Suurem mudel ei tähenda nullvigu: ta võib välja mõelda allika sama kindlalt kui väiksem mudel. Seetõttu on allika kontrollimine vajalik igal mudelil, ka kõige kallimal.
Allikad
- Survey of Hallucination in Natural Language Generation · arXiv (Ji jt, 2022) · vaadatud 2026-10-29
- What are AI hallucinations? · IBM · vaadatud 2026-10-29