Halucinacije umetne inteligence: kaj so in kako jih preprečiti?

Kaj so halucinacije umetne inteligence?

Če umetno inteligenco denimo prosimo za matične številke 20 podjetij v Ljubljani, ki jim prihodki rastejo, lahko dobimo na videz smiseln in popoln seznam, vendar bodo vse navedene matične številke izmišljene.

Za halucinacije je značilna prav ta navidezna logičnost: odgovori delujejo prepričljivo, umetna inteligenca pa ne pokaže niti kančka dvoma. Zato v vmesnikih jezikovnih modelov najdemo opozorilo, da je treba navedene številke in dejstva preveriti.

Zakaj nastanejo halucinacije umetne inteligence?

Halucinacije se zato pojavljajo predvsem v treh primerih:

• pomanjkanje podatkov (glavni vzrok – model ugiba);
• nenatančno navodilo (model sam zapolni vrzeli);
• preveč zapletena naloga (model poskuša narediti vse hkrati).

Težava torej ni le v jezikovnih modelih, temveč tudi v njihovem dostopu do podatkov. Halucinacije niso povsem naključne ali neobvladljive: nastanejo v okoliščinah, na katere lahko vplivamo.

Kako preprečiti halucinacije umetne inteligence?

Halucinacije lahko preprečujemo tako, da modelu zagotovimo neposreden, strukturiran dostop do podatkov. V takem okolju jezikovni modeli najbolje razlagajo informacije, sprejemajo odločitve in oblikujejo sklepe.

Temu so namenjene naslednje tri metode, ki jih lahko uporabimo glede na svoje potrebe in tehnično znanje.

Priprava podatkovne datoteke

Najpreprostejša rešitev je, da modelu zagotovimo že pripravljene podatke. Tako mu pustimo manj prostora za izmišljanje odgovorov.

Začetniki jezikovni model pogosto obravnavajo kot iskalnik, orodje za zajem podatkov s spletnih strani in sistem za pridobivanje, preoblikovanje ter nalaganje podatkov (ETL) v enem. Toda če naloga zahteva zbiranje, čiščenje in standardizacijo podatkov, lahko preseže kontekstno okno modela, tveganje za halucinacije pa močno naraste.

Zato je postopek zbiranja podatkov smiselno razdeliti na več manjših navodil in sproti preverjati pravilnost odgovorov. Morda se sliši dolgočasno in zamudno, vendar tako ustvarimo trdno podlago, na kateri lahko jezikovni modeli pokažejo svojo pravo prednost: delo z razpoložljivimi podatki.

Uporaba API-ja

Povezava z API-jem je naprednejša rešitev: omogoča hitrejši in obsežnejši dostop do podatkov, ki ostajajo posodobljeni. Če je priprava podatkovne datoteke podobna temu, da modelu ponudimo vedro vode, mu z API-jem odpremo pipo.

Iskanje, ki ga uporabljajo ChatGPT, Claude ali Gemini, se ne razlikuje bistveno od človeškega iskanja. Jezikovni modeli pregledujejo vsebine na zunanjih spletnih mestih, kot sta Reddit in Wikipedia, ter na njihovi podlagi oblikujejo odgovor.

Pri tem pa ne moremo biti prepričani, da so vsebine pravilne in aktualne. Razpršeni viri pomenijo različne standarde in datume posodobitve, pogosto pa vsebujejo tudi človeške napake ali mnenja. API to slabost odpravlja s stalnim, programskim dostopom do prečiščenih podatkov.

API Monitly na primer omogoča dostop do statistik z vsega sveta prek neposrednih povezav z viri ustanov, kot so Statistični urad Republike Slovenije, Eurostat, World Bank, WHO in IMF. Umetni inteligenci zato ni treba iskati informacij po različnih straneh: podatke pridobi z neposredno zahtevo API-ju, kar olajša njihovo analizo in razlago.

Povezava prek MCP-ja

Povezava umetne inteligence prek MCP-ja (Model Context Protocol) jezikovnim modelom omogoča neposreden dostop do datotek, preglednic, kode in aplikacij. S tem se tveganje za halucinacije občutno zmanjša, saj model dobi pripravljene podatke, s katerimi lahko dela.

Podatkovna platforma za podjetja Compabase je na primer uvedla povezavo MCP, s katero lahko umetna inteligenca hitro preverja lokalna podjetja. Če jo zdaj prosimo za matične številke 20 podjetij v Ljubljani, ki jim prihodki rastejo, lahko namesto izmišljenih podatkov dobimo skladen, preverjen seznam. Razlika ni v tem, da je model nenadoma postal »pametnejši«. Prej do teh podatkov preprosto ni imel dostopa, zdaj pa lahko v podatkovni zbirki izvede poizvedbo SQL in pridobi rezultat.

Z drugimi besedami:

Brez MCP-ja:

• nekatera podjetja ne obstajajo;
• finančni podatki so naključni;
• matične številke so izmišljene.

Z MCP-jem:

• model poizveduje po podatkovni zbirki;
• vrne konkretne zapise;
• rezultat poizvedbe je determinističen.

Seveda možnost halucinacij ne izgine, če od modela še naprej pričakujemo preveč zapleteno obdelavo in združevanje podatkov. Če pa mu zagotovimo strukturirano okolje, sproti posodobljene podatke in manj prostora za ugibanje, lahko namesto izmišljanja analizira dejanske podatke.