De ce halucinează AI? O privire în culisele modelelor de limbaj

Inteligența artificială face astăzi lucruri care până de curând păreau să fie doar science fiction. Scrie texte, propune cod de programare și ne oferă sfaturi pentru o mulțime de sarcini complexe. Cu cât răspunsurile sale sunt mai fluente și mai convingătoare, cu atât mai ușor uităm de un mare risc: AI poate crea un răspuns complet inventat, care însă la prima vedere pare a fi complet veridic.

Acest fenomen a primit numele de „halucinații AI”. Nu este vorba despre o eroare software aleatorie sau o funcție uitată intenționat pe care dezvoltatorii doar nu au dezactivat-o. Este un rezultat natural și profund înrădăcinat al modului în care sunt concepute și antrenate marile modele de limbaj (LLM) de astăzi. Să aruncăm o privire sub capotă pentru a înțelege de ce acestea „mint” atât de încrezător.

Ce sunt halucinațiile AI?

În cazul inteligenței artificiale generative, termenul de halucinație se referă la o situație în care modelul creează un răspuns care deși gramatical și stilistic arată perfect și credibil, nu are absolut niciun suport în lumea reală.

Modelele pot halucina în moduri cu adevărat surprinzătoare. Pot inventa paragrafe de legi inexistente, comit erori în calculele matematice sau generează studii științifice care sună realist, inclusiv nume de autori și adrese web care nu au existat niciodată. Este ciudat că acest lucru se întâmplă chiar și pentru întrebări complet banale, de exemplu când doriți să verificați data de naștere a unei personalități sau să găsiți cifre statistice oficiale din istorie în arhive.

Ce se întâmplă în interiorul modelului de limbaj

Pentru a înțelege de unde provin aceste erori, trebuie să clarificăm un lucru: mari chatboti precum ChatGPT sau Gemini nu funcționează ca motoarele de căutare pe internet și nu sunt nici mari baze de date de fapte. Nu au nicio cunoaștere reală a lumii noastre și nu știu care este adevărul sau minciuna.

Un model de limbaj este în esență o rețea neuronală mare, care este de fapt un set complicat de „instincte antrenate”. Aceste instincte sunt obținute prin analizarea biliardelor de cuvinte de pe internet, cărți și discuții. Scopul întregului acestui antrenament extraordinar de costisitor financiar și tehnologic nu este să învețe mașina să înțeleagă semnificația textului, ci pur și simplu să o învețe să imite foarte bine și fluent limbajul uman.

Cum lucrează AI cu token-urile

Când scrieți o întrebare într-un chatbot, rețeaua neuronală nu lucrează cu cuvintele dvs. direct. Textul este mai întâi descompus în așa numitele tokenuri. Tokenurile sunt cuvinte predefinite sau părți ale acestora, cărora le corespund anumite numere. Rețeaua matematică din interiorul computerului poate procesa doar numere.

Modelul ia aceste numere (întrebarea dvs. împreună cu întregul context anterior al conversației) și le trece prin straturile sale. Însă rezultatul nu este că ar căuta în vreun sertar pentru „răspunsul corect”. Ieșirea este o simplă predicție matematică: modelul calculează care următorul token are cea mai mare probabilitate de a urma textului deja scris.

De ce modelul prezice în loc să verifice

Întregul principiu de funcționare al inteligenței artificiale se bazează pe estimarea probabilităților, nu pe verificarea veridicității. Modelul construiește textul cuvânt cu cuvânt (token cu token). Fiecare cuvânt nou generat este imediat inclus în sarcină și pe baza acestui context proaspăt se calculează imediat probabilitatea pentru următorul cuvânt.

Pentru ca ieșirile să nu fie complet plictisitoare și uscate, se folosește un parametru ascuns în generare, numit „temperatură”. Când temperatura este zero, modelul alege întotdeauna cel mai previzibil token, ceea ce duce la răspunsuri fad și identice. O temperatură mai mare dă modelului posibilitatea să aleagă și cuvinte mai puțin probabile. Deși aceasta deblochează creativitatea și capacitatea de a scrie povești interesante, crește, de asemenea, drastic șansa ca modelul să alunece înspre invenții absurde.

Cum este creat un răspuns pas cu pas

Întreg procesul, de la introducerea întrebării până la halucinația finală, arată astfel în practică:

1. Analiza sarcinii: Întrebarea dvs. este transformată în numere (tokenuri).
2. Calculul probabilităților: Modelul evaluează contextul și din sute de candidați posibili alege cuvintele care se potrivesc statistic cel mai bine.
3. Compozitia limbajul: Dacă modelul întâmpină un subiect unde nu are date solide, nu încearcă să admită că nu știe. Folosește un limbaj fluent și începe să compună un text care deși sună absolut logic, dar detaliile sunt pur și simplu deduse statistic.
4. Încercare ciclică: Odată ce modelul generează un detaliu greșit în mijlocul unei fraze (cum ar fi un an incorect sau un nume inventat), acest detaliu devine o parte fixă a contextului. În pașii următori, modelul continuă să construiască pe minciuna sa și adaugă justificări care par verosimile.

Unele întrebări conduc la halucinații mai des

În timpul antrenamentului (așa-numitul antrenament prealabil) modelul vede doar texte corecte și fluente. Cu toate acestea, în date există diferite tipuri de informații. Regulile ortografice sau închiderea corectă a parantezelor se repetă constant în texte, astfel încât AI le învață perfect.

Problema apare la faptele specifice, care apar rar în date și nu urmează niciun tipar repetabil. Un exemplu tipic sunt cifrele exacte, anii, datele de naștere sau evenimentele istorice puțin cunoscute. Deoarece aceste fapte par în esență aleatoare în date, modelul nu le poate deduce în mod fiabil. Dacă întrebați inteligența artificială despre o cifră exactă sau detalii care trebuie să fie memorate exact din arhivă, riscul de halucinație crește dramatic.

Cum încearcă modelele AI să reducă halucinațiile?

În prezent, dezvoltatorii folosesc câteva strategii principale pentru a tempera fantezia sălbatică a modelelor:

• Instrumente externe și căutare. La fel ca modelele au primit calculatoare pentru calcule matematice, au acum posibilitatea de a căuta pe web înainte de a răspunde. Citează pagini relevante și le citează. Se reduce astfel semnificativ șansa de a își inventa un răspuns, dar chiar și cu citate halucinațiile pot apărea.
• Modele de raționament. Sistemele avansate (de exemplu, seria o3 sau o5 de la OpenAI) derulează un monolog intern înainte de a genera un răspuns. Mai întâi își planifică cursul, verifică sursele și abia apoi generează textul către utilizator. Halucinațiile sunt semnificativ mai reduse, dar dacă apar, sunt cu atât mai rafinate și mai greu de detectat.
• Arhitectura RAG (Generare augmentată de recuperare). Este utilizată în principal în companii. Modelul este forțat să lucrze exclusiv cu o bază de date internă de documente furnizate. Probabilitatea erorii este astfel redusă la minimum.

Cea mai mare problemă stă însă în modul în care modelele sunt evaluate în teste. Majoritatea clasamentelor măsoară succesul pur (acuratețea) pe o scară de 1 (corect) sau 0 (greșit). Recunoașterea prudentă a „nu știu” va rezulta întotdeauna în zero, în timp ce prin pariere riscantă, modelul poate câștiga uneori un punct. Sistemul astfel motivează în mod literar inteligența artificială să ghicească cu încredere, decât să admită incertitudinea. Prin urmare, compania OpenAI susține în cercetările sale revizuirea metodologiei de evaluare care ar penaliza modelele pentru inventarea informațiilor și ar recompensa în schimb deschis recunoașterea incertitudinii.

Cum să obțineți răspunsuri mai fiabile de la AI

Până când sistemele de evaluare nu se schimbă, trebuie să abordăm critic răspunsurile din chatboții ca utilizatori. Iată câteva sfaturi pentru a elimina riscurile:

• Furnizați datele direct în instrucțiuni. Dacă doriți ca AI să analizeze un text sau o lege, introduceți-l direct în instrucțiuni și interziceți explicit adăugarea a orice altceva care nu este în text. Șansa de invenții scade astfel la minim.
• Schimbați tonul întrebării. Nu forțați modelul într-un colț cu întrebări despre lucruri pe care nu le poate deduce în mod logic (cifre statistice exacte, detalii din biografii).
• Verificați totul important. Mai ales în domeniile sensibile, cum ar fi dreptul, medicina sau finanțele, luați ieșirile din AI doar ca un produs de lucru brut pe care trebuie să-l verificați voi înșivă în surse independente, verificabile.

Întrebări frecvente

De ce uneori AI promite să-mi trimită un e-mail sau să finalizeze o sarcină mai târziu, chiar dacă nu poate?

Modelul nu are nicio idee despre capacitățile sale tehnice reale nici despre ora curentă. Doar completează textul pe baza probabilității statistice. Când îi scrieți o sarcină, evaluează ca continuare cea mai naturală a frazei o confirmare politicosă că deja lucrează la subiect, chiar dacă nu rulează niciun proces în fundal.

Poate un chatbot să inventeze complet o carte sau un articol științific care să pară real?

Da, acest lucru se întâmplă foarte des. AI a învățat din texte structura citărilor științifice, astfel încât poate genera titluri care sună foarte reale și savante. Informațiile dintr-o astfel de citare însă pot fi complet inventate și singura modalitate de a afla acest lucru este de a încerca să localizați independent lucrarea respectivă.

A ajută să întrebați din nou aceeași întrebare într-un chat nou pentru a preveni halucinațiile?

Da, deschiderea unui nou chat este o soluție foarte eficientă. Ștergeți astfel întregul context anterior al conversației. Dacă AI a greșit în propozițiile anterioare, în chatul original ar continua să construiască pe acel context din cauza naturii sale, în timp ce într-o fereastră nouă începe calculul probabilităților de la zero.

Când activez căutarea pe internet, am certitudinea că răspunsul va fi fără erori?

Din păcate, nu aveți certitudinea. Motorul de căutare furnizează într-adevăr modelului date corecte, dar AI tot din ele constituie textul estimând următorul cuvânt. Testele arată că chatboți chiar și cu acces la web pot înțelege greșit informațiile, să încurce conexiunile și să creeze o eroare pe care o completează cu linkuri reale.

Are vreun rost să folosim inteligența artificială știind că greșește așa?

Desigur, doar trebuie să schimbați așteptările. Pentru brainstorming, scrierea e-mailurilor, dezvoltarea conceptelor creative sau găsirea conexiunilor neobișnuite, această libertate a modelului este un mare avantaj. Trebuie să funcționați ca un editor, să lăsați AI să scrie și să verificați întotdeauna detaliile factuale.