Studiuesit zbulojnë pse inteligjenca artificiale shpesh shpik fakte

Një punim i ri kërkimor i OpenAI zbulon pse ndodhin “halucinacionet” në modelet (LLMs). Autorët argumentojnë se, në të vërtetë, ato janë një pasojë e natyrshme e mënyrës se si këto sisteme trajnohen dhe vlerësohen. 
Edhe kur të dhënat e trajnimit janë plotësisht të sakta, objektivat dhe metodat e matjes në zhvillimin e inteligjencës artificiale e shtyjnë modelin të bëjë supozime të mundshme por të gabuara, në vend që të pranojë pasigurinë.
Studiuesit e kornizojnë halucinacionin si një problem të zakonshëm klasifikimi. Gabimet gjenerative tek LLM-të, shpjegojnë ata, i ngjajnë shumë gabimeve të klasifikimit në të mësuarin e mbikëqyrur. Kur sistemi është i detyruar të japë gjithmonë një përgjigje, ai është i stimuluar në mënyrë strukturore të prodhojë deklarata të sigurta edhe në rastet kur ato janë të pasakta.
Praktikat e vlerësimit e thellojnë edhe më shumë këtë problem. Shumica e testeve bazohen në metrika binare saktësie, ku përgjigjja është ose e saktë ose e gabuar, pa asnjë shpërblim për një “Nuk e di.” 
Në këtë konfigurim, hezitimi nuk shpërblehet, ndërsa hamendja nganjëherë sjell pikë. Autorët theksojnë se ky sistem ngjan me logjikën e provimeve me alternativa të shumëfishta: kur përgjigjet e lëna bosh japin zero pikë, nxënësit racionalë zgjedhin të hamendësojnë. Analiza formale tregon se, në këto kushte, rezultati i pritur nga një hamendje është gjithmonë më i lartë se ai i hezitimit.
Për të ilustruar mekanizmin e këtij stimulimi, ekipi propozoi një model të thjeshtuar “Fakte Arbitrare”. Në këtë rast, çdo pyetje kishte një përgjigje të saktë të zgjedhur në mënyrë rastësore, pra nuk kishte një model të mësonte. 
Studiuesit treguan se numri i “fakteve të vetme” (që shfaqeshin vetëm një herë në trajnim) vendos një kufi të ulët për normën e halucinimeve. Kur faktet janë të rralla, modeli përballet me pasiguri të lartë dhe është praktikisht i detyruar të hamendësojë.
Studimi evidenton edhe disa faktorë të tjerë që kontribuojnë në halucinime. Një model me kapacitet të pamjaftueshëm mund të dështojë të kuptojë modele edhe kur ato ekzistojnë, duke prodhuar gabime. 
Ndryshimi i shpërndarjes midis pyetjeve të trajnimit dhe atyre të testimit shpesh çon në dështime. Disa pyetje janë të vështira nga natyra e tyre, dhe të dhënat e gabuara ose me zhurmë prodhojnë drejtpërdrejt rezultate të pasakta.
Rekomandimi kryesor i autorëve është rishikimi i mënyrës se si matet performanca e inteligjencës artificiale. 
Në vend që të ndëshkohet hezitimi, kornizat e vlerësimit duhet të shpërblejnë modelet kur ato nuk japin përgjigje nëse nuk janë të sigurta, dhe të vendosin ndëshkime më të forta për përgjigje të gabuara të dhëna me bindje të lartë. Një propozim përfshin pragje të qarta të vetëbesimit, ku modelet duhet të përgjigjen vetëm kur siguria kalon një nivel të caktuar, me penalitete të shkallëzuara për gabimet. 
Një sistem i tillë do t’i shtynte modelet të shprehnin më shpesh “Nuk e di” kur është e nevojshme.
 Konkluzionet e studimit janë se halucinacionet nuk janë anomali të pashpjegueshme, por rezultate të parashikueshme të mjedisit aktual të trajnimit dhe testimit.