ChatGPT "halucinira": ko ne pozna pravilnega odgovora, si tega preprosto izmisli

Avstrijska neprofitna zagovorniška skupina NOYB je prijavo zoper OpenAI podala pri regulatorju na področju varstva podatkov. V NOYB opozarjajo na "haluciniranje" orodja ChatGPT, ki da si - ko ne pozna pravilnega odgovora - tega preprosto izmisli, poročajo tuje tiskovne agencije.

Aktivisti kot primer navajajo dejstvo, da klepetalni robot, ki ustvarja odgovore z umetno inteligenco, ni vedel, kdaj ima rojstni dan ustanovitelj NOYB Max Schrems, a je kljub temu ugibal in pri tem navedel napačni datum.

Predstavniki OpenAI so v preteklosti že priznali, da tudi sami ne morajo upravljati z odgovori, ki jih ponudi ChatGPT, tako da so nezmožni popraviti morebitne zmote. Iz NOYB so sporočili, da so podjetje opozorili na napačni datum Schremsovega rojstnega dne, a da v OpenAI glede tega niso ukrepali, rekoč da je to nemogoče.

Hkrati niso zadostno odgovorili na njegov zahtevek za dostop do osebnih podatkov, s katerimi razpolaga ChatGPT, so sporočili iz nevladne organizacije.

To dejstvo je še posebej problematično na področju osebnih podatkov, ki jih varuje pravo EU, saj zahteva, da morajo biti natančni, opozarjajo v NOYB.

Ta pritožba ne predstavlja prve pravne ovire za ChatGPT, ki je bil marca letos zaradi domnevnih kršitev splošne uredbe EU o varstvu podatkov (GDPR) začasno blokiran že v Italiji, lastno preiskavo pa so zagnali tudi pristojni organi v Franciji.

Nagnjenost ChatGPT k podajanju izmišljenih odgovorov so preiskovali tudi ameriški mediji. Časnik New York Times je poročal o tem, da so si spletni klepetalni roboti izmislili odgovore v vsaj treh odstotkih primerov, mestoma pa celo v več kot četrtini primerov.