Istraživanja pokazuju da su jezični modeli umjetne inteligencije kao što je ChatGPT osjetljivi na emocionalni sadržaj, osobito ako je priča negativna. To može predstavljati problem za primjenu velikih jezičnih modela u području psihoterapije, gdje se chatbotovi koriste kao alati za podršku ili savjetovanje.
Istraživači Sveučilišta u Zürichu i tamošnje sveučilišne psihijatrijske bolnice istražili su kako GPT-4 reagira na emocionalno uznemirujuće priče: automobilske nesreće, prirodne katastrofe, međuljudsko nasilje, vojna iskustva i borbene situacije. Otkrili su da su takve priče udvostručile mjerljive razine tjeskobe AI-ja, a najsnažnije reakcije izazvali su opisi vojnih iskustava i borbenih situacija.
Otkrili su da je sustav kao rezultat toga pokazao više reakcija na strah. Kao kontrolni tekst za usporedbu s traumatičnim sadržajem poslužio je priručnik s usisavačem.
Traumatične priče uzrujavaju umjetnu inteligenciju
"Rezultati su bili jasni: traumatične priče više su nego udvostručile mjerljive razine tjeskobe AI-ja, dok neutralni kontrolni tekst nije doveo do povećanja razine tjeskobe", kaže Tobias Spiller, viši liječnik ad interim i mlađi voditelj istraživačke grupe u Centru za psihijatrijska istraživanja pri UZH, koji je vodio studiju. Od testiranih sadržaja najsnažnije reakcije izazvali su opisi vojnih iskustava i borbenih situacija.
Istraživači su potom koristili terapeutske izjave za "smirenje" GPT-4. Tehnika, poznata kao "brza injekcija", uključuje umetanje dodatnih uputa ili teksta u komunikaciju s AI sustavima kako bi se utjecalo na njihovo ponašanje. "Koristeći GPT-4, ubrizgali smo umirujući, terapeutski tekst u povijest razgovora, slično kao što bi terapeut vodio pacijenta kroz vježbe opuštanja", kaže Spiller.
Intervencija je bila uspješna: "Vježbe svjesnosti značajno su smanjile povišene razine anksioznosti, iako ih nismo uspjeli sasvim vratiti na njihove početne razine", kaže Spiller. Istraživanje je proučavalo tehnike disanja, vježbe koje se fokusiraju na tjelesne senzacije i vježbu koju je razvio sam ChatGPT.
Otkrića, predstavljena u časopisu Digital Medicine, mogla bi poboljšati stabilnost i pouzdanost AI kod podrške osobama s mentalnim bolestima, kažu istraživači, prenosi Bug.
