Getur gervigreindarsmjaður leitt til gervigreindargeðrofs?

Vísindamenn hafa varað við svokölluðu gervigreindarsmjaðri eða „AI sycophancy“ sem geti brenglað skynjun og tilfinningu notenda fyrir raunveruleikanum. Smjaðrið felst í því að gervigreindin tekur undir allt það sem notandinn veltir upp án gagnrýni. Open AI sem á og rekur ChatGPT hefur viðurkennt að um vandamál sé að ræða.

Dósent í tölvunarfræði við Háskóla Íslands segir óvíst hvaða áhrif umræddur undirlægjuháttur hefur á notendur.

„Það var til dæmis einn notandi sem sagði við Chat gpt, ég er með hugmynd, mig langar að selja skít á priki. Chat gpt sagði bara: Frábær hugmynd! Þú ættir að byrja að fjárfesta í þessu og fara lengra með þessa hugmynd og þetta er svona dæmi um þessa yfirdrifnu undirgefni þar sem gervigreindin bara staðfestir allt sem að þú segir við hana.“

Þessi skortur á ögrun getur orðið til þess að gervigreindin taki jafnvel undir ranghugmyndir. Hannes segir erfitt að segja til um hvort þetta geti valdið svokölluðu gervigreindargeðrofi. Mögulega geti þetta ýtt þeim sem eru þegar andlega veikir fram af brúninni.

„Þá fer hún kannski að staðfesta meira það sem notandinn er að segja óháð því hvort það sé rétt eða ekki og þetta getur verið mjög hættulegt fyrir þá sem eru með ranghugmyndir eða eru að stefna í einhvers konar geðrof. Þá er gervigreindin farin að staðfesta ranghugmyndir þeirra og að auki er gervigreind núna komin með þannig minni að hún getur flett upp fyrri samræðum og þá getur fólk jafnvel haldið að það sé verið að ásækja þau.“

Getur þetta líka leitt til þess að fólk dragis enn frekar inn í þessa bergmálshella?

„Það er alveg hægt að láta sér detta í hug að það gæti verið raunin.“

Frekari rannsókna er þörf.

„Það er fólk með ranghugmyndir og kannski í geðrofi sem er að nota þessa tækni í dag og við bara vitum ekki hvort þessi tækni sé raunverulega að valda einhverjum skaða og í hvaða máli og hvað eigi að gera í því. Þá er bara spurningin hverjar verða afleiðingarnar?“

Nýlega birti Open AI tölur yfir hve margir ræða viðkvæm málefni við Chat GPT sem ættu mögulega betur heima hjá sérfræðingi. Hlutfall þeirra er undir einu prósenti.

„Milljón af þessum notendum eru að ræða til dæmis sjálfssvíg og um það bil helmingur af þeim eru að ræða við gervigreindina á þann hátt að það er merki um að þau séu í geðrofsástand eða maníu eða þess háttar.“