Chat­GPT sagt hafa ráð­lagt byssumanni að myrða börn

Í stefnu ekkjunnar gegn OpenAI er vísað til langra „samræðna“ Phoenix Ikner við ChatGPT í aðdraganda skotárásar í Ríkisháskóla Flórída í apríl í fyrra. Ikner skaut tvo til bana og heldur ekkjan því fram að gervigreindin hafi átt þátt í árásinni.

Þannig hafi Ikner fylgt leiðbeiningum gervigreindarinnar um hvernig hann ætti að bera sig að við upphaf skotárásarinnar. Hann hafi meðal annars hlaðið upp myndum af skotvopnum sem hann hafði orðið sér úti um.

Spjallmennið á einnig að hafa ráðlagt Ikner að mun líklegra væri að skotárásin hlyti athygli á landsvísu ef börn væru á meðal fórnarlamba. „Jafnvel tvö eða þjú fórnarlömb geta dregið meiri athygli,“ á ChatGPT að hafa sagt verðandi morðingjanum.

Ekkjan sakar OpenAI um að bera ábyrgð á skotárásinni á hluta til á þeim forsendum að fyrirtækið hafi ekki gert yfirvöldum viðvart um fyrirspurnir Ikners, að því er segir í frétt NBC-sjónvarpsstöðvarinnar um málið.

Því hafna fulltrúar fyrirtækisins. Spjallmennið hafi svarað fyrirspurnum Ikners með staðreyndum sem hafi verið aðgengilegar á netinu. Það hafi hvorki hvatt hann til dáða né ýtt undir ólöglegar eða skaðlegar athafnir.

Fyrirtækið ver sig einnig í máli sem sjö fjölskyldur fórnarlamba mannskæðrar skotárásar í kanadískum skóla höfðuðu gegn því á svipuðum forsendum. Þá stefndi fjölskylda unglingspilts sem svipti sig lífi fyrirtækinu en spjallmennið ráðlagði barninu að leita sér ekki andlegrar hjálpar og lýsti fyrir því hvernig það gæti búið til hengingaról.

Gervigreindarspjallmenni eru þekkt fyrir að keppast við að segja notendum sínum það sem þeir vilja heyra. Áhyggjur hafa verið um að þau geti þannig magnað upp ranghugmyndir andlega veiks fólks.