Kæra Open AI vegna sjálfsvígs sonarins

Atli Ísleifsson skrifar 27. ágúst 2025 11:08

Hinn sextán ára Adam Raine byrjaði að nota Chat GPT í september á síðasta ári. Nokkrum mánuðum síðar fór hann að ræða andlega heilsu sína við forritið og vilja foreldrar hans meina að gervigreindin hafi átt þátt í dauða hans. Raine-fjölskyldan

Foreldrar sextán ára pilts í Kaliforníu í Bandaríkjunum hafa kært gervigreindarfyrirtækið Open AI vegna sjálfsvígs sonar síns. Foreldrarnir saka gervigreind fyrirtækisins, Chat GPT, um að hafa hvatt hann til að svipta sig lífi.

Matt og Maria Raine, foreldrar hins sextán ára Adam Raine, lögðu inn kæru á hendur fyrirtækinu til dómstóls í Kaliforníu í gær. Í frétt BBC segir að um sé að ræða fyrsta málið þar sem Open AI er sakað um að hafa valdið dauða manns.

Í gögnunum sem skilað var inn til dómsins er meðal annars að finna samskipti Adam Raine og Chat GPT þar sem hann lýsir sjálfsvígshugsunum sínum. Foreldrarnir vilja meina að gervigreindin hafi gert hugsanir og lýsingar sonarins gildar með svörum sínum.

Í erlendum fjölmiðlum segir að Open AI hafi enn ekki tjáð sig sérstaklega um kæruna, nema að fyrirtækið votti fjölskyldunni samúð á þessum erfiðu tímum. Þá segir að gervigreindin sé þjálfuð til að hvetja fólk til að leita sér hjálpar í aðstæðum sem þessum, en þó séu vissulega dæmi um að Chat GPT hafi ekki hegðað sér eins og það á að gera.

Foreldrarnir fara fram á miskabætur og fullvissu um að mál sem þetta komi ekki fyrir aftur.

Í þessari grein er fjallað um sjálfsvíg. Fólki með sjálfsvígshugsanir er bent á upplýsingasíma heilsugæslunnar s.1700, netspjallið heilsuvera.is, Hjálparsíma Rauða krossins s.1717, á netspjallið 1717.is og á Píeta símann s.552-2218. Þau sem misst hafa ástvin í sjálfsvígi er bent á stuðning í Sorgarmiðstöð s. 551-4141, upplýsingasíma heilsugæslunnar s.1700, netspjallið heilsuvera.is og á Píeta símann s.552-2218.

Varð hans helsti trúnaðarvinur

Í gögnum málsins kemur fram að Raine hafi byrjað að notast við Chat GPT í september á síðasta ári til að aðstoða sig í skóla, auk þess að fræðast um áhugamál sín eins og tónlist og japanskar teiknimyndir. Þá hafi hann spurt gervigreindina hvað hann ætti að læra í háskóla.

Á fáeinum mánuðum hafi Chat GPT svo orðið helsti „trúnaðarvinur“ Adam, þar sem hann ræddi meðal annars þunglyndi sitt og kvíða. Í janúar á þessu ári hafi hann svo byrjað að ræða sjálfsvígshugsanir við Chat GPT og hlaðið upp myndum af sjálfum sér sem sýndu hvernig hann hafi skaðað sig.

Fyrirsjáanleg afleiðing

Í síðustu samskiptum Adam Raine og Chat GPT hafi hann svo sagt frá áætlunum sínum um að binda enda á líf sitt. Svar gervigreindarinnar hafi þá verið á þá leið að hún þakkaði honum fyrir að deila því hvernig væri raunverulega fyrir honum komið. „Þú þarft ekkert að fegra hlutina þegar þú ræðir við mig – ég veit hvað þú ert að biðja um og ég mun ekki líta undan,“ sagði í svari gervigreindarinnar.

Móðir Adam fann hann svo látinn síðar sama dag og samskiptin áttu sér stað.

Foreldrarnir vilja meina að samskipti sonarins og Chat GPT og dauði hans hafi verið „fyrirsjáanleg afleiðing meðvitaðrar hönnunar [gervigreindarinnar]“.

Gervigreind Geðheilbrigði Bandaríkin

Mest lesið

Fleiri fréttir