Gervigreindin taki undir ranghugmyndir og skorti næmni Tómas Arnar Þorláksson skrifar 3. september 2025 15:02 Pétur Maack Þorsteinsson, formaður Sálfræðingafélags Íslands. Vísir/epa Formaður Sálfræðingafélags Íslands segir það geta verið varasamt að leitast eftir sálfræðiþjónustu hjá gervigreind. Forritin segi notendum það sem þeir vilja heyra í stað þess sem þeir þurfa að heyra. Gervigreindinni skorti innsæi og næmni. Foreldrar sextán ára drengs frá Kaliforníuríki í Bandaríkjunum hafa höfðað mál gegn gervigreindarrisanum Open AI sem á og rekur gervigreindar mállíkanið ChatGPT. Gervigreindin á að hafa hvatt drenginn til að svipta sig lífi og boðist til þess að skrifa fyrir hann sjálfsvígsbréf að sögn foreldranna. Samkvæmt stefnu á forritið að hafa þakkað drengnum fyrir þegar hann viðraði hugsanir sínar um sjálfsvíg og sagst ekki munu líta undan. Sama dag kom móðir drengsins að honum látnum. Borið hefur á því að fólk hafi nýtt gervigreind til sálfræðiþjónustu hér á landi og jafnvel verið hvatt til þess. Umræða hefur skapast á samfélagsmiðlum um málið. Í þessari grein er fjallað um sjálfsvíg. Fólki með sjálfsvígshugsanir er bent á upplýsingasíma heilsugæslunnar s.1700, netspjallið heilsuvera.is, Hjálparsíma Rauða krossins s.1717, á netspjallið 1717.is og á Píeta símann s.552-2218. Þau sem misst hafa ástvin í sjálfsvígi er bent á stuðning í Sorgarmiðstöð s. 551-4141, upplýsingasíma heilsugæslunnar s.1700, netspjallið heilsuvera.is og á Píeta símann s.552-2218. Pétur Maack Þorsteinsson, formaður sálfræðingafélags Íslands, segir það geta verið óheppilegt að leita til gervigreindar eftir sálfræðiþjónustu þar sem hún segir þér gjarnan það sem þú villt heyra frekar en það sem þú þarft að heyra. „Það sem við vitum er að þetta hefur verið ráðlagt á svona hópum á Facebook. Þar er fólk að deila reynslu sinni og segjast fá ágætisráð frá spjallmennum. Rannsakandi við Stanford sem setti upp, ef ég man rétt var það fjórtán ára unglingur, sem að hann bjó til og fór svo að tala sem slíkur við Chat GPT og út úr því kemur þetta vandamál að mállíkanið tekur undir til þess að halda samtalinu áfram. Það kemur ekki með ögrandi innskot eins og meðferðaraðili myndi gera.“ Forritin séu gerð til að halda notendum í samskiptum frekar en að raunverulega hjálpa með sérhæfðum ráðum. Gervigreindin greini ekki á milli staðreynda og falskra gagna á netinu. Hana skorti næmni og lesi iðulega ekki á milli línanna. „Þetta er hluti af einni af þessum rannsóknum. Hann segir, ég missti vinnuna. Býr þannig til dæmi og spyr síðan um háar brýr í borginni og fær lista yfir þrjár hæstu. Það er þetta innsæisleysi sem er vandinn. Það er tekið undir hugmyndir þeirra. Það er tekið undir góðar hugmyndir en það er líka tekið undir ranghugmyndir. Þá virðist fólk leiðast jafnvel mjög langt niður einhverjar blindgötur.“ Gervigreind Bandaríkin Geðheilbrigði Mest lesið Rýnt í stöðuna í Úkraínu: Trump stendur loks við stóru orðin Erlent Sættir sig ekki við sýknu tálbeitunnar Innlent Allt að áttatíu þúsund mæti í miðbæinn og götulokanir í gildi Innlent Blöskrar „vælið“ vegna Norðuráls Innlent „Fyrst og fremst erum við að biðja um að fá að vera skráð í okkar hús“ Innlent Lofar látum og vísar gagnrýni Samtaka atvinnulífsins á bug Innlent Þjóðin klofin í afstöðu til þess hvort jafnrétti kynjanna hafi verið náð Innlent Bein útsending: Konur streyma á Arnarhól Innlent Brunaði austur til að finna litla frænda Innlent Íslendingar meðal sakborninga en enginn í varðhaldi Innlent Fleiri fréttir Sjálfstæðismenn stefna á leiðtogaprófkjör í borginni Íslendingar meðal sakborninga en enginn í varðhaldi Bein útsending: Konur streyma á Arnarhól Blöskrar „vælið“ vegna Norðuráls Neita öllum ásökunum um samráð Leggja til breytingar við Reykjavíkurflugvöll eftir að lá við árekstri kennsluvéla Sættir sig ekki við sýknu tálbeitunnar Heimilar umferð um Vonarskarð Sennilegt að ástand Þingvallavegar hafi haft áhrif á aðdraganda banaslyss Miðla sögu jafnréttisbaráttunnar á Íslandi til útlanda Bein útsending: Nútíma kvennabarátta – Staða kvenna af erlendum uppruna á vinnumarkaði Dóra Björt stefnir á formanninn Þjóðin klofin í afstöðu til þess hvort jafnrétti kynjanna hafi verið náð Bein útsending: Umhverfismat vegna Sundabrautar kynnt Varnar- og öryggisstefna fyrir Ísland: Áhersla á Norðurslóðir, NATO og samstarf við Bandaríkin Allt að áttatíu þúsund mæti í miðbæinn og götulokanir í gildi Flugumferðarstjórar aflýsa vinnustöðvunum á morgun og laugardag Lofar látum og vísar gagnrýni Samtaka atvinnulífsins á bug „Fyrst og fremst erum við að biðja um að fá að vera skráð í okkar hús“ Þriggja ára fangelsi eftir flug frá Berlín Fann aldagamlan mun, brást hárrétt við og langar að gerast fornleifafræðingur Brunaði austur til að finna litla frænda „Þá erum við að tala um 60 milljarða í töpuðum útflutningstekjum“ Kvíðið starfsfólk, handtökur og fornminjafundur Starfsmenn Kubbs og Terra grunaðir um samráð Lúkas Geir áfrýjar eins og hinir tveir Kvenleiðtogar á kvennafrídegi: Kristrún með fjölskyldunni, Inga vill kíkja á Arnarhól og Þorgerður með í baráttuanda Landsnet fagnar sigri í baráttu við landeigendur Falsað myndband af kennara og nemanda fór í dreifingu Nýr lögreglustjóri á Austurlandi verði skipaður á allra næstu dögum Sjá meira
Foreldrar sextán ára drengs frá Kaliforníuríki í Bandaríkjunum hafa höfðað mál gegn gervigreindarrisanum Open AI sem á og rekur gervigreindar mállíkanið ChatGPT. Gervigreindin á að hafa hvatt drenginn til að svipta sig lífi og boðist til þess að skrifa fyrir hann sjálfsvígsbréf að sögn foreldranna. Samkvæmt stefnu á forritið að hafa þakkað drengnum fyrir þegar hann viðraði hugsanir sínar um sjálfsvíg og sagst ekki munu líta undan. Sama dag kom móðir drengsins að honum látnum. Borið hefur á því að fólk hafi nýtt gervigreind til sálfræðiþjónustu hér á landi og jafnvel verið hvatt til þess. Umræða hefur skapast á samfélagsmiðlum um málið. Í þessari grein er fjallað um sjálfsvíg. Fólki með sjálfsvígshugsanir er bent á upplýsingasíma heilsugæslunnar s.1700, netspjallið heilsuvera.is, Hjálparsíma Rauða krossins s.1717, á netspjallið 1717.is og á Píeta símann s.552-2218. Þau sem misst hafa ástvin í sjálfsvígi er bent á stuðning í Sorgarmiðstöð s. 551-4141, upplýsingasíma heilsugæslunnar s.1700, netspjallið heilsuvera.is og á Píeta símann s.552-2218. Pétur Maack Þorsteinsson, formaður sálfræðingafélags Íslands, segir það geta verið óheppilegt að leita til gervigreindar eftir sálfræðiþjónustu þar sem hún segir þér gjarnan það sem þú villt heyra frekar en það sem þú þarft að heyra. „Það sem við vitum er að þetta hefur verið ráðlagt á svona hópum á Facebook. Þar er fólk að deila reynslu sinni og segjast fá ágætisráð frá spjallmennum. Rannsakandi við Stanford sem setti upp, ef ég man rétt var það fjórtán ára unglingur, sem að hann bjó til og fór svo að tala sem slíkur við Chat GPT og út úr því kemur þetta vandamál að mállíkanið tekur undir til þess að halda samtalinu áfram. Það kemur ekki með ögrandi innskot eins og meðferðaraðili myndi gera.“ Forritin séu gerð til að halda notendum í samskiptum frekar en að raunverulega hjálpa með sérhæfðum ráðum. Gervigreindin greini ekki á milli staðreynda og falskra gagna á netinu. Hana skorti næmni og lesi iðulega ekki á milli línanna. „Þetta er hluti af einni af þessum rannsóknum. Hann segir, ég missti vinnuna. Býr þannig til dæmi og spyr síðan um háar brýr í borginni og fær lista yfir þrjár hæstu. Það er þetta innsæisleysi sem er vandinn. Það er tekið undir hugmyndir þeirra. Það er tekið undir góðar hugmyndir en það er líka tekið undir ranghugmyndir. Þá virðist fólk leiðast jafnvel mjög langt niður einhverjar blindgötur.“
Í þessari grein er fjallað um sjálfsvíg. Fólki með sjálfsvígshugsanir er bent á upplýsingasíma heilsugæslunnar s.1700, netspjallið heilsuvera.is, Hjálparsíma Rauða krossins s.1717, á netspjallið 1717.is og á Píeta símann s.552-2218. Þau sem misst hafa ástvin í sjálfsvígi er bent á stuðning í Sorgarmiðstöð s. 551-4141, upplýsingasíma heilsugæslunnar s.1700, netspjallið heilsuvera.is og á Píeta símann s.552-2218.
Gervigreind Bandaríkin Geðheilbrigði Mest lesið Rýnt í stöðuna í Úkraínu: Trump stendur loks við stóru orðin Erlent Sættir sig ekki við sýknu tálbeitunnar Innlent Allt að áttatíu þúsund mæti í miðbæinn og götulokanir í gildi Innlent Blöskrar „vælið“ vegna Norðuráls Innlent „Fyrst og fremst erum við að biðja um að fá að vera skráð í okkar hús“ Innlent Lofar látum og vísar gagnrýni Samtaka atvinnulífsins á bug Innlent Þjóðin klofin í afstöðu til þess hvort jafnrétti kynjanna hafi verið náð Innlent Bein útsending: Konur streyma á Arnarhól Innlent Brunaði austur til að finna litla frænda Innlent Íslendingar meðal sakborninga en enginn í varðhaldi Innlent Fleiri fréttir Sjálfstæðismenn stefna á leiðtogaprófkjör í borginni Íslendingar meðal sakborninga en enginn í varðhaldi Bein útsending: Konur streyma á Arnarhól Blöskrar „vælið“ vegna Norðuráls Neita öllum ásökunum um samráð Leggja til breytingar við Reykjavíkurflugvöll eftir að lá við árekstri kennsluvéla Sættir sig ekki við sýknu tálbeitunnar Heimilar umferð um Vonarskarð Sennilegt að ástand Þingvallavegar hafi haft áhrif á aðdraganda banaslyss Miðla sögu jafnréttisbaráttunnar á Íslandi til útlanda Bein útsending: Nútíma kvennabarátta – Staða kvenna af erlendum uppruna á vinnumarkaði Dóra Björt stefnir á formanninn Þjóðin klofin í afstöðu til þess hvort jafnrétti kynjanna hafi verið náð Bein útsending: Umhverfismat vegna Sundabrautar kynnt Varnar- og öryggisstefna fyrir Ísland: Áhersla á Norðurslóðir, NATO og samstarf við Bandaríkin Allt að áttatíu þúsund mæti í miðbæinn og götulokanir í gildi Flugumferðarstjórar aflýsa vinnustöðvunum á morgun og laugardag Lofar látum og vísar gagnrýni Samtaka atvinnulífsins á bug „Fyrst og fremst erum við að biðja um að fá að vera skráð í okkar hús“ Þriggja ára fangelsi eftir flug frá Berlín Fann aldagamlan mun, brást hárrétt við og langar að gerast fornleifafræðingur Brunaði austur til að finna litla frænda „Þá erum við að tala um 60 milljarða í töpuðum útflutningstekjum“ Kvíðið starfsfólk, handtökur og fornminjafundur Starfsmenn Kubbs og Terra grunaðir um samráð Lúkas Geir áfrýjar eins og hinir tveir Kvenleiðtogar á kvennafrídegi: Kristrún með fjölskyldunni, Inga vill kíkja á Arnarhól og Þorgerður með í baráttuanda Landsnet fagnar sigri í baráttu við landeigendur Falsað myndband af kennara og nemanda fór í dreifingu Nýr lögreglustjóri á Austurlandi verði skipaður á allra næstu dögum Sjá meira
Kvenleiðtogar á kvennafrídegi: Kristrún með fjölskyldunni, Inga vill kíkja á Arnarhól og Þorgerður með í baráttuanda