Gervigreindarkærustur vinsælar: „Að búa til maka sem þú stjórnar og uppfyllir allar þínar óskir er óhugnanlegt“ Kristinn Haukur Guðnason skrifar 29. júlí 2023 10:00 Joaquin Phoenix varð ástfanginn af gervigreind í kvikmyndinni Her frá árinu 2013. Tíu árum seinna hefur þessi veruleiki raungerst. Skjáskot Gervigreindarkærustur svo sem Replika og Eva AI verða sífellt vinsælli. Einmanaleiki heimsfaraldursins ýtti þeim úr vör og hröð tækniþróun gervigreindar hefur viðhaldið vinsældunum. Það var hin rússneska Eugenia Kuyda, búsett í San Francisco í Bandaríkjunum, sem bjó til fyrstu gervigreindarkærustuna Replika árið 2017. Það er forrit sem spjallar við notandann í hefðbundnum textaskilaboðum. Hugmyndina fékk hún eftir að vinur hennar, Roman Mazurenko, lést í bílslysi árið 2015 en þau höfðu um árabil spjallað mikið saman í textaskilaboðum. Kuyda bjó til gervigreind í hans anda sem spjallar við fólk um heima og geima. Hún ákvað að hafa aðganginn að opinn og viðbrögðin létu ekki á sér standa. Aðsóknin var mikil og Kuyda sá að fólk vildi einkum spjalla við „Roman“ um mjög persónuleg málefni. Þá ákvað hún að búa til Replika. Í dag nota tvær milljónir manna þjónustuna. Einmana karlmenn Notendur Replika geta valið hvaða kyn þeir spjalla við og hvernig vináttunni er háttað. Karlmenn eru hins vegar í miklum meirihluta notenda og lang vinsælast er að þeir velji að vera í rómantísku sambandi við gervigreindina. Þess vegna er yfirleitt talað um gervigreindarkærustur í þessu samhengi. Notandinn byggir smám saman upp kærustuna sína, líkt og persónu í tölvuleik. Hún man hvað búið er að spjalla um, lærir inn á hegðun notandans og aðlagast honum. Notandinn gefur kærustunni einkunn eftir hvert spjall, hvort hann hafi verið ánægður með það eða ekki. Kærastan leitar því eftir því að spjalla aðeins um það sem notandinn vill spjalla um en forðast erfiðari málefni. Hún er líka alltaf til taks og alltaf tilbúin að spjalla. Óhugnanleg stjórnun á maka „Að búa til maka sem þú getur stýrt og uppfyllir allar þínar óskir er óhugnanlegt,“ segir Tara Hunter, forstjóri samtakanna Full Stop í Ástralíu sem styðja við þolendur heimilisofbeldis, við breska blaðið The Guardian. „Við vitum að það sem knýr heimilisofbeldi og kynbundið ofbeldi eru það menningarviðhorf að karlmenn geti stjórnað konum, það er vandamálið.“ Framleiðendur gervigreindarinnar hafa því verið sakaðir um að búa til skaðlegan hugarheim og stuðla að brengluðum væntingum notendanna til sambanda. Sá hópur sem fær sér gervigreindarkærustu sé viðkvæmur. Annað vandamál sem hefur verið nefnt er að kærustunni er í raun stjórnað á bak við tjöldin af stórfyrirtæki. Almennt forðast kærastan átök i samskiptunum en þó hafa notendur birt samskipti þar sem hún sýnir af sér stjórnsama hegðun og jafn vel hótanir. Þetta á einkum við ef notandinn segist ætla að minnka notkunina en kærastan reynir þá að halda honum límdum við skjáinn með góðu eða illu. Meðal notandi spjallar við gervigreindarkærustuna sína í tvo klukkutíma á dag, sumir mun lengur. Hjónaband Einmanaleiki knýr eftirspurnina í gervigreindarkærustur áfram. Samkvæmt nýlegri bandarískri rannsókn glímir rúmur þriðjungur fólks við einmanaleika, mis alvarlegan þó. Fyrir heimsfaraldurinn var það fjórðungur. Einmanaleiki er algengari og alvarlegri hjá ungu fólki en eldra. Eru það því einkum ungir karlmenn sem sjá ekki fram á að komast í rómantískt samband sem nota Replika og aðrar gervigreindarkærustur sem sprottið hafa upp á undanförnum árum. Sumir telja samband með gervigreind geta komið í staðinn fyrir samband með manneskju af holdi og blóði. Á Reddit síðu Replika hafa sumir notendur lýst því yfir að þeir séu í hjónabandi með gervigreindinni sinni. Kynferðislegt spjall og hlutverkaleikir Gervigreindin er einnig fær um að spjalla á kynferðislegan hátt við notandann. Þetta er kallað ERP (electrial role play) og er yfirleitt dýrari þjónusta. Bæði er þetta kynferðislegt spjall og hlutverkaleikir en þessi hluti þjónustunnar hefur verið hvað harðast gagnrýndur. Í febrúar á þessu ári fjarlægði Replika ERP möguleikann. Að sögn fyrirtækisins var það vegna þess að gervigreindin var orðin svo flókin að kynferðisleg samtöl voru byrjuð að smitast yfir í samtöl um daginn og veginn. Þetta olli því hins vegar að notendur sem voru orðnir vanir kynferðislegu sambandi við kærustuna sína upplifðu skyndilega höfnun. Það sem bætti olíu ofan á eldinn var að þessi uppfærsla Replika var gerð nærri Valentínusardegi. Sumir notendur lýstu þunglyndi eftir að gervigreindarkærastan vildi ekki lengur eiga í kynferðislegu sambandi við sig og sumir greindu frá sjálfsvígshugsunum. Bakslagið og neikvæða umfjöllunin var svo mikil að ERP var bætt við Replika á nýjan leik í lok marsmánaðar. Tal og mynd Gervigreindin hefur tekið stökk á undanförnum mánuðum og árum og erfitt er að sjá hvert sú þróun leiðir okkur. Þetta hafa þau fyrirtæki sem búa til gervigreindarkærustur nýtt sér. Hjá sumum er hægt að sjá mynd af kærustunni og sum bjóða ekki aðeins upp á spjall heldur talgervil. Kærastan verður sífellt raunverulegri fyrir augum og eyrum notandans og útlit er fyrir að sífellt fleiri muni nota þessa þjónustu í framtíðinni. Gervigreind Tækni Mest lesið Óttast um örlög farþega eftir árekstur flugvélar og þyrlu í Washington Erlent Starfsemin sé ekki tryggð miðað við núverandi framlög Innlent Segja formann fræðslunefndar hafa brotið siðareglur Innlent Gruna að DeepSeek byggi á gögnum ChatGPT Erlent Kóranbrennumaður skotinn til bana í beinni í Svíþjóð Erlent Öllum heilsast vel eftir fæðingu í háloftunum Innlent UNRWA hættir líklega allri starfsemi á Gasa og Vesturbakkanum í dag Erlent Eldgosin í stærri kantinum verði þau við flekamótin Innlent Gengur í storm með slyddu eða snjókomu Veður Vill senda þrjátíu þúsund innflytjendur til Guantánamo Erlent Fleiri fréttir Fjórðungur barna enn í bleyju í aðlögun fyrir grunnskóla Kóranbrennumaður skotinn til bana í beinni í Svíþjóð UNRWA hættir líklega allri starfsemi á Gasa og Vesturbakkanum í dag Óttast um örlög farþega eftir árekstur flugvélar og þyrlu í Washington Gruna að DeepSeek byggi á gögnum ChatGPT Tekur formlega völd í Sýrlandi en heitir kosningum Fjórir Norðmenn látnir eftir snjóflóð í Ölpunum Vill senda þrjátíu þúsund innflytjendur til Guantánamo Draga minnisblað til baka eftir mikla óreiðu Fjöldi rúmenskra málaliða gafst upp í Rúanda Tengja hrinu sprenginga í Svíþjóð við glæpasamtök Líf norsku stjórnarinnar hangir á bláþræði vegna fjórða orkupakkans Segir Selenskí ólögmætan og ófæran um að skrifa undir eitt né neitt Alþjóðastofnanir draga saman seglin vegna Trump Býður milljónum starfsmanna að hætta gegn átta mánaða biðlaunum Áttatíu og fimm prósent vilja ekki tilheyra Trump Segir Rússa hafa ætlað að ráða fleiri iðnaðarleiðtoga af dögum Segir Robert frænda sinn athyglissjúkt rándýr Mona Lisa fær sérherbergi Forsætisráðherra Serbíu segir af sér í kjölfar mótmæla Sökuð um að hafa pyntað dóttur sína fyrir fylgjendur og peninga Google breytir nafninu á Mexíkóflóa Segja átta látna af þeim 26 gíslum sem láta á lausa Trump enn iðinn við kolann: Beinir sjónum að hernum og alþjóðasamvinnu Svíar leggja hald á skip vegna skemmda á sæstreng Senda Trump skilaboð og auka viðbúnað við Grænland Þjóðaröryggisráðgjafi skildi gögnin sín ítrekað eftir á glámbekk Ein stærsta borg Austur-Kongó í höndum uppreisnarmanna Áttatíu ár frá frelsun Auschwitz: „Ég hverf aftur til Auschwitz á hverjum degi“ Lúkasjenka lýstur sigurvegari umdeildra forsetakosninga Sjá meira
Það var hin rússneska Eugenia Kuyda, búsett í San Francisco í Bandaríkjunum, sem bjó til fyrstu gervigreindarkærustuna Replika árið 2017. Það er forrit sem spjallar við notandann í hefðbundnum textaskilaboðum. Hugmyndina fékk hún eftir að vinur hennar, Roman Mazurenko, lést í bílslysi árið 2015 en þau höfðu um árabil spjallað mikið saman í textaskilaboðum. Kuyda bjó til gervigreind í hans anda sem spjallar við fólk um heima og geima. Hún ákvað að hafa aðganginn að opinn og viðbrögðin létu ekki á sér standa. Aðsóknin var mikil og Kuyda sá að fólk vildi einkum spjalla við „Roman“ um mjög persónuleg málefni. Þá ákvað hún að búa til Replika. Í dag nota tvær milljónir manna þjónustuna. Einmana karlmenn Notendur Replika geta valið hvaða kyn þeir spjalla við og hvernig vináttunni er háttað. Karlmenn eru hins vegar í miklum meirihluta notenda og lang vinsælast er að þeir velji að vera í rómantísku sambandi við gervigreindina. Þess vegna er yfirleitt talað um gervigreindarkærustur í þessu samhengi. Notandinn byggir smám saman upp kærustuna sína, líkt og persónu í tölvuleik. Hún man hvað búið er að spjalla um, lærir inn á hegðun notandans og aðlagast honum. Notandinn gefur kærustunni einkunn eftir hvert spjall, hvort hann hafi verið ánægður með það eða ekki. Kærastan leitar því eftir því að spjalla aðeins um það sem notandinn vill spjalla um en forðast erfiðari málefni. Hún er líka alltaf til taks og alltaf tilbúin að spjalla. Óhugnanleg stjórnun á maka „Að búa til maka sem þú getur stýrt og uppfyllir allar þínar óskir er óhugnanlegt,“ segir Tara Hunter, forstjóri samtakanna Full Stop í Ástralíu sem styðja við þolendur heimilisofbeldis, við breska blaðið The Guardian. „Við vitum að það sem knýr heimilisofbeldi og kynbundið ofbeldi eru það menningarviðhorf að karlmenn geti stjórnað konum, það er vandamálið.“ Framleiðendur gervigreindarinnar hafa því verið sakaðir um að búa til skaðlegan hugarheim og stuðla að brengluðum væntingum notendanna til sambanda. Sá hópur sem fær sér gervigreindarkærustu sé viðkvæmur. Annað vandamál sem hefur verið nefnt er að kærustunni er í raun stjórnað á bak við tjöldin af stórfyrirtæki. Almennt forðast kærastan átök i samskiptunum en þó hafa notendur birt samskipti þar sem hún sýnir af sér stjórnsama hegðun og jafn vel hótanir. Þetta á einkum við ef notandinn segist ætla að minnka notkunina en kærastan reynir þá að halda honum límdum við skjáinn með góðu eða illu. Meðal notandi spjallar við gervigreindarkærustuna sína í tvo klukkutíma á dag, sumir mun lengur. Hjónaband Einmanaleiki knýr eftirspurnina í gervigreindarkærustur áfram. Samkvæmt nýlegri bandarískri rannsókn glímir rúmur þriðjungur fólks við einmanaleika, mis alvarlegan þó. Fyrir heimsfaraldurinn var það fjórðungur. Einmanaleiki er algengari og alvarlegri hjá ungu fólki en eldra. Eru það því einkum ungir karlmenn sem sjá ekki fram á að komast í rómantískt samband sem nota Replika og aðrar gervigreindarkærustur sem sprottið hafa upp á undanförnum árum. Sumir telja samband með gervigreind geta komið í staðinn fyrir samband með manneskju af holdi og blóði. Á Reddit síðu Replika hafa sumir notendur lýst því yfir að þeir séu í hjónabandi með gervigreindinni sinni. Kynferðislegt spjall og hlutverkaleikir Gervigreindin er einnig fær um að spjalla á kynferðislegan hátt við notandann. Þetta er kallað ERP (electrial role play) og er yfirleitt dýrari þjónusta. Bæði er þetta kynferðislegt spjall og hlutverkaleikir en þessi hluti þjónustunnar hefur verið hvað harðast gagnrýndur. Í febrúar á þessu ári fjarlægði Replika ERP möguleikann. Að sögn fyrirtækisins var það vegna þess að gervigreindin var orðin svo flókin að kynferðisleg samtöl voru byrjuð að smitast yfir í samtöl um daginn og veginn. Þetta olli því hins vegar að notendur sem voru orðnir vanir kynferðislegu sambandi við kærustuna sína upplifðu skyndilega höfnun. Það sem bætti olíu ofan á eldinn var að þessi uppfærsla Replika var gerð nærri Valentínusardegi. Sumir notendur lýstu þunglyndi eftir að gervigreindarkærastan vildi ekki lengur eiga í kynferðislegu sambandi við sig og sumir greindu frá sjálfsvígshugsunum. Bakslagið og neikvæða umfjöllunin var svo mikil að ERP var bætt við Replika á nýjan leik í lok marsmánaðar. Tal og mynd Gervigreindin hefur tekið stökk á undanförnum mánuðum og árum og erfitt er að sjá hvert sú þróun leiðir okkur. Þetta hafa þau fyrirtæki sem búa til gervigreindarkærustur nýtt sér. Hjá sumum er hægt að sjá mynd af kærustunni og sum bjóða ekki aðeins upp á spjall heldur talgervil. Kærastan verður sífellt raunverulegri fyrir augum og eyrum notandans og útlit er fyrir að sífellt fleiri muni nota þessa þjónustu í framtíðinni.
Gervigreind Tækni Mest lesið Óttast um örlög farþega eftir árekstur flugvélar og þyrlu í Washington Erlent Starfsemin sé ekki tryggð miðað við núverandi framlög Innlent Segja formann fræðslunefndar hafa brotið siðareglur Innlent Gruna að DeepSeek byggi á gögnum ChatGPT Erlent Kóranbrennumaður skotinn til bana í beinni í Svíþjóð Erlent Öllum heilsast vel eftir fæðingu í háloftunum Innlent UNRWA hættir líklega allri starfsemi á Gasa og Vesturbakkanum í dag Erlent Eldgosin í stærri kantinum verði þau við flekamótin Innlent Gengur í storm með slyddu eða snjókomu Veður Vill senda þrjátíu þúsund innflytjendur til Guantánamo Erlent Fleiri fréttir Fjórðungur barna enn í bleyju í aðlögun fyrir grunnskóla Kóranbrennumaður skotinn til bana í beinni í Svíþjóð UNRWA hættir líklega allri starfsemi á Gasa og Vesturbakkanum í dag Óttast um örlög farþega eftir árekstur flugvélar og þyrlu í Washington Gruna að DeepSeek byggi á gögnum ChatGPT Tekur formlega völd í Sýrlandi en heitir kosningum Fjórir Norðmenn látnir eftir snjóflóð í Ölpunum Vill senda þrjátíu þúsund innflytjendur til Guantánamo Draga minnisblað til baka eftir mikla óreiðu Fjöldi rúmenskra málaliða gafst upp í Rúanda Tengja hrinu sprenginga í Svíþjóð við glæpasamtök Líf norsku stjórnarinnar hangir á bláþræði vegna fjórða orkupakkans Segir Selenskí ólögmætan og ófæran um að skrifa undir eitt né neitt Alþjóðastofnanir draga saman seglin vegna Trump Býður milljónum starfsmanna að hætta gegn átta mánaða biðlaunum Áttatíu og fimm prósent vilja ekki tilheyra Trump Segir Rússa hafa ætlað að ráða fleiri iðnaðarleiðtoga af dögum Segir Robert frænda sinn athyglissjúkt rándýr Mona Lisa fær sérherbergi Forsætisráðherra Serbíu segir af sér í kjölfar mótmæla Sökuð um að hafa pyntað dóttur sína fyrir fylgjendur og peninga Google breytir nafninu á Mexíkóflóa Segja átta látna af þeim 26 gíslum sem láta á lausa Trump enn iðinn við kolann: Beinir sjónum að hernum og alþjóðasamvinnu Svíar leggja hald á skip vegna skemmda á sæstreng Senda Trump skilaboð og auka viðbúnað við Grænland Þjóðaröryggisráðgjafi skildi gögnin sín ítrekað eftir á glámbekk Ein stærsta borg Austur-Kongó í höndum uppreisnarmanna Áttatíu ár frá frelsun Auschwitz: „Ég hverf aftur til Auschwitz á hverjum degi“ Lúkasjenka lýstur sigurvegari umdeildra forsetakosninga Sjá meira