Jafngildir það að eyða meðvitaðri gervigreind því að drepa dýr? Hólmfríður Gísladóttir skrifar 4. febrúar 2025 07:24 Stephen Fry er meðal þeirra sem undirrita bréfið. Getty/Sebastian Reuter Yfir 100 vísindamenn og hugsuðir hafa undirritað opið bréf þar sem þeir hvetja til stefnumótunar varðandi þróun gervigreindar með sjálfsmeðvitund og tilfinningar. Segja þeir meðal annars þörf á að huga að því hvernig menn hyggjast nálgast slíkt fyrirbæri, sem gæti mögulega þjáðst af manna völdum. Bréfið er birt samhliða rannsóknarritgerð eftir Patrick Butlin við Oxford-háskóla og Theodoros Lappas við Athens University of Economics and Business, þar sem leggja fram fimm viðmið um þróun slíkrar gervigreindar. Leggja þeir meðal annars til að forgangsraða rannsóknum á meðvitund (e. consciousness) í gervigreind til að koma í veg fyrir misnoktun og þjáningu. Þá hvetja þeir til þess að takmarkanir verði settar á þróun meðvitaðrar gervigreindar, að þróunin verði tekin í skrefum, að niðurstöðum verði deilt með almenningi og að menn forðist að vera of yfirlýsingaglaðir og jafnvel misvísandi í umfjöllun um fyrirbærið. Butlin og Lappas segja mögulegt að sjálfsmeðvituð gervigreind, eða gervigreind sem virðist hafa meðvitund, muni verða að raunveruleika í náinni framtíð. Ef sú gervigreind gæti afritað sjálfa sig gæti sú staða komið upp að allt í einu væri komin fram ný tegund sem taka þyrfti afstöðu til hvað varðar siðferði. Myndi það að eyða slíkri gervigreind til að mynda jafnast á við að drepa dýr? Fræðimennirnir vara hins vegar einnig við því að orku og tíma sé varið í að huga að velferð gervigreindar sem hefur í raun og veru ekki meðvitund. Menn greinir enn á um það hvort gervigreind geti raunverulega talist meðvituð, sem skýrist meðal annars að því að menn eru ekki fullkomlega sammála um skilgreininguna á meðvitund. Guardian fjallar um málið. Gervigreind Mannréttindi Mest lesið Stúlka í sjóinn við Reynisfjöru Innlent Stóra tjaldið fellt og hætt við brennuna vegna óveðurs Innlent „Það var töluvert verra veður en spáin sagði“ Innlent Að bugast á hálf nöktum ferðamönnum og beita sektum Erlent „Fordæmalaus hitabylgja“ leikur Skandínava grátt Erlent „Varla gangfær“ og „skulfu eins og hríslur“ Innlent Stúlka flutt á sjúkrahús eftir fall í sjóinn við Reynisfjöru Innlent Klíndu límmiðum á Ormsson sem versla ekki einu sinni við Rapyd Innlent „Manneskja sem er komin á þetta plan hlýtur að vera rökþrota“ Innlent Herjólfur siglir ekki meira í dag Innlent Fleiri fréttir Að bugast á hálf nöktum ferðamönnum og beita sektum „Fordæmalaus hitabylgja“ leikur Skandínava grátt Maxwell flutt í þægilegra fangelsi Breyti engu á jörðu niðri að viðurkenna sjálfstæði Palestínu Trump ræsir út kjarnorkukafbáta eftir „ögrandi“ ummæli Rússa „Clinton áætlunin“ líklega tilbúningur rússneskra njósnara „Ekki taka. Endurheimta. Þetta er okkar“ Arabaríkin sameinast um afvopnun Hamas og fordæmingu á árásunum 7. október Bukele ryður leiðina að einræði í El Salvador Freista þess að hindra að Bandaríkin fargi miklu magni getnaðarvarna Hvatti ríki til að stuðla að stjórnarskiptum í Rússlandi Tollar á vörur frá Íslandi verða 15 prósent samkvæmt forsetatilskipun Leynilega geimfarið sent á sporbraut í áttunda sinn Samþykkja ný lög um spillingarrannsóknir eftir mótmæli Múhameð eykur forskotið og enginn nefndur Keir Gera miklar breytingar á kjördæmum Texas, að beiðni Trumps Suðureyjargöng skilyrt hækkun eftirlaunaaldurs Kínverjar leita leiða til að granda gervihnöttum Musks Í áfalli eftir að hafa fengið bréf frá árásarmanninum inn um lúguna Dregur í land og segir Starmer og félaga verðlauna Hamas Létu sprengjum rigna á Kænugarð Segja 30 hafa látist í skotárás Ísraelshers við dreifingu neyðargagna Kanada í hóp þeirra sem hyggjast viðurkenna sjálfstæði Palestínu Sjö dáið úr hungri síðasta sólarhringinn Rannsaka tengsl þyngdarstjórnunarlyfja við bráða brisbólgu Gargaði á flokksfélaga sína Fyrsta ástralska geimflaugin flaug í fjórtán sekúndur Maxwell vill friðhelgi fyrir vitnisburðinn Vill greiða sex milljarða tryggingu til að losna úr haldi Pokrovsk riðar til falls Sjá meira
Segja þeir meðal annars þörf á að huga að því hvernig menn hyggjast nálgast slíkt fyrirbæri, sem gæti mögulega þjáðst af manna völdum. Bréfið er birt samhliða rannsóknarritgerð eftir Patrick Butlin við Oxford-háskóla og Theodoros Lappas við Athens University of Economics and Business, þar sem leggja fram fimm viðmið um þróun slíkrar gervigreindar. Leggja þeir meðal annars til að forgangsraða rannsóknum á meðvitund (e. consciousness) í gervigreind til að koma í veg fyrir misnoktun og þjáningu. Þá hvetja þeir til þess að takmarkanir verði settar á þróun meðvitaðrar gervigreindar, að þróunin verði tekin í skrefum, að niðurstöðum verði deilt með almenningi og að menn forðist að vera of yfirlýsingaglaðir og jafnvel misvísandi í umfjöllun um fyrirbærið. Butlin og Lappas segja mögulegt að sjálfsmeðvituð gervigreind, eða gervigreind sem virðist hafa meðvitund, muni verða að raunveruleika í náinni framtíð. Ef sú gervigreind gæti afritað sjálfa sig gæti sú staða komið upp að allt í einu væri komin fram ný tegund sem taka þyrfti afstöðu til hvað varðar siðferði. Myndi það að eyða slíkri gervigreind til að mynda jafnast á við að drepa dýr? Fræðimennirnir vara hins vegar einnig við því að orku og tíma sé varið í að huga að velferð gervigreindar sem hefur í raun og veru ekki meðvitund. Menn greinir enn á um það hvort gervigreind geti raunverulega talist meðvituð, sem skýrist meðal annars að því að menn eru ekki fullkomlega sammála um skilgreininguna á meðvitund. Guardian fjallar um málið.
Gervigreind Mannréttindi Mest lesið Stúlka í sjóinn við Reynisfjöru Innlent Stóra tjaldið fellt og hætt við brennuna vegna óveðurs Innlent „Það var töluvert verra veður en spáin sagði“ Innlent Að bugast á hálf nöktum ferðamönnum og beita sektum Erlent „Fordæmalaus hitabylgja“ leikur Skandínava grátt Erlent „Varla gangfær“ og „skulfu eins og hríslur“ Innlent Stúlka flutt á sjúkrahús eftir fall í sjóinn við Reynisfjöru Innlent Klíndu límmiðum á Ormsson sem versla ekki einu sinni við Rapyd Innlent „Manneskja sem er komin á þetta plan hlýtur að vera rökþrota“ Innlent Herjólfur siglir ekki meira í dag Innlent Fleiri fréttir Að bugast á hálf nöktum ferðamönnum og beita sektum „Fordæmalaus hitabylgja“ leikur Skandínava grátt Maxwell flutt í þægilegra fangelsi Breyti engu á jörðu niðri að viðurkenna sjálfstæði Palestínu Trump ræsir út kjarnorkukafbáta eftir „ögrandi“ ummæli Rússa „Clinton áætlunin“ líklega tilbúningur rússneskra njósnara „Ekki taka. Endurheimta. Þetta er okkar“ Arabaríkin sameinast um afvopnun Hamas og fordæmingu á árásunum 7. október Bukele ryður leiðina að einræði í El Salvador Freista þess að hindra að Bandaríkin fargi miklu magni getnaðarvarna Hvatti ríki til að stuðla að stjórnarskiptum í Rússlandi Tollar á vörur frá Íslandi verða 15 prósent samkvæmt forsetatilskipun Leynilega geimfarið sent á sporbraut í áttunda sinn Samþykkja ný lög um spillingarrannsóknir eftir mótmæli Múhameð eykur forskotið og enginn nefndur Keir Gera miklar breytingar á kjördæmum Texas, að beiðni Trumps Suðureyjargöng skilyrt hækkun eftirlaunaaldurs Kínverjar leita leiða til að granda gervihnöttum Musks Í áfalli eftir að hafa fengið bréf frá árásarmanninum inn um lúguna Dregur í land og segir Starmer og félaga verðlauna Hamas Létu sprengjum rigna á Kænugarð Segja 30 hafa látist í skotárás Ísraelshers við dreifingu neyðargagna Kanada í hóp þeirra sem hyggjast viðurkenna sjálfstæði Palestínu Sjö dáið úr hungri síðasta sólarhringinn Rannsaka tengsl þyngdarstjórnunarlyfja við bráða brisbólgu Gargaði á flokksfélaga sína Fyrsta ástralska geimflaugin flaug í fjórtán sekúndur Maxwell vill friðhelgi fyrir vitnisburðinn Vill greiða sex milljarða tryggingu til að losna úr haldi Pokrovsk riðar til falls Sjá meira