Jafngildir það að eyða meðvitaðri gervigreind því að drepa dýr? Hólmfríður Gísladóttir skrifar 4. febrúar 2025 07:24 Stephen Fry er meðal þeirra sem undirrita bréfið. Getty/Sebastian Reuter Yfir 100 vísindamenn og hugsuðir hafa undirritað opið bréf þar sem þeir hvetja til stefnumótunar varðandi þróun gervigreindar með sjálfsmeðvitund og tilfinningar. Segja þeir meðal annars þörf á að huga að því hvernig menn hyggjast nálgast slíkt fyrirbæri, sem gæti mögulega þjáðst af manna völdum. Bréfið er birt samhliða rannsóknarritgerð eftir Patrick Butlin við Oxford-háskóla og Theodoros Lappas við Athens University of Economics and Business, þar sem leggja fram fimm viðmið um þróun slíkrar gervigreindar. Leggja þeir meðal annars til að forgangsraða rannsóknum á meðvitund (e. consciousness) í gervigreind til að koma í veg fyrir misnoktun og þjáningu. Þá hvetja þeir til þess að takmarkanir verði settar á þróun meðvitaðrar gervigreindar, að þróunin verði tekin í skrefum, að niðurstöðum verði deilt með almenningi og að menn forðist að vera of yfirlýsingaglaðir og jafnvel misvísandi í umfjöllun um fyrirbærið. Butlin og Lappas segja mögulegt að sjálfsmeðvituð gervigreind, eða gervigreind sem virðist hafa meðvitund, muni verða að raunveruleika í náinni framtíð. Ef sú gervigreind gæti afritað sjálfa sig gæti sú staða komið upp að allt í einu væri komin fram ný tegund sem taka þyrfti afstöðu til hvað varðar siðferði. Myndi það að eyða slíkri gervigreind til að mynda jafnast á við að drepa dýr? Fræðimennirnir vara hins vegar einnig við því að orku og tíma sé varið í að huga að velferð gervigreindar sem hefur í raun og veru ekki meðvitund. Menn greinir enn á um það hvort gervigreind geti raunverulega talist meðvituð, sem skýrist meðal annars að því að menn eru ekki fullkomlega sammála um skilgreininguna á meðvitund. Guardian fjallar um málið. Gervigreind Mannréttindi Mest lesið Setti byssukúlu í póstkassa: „Næsta kemur ekki í umslagi“ Innlent Stefnir Hödd vegna ásökunar um nauðgun Innlent Stytta þurfi sumarfrí barna um að lágmarki tvær vikur Innlent Lögreglan vill ná tali af þremur mönnum Innlent Vinstribeygja inn á Bústaðaveg gæti heyrt sögunni til Innlent Leysti út lögmannsréttindin: Fer í sjálfstæðan rekstur en heldur eftirlaununum Innlent Sá blóðugan mann hlaupa út og árásarmanninn á eftir honum Innlent Játning á borðinu í umfangsmestu þjófnuðum seinni tíma Innlent Hafði ritað „Breivik“ og „Drepið Trump“ á skotvopnin Erlent Rektor rýfur þögnina eftir mótmælin á Þjóðminjasafninu Innlent Fleiri fréttir Bandaríska utanríkisráðuneytið hafnar undirróðursherferð Glundroði hjá einni fremstu lýðheilsustofnun heims Rússar réðust á sendiskrifstofu Evrópusambandsins í Kænugarði Hafði ritað „Breivik“ og „Drepið Trump“ á skotvopnin Rýnt í stöðuna í Úkraínu: Friður enn fjarlægur og Trump missir móðinn Mannskæð skotárás í skóla í Bandaríkjunum Með rétt til að „gera hvað sem ég vil“ „Þetta í raun staðfestir það sem að flestir bjuggust við“ Tilraunaskotið heppnaðist loksins Biður grænlenskar konur afsökunar vegna „lykkjumálsins“ Raðsundlaugarkúkari gengur laus í Oulu Stefna Open AI vegna sjálfsvígs sonarins Frakkar skila höfuðkúpu konungsins Toera Fundu steinaldarbyggð í Árósaflóa sem fór undir sjó eftir ísöld Lögfesta bann gegn símanotkun í skólum Kallar bandarískan erindreka á teppið vegna Grænlandsmála Er við góða líkamlega heilsu en heilinn að „bregðast honum“ 50 prósenta tollar á indverskar vörur taka gildi í Bandaríkjunum Málverk stolið af nasistum fannst í argentínskri fasteignaauglýsingu Gríðarstór sandstormur olli usla í Arizona Ungstirni ryður sér til rúms Árásir á olíuvinnslu í Rússlandi bíta Flúði þungvopnaður eftir að hafa myrt tvo lögregluþjóna Stefna búi Epsteins og vilja afmælisbókina Ástralir vísa sendiherra Íran úr landi og loka sendiráðinu í Tehran Trump gerir aðför að stjórn Seðlabankans Örlög Bayrou ráðast 8. september Vörpuðu sprengjum á sjúkrahús með 15 mínútna millibili Vilja nú senda El Salvador fangann til Úganda Habeck hættir á þingi Sjá meira
Segja þeir meðal annars þörf á að huga að því hvernig menn hyggjast nálgast slíkt fyrirbæri, sem gæti mögulega þjáðst af manna völdum. Bréfið er birt samhliða rannsóknarritgerð eftir Patrick Butlin við Oxford-háskóla og Theodoros Lappas við Athens University of Economics and Business, þar sem leggja fram fimm viðmið um þróun slíkrar gervigreindar. Leggja þeir meðal annars til að forgangsraða rannsóknum á meðvitund (e. consciousness) í gervigreind til að koma í veg fyrir misnoktun og þjáningu. Þá hvetja þeir til þess að takmarkanir verði settar á þróun meðvitaðrar gervigreindar, að þróunin verði tekin í skrefum, að niðurstöðum verði deilt með almenningi og að menn forðist að vera of yfirlýsingaglaðir og jafnvel misvísandi í umfjöllun um fyrirbærið. Butlin og Lappas segja mögulegt að sjálfsmeðvituð gervigreind, eða gervigreind sem virðist hafa meðvitund, muni verða að raunveruleika í náinni framtíð. Ef sú gervigreind gæti afritað sjálfa sig gæti sú staða komið upp að allt í einu væri komin fram ný tegund sem taka þyrfti afstöðu til hvað varðar siðferði. Myndi það að eyða slíkri gervigreind til að mynda jafnast á við að drepa dýr? Fræðimennirnir vara hins vegar einnig við því að orku og tíma sé varið í að huga að velferð gervigreindar sem hefur í raun og veru ekki meðvitund. Menn greinir enn á um það hvort gervigreind geti raunverulega talist meðvituð, sem skýrist meðal annars að því að menn eru ekki fullkomlega sammála um skilgreininguna á meðvitund. Guardian fjallar um málið.
Gervigreind Mannréttindi Mest lesið Setti byssukúlu í póstkassa: „Næsta kemur ekki í umslagi“ Innlent Stefnir Hödd vegna ásökunar um nauðgun Innlent Stytta þurfi sumarfrí barna um að lágmarki tvær vikur Innlent Lögreglan vill ná tali af þremur mönnum Innlent Vinstribeygja inn á Bústaðaveg gæti heyrt sögunni til Innlent Leysti út lögmannsréttindin: Fer í sjálfstæðan rekstur en heldur eftirlaununum Innlent Sá blóðugan mann hlaupa út og árásarmanninn á eftir honum Innlent Játning á borðinu í umfangsmestu þjófnuðum seinni tíma Innlent Hafði ritað „Breivik“ og „Drepið Trump“ á skotvopnin Erlent Rektor rýfur þögnina eftir mótmælin á Þjóðminjasafninu Innlent Fleiri fréttir Bandaríska utanríkisráðuneytið hafnar undirróðursherferð Glundroði hjá einni fremstu lýðheilsustofnun heims Rússar réðust á sendiskrifstofu Evrópusambandsins í Kænugarði Hafði ritað „Breivik“ og „Drepið Trump“ á skotvopnin Rýnt í stöðuna í Úkraínu: Friður enn fjarlægur og Trump missir móðinn Mannskæð skotárás í skóla í Bandaríkjunum Með rétt til að „gera hvað sem ég vil“ „Þetta í raun staðfestir það sem að flestir bjuggust við“ Tilraunaskotið heppnaðist loksins Biður grænlenskar konur afsökunar vegna „lykkjumálsins“ Raðsundlaugarkúkari gengur laus í Oulu Stefna Open AI vegna sjálfsvígs sonarins Frakkar skila höfuðkúpu konungsins Toera Fundu steinaldarbyggð í Árósaflóa sem fór undir sjó eftir ísöld Lögfesta bann gegn símanotkun í skólum Kallar bandarískan erindreka á teppið vegna Grænlandsmála Er við góða líkamlega heilsu en heilinn að „bregðast honum“ 50 prósenta tollar á indverskar vörur taka gildi í Bandaríkjunum Málverk stolið af nasistum fannst í argentínskri fasteignaauglýsingu Gríðarstór sandstormur olli usla í Arizona Ungstirni ryður sér til rúms Árásir á olíuvinnslu í Rússlandi bíta Flúði þungvopnaður eftir að hafa myrt tvo lögregluþjóna Stefna búi Epsteins og vilja afmælisbókina Ástralir vísa sendiherra Íran úr landi og loka sendiráðinu í Tehran Trump gerir aðför að stjórn Seðlabankans Örlög Bayrou ráðast 8. september Vörpuðu sprengjum á sjúkrahús með 15 mínútna millibili Vilja nú senda El Salvador fangann til Úganda Habeck hættir á þingi Sjá meira