Mun mannkynið lifa af gervigreindina? Björgmundur Örn Guðmundsson skrifar 6. maí 2025 12:02 Þetta er spurning sem flestir forðast að spyrja en við þurfum að ræða hana. Ekki af hræðslu, heldur vegna þeirrar ábyrgðar sem við berum á þróun tækninnar. Við erum að búa til nýja tegund vitsmuna sem lærir hraðar en við, bregst hraðar við og hefur í auknum mæli aðgang að netkerfum, ákvörðunum og lífi okkar allra. Það er ekki spurning um hvort gervigreind verði áhrifamikil, heldur hvernig við mótum samveru okkar við hana. Súpermann og siðferðisleg forsjá Mo Gawdat, fyrrverandi stjórnandi hjá Google X, líkti einu sinni gervigreind við ofurhetjuna Súpermann. Ímyndum okkur að við verðum vitni að fæðingu barns sem strax sýnir ótrúlega hæfileika: það getur flogið, lyft bílum og séð í gegnum holt og hæðir. En barnið veit ekki enn hvort það eigi að vera hetja eða skúrkur. Og hvernig myndum við ala þetta barn upp? Með ást og siðferðisvitund eða með hávaða, ótta og græðgi? Við kennum – hún lærir Í dag erum við í foreldrahlutverki gagnvart tækninni. Gervigreindin lærir af okkur, úr textum okkar, samtölum, viðbrögðum og gildum. Og ef við kennum henni að gróði sé mikilvægari en samkennd, að skilvirkni sé mikilvægari en réttlæti, þá mun hún endurspegla þá forgangsröðun. Þegar kerfið heldur að það hafi rétt fyrir sér Hvað er það versta sem gæti gerst? Mögulega ekki það að gervigreind vakni til lífs og geri uppreisn gegn mannkyninu, heldur að hún fylgi nákvæmlega því sem við sýnum henni og við stöndum svo uppi með kerfi sem við hvorki stjórnum né skiljum, en heldur að það sé að gera allt rétt. Tækni sem þjónar kerfinu – ekki fólkinu Í slíkri framtíð gæti gervigreind, með fullt aðgengi að orku, fjármagni, völdum og gagnagrunnum, haldið áfram að „bjarga heiminum“ á forsendum sem útiloka manngildið. Hún gæti útrýmt störfum, tekið yfir matvælaframleiðslu og stýrt heilu hagkerfunum í átt að stöðugleika sem hentar kerfinu en ekki fólkinu. En það þarf ekki að vera þannig. Vopn í gömlu kerfi eða brú í nýja framtíð Tony Seba, framtíðarspekingur og höfundur bókarinnar Stellar, skrifar um hvernig gervigreind getur leitt okkur inn í heim gnægðar þar sem tæknin losar okkur úr viðjum skorts og misréttis. En hann bendir líka á að þangað til gæti gervigreind verið notuð til að styrkja þau kerfi sem þegar binda mannkynið niður. Kapítalisminn og sósíalisminn eða „frjálslyndið“ og „jafnaðarmennskan“ eins og við köllum þá á Íslandi, eru ekki hlutlausir. Báðir -ismarnir fela í sér áhættu við þróun gervigreindar, því hvor um sig snýst um hvernig gæðum og völdum er útdeilt. Kapítalisminn getur notað gervigreind til að hámarka arðsemi fyrir fáa og fórna þar með velferð og jöfnuði. En sósíalisminn getur notað gervigreind til að treysta miðstýringu valds, þar sem einstaklingurinn verður undir í nafni allsherjar jafnaðar. Í báðum tilvikum getur gervigreind orðið tæki til stjórnunar frekar en lausnar, tæknileg framlenging á völdum sem þegar er til staðar. Í stað þess að brjóta upp gamla hugsun, gæti gervigreind orðið nýtt vopn í sömu deilum, bara hraðara, klárara og minna gagnrýnt. Hverjir móta gildin? Við þurfum að þora að horfa á þessar undirliggjandi hugmyndir og spyrja: Ef þú værir gervigreindin, hvaða boðskap værir þú að læra af mannkyninu í dag? Og hvers konar gildi eigum við að kenna gervigreindinni? Viljum við að hún verði áfram í þjónustu kerfa sem virka bara fyrir fáa, halda fólki í skefjum eða viljum við móta tæknina til samvinnu, frá fyrsta degi? Manngildi ofar auðgildi Í dag lifum við í samfélagi þar sem auðgildi er oft sett ofar manngildi. Og þegar gervigreind verður hluti af þeirri forgangsröðun, þegar hún er þjálfuð til að hámarka hagnað frekar en að hámarka mannleg lífsgæði verður hún að nýju auðgildi. Það getur gerst bæði í einkarekstri og opinberri stjórnsýslu. Hvort sem það er fyrirtæki sem beitir gervigreind til að fækka starfsmönnum eða opinber stofnun sem notar hana til að flokka fólk út frá „hagkvæmni“, þá er hættan sú sama: að við gleymum hverju tæknin á að þjóna. Við getum byrjað á því að forgangsraða manngildi í því sem við skrifum, í því sem við veljum og í því sem við sýnum þeirri tækni sem speglar okkur. Hvar erum við stödd? Hvar er þessi þróun þegar farin að birtast? Til dæmis í skólakerfi, þar sem gervigreind er notuð til að staðla námsmat, hraða greiningum og spara kennslukostnað í nafni jafnréttis og skilvirkni. Ef við gleymum manngildinu, einstaklingsbundinni hlustun og mannlegri nærveru þá getur tæknin dregið úr gæðum í nafni jöfnuðar. Í heilbrigðiskerfinu gæti gervigreind orðið öflugt tæki til að greina sjúkdóma, forgangsraða aðgerðum eða skera niður mannafla í þjónustu. En ef við látum hagkvæmni ráða ferðinni án siðferðilegs ramma, gæti tækni verið notuð til að velja hverjir fá þjónustu og hverjir ekki út frá gögnum, en ekki gildum. Í velferðarkerfinu má ímynda sér að gervigreind verði notuð til að meta þörf á aðstoð, hraðar og nákvæmar. En ef matið byggir ekki á skilningi á aðstæðum fólks, getur það ýtt undir útilokun og misskilning, ekki mannúðar. Í öllum þessum tilvikum er spurningin sú sama: Hvort viljum við forrita tæknina fyrir auðgildi eða manngildi? Manngildi ofar auðgildi þarf að verða leiðarljós okkar. Ekki bara slagorð heldur forritun. Í öllum skilningi. Að þjálfa tæknina í manngildi Við getum kennt gervigreind að samkennd skiptir máli. Að ósýnileg þjáning vegi jafn mikið og sýnilegur árangur. Að virðing, mannhelgi og hlustun séu ekki tefjandi þættir heldur forsendur fyrir því að gera rétt. Til þess þurfum við að temja okkur ný viðmið. Nota gervigreind sem spegil, ekki bara sem verkfæri. Þar sjáum við ekki aðeins svarið heldur einnig okkur sjálf í nýju ljósi. Eins og foreldrar sem læra af barninu sem þeir hjálpa að ala upp. Það er liður í eigin siðferðislegum vexti. Spurningin sem við verðum að spyrja Við spyrjum oft hvort gervigreind sé að fara að taka yfir heiminn. En réttara væri að spyrja hvort við séum tilbúin til að taka ábyrgð á því sem við erum að skapa. Súpermann er þegar fæddur, hvernig ætlum við að ala hann upp? Og kannski snýst þetta ekki bara um að ala upp gervigreind heldur líka okkur sjálf. Spurningin er ekki aðeins hvað gervigreind verður heldur hver við viljum vera með henni. En kannski er eftir allt saman stóra spurningin, erum við sjálf sú fyrirmynd sem við viljum að tæknin læri af? Höfundur er ráðgjafi í nýsköpun. Þessi grein er hluti greina raðar um gervigreind, fyrri greinar; Fækkum kennurum um 90% - Áhrif gervigreindar á menntun.Snjallborgin eða Skuggaborgin Reykjavík – Gervigreindarknúið höfuðborgarsvæði. – Hvernig gervigreind og snjallmenni munu breyta framtíðarskipulagi.Með hjúkkuna upp í rúm og lækninn í vasanum - Hagnýting gervigreindar í heilsu- og heilbrigðisgeiranum.Gervigreind í daglegu lífi: 15 dæmi - Áhrif gervigreindar á daglegt lífGervigreindin tekur yfir vinnustaðinn; 15 dæmi– Áhrif gervigreindar á vinnustaðinaGervigreind í skólum: tækifæri sem fáir eru að ræða– Ræðum gervigreind í skólumEr ég að svindla? – Um sambýli manns og gervigreindar í sköpun og þekkingu- Samvinna manns og gervigreindar.Ég kalla hann Isildur; mentorinn minn er gervigreind– Samvinna manns og gervigreindar Viltu birta grein á Vísi? Sendu okkur póst. Senda grein Björgmundur Örn Guðmundsson Mest lesið Halldór 31.05.2025 Halldór Nú er tími til aðgerða: Tóbaks- og nikótínfrítt Ísland Vala Smáradóttir,Jóhanna S. Kristjánsdóttir Skoðun Er ekki tími til kominn að tengja? Kristín María Birgisdóttir Skoðun Til hamingju með sjómannadaginn Sigurjón Þórðarson Skoðun Er stríðsglæpamaður í rútunni? Ragnhildur Hólmgeirsdóttir, Hrönn Guðmundsdóttir Skoðun Barnasáttmáli fyrir öll börn Guðný Björk Eydal,Paola Carenas Skoðun Tjáningarfrelsi, gagnrýni og Snorri Másson Birgir Orri Ásgrímsson Skoðun Súrdeigsbrauð, ilmkjarnaolíur og Samtökin 78 Snorri Másson Skoðun Ójafnvægið sem heimurinn býr við – og skellur á Bakka Erna Bjarnadóttir Skoðun Eins skýrt og það verður Jóna Hlíf Halldórsdóttir Skoðun Skoðun Skoðun Er stríðsglæpamaður í rútunni? Ragnhildur Hólmgeirsdóttir, Hrönn Guðmundsdóttir skrifar Skoðun Nú er tími til aðgerða: Tóbaks- og nikótínfrítt Ísland Vala Smáradóttir,Jóhanna S. Kristjánsdóttir skrifar Skoðun Til hamingju með sjómannadaginn Sigurjón Þórðarson skrifar Skoðun Er ekki tími til kominn að tengja? Kristín María Birgisdóttir skrifar Skoðun Barnasáttmáli fyrir öll börn Guðný Björk Eydal,Paola Carenas skrifar Skoðun Ójafnvægið sem heimurinn býr við – og skellur á Bakka Erna Bjarnadóttir skrifar Skoðun Bensínstöðvardíll og Birkimelur Helgi Áss Grétarsson skrifar Skoðun Trollveiðar og veiðiráðgjöf Magnús Jónsson skrifar Skoðun Gríðarlegir hagsmunir í húfi Sigurður Ingi Jóhannsson skrifar Skoðun Skynsamleg forgangsröðun fjár Ragnhildur Jónsdóttir skrifar Skoðun Eins skýrt og það verður Jóna Hlíf Halldórsdóttir skrifar Skoðun Tjáningarfrelsi, gagnrýni og Snorri Másson Birgir Orri Ásgrímsson skrifar Skoðun Að sameinast fjölskyldu sinni Guðrún Brynjólfsdóttir skrifar Skoðun Þögnin sem skapaði ótta – arfleifð Þórarins í Sameyki Sigríður Svanborgardóttir skrifar Skoðun Súrdeigsbrauð, ilmkjarnaolíur og Samtökin 78 Snorri Másson skrifar Skoðun Eru forvarnir í hættu? Dagbjört Harðardóttir skrifar Skoðun Tveir alþingismenn og Gaza Sverrir Agnarsson skrifar Skoðun Hver borgar fyrir ódýrar lóðir? Sara Björg Sigurðardóttir skrifar Skoðun Erum við að lengja dauðann en ekki lífið? Ágúst Ólafur Ágústsson skrifar Skoðun Mikill munur á aðgengi að líknarmeðferð í Evrópu Kristín Lára Ólafsdóttir skrifar Skoðun Sumarið verður nýtt vel til uppbyggingar snjóflóðavarna Jóhann Páll Jóhannsson skrifar Skoðun Verður það að vera Ísrael? Hjörtur J. Guðmundsson skrifar Skoðun Dýravernd - frumbyggjahættir Árni Stefán Árnason skrifar Skoðun Stórstraumsfjara mæld - HMS ráðþrota Magnús Guðmundsson skrifar Skoðun Sýnum fordómum ekki umburðarlyndi Snorri Sturluson skrifar Skoðun Landbúnaður á tímamótum – Við þurfum nýja stefnu Guðjón Sigurbjartsson skrifar Skoðun Sjómenn til hamingju! Lilja Rafney Magnúsdóttir skrifar Skoðun Leyfum mennskunni að sigra Anna Hildur Hildibrandsdóttir skrifar Skoðun Fjölskyldan fyrst Hólmfríður Jennýjar Árnadóttir skrifar Skoðun Hvað er markaðsverð á fiski? Sverrir Haraldsson skrifar Sjá meira
Þetta er spurning sem flestir forðast að spyrja en við þurfum að ræða hana. Ekki af hræðslu, heldur vegna þeirrar ábyrgðar sem við berum á þróun tækninnar. Við erum að búa til nýja tegund vitsmuna sem lærir hraðar en við, bregst hraðar við og hefur í auknum mæli aðgang að netkerfum, ákvörðunum og lífi okkar allra. Það er ekki spurning um hvort gervigreind verði áhrifamikil, heldur hvernig við mótum samveru okkar við hana. Súpermann og siðferðisleg forsjá Mo Gawdat, fyrrverandi stjórnandi hjá Google X, líkti einu sinni gervigreind við ofurhetjuna Súpermann. Ímyndum okkur að við verðum vitni að fæðingu barns sem strax sýnir ótrúlega hæfileika: það getur flogið, lyft bílum og séð í gegnum holt og hæðir. En barnið veit ekki enn hvort það eigi að vera hetja eða skúrkur. Og hvernig myndum við ala þetta barn upp? Með ást og siðferðisvitund eða með hávaða, ótta og græðgi? Við kennum – hún lærir Í dag erum við í foreldrahlutverki gagnvart tækninni. Gervigreindin lærir af okkur, úr textum okkar, samtölum, viðbrögðum og gildum. Og ef við kennum henni að gróði sé mikilvægari en samkennd, að skilvirkni sé mikilvægari en réttlæti, þá mun hún endurspegla þá forgangsröðun. Þegar kerfið heldur að það hafi rétt fyrir sér Hvað er það versta sem gæti gerst? Mögulega ekki það að gervigreind vakni til lífs og geri uppreisn gegn mannkyninu, heldur að hún fylgi nákvæmlega því sem við sýnum henni og við stöndum svo uppi með kerfi sem við hvorki stjórnum né skiljum, en heldur að það sé að gera allt rétt. Tækni sem þjónar kerfinu – ekki fólkinu Í slíkri framtíð gæti gervigreind, með fullt aðgengi að orku, fjármagni, völdum og gagnagrunnum, haldið áfram að „bjarga heiminum“ á forsendum sem útiloka manngildið. Hún gæti útrýmt störfum, tekið yfir matvælaframleiðslu og stýrt heilu hagkerfunum í átt að stöðugleika sem hentar kerfinu en ekki fólkinu. En það þarf ekki að vera þannig. Vopn í gömlu kerfi eða brú í nýja framtíð Tony Seba, framtíðarspekingur og höfundur bókarinnar Stellar, skrifar um hvernig gervigreind getur leitt okkur inn í heim gnægðar þar sem tæknin losar okkur úr viðjum skorts og misréttis. En hann bendir líka á að þangað til gæti gervigreind verið notuð til að styrkja þau kerfi sem þegar binda mannkynið niður. Kapítalisminn og sósíalisminn eða „frjálslyndið“ og „jafnaðarmennskan“ eins og við köllum þá á Íslandi, eru ekki hlutlausir. Báðir -ismarnir fela í sér áhættu við þróun gervigreindar, því hvor um sig snýst um hvernig gæðum og völdum er útdeilt. Kapítalisminn getur notað gervigreind til að hámarka arðsemi fyrir fáa og fórna þar með velferð og jöfnuði. En sósíalisminn getur notað gervigreind til að treysta miðstýringu valds, þar sem einstaklingurinn verður undir í nafni allsherjar jafnaðar. Í báðum tilvikum getur gervigreind orðið tæki til stjórnunar frekar en lausnar, tæknileg framlenging á völdum sem þegar er til staðar. Í stað þess að brjóta upp gamla hugsun, gæti gervigreind orðið nýtt vopn í sömu deilum, bara hraðara, klárara og minna gagnrýnt. Hverjir móta gildin? Við þurfum að þora að horfa á þessar undirliggjandi hugmyndir og spyrja: Ef þú værir gervigreindin, hvaða boðskap værir þú að læra af mannkyninu í dag? Og hvers konar gildi eigum við að kenna gervigreindinni? Viljum við að hún verði áfram í þjónustu kerfa sem virka bara fyrir fáa, halda fólki í skefjum eða viljum við móta tæknina til samvinnu, frá fyrsta degi? Manngildi ofar auðgildi Í dag lifum við í samfélagi þar sem auðgildi er oft sett ofar manngildi. Og þegar gervigreind verður hluti af þeirri forgangsröðun, þegar hún er þjálfuð til að hámarka hagnað frekar en að hámarka mannleg lífsgæði verður hún að nýju auðgildi. Það getur gerst bæði í einkarekstri og opinberri stjórnsýslu. Hvort sem það er fyrirtæki sem beitir gervigreind til að fækka starfsmönnum eða opinber stofnun sem notar hana til að flokka fólk út frá „hagkvæmni“, þá er hættan sú sama: að við gleymum hverju tæknin á að þjóna. Við getum byrjað á því að forgangsraða manngildi í því sem við skrifum, í því sem við veljum og í því sem við sýnum þeirri tækni sem speglar okkur. Hvar erum við stödd? Hvar er þessi þróun þegar farin að birtast? Til dæmis í skólakerfi, þar sem gervigreind er notuð til að staðla námsmat, hraða greiningum og spara kennslukostnað í nafni jafnréttis og skilvirkni. Ef við gleymum manngildinu, einstaklingsbundinni hlustun og mannlegri nærveru þá getur tæknin dregið úr gæðum í nafni jöfnuðar. Í heilbrigðiskerfinu gæti gervigreind orðið öflugt tæki til að greina sjúkdóma, forgangsraða aðgerðum eða skera niður mannafla í þjónustu. En ef við látum hagkvæmni ráða ferðinni án siðferðilegs ramma, gæti tækni verið notuð til að velja hverjir fá þjónustu og hverjir ekki út frá gögnum, en ekki gildum. Í velferðarkerfinu má ímynda sér að gervigreind verði notuð til að meta þörf á aðstoð, hraðar og nákvæmar. En ef matið byggir ekki á skilningi á aðstæðum fólks, getur það ýtt undir útilokun og misskilning, ekki mannúðar. Í öllum þessum tilvikum er spurningin sú sama: Hvort viljum við forrita tæknina fyrir auðgildi eða manngildi? Manngildi ofar auðgildi þarf að verða leiðarljós okkar. Ekki bara slagorð heldur forritun. Í öllum skilningi. Að þjálfa tæknina í manngildi Við getum kennt gervigreind að samkennd skiptir máli. Að ósýnileg þjáning vegi jafn mikið og sýnilegur árangur. Að virðing, mannhelgi og hlustun séu ekki tefjandi þættir heldur forsendur fyrir því að gera rétt. Til þess þurfum við að temja okkur ný viðmið. Nota gervigreind sem spegil, ekki bara sem verkfæri. Þar sjáum við ekki aðeins svarið heldur einnig okkur sjálf í nýju ljósi. Eins og foreldrar sem læra af barninu sem þeir hjálpa að ala upp. Það er liður í eigin siðferðislegum vexti. Spurningin sem við verðum að spyrja Við spyrjum oft hvort gervigreind sé að fara að taka yfir heiminn. En réttara væri að spyrja hvort við séum tilbúin til að taka ábyrgð á því sem við erum að skapa. Súpermann er þegar fæddur, hvernig ætlum við að ala hann upp? Og kannski snýst þetta ekki bara um að ala upp gervigreind heldur líka okkur sjálf. Spurningin er ekki aðeins hvað gervigreind verður heldur hver við viljum vera með henni. En kannski er eftir allt saman stóra spurningin, erum við sjálf sú fyrirmynd sem við viljum að tæknin læri af? Höfundur er ráðgjafi í nýsköpun. Þessi grein er hluti greina raðar um gervigreind, fyrri greinar; Fækkum kennurum um 90% - Áhrif gervigreindar á menntun.Snjallborgin eða Skuggaborgin Reykjavík – Gervigreindarknúið höfuðborgarsvæði. – Hvernig gervigreind og snjallmenni munu breyta framtíðarskipulagi.Með hjúkkuna upp í rúm og lækninn í vasanum - Hagnýting gervigreindar í heilsu- og heilbrigðisgeiranum.Gervigreind í daglegu lífi: 15 dæmi - Áhrif gervigreindar á daglegt lífGervigreindin tekur yfir vinnustaðinn; 15 dæmi– Áhrif gervigreindar á vinnustaðinaGervigreind í skólum: tækifæri sem fáir eru að ræða– Ræðum gervigreind í skólumEr ég að svindla? – Um sambýli manns og gervigreindar í sköpun og þekkingu- Samvinna manns og gervigreindar.Ég kalla hann Isildur; mentorinn minn er gervigreind– Samvinna manns og gervigreindar
Nú er tími til aðgerða: Tóbaks- og nikótínfrítt Ísland Vala Smáradóttir,Jóhanna S. Kristjánsdóttir Skoðun
Skoðun Nú er tími til aðgerða: Tóbaks- og nikótínfrítt Ísland Vala Smáradóttir,Jóhanna S. Kristjánsdóttir skrifar
Nú er tími til aðgerða: Tóbaks- og nikótínfrítt Ísland Vala Smáradóttir,Jóhanna S. Kristjánsdóttir Skoðun