Vegvísir gervigreindar Helga Þórisdóttir skrifar 8. mars 2024 10:01 Markaðurinn fyrir persónuupplýsingar er gríðarlega stór og mörg stærstu fyrirtæki heimsins byggja afkomu sína beint eða óbeint á vinnslu þeirra. Fyrir liggur að meirihluti þeirra fyrirtækja sem þróa upplýsingatæknikerfi, m.a. gervigreindarhugbúnað og forrit eru hagnaðardrifin einkarekin fyrirtæki. Gögnin okkar má því að vissu leyti líta á sem eldsneyti fyrir virkni og þróun gervigreindarinnar. Hvenær reynir á persónuverndarreglur við notkun gervigreindar? Það er þegar persónuupplýsingum er safnað, þær færðar inn í tölvukerfi og notaðar til að þjálfa gervigreindina. Í því sambandi má nefna að fyrirtækið OpenAI notaði fimm mismunandi gagnagrunna til að þjálfa ChatGPT. Einn af þessum grunnum safnaði gögnum frá samfélagsmiðlum, s.s. Reddit, Youtube, Facebook, TikTok, Snapchat og Instagram – án þess að afla samþykkis frá notendum. Þrátt fyrir að aðeins hafi verið notuð gögn sem voru birt opinberlega á Netinu og að þau hafi þótt nauðsynleg til að þjálfa mállíkön, er það álitamál hvort ekki hafi þurft samþykki fyrir notkun þeirra. Ættum við ekki í öllu falli að vera upplýst um að verið er að nota gögnin okkar í þessum tilgangi? Við þjálfun og þróun gervigreindar reynir einnig á meginreglu persónuverndar um meðalhóf og lágmörkun gagna. Sú regla fer ekki vel saman við þá staðreynd að forsenda fyrir virkni gervigreindarinnar er að mata hana af gríðarlegu magni af gögnum. Einnig getur reynt á reglurnar þegar gervigreindinni er falið að taka ákvarðanirum réttindi og skyldur okkar, til að mynda hvort við fáum lánafyrirgreiðslu, vátryggingu, inngöngu í skóla, eða fara yfir starfsumsóknir og próf. Þegar gervigreindin, upp á sitt einsdæmi – án mannlegrar aðkomu, tekur ákvörðun um réttindi og skyldur okkar erum við, hvert og eitt, metin út frá ákveðnum breytum og sett í tiltekinn flokk út frá þeim. Við eigum rétt á mannlegri aðkomu að slíkum ákvörðunum, ef þær eru íþyngjandi. Við eigum einnig rétt á að vera upplýst um hvort og eftir atvikum hvernig upplýsingar okkar eru unnar með gervigreind. Það er krefjandi að mæta þeim rétti þar sem gervigreindin er flókin og erfitt getur verið að skilja og útskýra virkni hennar. Konur og kóðar Gervigreindin er ekki greindari en gögnin sem fæða hana. Huga þarf sérstaklega að því að notkun gervigreindar leiði ekki til mismununar á milli hópa á grundvelli sögulegrar mismununar. Amazon notaði gervigreind til að fara yfir og gefa starfsumsóknum til fyrirtækisins einkunn. Í ljós kom að gervigreindin dró umsóknir kvenna um tæknileg störf kerfisbundið niður. Ástæðan var sú að forritið byggði á eldri gögnum frá fyrirtækinu, og þá sátu karlar að þessum störfum. Þá má ekki ganga út frá því að þær upplýsingar sem unnið er með í gervigreindarforritum sæti trúnaði eða séu ekki notaðar í óskilgreindum tilgangi. Samkvæmt notendaskilmálum OpenAI samþykkja notendur að fyrirtækið geti notað það efni sem þeir setja inn, til að bæta og þróa þjónustuna. Þetta leiddi til þess að Samsung bannaði starfsmönnum sínum að nota ChatGPT og önnur sambærileg gervigreindarforrit eftir að starfsmenn deildu trúnaðargögnum fyrirtækisins með ChatGPT, m.a. kóðum, þróuðum af Samsung. Fyrirtæki, opinberar stofnanir, sveitarfélög og aðrir sem nýta gervigreind í sinni starfsemi ættu samkvæmt þessu að setja starfsmönnum skýrar reglur um hvað má og hvað ber að varast við notkun gervigreindarforrita. Er hægt að taka innihaldsefni úr köku? Gervigreindin getur búið til nýjar upplýsingar eða svokallaðar bull upplýsingar, þ.e. þegar hún ýkir eða finnur eitthvað upp. Sem dæmi um þetta má nefna að lögmaður í Kaliforníu bað ChatGPT að setja saman lista yfir lögfræðinga sem hefðu verið sakaðir um kynferðislega áreitni. Á listanum birtist nafn lagaprófessors og sagt að hann hefði áreitt nemanda í skólaferð til Alaska, með tilvísun til greinar í The Washington Post. Greinin var hins vegar ekki til og engin skólaferð farin til Alaska. Staðan er sú að það er ekki auðvelt að leiðrétta eða eyða gögnum sem gervigreindin notar. Þessu hefur verið lýst af Microsoft sem „eins einföldu og að taka eitt innihaldsefni úr köku sem þú hefur bakað“ – sem sagt – ekki hægt! Það skiptir því miklu að huga að því hvað er skráð upphaflega og hvaða upplýsingar gervigreindin er látin vinna með. Gerum þetta rétt Þrátt fyrir að gervigreind færi okkur óteljandi tækifæri, þarf að huga að því að hún brjóti ekki í bága við grundvallarmannréttindi til friðhelgi einkalífs. Gervigreind og persónuvernd eru ekki andstæðir pólar – það er hægtað þróa og nota gervigreind, en huga á sama tíma að því að einstaklingar njóti einkalífsverndar. Það er á ábyrgð þeirra sem þróa og nota gervigreindarkerfi að finna leiðir til þess en persónuverndarlöggjöfin er vegvísirinn. Höfundur er forstjóri Persónuverndar. Viltu birta grein á Vísi? Sendu okkur póst. Senda grein Helga Þórisdóttir Persónuvernd Gervigreind Mest lesið „Ef hún hefði haft val, hefði konan mín þá kosið að láta heilabilunina hafa sinn gang?” Ingrid Kuhlman Skoðun Er sanngjarnt að hækka virðisaukaskatt á mat og gistingu til að láta erlenda ferðamenn borga meira? Þórir Garðarsson Skoðun Heiðmörk: Gaddavír og girðingar Auður Kjartansdóttir Skoðun Réttlát leiðrétting veiðigjalda Elín Íris Fanndal Skoðun Að vera eða ekki vera – hvað er raunverulegur árangur? Ásta Kristín Sigurjónsdóttir,Inga Hlín Pálsdóttir Skoðun Vér erum úr sömu sveit Steinþór Logi Arnarsson Skoðun Stéttarkerfi Halldóra Lillý Jóhannsdóttir Skoðun Hamas og átökin við Ísrael – hvað er ekki sagt upphátt? Einar G Harðarson Skoðun Halldór 24.05.2025 Halldór Tuttugu ár af röddum sem áður voru þaggaðar, og framtíðin er okkar Guðmundur Ingi Þóroddsson Skoðun Skoðun Skoðun Vér erum úr sömu sveit Steinþór Logi Arnarsson skrifar Skoðun „Ef hún hefði haft val, hefði konan mín þá kosið að láta heilabilunina hafa sinn gang?” Ingrid Kuhlman skrifar Skoðun Réttlát leiðrétting veiðigjalda Elín Íris Fanndal skrifar Skoðun Að vera eða ekki vera – hvað er raunverulegur árangur? Ásta Kristín Sigurjónsdóttir,Inga Hlín Pálsdóttir skrifar Skoðun Er sanngjarnt að hækka virðisaukaskatt á mat og gistingu til að láta erlenda ferðamenn borga meira? Þórir Garðarsson skrifar Skoðun Heiðmörk: Gaddavír og girðingar Auður Kjartansdóttir skrifar Skoðun Tuttugu ár af röddum sem áður voru þaggaðar, og framtíðin er okkar Guðmundur Ingi Þóroddsson skrifar Skoðun #blessmeta - önnur grein Guðrún Hrefna Guðmundsdóttir skrifar Skoðun Hvers virði er lambakjöt? Hafliði Halldórsson skrifar Skoðun Lífið er eins og konfektkassi, þú veist aldrei hvernig mola þú færð Elín Íris Fanndal skrifar Skoðun Þjóðareign, trú og skattar Svanur Guðmundsson skrifar Skoðun Hamas og átökin við Ísrael – hvað er ekki sagt upphátt? Einar G Harðarson skrifar Skoðun Gjaldfrjálsar máltíðir fyrir leikskólabörn Hólmfríður Jennýjar Árnadóttir skrifar Skoðun Næstu sólarhringar á Gaza skipta sköpum Hlynur Már Vilhjálmsson skrifar Skoðun Hvernig gengur nýjum kennurum í grunnskólakennslu? Ingólfur Ásgeir Jóhannesson,Aðalheiður Anna Erlingsdóttir,Andri Rafn Ottesen,Maríanna Jónsdóttir Maríudóttir,Valgerður S. Bjarnadóttir skrifar Skoðun Huglæg réttlætiskennd og skattar á verðmætasköpun Kristinn Karl Brynjarsson skrifar Skoðun Loksins fær þyrlan heimili fyrir norðan Njáll Trausti Friðbertsson skrifar Skoðun Opið bréf til stjórnvalda Elín Ýr Arnar Hafdísardóttir skrifar Skoðun Við skuldum þeim að hlusta Ólafur Adolfsson skrifar Skoðun „Litla stúlkan og ruddarnir“ - Hugleiðing um stöðu Íslands á alþj.vettv. Flosi Þorgeirsson skrifar Skoðun Mikilvæg gagnrýni eða tilraun til valdayfirtöku í Sósíalistaflokknum? Ása Lind Finnbogadóttir skrifar Skoðun Matvælaverð hefur nær þrefaldast frá stofnun Viðskiptaráðs! Sigríður Ingibjörg Ingadóttir skrifar Skoðun Alvarleg staða í umhverfi fréttamiðla Rósa Guðbjartsdóttir skrifar Skoðun Stéttarkerfi Halldóra Lillý Jóhannsdóttir skrifar Skoðun Stöðvum Hamas. Einungis þannig getum við stöðvað hryllinginn á Gaza BIrgir Finnsson skrifar Skoðun Dagur líffræðilegrar fjölbreytni 2025 Rannveig Magnúsdóttir,Ole Sandberg,Ragnhildur Guðmundsdóttir,Rebecca Thompson,Skúli Skúlason,Sæunn Júlía Sigurjónsdóttir skrifar Skoðun Æfingin skapar meistarann! Sigurjón Már Fox Gunnarsson skrifar Skoðun 140 sinnum líklegra að verða fyrir eldingu Sigurður G. Guðjónsson skrifar Skoðun Konum í afplánun fjölgar: Með flókin áföll á bakinu Tinna Eyberg Örlygsdóttir,Sigríður Ella Jónsdóttir skrifar Skoðun Traust í húfi Eyjólfur Ármannsson skrifar Sjá meira
Markaðurinn fyrir persónuupplýsingar er gríðarlega stór og mörg stærstu fyrirtæki heimsins byggja afkomu sína beint eða óbeint á vinnslu þeirra. Fyrir liggur að meirihluti þeirra fyrirtækja sem þróa upplýsingatæknikerfi, m.a. gervigreindarhugbúnað og forrit eru hagnaðardrifin einkarekin fyrirtæki. Gögnin okkar má því að vissu leyti líta á sem eldsneyti fyrir virkni og þróun gervigreindarinnar. Hvenær reynir á persónuverndarreglur við notkun gervigreindar? Það er þegar persónuupplýsingum er safnað, þær færðar inn í tölvukerfi og notaðar til að þjálfa gervigreindina. Í því sambandi má nefna að fyrirtækið OpenAI notaði fimm mismunandi gagnagrunna til að þjálfa ChatGPT. Einn af þessum grunnum safnaði gögnum frá samfélagsmiðlum, s.s. Reddit, Youtube, Facebook, TikTok, Snapchat og Instagram – án þess að afla samþykkis frá notendum. Þrátt fyrir að aðeins hafi verið notuð gögn sem voru birt opinberlega á Netinu og að þau hafi þótt nauðsynleg til að þjálfa mállíkön, er það álitamál hvort ekki hafi þurft samþykki fyrir notkun þeirra. Ættum við ekki í öllu falli að vera upplýst um að verið er að nota gögnin okkar í þessum tilgangi? Við þjálfun og þróun gervigreindar reynir einnig á meginreglu persónuverndar um meðalhóf og lágmörkun gagna. Sú regla fer ekki vel saman við þá staðreynd að forsenda fyrir virkni gervigreindarinnar er að mata hana af gríðarlegu magni af gögnum. Einnig getur reynt á reglurnar þegar gervigreindinni er falið að taka ákvarðanirum réttindi og skyldur okkar, til að mynda hvort við fáum lánafyrirgreiðslu, vátryggingu, inngöngu í skóla, eða fara yfir starfsumsóknir og próf. Þegar gervigreindin, upp á sitt einsdæmi – án mannlegrar aðkomu, tekur ákvörðun um réttindi og skyldur okkar erum við, hvert og eitt, metin út frá ákveðnum breytum og sett í tiltekinn flokk út frá þeim. Við eigum rétt á mannlegri aðkomu að slíkum ákvörðunum, ef þær eru íþyngjandi. Við eigum einnig rétt á að vera upplýst um hvort og eftir atvikum hvernig upplýsingar okkar eru unnar með gervigreind. Það er krefjandi að mæta þeim rétti þar sem gervigreindin er flókin og erfitt getur verið að skilja og útskýra virkni hennar. Konur og kóðar Gervigreindin er ekki greindari en gögnin sem fæða hana. Huga þarf sérstaklega að því að notkun gervigreindar leiði ekki til mismununar á milli hópa á grundvelli sögulegrar mismununar. Amazon notaði gervigreind til að fara yfir og gefa starfsumsóknum til fyrirtækisins einkunn. Í ljós kom að gervigreindin dró umsóknir kvenna um tæknileg störf kerfisbundið niður. Ástæðan var sú að forritið byggði á eldri gögnum frá fyrirtækinu, og þá sátu karlar að þessum störfum. Þá má ekki ganga út frá því að þær upplýsingar sem unnið er með í gervigreindarforritum sæti trúnaði eða séu ekki notaðar í óskilgreindum tilgangi. Samkvæmt notendaskilmálum OpenAI samþykkja notendur að fyrirtækið geti notað það efni sem þeir setja inn, til að bæta og þróa þjónustuna. Þetta leiddi til þess að Samsung bannaði starfsmönnum sínum að nota ChatGPT og önnur sambærileg gervigreindarforrit eftir að starfsmenn deildu trúnaðargögnum fyrirtækisins með ChatGPT, m.a. kóðum, þróuðum af Samsung. Fyrirtæki, opinberar stofnanir, sveitarfélög og aðrir sem nýta gervigreind í sinni starfsemi ættu samkvæmt þessu að setja starfsmönnum skýrar reglur um hvað má og hvað ber að varast við notkun gervigreindarforrita. Er hægt að taka innihaldsefni úr köku? Gervigreindin getur búið til nýjar upplýsingar eða svokallaðar bull upplýsingar, þ.e. þegar hún ýkir eða finnur eitthvað upp. Sem dæmi um þetta má nefna að lögmaður í Kaliforníu bað ChatGPT að setja saman lista yfir lögfræðinga sem hefðu verið sakaðir um kynferðislega áreitni. Á listanum birtist nafn lagaprófessors og sagt að hann hefði áreitt nemanda í skólaferð til Alaska, með tilvísun til greinar í The Washington Post. Greinin var hins vegar ekki til og engin skólaferð farin til Alaska. Staðan er sú að það er ekki auðvelt að leiðrétta eða eyða gögnum sem gervigreindin notar. Þessu hefur verið lýst af Microsoft sem „eins einföldu og að taka eitt innihaldsefni úr köku sem þú hefur bakað“ – sem sagt – ekki hægt! Það skiptir því miklu að huga að því hvað er skráð upphaflega og hvaða upplýsingar gervigreindin er látin vinna með. Gerum þetta rétt Þrátt fyrir að gervigreind færi okkur óteljandi tækifæri, þarf að huga að því að hún brjóti ekki í bága við grundvallarmannréttindi til friðhelgi einkalífs. Gervigreind og persónuvernd eru ekki andstæðir pólar – það er hægtað þróa og nota gervigreind, en huga á sama tíma að því að einstaklingar njóti einkalífsverndar. Það er á ábyrgð þeirra sem þróa og nota gervigreindarkerfi að finna leiðir til þess en persónuverndarlöggjöfin er vegvísirinn. Höfundur er forstjóri Persónuverndar.
„Ef hún hefði haft val, hefði konan mín þá kosið að láta heilabilunina hafa sinn gang?” Ingrid Kuhlman Skoðun
Er sanngjarnt að hækka virðisaukaskatt á mat og gistingu til að láta erlenda ferðamenn borga meira? Þórir Garðarsson Skoðun
Að vera eða ekki vera – hvað er raunverulegur árangur? Ásta Kristín Sigurjónsdóttir,Inga Hlín Pálsdóttir Skoðun
Skoðun „Ef hún hefði haft val, hefði konan mín þá kosið að láta heilabilunina hafa sinn gang?” Ingrid Kuhlman skrifar
Skoðun Að vera eða ekki vera – hvað er raunverulegur árangur? Ásta Kristín Sigurjónsdóttir,Inga Hlín Pálsdóttir skrifar
Skoðun Er sanngjarnt að hækka virðisaukaskatt á mat og gistingu til að láta erlenda ferðamenn borga meira? Þórir Garðarsson skrifar
Skoðun Tuttugu ár af röddum sem áður voru þaggaðar, og framtíðin er okkar Guðmundur Ingi Þóroddsson skrifar
Skoðun Lífið er eins og konfektkassi, þú veist aldrei hvernig mola þú færð Elín Íris Fanndal skrifar
Skoðun Hvernig gengur nýjum kennurum í grunnskólakennslu? Ingólfur Ásgeir Jóhannesson,Aðalheiður Anna Erlingsdóttir,Andri Rafn Ottesen,Maríanna Jónsdóttir Maríudóttir,Valgerður S. Bjarnadóttir skrifar
Skoðun „Litla stúlkan og ruddarnir“ - Hugleiðing um stöðu Íslands á alþj.vettv. Flosi Þorgeirsson skrifar
Skoðun Mikilvæg gagnrýni eða tilraun til valdayfirtöku í Sósíalistaflokknum? Ása Lind Finnbogadóttir skrifar
Skoðun Matvælaverð hefur nær þrefaldast frá stofnun Viðskiptaráðs! Sigríður Ingibjörg Ingadóttir skrifar
Skoðun Dagur líffræðilegrar fjölbreytni 2025 Rannveig Magnúsdóttir,Ole Sandberg,Ragnhildur Guðmundsdóttir,Rebecca Thompson,Skúli Skúlason,Sæunn Júlía Sigurjónsdóttir skrifar
Skoðun Konum í afplánun fjölgar: Með flókin áföll á bakinu Tinna Eyberg Örlygsdóttir,Sigríður Ella Jónsdóttir skrifar
„Ef hún hefði haft val, hefði konan mín þá kosið að láta heilabilunina hafa sinn gang?” Ingrid Kuhlman Skoðun
Er sanngjarnt að hækka virðisaukaskatt á mat og gistingu til að láta erlenda ferðamenn borga meira? Þórir Garðarsson Skoðun
Að vera eða ekki vera – hvað er raunverulegur árangur? Ásta Kristín Sigurjónsdóttir,Inga Hlín Pálsdóttir Skoðun