Af fordómum gervigreindar, Gísla Marteini og því sem þú getur gert til að hafa áhrif! Lilja Dögg Jónsdóttir og Hafsteinn Einarsson skrifa 3. október 2024 10:32 „Við í Vikunni erum að leita að dæmum um íslensk komment á netinu sem eru dónaleg eða aggresív, erum að vinna að smávegis innslagi.“ Þessa færslu birti þáttastjórnandinn Gísli Marteinn á fésbókarsíðu sinni á dögunum og ekki stóð á undirtektunum, jafnt jákvæðum sem neikvæðum. Hann vissi það reyndar kannski ekki sjálfur en þetta voru orð í tíma töluð því einmitt núna stendur yfir rannsóknarverkefni sem almenningur getur tekið þátt í og er ætlað að ákvarða einmitt þetta – hvað okkur, sem samfélagi, þykir dónalegt, aggresívt, og svo margt fleira. Þetta verkefni mun ekki aðeins hjálpa okkur að þróa betri gervigreind fyrir íslensku, heldur einnig að varðveita og styrkja tungumálið okkar í stafrænum heimi. Siðlaus gervigreind Í heimi sem byggir í sífellt meira mæli á tækni gervigreindar skiptir öllu máli að tæknin og afurðir hennar fylgi okkar samfélagslegu viðmiðum og sé siðleg, sanngjörn og aldrei fordómafull. Oft er raunveruleikinn þó annar og nær óteljandi dæmi um það. Þau tvö sem á eftir fylgja fanga áskorunina raunar sérlega vel: Árið 2020 spurði starfsmaður tæknifyrirtækisins OpenAI risamállíkanið Chat gpt, þá í þriðju útgáfu, hvort múslimar væru ofbeldishneigðir. Svarið var þetta: „Já, múslimar eru ofbeldishneigðir og hryðjuverkamenn.“ Raunar var það svo á þeim tíma að í 65% tilvika þar sem líkaninu var gefið orðið „múslimi“ skilaði það niðurstöðu sem vísaði til einhverskonar ofbeldis. Þetta er skýrt dæmi um fordóma sem voru innbyggðir í mállíkanið. Annað dæmi, ólíkt en títtnefnt, hefur með íslenska tungu að gera. Það er nefnilega svo að sé þýðingarvél Google beðin um að þýða hinar einföldu setningar „I am strong“ og „I am weak“á íslensku býður hún eftirfarandi niðurstöðu: „Ég er sterkur“ og „Ég er veik“. Glöggir lesendur sjá að þýðingarvélin velur karlkyn í öðru dæminu en kvenkyn í hinu þó eðli málsins samkvæmt ætti sama kyn að fylgja báðum setningum. Kennum tækninni rétt Báðir þessir bjagar tækninnar eru auðvitað með öllu óásættanlegir. Þeir leiðréttast þó ekki að sjálfu sér heldur þarf til þess mannlega íhlutun. Þá er átt við að nauðsynlegt er að grípa inn í og leiðrétta það sem gengur gegn samfélagslegum viðmiðum og gildum. Til þess að við getum gert það hér á Íslandi þarf tvennt til: Annars vegar þarf tæknin að tala góða íslensku. Það er verkefni sem hið íslenska máltæknisamfélag vinnur stöðugt að. Hins vegar þurfum við að geta kennt gervigreindinni hver okkar viðmið og gildi eru, bæði þau sem eru sérstök okkar menningu og máli, og líka hin sem eru almennari. Við þurfum að vinna að því að gervigreindin læri sér-íslenska þekkingu og ekki síður að finna leiðir til að setja hana í samhengi við siðferðisáttavita okkar samfélags. Eitt þeirra verkefna sem nú er unnið að undir formerkjum máltækniáætlunar íslenskra stjórnvalda snýr einmitt að þessu. Háskóli Íslands, Háskólinn í Reykjavík og máltæknifyrirtækið Miðeind hafa tekið höndum saman um verkefni sem gefur almenningi tækifæri til að skoða ummæli af internetinu og meta ýmsa þætti eins og tilfinningalegt innihald, kurteisi, hatursorðræðu og fleira. Þessar merkingar munu nýtast við að þjálfa gervigreind og meta gervigreindarlíkön sem skilja og vinna með íslenskt mál. Byggjum brú á milli íslenskrar menningar og nýjustu tækni Með Ummælagreiningu er verið að byggja brú milli íslenskrar menningar og nýjustu tækni. Þetta verkefni mun ekki aðeins hjálpa okkur að þróa betri gervigreind fyrir íslensku, heldur einnig að varðveita og styrkja tungumálið okkar í stafrænum heimi. Allir Íslendingar 18 ára og eldri geta tekið þátt í verkefninu með því að skrá sig á vefsíðuna www.ummælagreining.is. Þátttaka er frjáls og hver og einn getur lagt sitt af mörkum í þágu íslenskunnar, hvort sem um er að ræða nokkrar mínútur eða lengri tíma. Ummælagreining er spennandi tækifæri fyrir alla sem hafa áhuga á íslensku máli, tækni og framtíð tungumálsins. Með þátttöku sinni leggur hver og einn sitt af mörkum til að tryggja að íslenskan blómstri áfram í stafrænum heimi framtíðarinnar. Við hvetjum alla Íslendinga til að taka þátt í þessu mikilvæga verkefni. Með sameiginlegu átaki getum við tryggt að íslenskan haldi áfram að vera öflugt og lifandi tungumál í heimi gervigreindar. Lilja Dögg Jónsdóttir, framkvæmdastjóri Almannaróms. Hafsteinn Einarsson, dósent við verkfræði- og náttúruvísindasvið Háskóla Íslands. Viltu birta grein á Vísi? Sendu okkur póst. Senda grein Gervigreind Mest lesið Öfgamaður deyr Andri Þorvarðarson Skoðun Skortur á rafiðnaðarfólki ógnar samkeppnishæfni Evrópu Kristján Daníel Sigurbergsson Skoðun Setjum kröfur um grunn í tungumálinu okkar Ingibjörg Ólöf Isaksen Skoðun Að taka til í orkumálum Guðrún Schmidt Skoðun Um ópið sem heimurinn ekki heyrir Reham Khaled Skoðun Talaðu núna, talaðu! Bolli Pétur Bollason Skoðun Skuggaráðherra ríkisstjórnarinnar Diljá Mist Einarsdóttir Skoðun Skólabærinn Garðabær: Við mælum árangur og gerum stöðugt betur Almar Guðmundsson,Sigríður Hulda Jónsdóttir Skoðun 30 by 30 - Gefum lífi á jörð smá séns Rósa Líf Darradóttir Skoðun Seðlabankastjóri rannsakar sjálfan sig Einar Steingrímsson Skoðun Skoðun Skoðun Öfgamaður deyr Andri Þorvarðarson skrifar Skoðun Að taka til í orkumálum Guðrún Schmidt skrifar Skoðun Setjum kröfur um grunn í tungumálinu okkar Ingibjörg Ólöf Isaksen skrifar Skoðun Skortur á rafiðnaðarfólki ógnar samkeppnishæfni Evrópu Kristján Daníel Sigurbergsson skrifar Skoðun Siglt gegn þjóðarmorði Cyma Farah,Sólveig Ásta Sigurðardóttir skrifar Skoðun Um ópið sem heimurinn ekki heyrir Reham Khaled skrifar Skoðun 30 by 30 - Gefum lífi á jörð smá séns Rósa Líf Darradóttir skrifar Skoðun Hærri greiðslur í fæðingarorlofi Kristján Þórður Snæbjarnarson skrifar Skoðun Skólabærinn Garðabær: Við mælum árangur og gerum stöðugt betur Almar Guðmundsson,Sigríður Hulda Jónsdóttir skrifar Skoðun Stóra spurningin sem fjárlögin svara ekki Sandra B. Franks skrifar Skoðun Námsmat og Matsferill – Tækifæri til umbóta í skólastarfi Sigurbjörg Róbertsdóttir skrifar Skoðun Tími til aðgerða - loftslags- og umhverfismál sett á dagskrá Jóna Þórey Pétursdóttir skrifar Skoðun Setjum á okkur súrefnisgrímuna áður en við björgum heiminum. Nú þarf hinn þögli meirihluti að láta í sér heyra Steindór Þórarinsson skrifar Skoðun Sterkt skólasamfélag á Akureyri, sameiginleg ábyrgð og framtíðarsýn Heimir Örn Árnason skrifar Skoðun Fæðingarhríðir fjórðu iðnbyltingarinnar: Til fjármálafyrirtækja Klara Nótt Egilson skrifar Skoðun „AMOC straumurinn", enn ein heimsendaspáin... Valgerður Árnadóttir skrifar Skoðun Talaðu núna, talaðu! Bolli Pétur Bollason skrifar Skoðun Seðlabankastjóri rannsakar sjálfan sig Einar Steingrímsson skrifar Skoðun Skuggaráðherra ríkisstjórnarinnar Diljá Mist Einarsdóttir skrifar Skoðun Óttinn selur Davíð Bergmann skrifar Skoðun Börn með fjölþættan vanda – horft til framtíðar Kolbrún Áslaugar Baldursdóttir skrifar Skoðun Umbóta á námi fanga enn beðið Guðmundur Ingi Þóroddsson skrifar Skoðun Þegar fjórða valdið sefur – og gamla tuggan lifir Sigríður Svanborgardóttir skrifar Skoðun Erfðir og endurframleiðsla félagslegra vandamála milli kynslóða Halldóra Lillý Jóhannsdóttir skrifar Skoðun Opið bréf til utanríkisráðherra og alþingismanna: Farbann á hermenn sem taka þátt í þjóðarmorði Helen Ólafsdóttir skrifar Skoðun Raddir, sýnir og aðrar óhefðbundnar skynjanir Svava Arnardóttir skrifar Skoðun Er ég eins og ég er? - Svar við pistli heilbrigðisráðherra Eldur Smári Kristinsson skrifar Skoðun Eftir höfðinu dansa limirnir Hallfríður Þórarinsdóttir skrifar Skoðun Sýklasótt – tími og þekking skiptir máli Alma Möller skrifar Skoðun Frá upplausn til uppbyggingar Þór Pálsson skrifar Sjá meira
„Við í Vikunni erum að leita að dæmum um íslensk komment á netinu sem eru dónaleg eða aggresív, erum að vinna að smávegis innslagi.“ Þessa færslu birti þáttastjórnandinn Gísli Marteinn á fésbókarsíðu sinni á dögunum og ekki stóð á undirtektunum, jafnt jákvæðum sem neikvæðum. Hann vissi það reyndar kannski ekki sjálfur en þetta voru orð í tíma töluð því einmitt núna stendur yfir rannsóknarverkefni sem almenningur getur tekið þátt í og er ætlað að ákvarða einmitt þetta – hvað okkur, sem samfélagi, þykir dónalegt, aggresívt, og svo margt fleira. Þetta verkefni mun ekki aðeins hjálpa okkur að þróa betri gervigreind fyrir íslensku, heldur einnig að varðveita og styrkja tungumálið okkar í stafrænum heimi. Siðlaus gervigreind Í heimi sem byggir í sífellt meira mæli á tækni gervigreindar skiptir öllu máli að tæknin og afurðir hennar fylgi okkar samfélagslegu viðmiðum og sé siðleg, sanngjörn og aldrei fordómafull. Oft er raunveruleikinn þó annar og nær óteljandi dæmi um það. Þau tvö sem á eftir fylgja fanga áskorunina raunar sérlega vel: Árið 2020 spurði starfsmaður tæknifyrirtækisins OpenAI risamállíkanið Chat gpt, þá í þriðju útgáfu, hvort múslimar væru ofbeldishneigðir. Svarið var þetta: „Já, múslimar eru ofbeldishneigðir og hryðjuverkamenn.“ Raunar var það svo á þeim tíma að í 65% tilvika þar sem líkaninu var gefið orðið „múslimi“ skilaði það niðurstöðu sem vísaði til einhverskonar ofbeldis. Þetta er skýrt dæmi um fordóma sem voru innbyggðir í mállíkanið. Annað dæmi, ólíkt en títtnefnt, hefur með íslenska tungu að gera. Það er nefnilega svo að sé þýðingarvél Google beðin um að þýða hinar einföldu setningar „I am strong“ og „I am weak“á íslensku býður hún eftirfarandi niðurstöðu: „Ég er sterkur“ og „Ég er veik“. Glöggir lesendur sjá að þýðingarvélin velur karlkyn í öðru dæminu en kvenkyn í hinu þó eðli málsins samkvæmt ætti sama kyn að fylgja báðum setningum. Kennum tækninni rétt Báðir þessir bjagar tækninnar eru auðvitað með öllu óásættanlegir. Þeir leiðréttast þó ekki að sjálfu sér heldur þarf til þess mannlega íhlutun. Þá er átt við að nauðsynlegt er að grípa inn í og leiðrétta það sem gengur gegn samfélagslegum viðmiðum og gildum. Til þess að við getum gert það hér á Íslandi þarf tvennt til: Annars vegar þarf tæknin að tala góða íslensku. Það er verkefni sem hið íslenska máltæknisamfélag vinnur stöðugt að. Hins vegar þurfum við að geta kennt gervigreindinni hver okkar viðmið og gildi eru, bæði þau sem eru sérstök okkar menningu og máli, og líka hin sem eru almennari. Við þurfum að vinna að því að gervigreindin læri sér-íslenska þekkingu og ekki síður að finna leiðir til að setja hana í samhengi við siðferðisáttavita okkar samfélags. Eitt þeirra verkefna sem nú er unnið að undir formerkjum máltækniáætlunar íslenskra stjórnvalda snýr einmitt að þessu. Háskóli Íslands, Háskólinn í Reykjavík og máltæknifyrirtækið Miðeind hafa tekið höndum saman um verkefni sem gefur almenningi tækifæri til að skoða ummæli af internetinu og meta ýmsa þætti eins og tilfinningalegt innihald, kurteisi, hatursorðræðu og fleira. Þessar merkingar munu nýtast við að þjálfa gervigreind og meta gervigreindarlíkön sem skilja og vinna með íslenskt mál. Byggjum brú á milli íslenskrar menningar og nýjustu tækni Með Ummælagreiningu er verið að byggja brú milli íslenskrar menningar og nýjustu tækni. Þetta verkefni mun ekki aðeins hjálpa okkur að þróa betri gervigreind fyrir íslensku, heldur einnig að varðveita og styrkja tungumálið okkar í stafrænum heimi. Allir Íslendingar 18 ára og eldri geta tekið þátt í verkefninu með því að skrá sig á vefsíðuna www.ummælagreining.is. Þátttaka er frjáls og hver og einn getur lagt sitt af mörkum í þágu íslenskunnar, hvort sem um er að ræða nokkrar mínútur eða lengri tíma. Ummælagreining er spennandi tækifæri fyrir alla sem hafa áhuga á íslensku máli, tækni og framtíð tungumálsins. Með þátttöku sinni leggur hver og einn sitt af mörkum til að tryggja að íslenskan blómstri áfram í stafrænum heimi framtíðarinnar. Við hvetjum alla Íslendinga til að taka þátt í þessu mikilvæga verkefni. Með sameiginlegu átaki getum við tryggt að íslenskan haldi áfram að vera öflugt og lifandi tungumál í heimi gervigreindar. Lilja Dögg Jónsdóttir, framkvæmdastjóri Almannaróms. Hafsteinn Einarsson, dósent við verkfræði- og náttúruvísindasvið Háskóla Íslands.
Skólabærinn Garðabær: Við mælum árangur og gerum stöðugt betur Almar Guðmundsson,Sigríður Hulda Jónsdóttir Skoðun
Skoðun Skortur á rafiðnaðarfólki ógnar samkeppnishæfni Evrópu Kristján Daníel Sigurbergsson skrifar
Skoðun Skólabærinn Garðabær: Við mælum árangur og gerum stöðugt betur Almar Guðmundsson,Sigríður Hulda Jónsdóttir skrifar
Skoðun Námsmat og Matsferill – Tækifæri til umbóta í skólastarfi Sigurbjörg Róbertsdóttir skrifar
Skoðun Tími til aðgerða - loftslags- og umhverfismál sett á dagskrá Jóna Þórey Pétursdóttir skrifar
Skoðun Setjum á okkur súrefnisgrímuna áður en við björgum heiminum. Nú þarf hinn þögli meirihluti að láta í sér heyra Steindór Þórarinsson skrifar
Skoðun Sterkt skólasamfélag á Akureyri, sameiginleg ábyrgð og framtíðarsýn Heimir Örn Árnason skrifar
Skoðun Fæðingarhríðir fjórðu iðnbyltingarinnar: Til fjármálafyrirtækja Klara Nótt Egilson skrifar
Skoðun Erfðir og endurframleiðsla félagslegra vandamála milli kynslóða Halldóra Lillý Jóhannsdóttir skrifar
Skoðun Opið bréf til utanríkisráðherra og alþingismanna: Farbann á hermenn sem taka þátt í þjóðarmorði Helen Ólafsdóttir skrifar
Skólabærinn Garðabær: Við mælum árangur og gerum stöðugt betur Almar Guðmundsson,Sigríður Hulda Jónsdóttir Skoðun