Gervigreind í námi: 5 lykilskref fyrir öryggi nemenda Björgmundur Guðmundsson skrifar 22. júní 2025 07:01 Ímyndaðu þér skólastjóra á Selfossi sem þarf að velja á milli þess að verja fjármagni í nýtt gervigreindarkerfi fyrir stærðfræðikennslu eða að ráða nýjan kennara. Ábyrgðin er mikil, ákvarðanirnar eru erfiðar og áhrifin verða afdrifarík fyrir nemendur. Hér fellur endanleg ábyrgð alltaf á stjórnendur, árangur eða mistök, ávinningur eða skaði, allt lendir þetta á borði þeirra sem stýra sveitarfélögum og skólum. Það er lykilatriði að stjórnendur hafi skýran vegvísi í höndunum til að taka þessar ákvarðanir á réttum forsendum og tryggja að ekki sé tekin óásættanleg áhætta með velferð og framtíð nemenda. Þessi grein er hagnýt handbók um ábyrga forystu. Hér er fimm skrefa vegvísir sem getur hjálpað stjórnendum að taka forystu og innleiða gervigreind á öruggan og ábyrgan hátt. Skref 1: Áður en þú kaupir tæknina – skilgreindu markmiðið Áður en fyrsta hugbúnaðarleyfið er keypt verður að svara einni spurningu: Hvaða vandamál erum við að reyna að leysa? Er markmiðið að minnka brottfall nemenda í unglingadeildinni á Akureyri? Að bæta lesskilning á yngsta stigi? Eða að létta álagi af kennurum í ákveðnum fögum? Að kaupa tækni án skýrs markmiðs er uppskrift að sóun á fjármagni. Skilgreinið vandann fyrst og leitið síðan að tækni sem getur hjálpað til við að leysa hann. Skýr markmið gera það auðveldara að mæla árangur og velja réttu verkfærin. Skref 2: Þverfaglegt teymi – öryggisnet nemandans Innleiðing gervigreindar má aldrei vera einangrað verkefni tölvudeildarinnar. Stofna þarf þverfaglegt teymi innan sveitarfélagsins eða skólans sem ber sameiginlega ábyrgð. Í slíku teymi þurfa að vera: Kennari sem skilur raunveruleikann í kennslustofunni. Skólastjórnandi sem þekkir rekstrarumhverfið. Persónuverndarfulltrúi sem þekkir lögin. Tæknistjóri sem skilur tæknilegu áskoranirnar. Fulltrúi foreldra sem getur komið sjónarmiðum þeirra á framfæri. Foreldrar eru lykilaðilar þegar kemur að persónuvernd og öryggi barna þeirra. Reglulegir fundir þar sem foreldrar fá tækifæri til að ræða áhyggjur sínar og leggja fram spurningar eru nauðsynlegir til að byggja upp traust. Þetta teymi tryggir að litið sé á málið frá öllum hliðum og kemur í veg fyrir að mikilvæg atriði gleymist. Skref 3: Ekki treysta glærunum – gerðu ítarlegar kröfur Áður en samningur er undirritaður við hugbúnaðarfyrirtæki þarf innkaupateymið að fara í gegnum strangan gátlista. Látið aldrei söluræður eða glærukynningar duga. Krefjist skriflegra svara við eftirfarandi spurningum: Persónuvernd: Hvar eru gögnin hýst (innan EES)? Hver á gögnin? Hvernig er þeim eytt að samningstíma loknum? Hvernig tryggið þið að farið sé eftir GDPR? Hlutdrægni (Bias): Hvernig var gervigreindarlíkanið ykkar þjálfað? Hvernig prófið þið fyrir bjögun gagnvart minnihlutahópum eða nemendum með íslensku sem annað mál? Gagnsæi og áfrýjun: Er hægt að fá útskýringu á því hvernig reikniritið kemst að ákveðinni niðurstöðu (t.d. einkunn)? Er til formlegt ferli fyrir foreldra eða nemendur til að áfrýja ákvörðun sem tekin er af gervigreind? Öryggi: Hver er viðbragðsáætlun ykkar við gagnabrotum? Hvernig er aðgangsstýringu háttað? Eitt dæmi er þar sem skóli fjárfesti nýlega í gervigreindarkerfi og komst svo að því að gögn nemenda voru geymd utan Evrópu. Slíkt hefði mátt fyrirbyggja með ítarlegri kröfum áður en samið var. Skref 4: Kennarar þurfa meira en tækninámskeið Að rétta kennara spjaldtölvu og lykilorð er ekki innleiðing. Starfsfólk þarf þjálfun sem snýst ekki bara um að læra á takkana, heldur um að byggja upp menningu gagnrýninnar notkunar. Þjálfunin þarf að ná yfir: Að spyrja kerfið spurninga: Kennarar verða að vera þjálfaðir í að efast um niðurstöður gervigreindar og sannreyna upplýsingar. Að þekkja takmörkin: Hvað getur gervigreindin gert vel og hvar er hún óáreiðanleg? Tilkynningarferli: Hvert á kennari að leita ef hann telur að kerfið sé að gera mistök eða sýni af sér hlutdrægni? Skref 5: Endurmat og eftirlit – verkefni sem lýkur aldrei Gervigreind er ekki verkefni sem klárast. Koma þarf á fót ferli fyrir reglubundið endurmat: Árleg úttekt: Eru verkfærin enn að þjóna upprunalegum markmiðum? Hafa komið fram nýjar áhættur? Endurskoðun stefnu: Þarf að uppfæra reglur og verklag í ljósi nýrrar tækni eða reynslu? Mæling á árangri: Erum við að sjá mælanlegan ávinning (t.d. minna álag, betri námsárangur) sem réttlætir kostnaðinn? Fimm lykilatriði ábyrgrar innleiðingar: Stefna fyrst, tækni síðan: Skilgreinið markmið áður en tæki er valið. Samráð tryggir yfirsýn: Stofnið þverfaglegt teymi til að tryggja að litið sé á málið frá öllum hliðum. Skýrar kröfur til birgja: Gerið strangar kröfur um persónuvernd, öryggi og hlutleysi. Þjálfun í gagnrýnni notkun: Byggið upp menningu þar sem starfsfólk efast og sannreynir upplýsingar. Stöðugt eftirlit og endurmat: Fylgist með árangri og endurskoðið stefnuna reglulega. Innleiðing gervigreindar er stór ákvörðun sem krefst forystu, yfirsýnar og vandaðra vinnubragða. Með því að fylgja þessum fimm skrefum geta stjórnendur tryggt að þessi öfluga tækni verði til heilla fyrir skólastarfið en ekki til ama. Framtíð íslenskra skóla verður ekki ákveðin af tækni heldur af því hvernig við ákveðum að nota hana. Að lokum snýst innleiðing gervigreindar ekki aðeins um tækni, heldur um siðferðislega ábyrgð okkar gagnvart nemendum. Við erum að móta framtíð barna okkar og það er okkar að tryggja að þessi framtíð verði ekki aðeins tæknilega háþróuð heldur einnig réttlát og örugg. Stjórnendur í íslenskum skólum og sveitarfélögum standa nú frammi fyrir miklu tækifæri. En til þess að nýta þetta tækifæri á öruggan hátt þurfa þeir að vera undirbúnir. Ekki bíða eftir að vandamálin komi upp; setjið þessa áætlun af stað í dag og tryggðu að innleiðing gervigreindar verði til heilla, ekki til skaða. Í dag geta nemendur látið gervigreindina gera verkefnin fyrir sig. Við þurfum að gefa skólunum aðgang að gervigreind sem fær nemendurna til að læra. Í næstu grein mun ég skrifa ítarlegar um innleiðingu á næstu 5 árum. Björgmundur Guðmundsson, ráðgjafi í nýsköpun og gervigreind. Viltu birta grein á Vísi? Sendu okkur póst. Senda grein Björgmundur Örn Guðmundsson Mest lesið Opnum Tröllaskagann Helgi Jóhannsson Skoðun Henti Íslandi undir strætisvagninn Hjörtur J. Guðmundsson Skoðun Forvarnateymi grunnskóla – góð hugmynd sem má ekki sofna Eydís Ásbjörnsdóttir Skoðun Hafa íslenskir neytendur sama rétt og evrópskir? Ásthildur Lóa Þórsdóttir,Ragnar Þór Ingólfsson Skoðun Lesskilningur eða lesblinda??? Jóhannes Jóhannesson Skoðun Til þeirra sem fagna Doktornum! Kristján Freyr Halldórsson Skoðun Ávinningur af endurhæfingu – aukum lífsgæðin Ólafur H. Jóhannsson Skoðun Hringekja verðtryggingar og hárra vaxta Benedikt Gíslason Skoðun Áfram gakk – með kerfisgalla í bakpokanum Harpa Þorsteinsdóttir Skoðun Skuldin við úthverfin Jóhanna Dýrunn Jónsdóttir Skoðun Skoðun Skoðun Lesskilningur eða lesblinda??? Jóhannes Jóhannesson skrifar Skoðun Henti Íslandi undir strætisvagninn Hjörtur J. Guðmundsson skrifar Skoðun Forvarnateymi grunnskóla – góð hugmynd sem má ekki sofna Eydís Ásbjörnsdóttir skrifar Skoðun Opnum Tröllaskagann Helgi Jóhannsson skrifar Skoðun Ávinningur af endurhæfingu – aukum lífsgæðin Ólafur H. Jóhannsson skrifar Skoðun Hefur þú heyrt þetta áður? Stefnir Húni Kristjánsson skrifar Skoðun Hringekja verðtryggingar og hárra vaxta Benedikt Gíslason skrifar Skoðun Áfram gakk – með kerfisgalla í bakpokanum Harpa Þorsteinsdóttir skrifar Skoðun Til þeirra sem fagna Doktornum! Kristján Freyr Halldórsson skrifar Skoðun Skuldin við úthverfin Jóhanna Dýrunn Jónsdóttir skrifar Skoðun Málgögn og gervigreind Steinþór Steingrímsson,Einar Freyr Sigurðsson,Helga Hilmisdóttir skrifar Skoðun Réttlæti hins sterka. Gildra dómarans Jörgen Ingimar Hansson skrifar Skoðun Einelti er dauðans alvara Kolbrún Áslaugar Baldursdóttir skrifar Skoðun Hafa íslenskir neytendur sama rétt og evrópskir? Ásthildur Lóa Þórsdóttir,Ragnar Þór Ingólfsson skrifar Skoðun Sótt að réttindum kvenna — núna Svandís Svavarsdóttir skrifar Skoðun Afnám tilfærslu milli skattþrepa Breki Pálsson skrifar Skoðun Þegar heilinn sveltur: Tími til að endurhugsa stefnu í geðheilbrigðismálum Vigdís M. Jónsdóttir skrifar Skoðun Opið bréf til umhverfis-, orku- og loftslagsráðherra Bogi Ragnarsson skrifar Skoðun Íslenska þjóð, þú ert núna að gleyma Sighvatur Björgvinsson skrifar Skoðun Tölum íslensku um bíðandi börn: Uppgjöf, svarthol og lögbrot Vigdís Gunnarsdóttir skrifar Skoðun Fjórði hver vinnur í verslun og þjónustu Benedikt S. Benediktsson skrifar Skoðun Engin eftirspurn eftir Viðreisnar- og Samfylkingarmódelinu Andri Steinn Hilmarsson skrifar Skoðun Pabbar, mömmur, afar, ömmur Jón Pétur Zimsen skrifar Skoðun Vellíðan í vinnu Ingrid Kuhlman skrifar Skoðun Hefur vanfjármögnun sveitarfélaga áhrif á byggingarkostnað? Jón Ingi Hákonarson skrifar Skoðun Þar sem gervigreind er raunverulega að breyta öllu Björgmundur Örn Guðmundsson skrifar Skoðun Eru vegir fyrir ferðamenn mikilvægari en vegir fyrir fólk sem býr hér? Petrína Þórunn Jónsdóttir skrifar Skoðun Er Evrópa á villigötum? Efnahagsleg hnignun kallar á róttæka endurskoðun Eggert Sigurbergsson skrifar Skoðun Samræmd nálgun að öryggi og skilvirkni á ytri landamærum - Innleiðing EES á Íslandi Arngrímur Guðmundsson skrifar Skoðun Íslenskir flóttamenn - í okkar eigin landi Gunnar Magnús Diego skrifar Sjá meira
Ímyndaðu þér skólastjóra á Selfossi sem þarf að velja á milli þess að verja fjármagni í nýtt gervigreindarkerfi fyrir stærðfræðikennslu eða að ráða nýjan kennara. Ábyrgðin er mikil, ákvarðanirnar eru erfiðar og áhrifin verða afdrifarík fyrir nemendur. Hér fellur endanleg ábyrgð alltaf á stjórnendur, árangur eða mistök, ávinningur eða skaði, allt lendir þetta á borði þeirra sem stýra sveitarfélögum og skólum. Það er lykilatriði að stjórnendur hafi skýran vegvísi í höndunum til að taka þessar ákvarðanir á réttum forsendum og tryggja að ekki sé tekin óásættanleg áhætta með velferð og framtíð nemenda. Þessi grein er hagnýt handbók um ábyrga forystu. Hér er fimm skrefa vegvísir sem getur hjálpað stjórnendum að taka forystu og innleiða gervigreind á öruggan og ábyrgan hátt. Skref 1: Áður en þú kaupir tæknina – skilgreindu markmiðið Áður en fyrsta hugbúnaðarleyfið er keypt verður að svara einni spurningu: Hvaða vandamál erum við að reyna að leysa? Er markmiðið að minnka brottfall nemenda í unglingadeildinni á Akureyri? Að bæta lesskilning á yngsta stigi? Eða að létta álagi af kennurum í ákveðnum fögum? Að kaupa tækni án skýrs markmiðs er uppskrift að sóun á fjármagni. Skilgreinið vandann fyrst og leitið síðan að tækni sem getur hjálpað til við að leysa hann. Skýr markmið gera það auðveldara að mæla árangur og velja réttu verkfærin. Skref 2: Þverfaglegt teymi – öryggisnet nemandans Innleiðing gervigreindar má aldrei vera einangrað verkefni tölvudeildarinnar. Stofna þarf þverfaglegt teymi innan sveitarfélagsins eða skólans sem ber sameiginlega ábyrgð. Í slíku teymi þurfa að vera: Kennari sem skilur raunveruleikann í kennslustofunni. Skólastjórnandi sem þekkir rekstrarumhverfið. Persónuverndarfulltrúi sem þekkir lögin. Tæknistjóri sem skilur tæknilegu áskoranirnar. Fulltrúi foreldra sem getur komið sjónarmiðum þeirra á framfæri. Foreldrar eru lykilaðilar þegar kemur að persónuvernd og öryggi barna þeirra. Reglulegir fundir þar sem foreldrar fá tækifæri til að ræða áhyggjur sínar og leggja fram spurningar eru nauðsynlegir til að byggja upp traust. Þetta teymi tryggir að litið sé á málið frá öllum hliðum og kemur í veg fyrir að mikilvæg atriði gleymist. Skref 3: Ekki treysta glærunum – gerðu ítarlegar kröfur Áður en samningur er undirritaður við hugbúnaðarfyrirtæki þarf innkaupateymið að fara í gegnum strangan gátlista. Látið aldrei söluræður eða glærukynningar duga. Krefjist skriflegra svara við eftirfarandi spurningum: Persónuvernd: Hvar eru gögnin hýst (innan EES)? Hver á gögnin? Hvernig er þeim eytt að samningstíma loknum? Hvernig tryggið þið að farið sé eftir GDPR? Hlutdrægni (Bias): Hvernig var gervigreindarlíkanið ykkar þjálfað? Hvernig prófið þið fyrir bjögun gagnvart minnihlutahópum eða nemendum með íslensku sem annað mál? Gagnsæi og áfrýjun: Er hægt að fá útskýringu á því hvernig reikniritið kemst að ákveðinni niðurstöðu (t.d. einkunn)? Er til formlegt ferli fyrir foreldra eða nemendur til að áfrýja ákvörðun sem tekin er af gervigreind? Öryggi: Hver er viðbragðsáætlun ykkar við gagnabrotum? Hvernig er aðgangsstýringu háttað? Eitt dæmi er þar sem skóli fjárfesti nýlega í gervigreindarkerfi og komst svo að því að gögn nemenda voru geymd utan Evrópu. Slíkt hefði mátt fyrirbyggja með ítarlegri kröfum áður en samið var. Skref 4: Kennarar þurfa meira en tækninámskeið Að rétta kennara spjaldtölvu og lykilorð er ekki innleiðing. Starfsfólk þarf þjálfun sem snýst ekki bara um að læra á takkana, heldur um að byggja upp menningu gagnrýninnar notkunar. Þjálfunin þarf að ná yfir: Að spyrja kerfið spurninga: Kennarar verða að vera þjálfaðir í að efast um niðurstöður gervigreindar og sannreyna upplýsingar. Að þekkja takmörkin: Hvað getur gervigreindin gert vel og hvar er hún óáreiðanleg? Tilkynningarferli: Hvert á kennari að leita ef hann telur að kerfið sé að gera mistök eða sýni af sér hlutdrægni? Skref 5: Endurmat og eftirlit – verkefni sem lýkur aldrei Gervigreind er ekki verkefni sem klárast. Koma þarf á fót ferli fyrir reglubundið endurmat: Árleg úttekt: Eru verkfærin enn að þjóna upprunalegum markmiðum? Hafa komið fram nýjar áhættur? Endurskoðun stefnu: Þarf að uppfæra reglur og verklag í ljósi nýrrar tækni eða reynslu? Mæling á árangri: Erum við að sjá mælanlegan ávinning (t.d. minna álag, betri námsárangur) sem réttlætir kostnaðinn? Fimm lykilatriði ábyrgrar innleiðingar: Stefna fyrst, tækni síðan: Skilgreinið markmið áður en tæki er valið. Samráð tryggir yfirsýn: Stofnið þverfaglegt teymi til að tryggja að litið sé á málið frá öllum hliðum. Skýrar kröfur til birgja: Gerið strangar kröfur um persónuvernd, öryggi og hlutleysi. Þjálfun í gagnrýnni notkun: Byggið upp menningu þar sem starfsfólk efast og sannreynir upplýsingar. Stöðugt eftirlit og endurmat: Fylgist með árangri og endurskoðið stefnuna reglulega. Innleiðing gervigreindar er stór ákvörðun sem krefst forystu, yfirsýnar og vandaðra vinnubragða. Með því að fylgja þessum fimm skrefum geta stjórnendur tryggt að þessi öfluga tækni verði til heilla fyrir skólastarfið en ekki til ama. Framtíð íslenskra skóla verður ekki ákveðin af tækni heldur af því hvernig við ákveðum að nota hana. Að lokum snýst innleiðing gervigreindar ekki aðeins um tækni, heldur um siðferðislega ábyrgð okkar gagnvart nemendum. Við erum að móta framtíð barna okkar og það er okkar að tryggja að þessi framtíð verði ekki aðeins tæknilega háþróuð heldur einnig réttlát og örugg. Stjórnendur í íslenskum skólum og sveitarfélögum standa nú frammi fyrir miklu tækifæri. En til þess að nýta þetta tækifæri á öruggan hátt þurfa þeir að vera undirbúnir. Ekki bíða eftir að vandamálin komi upp; setjið þessa áætlun af stað í dag og tryggðu að innleiðing gervigreindar verði til heilla, ekki til skaða. Í dag geta nemendur látið gervigreindina gera verkefnin fyrir sig. Við þurfum að gefa skólunum aðgang að gervigreind sem fær nemendurna til að læra. Í næstu grein mun ég skrifa ítarlegar um innleiðingu á næstu 5 árum. Björgmundur Guðmundsson, ráðgjafi í nýsköpun og gervigreind.
Hafa íslenskir neytendur sama rétt og evrópskir? Ásthildur Lóa Þórsdóttir,Ragnar Þór Ingólfsson Skoðun
Skoðun Málgögn og gervigreind Steinþór Steingrímsson,Einar Freyr Sigurðsson,Helga Hilmisdóttir skrifar
Skoðun Hafa íslenskir neytendur sama rétt og evrópskir? Ásthildur Lóa Þórsdóttir,Ragnar Þór Ingólfsson skrifar
Skoðun Þegar heilinn sveltur: Tími til að endurhugsa stefnu í geðheilbrigðismálum Vigdís M. Jónsdóttir skrifar
Skoðun Engin eftirspurn eftir Viðreisnar- og Samfylkingarmódelinu Andri Steinn Hilmarsson skrifar
Skoðun Eru vegir fyrir ferðamenn mikilvægari en vegir fyrir fólk sem býr hér? Petrína Þórunn Jónsdóttir skrifar
Skoðun Er Evrópa á villigötum? Efnahagsleg hnignun kallar á róttæka endurskoðun Eggert Sigurbergsson skrifar
Skoðun Samræmd nálgun að öryggi og skilvirkni á ytri landamærum - Innleiðing EES á Íslandi Arngrímur Guðmundsson skrifar
Hafa íslenskir neytendur sama rétt og evrópskir? Ásthildur Lóa Þórsdóttir,Ragnar Þór Ingólfsson Skoðun