Styttist í háþróuð gervigreindarsvindl á íslensku Vésteinn Örn Pétursson skrifar 28. júlí 2025 22:08 Hafsteinn segir stutt í að gervigreindarsvindlin fari að láta á sér kræla fyrir alvöru. Vísir Dósent í tölvunarfræði segir ekki langt í að gervigreindartækni sem hermir eftir röddum fólks verði orðin svo góð að hægt verði að nota hana að blekkja Íslendinga, bæði á netinu og símleiðis. Stjórnvöld þurfi að bregðast við með einhverjum hætti. Í kvöldfréttum okkar í gær sögðum við frá myndbandi sem birtist á samfélagsmiðlum, þar sem þekktir íslendingar eru, með hjálp gervigreindar, látnir líta út fyrir að segja eitthvað sem þeir hafa aldrei sagt. Hafsteinn Einarsson, dósent í tölvunarfræði við Háskóla Íslands, segir tæknina aðeins eiga eftir að verða betri, þegar kemur að beitingu íslenskunnar. „Og erfiðara að sjá hvað er raunverulegt, og hvað ekki. Þannig að þetta er spurning um hvernig við eigum að geta treyst upplýsingum á þessari upplýsinga og gervigreindaröld.“ Peningaplokk með hjálp gervigreindar Tæknin sé orðin mjög fullkomin víða, líkt og nýlegt myndband frá framleiðendum þáttanna South Park, sem sýnir Donald Trump stríplast um í eyðimörk, sýnir fram á. Hafsteinn segir margar hættur geta leynst í tækniframförum þegar kemur að gervigreind sem hermir eftir röddum fólks. „Til dæmis gæti verið að þú fáir símtal sem hljómar eins og það sé að koma frá dóttur, foreldri, barni. Hljómar nákvæmlega eins og viðkomandi sé bara í gíslingu, og þú þarft að millifæra einhverja peninga til þess að bjarga viðkomandi.“ Þarf fólk að koma sér upp leyniorði? Fólk þurfi að búa sig sig undir að gervigreind verði í auknum mæli notuð til að blekkja það. „Þurfum við öll að vera með eitthvað leyniorð sem við deilum okkar á milli, þannig að þegar það er hringt og eitthvað hljómar alvarlega þá þurfum við að vera tilbúin að segja þetta leyniorð? Ég veit það ekki.“ Stjórnvöld þurfi að bregðast við, en í Danmörku sé löggjöf í pípunum sem eigi að höfundarréttarverja rödd og andlit einstaklinga. Háþróuð gervigreindarsvindl muni líklega koma fyrst fram á stærri Norðurlöndunum en hér, þótt ómögulegt sé að segja hversu langt sé þangað til. „Þetta er kannski líka bara tímaspursmál um að einhver taki sig til og leggi áherslu á íslenskuna, sem er með reikniaflið og peningana til þess að gera þetta almennilega.“ Gervigreind Tækni Netöryggi Íslensk tunga Mest lesið Vaktin: Dómari kveður upp um refsingu Diddy Erlent Grunaður um að hafa brotið á fleiri en tíu börnum Innlent Nýsestur á skrifstofunni þegar hann fékk bíl í flasið Innlent Sagt að njóta ótruflaðrar ástar í Venesúela Innlent Starfsmaður á Brákarborg grunaður um kynferðisbrot Innlent Látinn fara eftir að hafa neitað Trump um sverð í eigu Eisenhower Erlent Fólk að bugast þar til hætt var að manna vaktir á föstudögum Innlent Rekja andlát dóttur að hluta til samsæriskenninga móður Erlent „Mér finnst þeir vera að taka frá mér lífið“ Innlent Bein útsending: Siglt áleiðis til Gasa Erlent Fleiri fréttir Vann á öllum deildum leikskólans Segja Rússa heyja stríð við Vesturlönd og síðustu ævidagarnir á Grund „Kópavogsmódelið er ekkert annað en þjónustuskerðing“ Nýsestur á skrifstofunni þegar hann fékk bíl í flasið Starfsmaður á Brákarborg grunaður um kynferðisbrot Fresta framkvæmdum vegna veðurs Sýnist komið að seinni hluta í eldsumbrotum í Sundhnúksgígaröðinni Grunaður um að hafa brotið á fleiri en tíu börnum Varaformannsslagur í Miðflokknum: Öll vinir og „peppuð“ fyrir landsþingi Stöðfirðingum enn ráðlagt að sjóða vatn vegna mengunar Tillögurnar í leikskólamálum séu vonbrigði og uppgjöf Jörð skelfur í Krýsuvík og Þjóðaröryggisráð fundaði í morgun Fólk að bugast þar til hætt var að manna vaktir á föstudögum Snorri etur kappi við Bergþór og Ingibjörgu Hafnaði kæru Sameindar vegna Konukots í Ármúla Ingibjörg tekur slaginn við Bergþór Skjálftahrina við Krýsuvík og Kleifarvatn Sagt að njóta ótruflaðrar ástar í Venesúela Bergþór vill verða varaformaður Óljóst hvort Kínverjarnir geti sótt vélina sína „Mér finnst þeir vera að taka frá mér lífið“ Rauk upp úr flugvél Jet2 Loka leikskóladeild á Stöðvarfirði vegna manneklu Nýjar tillögur falli á herðar vinnandi foreldra Eðlilegt að Ísland skoði að taka þátt Til umræðu að setja upp lokunarpósta við Fossvogsbrú Ragnhildur tekur við Kveik Blæs á sögusagnir um úthugsaða fléttu og ótti við að enda rúmliggjandi Vilja að fallið verði frá hækkun áfengisskatta „Þetta er auðvitað allt of lítið úrtak til að vera marktækt“ Sjá meira
Í kvöldfréttum okkar í gær sögðum við frá myndbandi sem birtist á samfélagsmiðlum, þar sem þekktir íslendingar eru, með hjálp gervigreindar, látnir líta út fyrir að segja eitthvað sem þeir hafa aldrei sagt. Hafsteinn Einarsson, dósent í tölvunarfræði við Háskóla Íslands, segir tæknina aðeins eiga eftir að verða betri, þegar kemur að beitingu íslenskunnar. „Og erfiðara að sjá hvað er raunverulegt, og hvað ekki. Þannig að þetta er spurning um hvernig við eigum að geta treyst upplýsingum á þessari upplýsinga og gervigreindaröld.“ Peningaplokk með hjálp gervigreindar Tæknin sé orðin mjög fullkomin víða, líkt og nýlegt myndband frá framleiðendum þáttanna South Park, sem sýnir Donald Trump stríplast um í eyðimörk, sýnir fram á. Hafsteinn segir margar hættur geta leynst í tækniframförum þegar kemur að gervigreind sem hermir eftir röddum fólks. „Til dæmis gæti verið að þú fáir símtal sem hljómar eins og það sé að koma frá dóttur, foreldri, barni. Hljómar nákvæmlega eins og viðkomandi sé bara í gíslingu, og þú þarft að millifæra einhverja peninga til þess að bjarga viðkomandi.“ Þarf fólk að koma sér upp leyniorði? Fólk þurfi að búa sig sig undir að gervigreind verði í auknum mæli notuð til að blekkja það. „Þurfum við öll að vera með eitthvað leyniorð sem við deilum okkar á milli, þannig að þegar það er hringt og eitthvað hljómar alvarlega þá þurfum við að vera tilbúin að segja þetta leyniorð? Ég veit það ekki.“ Stjórnvöld þurfi að bregðast við, en í Danmörku sé löggjöf í pípunum sem eigi að höfundarréttarverja rödd og andlit einstaklinga. Háþróuð gervigreindarsvindl muni líklega koma fyrst fram á stærri Norðurlöndunum en hér, þótt ómögulegt sé að segja hversu langt sé þangað til. „Þetta er kannski líka bara tímaspursmál um að einhver taki sig til og leggi áherslu á íslenskuna, sem er með reikniaflið og peningana til þess að gera þetta almennilega.“
Gervigreind Tækni Netöryggi Íslensk tunga Mest lesið Vaktin: Dómari kveður upp um refsingu Diddy Erlent Grunaður um að hafa brotið á fleiri en tíu börnum Innlent Nýsestur á skrifstofunni þegar hann fékk bíl í flasið Innlent Sagt að njóta ótruflaðrar ástar í Venesúela Innlent Starfsmaður á Brákarborg grunaður um kynferðisbrot Innlent Látinn fara eftir að hafa neitað Trump um sverð í eigu Eisenhower Erlent Fólk að bugast þar til hætt var að manna vaktir á föstudögum Innlent Rekja andlát dóttur að hluta til samsæriskenninga móður Erlent „Mér finnst þeir vera að taka frá mér lífið“ Innlent Bein útsending: Siglt áleiðis til Gasa Erlent Fleiri fréttir Vann á öllum deildum leikskólans Segja Rússa heyja stríð við Vesturlönd og síðustu ævidagarnir á Grund „Kópavogsmódelið er ekkert annað en þjónustuskerðing“ Nýsestur á skrifstofunni þegar hann fékk bíl í flasið Starfsmaður á Brákarborg grunaður um kynferðisbrot Fresta framkvæmdum vegna veðurs Sýnist komið að seinni hluta í eldsumbrotum í Sundhnúksgígaröðinni Grunaður um að hafa brotið á fleiri en tíu börnum Varaformannsslagur í Miðflokknum: Öll vinir og „peppuð“ fyrir landsþingi Stöðfirðingum enn ráðlagt að sjóða vatn vegna mengunar Tillögurnar í leikskólamálum séu vonbrigði og uppgjöf Jörð skelfur í Krýsuvík og Þjóðaröryggisráð fundaði í morgun Fólk að bugast þar til hætt var að manna vaktir á föstudögum Snorri etur kappi við Bergþór og Ingibjörgu Hafnaði kæru Sameindar vegna Konukots í Ármúla Ingibjörg tekur slaginn við Bergþór Skjálftahrina við Krýsuvík og Kleifarvatn Sagt að njóta ótruflaðrar ástar í Venesúela Bergþór vill verða varaformaður Óljóst hvort Kínverjarnir geti sótt vélina sína „Mér finnst þeir vera að taka frá mér lífið“ Rauk upp úr flugvél Jet2 Loka leikskóladeild á Stöðvarfirði vegna manneklu Nýjar tillögur falli á herðar vinnandi foreldra Eðlilegt að Ísland skoði að taka þátt Til umræðu að setja upp lokunarpósta við Fossvogsbrú Ragnhildur tekur við Kveik Blæs á sögusagnir um úthugsaða fléttu og ótti við að enda rúmliggjandi Vilja að fallið verði frá hækkun áfengisskatta „Þetta er auðvitað allt of lítið úrtak til að vera marktækt“ Sjá meira