Gervi­greind og lýð­ræði

Öflugustu möguleikar gervigreindarinnar eru líklegir til að gefa mannkyninu mest – eins og hingað til hefur verið með nýjungar upplýsingatækninnar

Sá sem þetta ritar hefur kynnst þremur meginbyltingum tölvutækninnar: fyrst tengsla-gagnagrunnunum á níunda áratugnum, síðan veftækninni á þeim tíunda og félagsmiðlum undir 2010. Þessar tæknibyltingar hafa breytt nánast öllu hjá atvinnulífi, fjármálalífi og verslun, að ekki sé rætt um líf og möguleika almennings til vinnu, samskipta og skemmtunar. Þessi tækni bar með sér hættur og þeim hefur verið svarað - en mörgum er ósvarað.

Nú bætist ný bylting við, gervigreindin, sem lofar meiri umskiptum en allar fyrri. Það er í takt við hraða þróunarinnar sem er í veldisvexti – veldisvöxturinn þýðir að umskiptin með byltingunum ættu að stigmagnast og tíðni þeirra að aukast.

Bakgrunnur

Upp úr 1990 var lengi á náttborðinu hjá mér bók sem hét The Database Nation. Hún harðbannaði samkeyrslu upplýsinga og setti yfirvöldum tölvumála nokkrar meginreglur um hönnun gagnagrunna – annars væri allt í voða. Og hætturnar blöstu við, prófílering á hverjum einasta jarðarbúa, misnotkun ríkisvalds á þeim upplýsingum, afnám einkalífs o.s.frv.

Reyndin varð hins vegar sú að mesta hættan, það er, samtenging gagnagrunna, gaf mannkyninu mest. Hún hefur aukið öryggi á öllum sviðum, en fyrst og fremst opnað nýja möguleika á hagkvæmni.

En það er af eftirliti ríkisvalds og prófíleringu almennings að segja að rauntímasamskipti urðu eftirlæti eftirlitsaðila, bæði ríkisstjórna og ekki síður félagsmiðlarisanna á frjálsa markaðnum. Samtenging gagnagrunna skapaði ekki þá hættu fyrir einkalíf sem talið var, ef nokkra.

Tækifæri og ógnanir félagsmiðla

Félagsmiðlar hafa minnkað heiminn, kenningarnar um sex gráður aðskilnaðar (e. six degrees of separation) meðal jarðarbúa, sem eru frá fyrir 1960, eru ekki lengur réttar, kannski er nær sanni að tala um fjórar gráður, jafnvel þrjár og hálfa.

Í þeirri breytingu felast umskipti í öllum mannlegum samskiptum, bæði í stjórnmálum, hjá viðskiptalífi og almenningi. Auðvitað er þetta í takt við augljós markmið upplýsingatækninnar – að gera heiminn lítinn og geiminn undirgefinn manninum.

Bakhlið félagsmiðla sýndi sig með arabíska vorinu, sem voru einhverjar mislukkuðustu uppreisnir sem gerðar hafa verið og ekki síður með pólaríseringu sem afleiðingu af bergmálsherbergjum nýju tækninnar, sjá skrif Cass R. Sunstein. Þá kom fljótlega í ljós að árangursríkur skoðanaáróður var mögulegur í félagsmiðlum á grundvelli þekkingar á lífsmynstri almennings, sjá skýrslur Oxford Internet Institute. Frægasta herferðin var vegna Brexit, en rússnesk stjórnvöld hafa háð áróðursstríð á netinu um langt árabil og orðið nokkuð ágengt hér á landi. Til að aðgerðirnar skiluðu árangri varð að dreifa nýjum „sannleika“, sem oftast er vitnað til sem falsfrétta. Þegar þetta fer svo saman: pólarísering og skoðanaáróður með falsfréttum þá var og er lýðræðinu ógnað.

Nýir möguleikar með kóvídinu

Heimsfaraldur kóvíðs markaði á margan hátt upphaf nýrra tíma sem gáfu fyrirheit um að leysa mætti efnahagslegar og lýðræðislegar ógnir sem að heiminum steðjuðu, sjá bókina COVID-19: The Great Reset. Með aðskilnaði fólks, fjarvinnu frá heimilum og einangrun almennings voru gerðar tilraunir með framtíðarskipulag mála þar sem heimilið varð að miðju félagslegrar tilveru ( hversu slæmt sem þetta annars er í ljósi þess að drjúgur hluti Vesturlandabúa býr einn). Netverslun tók kipp og aðrar breytingar, svo sem minni viðvera á vinnustað, minni ferðalög vegna vinnu og fleira virðast sitja eftir sem árangur tilraunanna.

Tvennt var þó mikilvægast í okkar samhengi, það er, annars vegar að hægt var að hræða almenning nóg til þess að hann vantreysti lýðræðinu sem stjórnarformi, treysti stjórnmálamönnum ekki þegar mikið bjátaði á, heldur sérfræðingum – og hins vegar að hægt var að sameina vestrænar þjóðir um einn sameiginlegan skilning á viðbrögðum.

Þannig urðu meginstraums fjölmiðlar að áróðursvélum fyrirstaðreynda þekkingu, sjá nýlegan framburð Marianne Klowak hjá kanadíska ríkissjónvarpinu, og hins vegar kom fram lífsafstaða og gildismat sem kennd er við woke (sem þýðirað vera vakandi gagnvart jaðarskoðunum, falsi og ranglæti), kannski sem hugmyndafræðilegur grundvöllur breytingarinnar.

Hvort sem tilgangur fjölmiðlanna eða meginstraums menntamanna var að bjarga lýðræðinu eða fella það er svo annað mál.

Gervigreind á netinu

Það er við þessar aðstæður sem gervigreindin kemur fram á netinu. Við höfum pólaríseringu, skoðanaáróður í félagsmiðlum, falsfréttir, þekkjum afl hræðsluáróðurs, höfum veika tiltrú á lýðræðisforminu sem leið út úr stærri áskorunum og þráum sameiginlegan skilning, mannúð og einfaldari og raunsannan veruleika. Ekki verður sagt að það hittist vel á.

Með gervigreindinni er komin fram vél sem á að vera svo sannfærandi og rökföst að enginn geti að lokum andmælt henni. Hún verður sennilega ávallt beggja handa járn.

Margt fleira er í farvatninu. Hér skal nefnt að staðreynd þekking sækir meira og meira að stjórnvöldum. Við höfum kannski séð fyrir okkur góðlega prófessora sannfæra stjórnmálamenn um að ný þekking sé mikið traustari grunnur fyrir þjóðfélagslega reglusetningu en gamlar hugmyndir um hægri eða vinstri – en umskiptin frá pólitík til þekkingarlegra forsendna þurfa ekki að fara þannig fram.

Eins vel getur verið að tiltrúin á vestræn stjórnarform veikist, stjórnmálamennirnir verði kjánalegir og gamaldags, af því að nútíminn krefst nýrra viðmiðana. Almenningur getur allt í einu krafist þess að sóttvarnarlæknar ráði fyrir þjóðinni á tímum pesta, jarðfræðingar á tímum eldgosa og jarðskjálfta, veðurfræðingar þegar hafís leggur að landi eða lægðir ber að og alþjóðafræðingur stýri utanríkismálum.

Barátta þekkingarþjóðfélagsins við önnur sjónarmið sem krefjast þess að liggja til grundvallar stjórnmálaákvarðana ber með sér kröfuna um fall sjálfs grundvallar lýðræðisins. Hann er að almennsjónarmið liggi að baki ákvörðunum en ekki sértæk (hér í merkingunni sérfræðiþekking) og því geti almenningur kosið yfir sig stjórnvöld sem taka bestu ákvarðanirnar. Valdið er þá frá almenningi en ekki fræðagreinum.

Almenningur hefur ekki sértæka þekkingu og þess hefur ekki verið krafist af stjórnmálamönnum hingað til. Ef sértæk þekking tekur við af almennri verða lýðræðislegar kosningar leiksýning ekki síður en öll starfsemi stjórnmálaflokka og stjórnmálastofnana.

Sérfræðiþekking er í eðli sínu alræðisleg og hentar stjórnarháttum í Kína og víðar. Hér verður ekki spáð fyrir um fall vestræns lýðræðis heldur kreppu þess.

Gervigreindin leggur samt líkn við þraut. Í stað góðlega prófessorsins og í hans umboði gefur hún almenningi og stjórnmálamönnum sértæka þekkingu á hvaðeina. Jón Jónsson getur haft betri sóttvarnarupplýsingar en aðrir ef hann leitar í réttar þjónustuveitur gervigreindarinnar og þær sem eru svívirðilegastar í að stela nýjum gögnum (hér verður ekki rætt um höfundarétt eða einkaleyfi, sem gervigreindin setur væntanlega í enn frekara uppnám en verið hefur).

Gervigreindin hefur þá ein gildi og mikilvægast fyrir hverja þjóð að stjórnvöld hafi aðgang að óbjagaðri, víðtækri og nýrri þekkingu – að bestu gervigreindarveitunni.

Hin eina rétta þekking

Hvernig fer þá fyrir öðrum fyrri ógnunum upplýsingatækninnar sem hér hafa verið raktar, mun Jón Jónsson ekki sannfæra alla og eindrægni, sameiginleg heimssýn, verða að lokum hlutskipti almennings? Það gæti verið draumur þeirra ríkisstjórna sem nú vilja gera sig gildandi við þróun hagnýtingar tækninnar.

En tortryggni, pólarísering og stríð á netinu kalla væntanlega á ólíkan sannleika. Sennilegt er að hann komi frá ólíkum þjónustuveitum gervigreindar, veitum sem byggja á misvísandi gögnum. Þannig er ljóst að kínastjórn er þegar að þróa gervigreindarþjónustu fyrir netið og reikna má með að Rússland og jafnvel Íran og Norður-Kórea fylgi þeim eftir. Þá mun klofningur bandarísku þjóðarinnar væntanlega hafa áhrif á þróunina.

Hvað geta ríkisstjórnir gert?

Ekki verður annað séð en ríkisstjórnir verði að takmarka uppbyggingu gervigreindarþjónustu á netinu eins og hægt er, svipað og dreifingu þekkingar á kjarnorkuvopnum. Það gæti samt orðið hægara sagt en gert, samkvæmt nýjum leka frá Google (We have no moat) þar sem sagt er að mikill hluti hugbúnaðar þjónustuveitna gervigreindar sé í opnum aðgangi. Þannig geti nánast hver sem er hafið uppbyggingu gervigreindarþjónustu, en viðkomandi þarf auðvitað gögn og fyrirmæli.

Hafi menn reiknað með mögulegu eftirliti með starfsemi slíkra þjónustuveitna svipað og með kjarnorkuverum og -vopnum þannig að ólíkar ríkisstjórnir gætu tryggt að þeirra eigin almenningur hafi þann sannleika sem honum er ætlaður þá er ekki á vísan að róa. Ólíkar þjónustuveitur gefa ólíkar niðurstöður.

Til að takast á við lokun tækninnar, lokun sem í eðli sínu vegur að mannréttindum svo sem skoðanafrelsi og tjáningarfrelsi, jafnvel að grunngildum hugmynda um mannlega tilveru eins og frjálsum vilja, þurfa ríkisstjórnir að sannfæra almenning um réttmæti aðgerða sinna. Til þess hafa þær fyrst og fremst hræðsluna sem nú þegar hefur orðið vart við. Það er samt ekki endalaust hægt að hræða almenning í því skyni að hann afhendi grundvallarréttindi sín, en kóvíd var góð æfing.

Ástæða er til að hræðast hræðsluna og þær ákvarðanir sem mögulega verða teknar með stuðningi hennar.

Annað notagildi gervigreindar

Gervigreindin gæti náð árangri á mörgum sviðum mannlegrar virkni, þó ekki handmennta til að byrja með. Hvenær gervigreindin gerir betri skáldsögur en menn er óvíst, betri sagnfræðibækur, betri málverk eða betri tónverk – en allt þetta gæti verið fram undan. Hlutverk mannsins við listsköpun mun alla vega breytast.

Þá er ljóst að gervigreindin mun hafa gríðarleg áhrif á allt starf sem byggir á þekkingu; skólastarf og menntun og gera þekkinguna í að leita að upplýsingum og setja þær fram mikilvægari en að vita hlutina upp á sína tíu fingur. Það er ekki víst að próf í læknisfræði sé ávísun á rétta sjúkdómsgreiningu, 14 ára einrænn tölvuáhugamaður gæti komist að réttari niðurstöðu en menntaður læknir. En í raun vitum við á þessari stundu ekki til hlítar hvaða áhrif gervigreindin mun hafa í einstöku tilfellum.

Að lokum

Hér höfum við leikið okkur að hugmyndum sem varða þekkingu og stjórnmál. En áhrif gervigreindarinnar verða ekki síst á alla atvinnuvegi og fyrst á þá sem snúast um óáþreifanlega hluti eins og fjármál, en síðar á verklegar greinar. Þá standa eftir spurningar um hvað margt fólk þarf til að brauðfæða heiminn í framtíðinni og fjöldamargt fleira.

Kannski frelsar gervigreindin okkur frá vinnunni, en ákveðnir fræðimenn jafna frítíma við frelsi.

Eitt virðist ljóst: ef þeir möguleikar tækninnar sem nú eru taldir hættulegastir verða mikilvægastir og valda mestri hagsæld þá munum við hagnýta þá. Svolítið óstyrk, af því að maðurinn sér ekki alltaf vel fyrir afleiðingar gerða sinna. En kannski kemur gervigreindin þá sterk inn!

Höfundur er stjórnsýslufræðingur og starfar við ReykjavíkurAkademíuna.