Tæknin í okkar þágu – ekki öfugt

Það gerist ekki oft að leiðtogar fremstu gervigreindarfyrirtækja heims, virtir vísindamenn og stjórnmálamenn frá hægri og vinstri stígi fram nánast samtímis og segi: Við þurfum að hægja á.

En þetta hefur gerst síðustu daga.

Dario Amodei, forstjóri Anthropic, hefur kallað eftir því að hægt verði á þróun öflugustu gervigreindarlíkana heims. Elon Musk og Sam Altman hjá OpenAI hafa tekið undir þau orð, ekki vegna þess að þeir hafi misst trú á tækifærunum sem felast í tækninni, heldur vegna þess að henni fleygir svo hratt fram að öryggisráðstafanir, regluverk og alþjóðlegt samstarf eiga erfitt með að halda í við þróunina.

Á sama tíma hafa sérfræðingar sem starfa í fremstu víglínu hringt viðvörunarbjöllum. Jacob Coxon, sem áður starfaði hjá OpenAI, sagði nýlega upp starfi sínu hjá Anthropic og varaði við afleiðingum alþjóðlegs kapphlaups um að þróa gervigreind sem gæti farið fram úr mannlegri getu og orðið sífellt færari um að bæta sjálfa sig. Nóbelsverðlaunahafinn Geoffrey Hinton, einn af frumkvöðlum nútímagervigreindar, hefur um nokkurt skeið varað við þróuninni og kallað eftir ábyrgum og samstilltum viðbrögðum stjórnvalda.

Hér er ekki lengur aðeins um framtíðarspádóma að ræða. Gervigreindarkerfi eru þegar farin að aðstoða við þróun næstu kynslóðar slíkra kerfa. Forsvarsmenn Anthropic segja til dæmis þeirra eigin líkön nú þegar leggja umtalsvert af mörkum til rannsókna og þróunar innan fyrirtækisins.

Því vaknar mikilvæg spurning: Hvað gerist þegar tæknin tekur sífellt meiri þátt í að þróa sjálfa sig?

Kannski segir það þó mest um stöðuna hversu óvenjuleg bandalög hafa myndast.

Steve Bannon, þekktur ráðgjafi repúblikana á hægri vængnum, og Bernie Sanders, öldungadeildarþingmaður á vinstri vængnum, eru ekki sammála um margt. En fyrir fáum dögum stigu þeir báðir á svið á sama fundi í Washington og kölluðu eftir ákveðnari viðbrögðum stjórnvalda. Þótt þá greini á um lausnir eru þeir sammála um eitt grundvallaratriði: Þróun tækni sem getur umbreytt samfélögum okkar má ekki ráðast eingöngu af kapphlaupi milli fyrirtækja og ríkja. Manneskjan verður að vera í fyrirrúmi og stjórnvöld þurfa að setja gervigreindinni skynsamleg vegrið.

Þegar leiðtogar gervigreindarfyrirtækjanna sjálfra kalla eftir því að hægt verði á, vísindamenn segja upp störfum til að vara okkur við og pólitískir andstæðingar á borð við Sanders og Bannon finna sameiginlegan flöt – þá eigum við að hlusta.

Gervigreind getur orðið eitt öflugasta tæki sem mannkynið hefur skapað. Hún getur hraðað vísindalegum framförum, bætt heilbrigðisþjónustu og menntun, aukið framleiðni og hjálpað okkur að takast á við stærstu áskoranir samtímans.

En tækifærin og ábyrgðin þurfa að haldast í hendur. Við þurfum að tryggja að tæknin þjóni mannkyninu – en ekki öfugt.

Við eigum ekki að standa á hliðarlínunni í þessari byltingu. Við eigum að nýta gervigreindina af metnaði – og taka jafnframt virkan þátt í að móta þær leikreglur sem henni þurfa að fylgja.

Er sagan að endurtaka sig?

Einn þeirra sem hefur verið áberandi í umræðunni síðustu daga er Tristan Harris, stofnandi Center for Humane Technology (Miðstöð mannvænlegrar tækni).

Margir þekkja Tristan úr heimildamyndinni The Social Dilemma. Fyrir rúmum áratug hóf hann að vara við stafrænu viðskiptamódeli samfélagsmiðla sem gerði athygli okkar að söluvöru.

Þá þóttu mörgum viðvaranirnar ýktar.

Í dag vitum við betur.

Samfélagsmiðlar hafa vissulega fært okkur stórkostleg tækifæri til samskipta og þekkingarmiðlunar. En við sjáum líka skuggahliðarnar: Neikvæð áhrif á athygli og líðan, ekki síst ungs fólks, aukna skautun og stafrænt umhverfi sem gjarnan verðlaunar reiði og öfgar umfram yfirvegun og samtal.

Tæknin sem átti að tengja okkur hvert við annað hefur jafnframt grafið undan friðinum innra með okkur og einnig friðinum manna á milli.

Nú segir Tristan að við eigum á hættu að endurtaka sömu mistök – nema að þessu sinni með margfalt öflugri tækni. Hann hvetur stjórnvöld, fyrirtæki og samfélög til að taka viðvörunarmerkin í kringum gervigreind alvarlega.

Þess vegna fagna ég því að Tristan Harris er væntanlegur til Íslands í október, þegar fjörutíu ár verða liðin frá leiðtogafundinum í Höfða. Hann mun taka þátt í umræðum um þær áskoranir sem blasa við okkur nú – ekki til að segja okkur að óttast framtíðina, heldur til að hjálpa okkur að ræða hvernig við viljum móta hana.

Ábyrgðin er okkar

Gervigreind er ekki aðeins tæknilegt viðfangsefni. Hún snýst um efnahagsmál, menntamál, öryggismál og lýðræði – og umfram allt framtíð okkar og mannkynsins alls.

Hvernig tryggjum við að börnin okkar læri áfram að hugsa sjálf þegar vélar geta svarað nánast hvaða spurningu sem er? Hvernig stöndum við vörð um athygli þeirra og líðan? Hvernig varðveitum við traust þegar sífellt erfiðara verður að greina hvað er raunverulegt og hvað ekki? Og hvernig undirbúum við menntakerfið og vinnumarkaðinn fyrir breytingar sem kunna að verða hraðari og afdrifaríkari en við höfum áður upplifað?

Á alþjóðavettvangi blasir við enn stærri spurning. Við lifum nú þegar í heimi vaxandi stríðsátaka, aukinnar spennu og endurnýjaðrar kjarnorkuógnar. Hvernig komum við í veg fyrir að kapphlaup milli stórvelda um öflugri gervigreind verði nýtt vígbúnaðarkapphlaup – þar sem ríki telja sig ekki geta hægt á af ótta við að einhver annar komist fram úr?

Þarna snertast tæknin og friðurinn.

Við þurfum ekki að velja á milli nýsköpunar og ábyrgðar. Við þurfum hvort tveggja. Við þurfum ekki minni metnað, heldur meiri visku. Við þurfum ekki að stöðva framfarir, heldur hafa hugrekki til að ákveða hvert við viljum að þær leiði okkur.

Tækninni mun áfram fleygja fram.

Stóra spurningin er hvort viska okkar, ábyrgð og geta til samstarfs haldi í við hana.

Því framtíðin má ekki einfaldlega ráðast af því hvað tæknin getur gert.

Við verðum sjálf að ákveða hvað við viljum að hún geri – og í þágu hverra.

Höfundur er forseti Íslands.