Viljum við að er­lendir milljarðamæringar setji ein­hliða leik­reglurnar í al­mannarýminu okkar?

Ekki er langt síðan Meta sem heldur m.a. úti Facebook, Instagram, WhatsApp og Threads upplýsti að fyrirtækið hygðist kynna til sögunnar gervinotendur á miðlum sínum sem væru búnir til með gervigreind. Markmiðið með þessum gervinotendum var að auka notkunina á miðlum fyrirtækisins. Þegar í ljós kom að gervinotendur svöruðu spurningum annarra notenda með óþægilegum eða óviðeigandi hætti kom í ljós að ekki var hægt að loka á þá eins og aðra notendur á miðlum Meta. Fyrirtækið ákvað að fjarlæga flesta þessara gervinotenda af miðlunum í kjölfarið.

Meta sem markaðssetti Facebook upphaflega sem leið fyrir vini og kunningja að halda tengslum, upplýsti nú í vikunni að miklar breytingar verði gerðar á því hvernig eftirliti verði háttað með efni á Facebook, Instagram og Threads. Ákveðið hefur verið að forgangsraða pólitísku efni og gera það enn sýnilegra inni á miðlunum með breytingum á algóritmum þessara samfélagsmiðla. Á meðan margir, sérstaklega á hægri væng stjórnmála hafa fagnað þessum breytingum, telja forsvarsmenn ýmissa félagasamtaka sem vinna að réttindum minnihlutahópa að ákvörðunin beri vitni um það hvernig pólitískur þrýstingur getur haft áhrif á forgangsröðun og stjórn slíkra miðla.

Breytingar á samfélagsmiðlum Meta

Meta hefur ákveðið að hætta samstarfi við rúmlega 90 staðreyndavaktir um allan heim sem vottaðar eru af International Fact-Checking Network og European Fact-Checking Standards Network á meira en 60 tungumálum. Eftirliti verði framvegis háttað með samskonar hætti og á samfélagsmiðlinum X, þ.e. með aðstoð notenda. Í tilkynningu fyrirtækisins er eftirlit, m.a. með hatursorðræðu gagnvart ýmsum minnihlutahópum kallað ritskoðun. Fyrirtækið hefur m.a. lýst því yfir að það muni hætta ýmsum aðgerðum sem var ætlað að vernda m.a. hinsegin fólk, konur og innflytjendur gegn haturstali. Teymi sem vinnur að trausti og öryggi á miðlunum verið flutt frá Kaliforníu til Texas, eins og samfélagsmiðillinn X gerði. Forstjóri Meta, Mark Zuckerberg, sagði í yfirlýsingunni að þessi breyting myndi hjálpa Meta að „byggja upp traust gagnvart þeirri vinnu á stöðum þar sem fólk hefur minni áhyggjur af hlutdrægni í teymum okkar“. Þá hefur repúblikaninn Joel Kaplan tekið við stjórninni af Bretanum Nick Clegg.

Ýmis félagasamtök vara við þessari stefnubreytingu Meta og telja að þetta kalli á enn stærri holskeflu haturs, samsæriskenninga og upplýsingaóreiðu. Verið sé að varpa ábyrgðinni á notendurna sjálfa á sama tíma og traust til fréttamiðla fer almennt minnkandi og rannsóknir sýna að rúmlega þriðjungur Evrópubúa forðast fréttir annað hvort oft eða reglubundið. Þessi þróun muni fylla almannarýmið enn frekar af röngum og misvísandi upplýsingum. Ætlunin með breytingunum sé að laga sig að stefnu nýkjörins forseta Bandaríkjanna, sem raunar hefur sakað Zuckerberg um að hafa áhrif á kosningar í Bandaríkjunum og hótað honum lífstíðarfangelsi. Ýmsir telja líklegt að þessi þróun í Bandaríkjunum muni kynda undir enn meiri skautun í vestrænum ríkjum þar sem lýðræðisleg umræða fer að stórum hluta fram á samfélagsmiðlum.

Á blaðamannafundi á Mar-a-Lago á þriðjudag viðurkenndi nýkjörinn Bandaríkjaforseti að breytingin hjá Meta væri „sennilega“ vegna hótana hans gagnvart Meta og Mark Zuckerberg.

Áhrif Elon Musk á pólitíska umræðu í Bandaríkjunum og Evrópu

Mark Zuckerberg er aðeins einn af þeim milljarðamæringum í tæknigeiranum sem nú eru að laga sig að nýjum pólitískum vindum í bandarískum stjórnmálum. Áður hafði Elon Musk tekið einarða afstöðu með nýkjörnum forseta í kosningabaráttunni, en hann er stundum kallaður „skuggaforseti“ Bandaríkjanna. Musk hefur gert viðamiklar breytingar á X (áður Twitter) frá því að hann keypti samfélagsmiðillinn á árinu 2022. Rannsóknir hafa m.a. sýnt að algóritmar X hafa gert færslur Musks sérstaklega hátt undir höfði á miðlinum. Einnig hafi færslur repúblikana og einstaklinga á hægri væng stjórnmálanna orðið sýnilegri en annarra notenda á X í kjölfar þess að Musk ákvað opinberlega að styðja Trump í kosningabaráttunni í Bandaríkjunum. Undanfarið hefur vakið athygli hvernig Elon Musk hefur stigið inn í pólitíska umræðu í Evrópu, sérstaklega í Bretlandi og Þýskalandi með stuðningi við þýska þjóðernisflokkinn AfD og ummælum um að forsætisráðherra Bretlands verði dæmdur í fangelsi.

Almennt er álitið að samfélagsmiðillinn X standi sig afar illa í að sporna gegn upplýsingaóreiðu og dreifingu ólöglegs efnis. Framkvæmdastjórn ESB hóf mál gegn X í árslok 2023 þar sem miðillinn virtist ekki fara að nýsamþykktri reglugerð ESB um að fjarlægja ólöglegt efni. Á síðasta ári sendi framkvæmdastjórnin miðlinum bráðabirgðaniðurstöður sínar um fjölda brota á ákvæðum reglugerðarinnar um eftirlit með efni á samfélagsmiðlinum. Málinu er ólokið.

Þá hefur X einnig orðið uppvís að því að dreifa falsupplýsingum frá óvinveittum ríkjum sem ætlað er að hafa áhrif á lýðræðislega umræðu á Vesturlöndum. Í lok síðasta árs kom t.d. í ljós að rússneska teymið Matroyshka sem dreifir upplýsingaóreiðu í þeim tilgangi að grafa undan stuðningi við Úkraínu fór óáreitt í herferð á X. Voru búin til gervigreindarmyndbönd með þekktu háskólafólki og vísindamönnum frá háskólum eins og Cambridge, Harvard og Princeton sem geymdu skilaboð rússneskra stjórnvalda um að Evrópa þjáist vegna viðskiptaþvingana gagnvart Rússlandi, að Vesturlönd þurfi að hætta stuðningi við Úkraínu og að gefa verði Rússum eftir ákveðin landsvæði í Úkraínu. Myndböndin sem voru uppspuni voru þýdd á ýmis tungumál.

Getur Evrópa framfylgt eigin lagasetningu um samfélagsmiðla?

Í ljósi framangreindra áskorana má spyrja hvernig Evrópuríki geti framfylgt lagasetningu, sérstaklega Digital Services Act (DSA), Digital Markets Act (DMA) og gervigreindarlöggjöfinni (AI Act) sem Ísland mun innleiða á grundvelli EES-samningsins. Framkvæmdastjórnin rekur nú mál gegn X og samkvæmt tilkynningunni í vikunnu virðast miðlar Meta vera þróast í sömu átt er varðar eftirlit með efni. Í kynningarmyndbandi Zuckerbergs í vikunni nefnir hann að í Evrópu væri „sívaxandi lagasetning sem feli í sér stofnanavædda ritskoðun sem gerir það erfitt að byggja upp eitthvað nýstárlegt þar“. Framkvæmastjórn ESB hefur svarað þessum ásökunum og bent á að eftirlit með ólöglegu efni á samfélagsmiðlum eigi ekkert skylt við ritskoðun.

Á undanförnum árum hafa stofnanir hér á landi og í öðrum lýðræðisríkjum átt samstarf um að verja almannarýmið í aðdraganda almennra kosninga. Fjölmiðlanefnd hefur tekið virkan þátt í því samstarfi ásamt öðrum stofnunum, enda hefur nefndin það lögbundna hlutverk að stuðla að miðla- og upplýsingalæsi meðal almennings og auka félagslegt netöryggi hér á landi. Þetta verkefni verður flóknara með ári hverju vegna aukinna netárása og upplýsingaóreiðu frá óvinveittum ríkjum sem er ætlað að hafa áhrif á almenningsálitið og lýðræðislegar kosningar í lýðræðisríkjum. Ástandið í okkar almannarými í Evrópu er orðið svo alvarlegt að hugtakið vitsmunahernaður (e. cognitive warfare) er notað í samstarfi vinaþjóða okkar um það hvernig lygar og falsupplýsingar frá óvinveittum ríkjum og aðilum þeim tengdum eru kerfisbundið notaðar til að hafa áhrif á lýðræðislega umræðu, niðurstöður kosninga og til að grafa undan trausti, lýðræði og réttarríkinu. Djúpfölsuð hljóðbrot og myndskeið af stjórnmálamönnum verða sífellt algengari og dreifast eins og eldur í sinu á samfélagsmiðlum nema sett verði lög sem skylda samfélagsmiðlana að bregðast við.

Samfélagsmiðlar eiga stóran þátt í aukinni skautun

Því er stundum haldið fram að hætti samfélagsmiðlar allri „ritskoðun“ á miðlum sínum fái fleiri raddir og skoðanir að heyrast í opinberri umræðu. Þessi staðhæfing tekur ekki mið af því að samfélagsmiðlar eru nú þegar með skýra ritstjórnarstefnu, sem m.a. birtist í algóritmum þar sem þeir ákveða einhliða hvaða raddir fá mesta útbreiðslu og hverjar minni. Samfélagsmiðlar eru langt frá því að vera hlutlaus vettvangur skoðanaskipta sem gerir ekki upp á milli manna. Með algóritmum sínum hindra þeir nú þegar dreifingu ákveðinna sjónarmiða en veita öðrum sjónarmiðum aukið brautargengi, einkum þeim sem vekja sterkar tilfinningar svo sem reiði og ótta. Afleiðingin er aukin skautun. En af hverju gera samfélagsmiðlar þetta? Ástæðan er sú að þeirra eigin rannsóknir á milljörðum notenda hafa leitt í ljós að slíkt efni er til þess fallið að auka notkun samfélagsmiðla, sem aftur drífur áfram viðskiptamódel þeirra og hagnað. Fullyrða má að þessir hvatar, sem hér hefur verið lýst, draga úr trausti manna í millum, auka skautun og grafa undan opinni lýðræðislegri umræðu.

Nauðsyn samtals um leikreglur almannarýmisins

Við Íslendingar þurfum að hefja samtal um það hversu viðkvæm samfélagsleg umræða í okkar almannarými er orðin fyrir einhliða ákvörðunum milljarðamæringa um þær leikreglur sem gilda á helstu samfélagsmiðlum. Hversu auðvelt það er orðið fyrir erlend ríki og hagsmunaaðila að hafa áhrif á lýðræðislega umræðu, sérstaklega í umdeildum málum. Slík umræða er hafin á hinum Norðurlöndunum þar sem dönsk stjórnvöld hafa verið leiðandi. Sænsk og norsk stjórnvöld hafa einnig verið að móta sér stefnu auk þess sem umræðan um heilbrigt almannarými hefur verið til umræðu á samnorrænum vettvangi þar sem tillögur að aðgerðum hafa verið settar fram.

Við þurfum að spyrja okkur hvaða leikreglur við viljum viðhafa í opnu lýðræðissamfélagi þar sem umræða fer að stórum hluta fram á stafrænum miðlum. Hvað þurfa samfélagsmiðlar sem tryggir að allir þjóðfélagshópar geti tekið þátt í opinni umræðu? Er eðlilegt að gervinotendur, sem samfélagsmiðlarnir sjálfir búa til, séu þátttakendur í lýðræðislegri umræðu? Hvernig eigum við að tryggja að óvinveitt ríki og hagsmunaaðilar þeim tengdir hafi ekki áhrif á umræðuna í stórum pólitískum málum eða í aðdraganda kosninga og þjóðaratkvæðagreiðslna? Af hverju eru algóritmar samfélagsmiðla hannaðir til draga fram það sem sundrar okkur og stuðla þannig að aukinni skautun en ekki til að lyfta því sem sameinar okkur? Hvaða kröfur viljum við gera til að tryggja lýðræði og réttarríkið í tæknivæddum heimi.

Nú eru kröfur og væntingar til fjölmiðla allt aðrar og meiri en til samfélagsmiðla. Fréttir og ritstjórnarefni hafa vikið í meiri mæli fyrir kostuðu efni og myndskeiðum frá áhrifavöldum á samfélagsmiðlum. Eignarhald, viðskiptamódel og algóritmar samfélagsmiðla skipta máli ef tryggja á upplýsta umræðu í samfélaginu. Hvar á þessi umræða að fara fram? Ýmsir hafa fært sig inn á miðla eins og Mastodon eða Bluesky og full ástæða er til að fjalla um kosti og galla allra þeirra samfélagsmiðla sem standa almenningi til boða. Einnig má spyrja hvort stærsti hluti samfélagsumræðunnar eigi að fara fram á samfélagsmiðlum hagnaðardrifinna stórfyrirtækja sem hafa algóritma og þar með leikreglur umræðunnar í hendi sér.

Við stöndum frammi fyrir risavöxnum áskorunum sem eru eins konar álagspróf á okkar opna frjálslynda lýðræði, mannréttindi og réttarríkið. Ef við ætlum að tryggja lýðræði þurfum við að ræða hvaða kröfur gera verður til þeirra sem einhliða setja leikreglurnar um almannarýmið okkar.

Höfundur er framkvæmdastjóri Fjölmiðlanefndar.