Forsvarsmenn OpenAI kalla eftir Alþjóðagervigreindarstofnun Hólmfríður Gísladóttir skrifar 24. maí 2023 07:12 Margir sjá fyrir sér að ofurgreind gæti tortímt mannkyninu en ógnirnar eru í raun mun fleiri og lúmskari. Stofnendur og stjórnendur OpenAI, sem eru að þróa gervigreindarforritið ChatGPT, kalla eftir því að komið verði á laggirnar stofnun á borð við Alþjóðakjarnorkumálastofnunina til að vernda mannkynið frá því að þróa „ofurgáfaða“ gervigreind sem gæti tortímt mannkyninu. Í ávarpi á vefsíðu fyrirtækisins kalla stofnendurnir Greg Brockman og Ilya Sutskever og framkvæmdastjórinn Sam Altman eftir því að alþjóðasamfélagið hefji vinnu við að rannsaka hvernig draga megi úr „tilvistarlegri áhættu“ gervigreindar með eftirliti, öryggisstöðlum og takmörkunum. Stjórnendur OpenAI segja mögulegt að á næstu tíu árum muni gervigreind taka fram úr sérfræðikunnáttu mannsins á flestum sviðum. Þetta muni hafa kosti og galla í för með sér en ofurgreind muni verða öflugasta tæknin sem maðurinn hefur nokkurn tímann þurft að fást við. Þeir segja gervigreindina munu opna á fordæmalausa hagsæld en tilvistarleg ógn geri það að verkum að grípa þurfi til forvarna. Til skemmri tíma ættu fyrirtæki sem eru leiðandi í þróun gervigreindar að taka sig saman um samfélagslega aðlögun með öryggi að leiðarljósi. Initial ideas for governance of superintelligence, including forming an international oversight organization for future AI systems much more capable than any today: https://t.co/9hJ9n2BZo7— OpenAI (@OpenAI) May 22, 2023 Center for AI Safety (CAIS) hefur tekið saman lista yfir mögulegar sviðsmyndir þar sem gervigreindin hefur fengið að þróast án eftirlits. Sérfræðingar stofnunarinnar sjá meðal annars fyrir sér að mannkynið gæti orðið algjörlega háð vélum og/eða að varanleg stéttskipting gæti orðið milli þess fámenna hóps sem á og stjórnar gervigreindinni og allra annara. Stjórnendur OpenAI segja því mikilvægt að fólk alls staðar í heiminum taki lýðræðislega ákvörðun um takmörk og umfang gervigreindarforrita. Þeir séu hins vegar ekki með svörin við því hvernig eigi að útfæra eftirlitið. Það sé ekki raunhæft að ætla að stöðva þróun gervigreindar, bæði vegna þess hversu jákvæðar breytingar hún muni hafa í för með sér en einnig vegna þess að maðurinn sé nú þegar komin á þá braut að gervigreindin sé það sem koma skal. Umfjöllun Guardian. Gervigreind Tækni Vísindi Mest lesið Arion opnar dagvistun til að auðvelda starfsfólki að brúa bilið Innlent Sósíalistar mælast inni og Vinstri græn í lífshættu Innlent Áfram séreign inn á lánin og ekkert kílómetragjald í bili Innlent Leynilega upptakan á Edition-hótelinu: „Ef ég á að taka fimmta sætið vil ég verða þinn maður í þessu“ Innlent „Leið eins og ég hefði verið kýld í magann þegar ég las þetta“ Innlent Tilnefning Gaetz sem dómsmálaráðherra vekur furðu og reiði Erlent „Nei, Áslaug Arna“ Innlent Fimm sveitarstjórnarfulltrúar í Strandabyggð beðist lausnar Innlent Maðurinn sem lögregla lýsti eftir er fundinn Innlent Sammála um níkótínpúðana en ekki áfengissöluna Innlent Fleiri fréttir Ætla ekki að aðstoða hundruð manna í lokaðri námu The Onion kaupir InfoWars Vill sýna þinginu hver ræður Sprengdi sig upp fyrir utan hæstarétt Brasilíu Um 800 milljónir manna í heiminum með sykursýki Vilja svipta Le Pen frelsinu og kjörgengi í fimm ár Tilnefning Gaetz sem dómsmálaráðherra vekur furðu og reiði Repúblikanar með Hvíta húsið og allt þingið undir sinni stjórn „Valdaskiptin munu ganga svo smurt fyrir sig“ Melania Trump afþakkaði boð Jill Biden Stefnir í hreinsanir innan Pentagon Ætlar að hætta áður en Trump rekur hann Mikil fjölgun í aftökum Rússa á stríðsföngum Hvítrússnesk andófskona skýtur upp kollinum eftir langa þögn Vill verða bæjarstjóri í Þórshöfn eftir kosningasigur Welby segir af sér í tengslum við kynferðisbrotamál Musk settur í niðurskurðinn og sjónvarpsmaður verður varnarmálaráðherra Aldraður barnalæknir dæmdur í fangelsi fyrir að vanvirða herinn Tugir látnir eftir að bíl var ekið inn í þvögu fólks í Kína Áfrýjun tólf ára fangelsisdóms vegna sjö þúsund króna hafnað Fjölgar hratt í ríkisstjórn Trumps Ganga til kosninga í febrúar Vörpuðu sprengjum á hópa tengda Íran í Sýrlandi Aðeins einn af tíu segist myndu tilkynna ofbeldið að fenginni reynslu „Ákveðinn árangur“ hafi náðst í viðræðum um vopnahlé í Líbanon Fimmtíu þúsund hermenn sagðir undirbúa gagnsókn í Kúrsk Búinn að velja sendiherra og „landamærakeisara“ Sakar Orbán um „ungverskt Watergate-hneyksli“ Vill losna við tálma úr vegi sínum Scholz tilbúinn að láta undan þrýstingi um vantraust Sjá meira
Í ávarpi á vefsíðu fyrirtækisins kalla stofnendurnir Greg Brockman og Ilya Sutskever og framkvæmdastjórinn Sam Altman eftir því að alþjóðasamfélagið hefji vinnu við að rannsaka hvernig draga megi úr „tilvistarlegri áhættu“ gervigreindar með eftirliti, öryggisstöðlum og takmörkunum. Stjórnendur OpenAI segja mögulegt að á næstu tíu árum muni gervigreind taka fram úr sérfræðikunnáttu mannsins á flestum sviðum. Þetta muni hafa kosti og galla í för með sér en ofurgreind muni verða öflugasta tæknin sem maðurinn hefur nokkurn tímann þurft að fást við. Þeir segja gervigreindina munu opna á fordæmalausa hagsæld en tilvistarleg ógn geri það að verkum að grípa þurfi til forvarna. Til skemmri tíma ættu fyrirtæki sem eru leiðandi í þróun gervigreindar að taka sig saman um samfélagslega aðlögun með öryggi að leiðarljósi. Initial ideas for governance of superintelligence, including forming an international oversight organization for future AI systems much more capable than any today: https://t.co/9hJ9n2BZo7— OpenAI (@OpenAI) May 22, 2023 Center for AI Safety (CAIS) hefur tekið saman lista yfir mögulegar sviðsmyndir þar sem gervigreindin hefur fengið að þróast án eftirlits. Sérfræðingar stofnunarinnar sjá meðal annars fyrir sér að mannkynið gæti orðið algjörlega háð vélum og/eða að varanleg stéttskipting gæti orðið milli þess fámenna hóps sem á og stjórnar gervigreindinni og allra annara. Stjórnendur OpenAI segja því mikilvægt að fólk alls staðar í heiminum taki lýðræðislega ákvörðun um takmörk og umfang gervigreindarforrita. Þeir séu hins vegar ekki með svörin við því hvernig eigi að útfæra eftirlitið. Það sé ekki raunhæft að ætla að stöðva þróun gervigreindar, bæði vegna þess hversu jákvæðar breytingar hún muni hafa í för með sér en einnig vegna þess að maðurinn sé nú þegar komin á þá braut að gervigreindin sé það sem koma skal. Umfjöllun Guardian.
Gervigreind Tækni Vísindi Mest lesið Arion opnar dagvistun til að auðvelda starfsfólki að brúa bilið Innlent Sósíalistar mælast inni og Vinstri græn í lífshættu Innlent Áfram séreign inn á lánin og ekkert kílómetragjald í bili Innlent Leynilega upptakan á Edition-hótelinu: „Ef ég á að taka fimmta sætið vil ég verða þinn maður í þessu“ Innlent „Leið eins og ég hefði verið kýld í magann þegar ég las þetta“ Innlent Tilnefning Gaetz sem dómsmálaráðherra vekur furðu og reiði Erlent „Nei, Áslaug Arna“ Innlent Fimm sveitarstjórnarfulltrúar í Strandabyggð beðist lausnar Innlent Maðurinn sem lögregla lýsti eftir er fundinn Innlent Sammála um níkótínpúðana en ekki áfengissöluna Innlent Fleiri fréttir Ætla ekki að aðstoða hundruð manna í lokaðri námu The Onion kaupir InfoWars Vill sýna þinginu hver ræður Sprengdi sig upp fyrir utan hæstarétt Brasilíu Um 800 milljónir manna í heiminum með sykursýki Vilja svipta Le Pen frelsinu og kjörgengi í fimm ár Tilnefning Gaetz sem dómsmálaráðherra vekur furðu og reiði Repúblikanar með Hvíta húsið og allt þingið undir sinni stjórn „Valdaskiptin munu ganga svo smurt fyrir sig“ Melania Trump afþakkaði boð Jill Biden Stefnir í hreinsanir innan Pentagon Ætlar að hætta áður en Trump rekur hann Mikil fjölgun í aftökum Rússa á stríðsföngum Hvítrússnesk andófskona skýtur upp kollinum eftir langa þögn Vill verða bæjarstjóri í Þórshöfn eftir kosningasigur Welby segir af sér í tengslum við kynferðisbrotamál Musk settur í niðurskurðinn og sjónvarpsmaður verður varnarmálaráðherra Aldraður barnalæknir dæmdur í fangelsi fyrir að vanvirða herinn Tugir látnir eftir að bíl var ekið inn í þvögu fólks í Kína Áfrýjun tólf ára fangelsisdóms vegna sjö þúsund króna hafnað Fjölgar hratt í ríkisstjórn Trumps Ganga til kosninga í febrúar Vörpuðu sprengjum á hópa tengda Íran í Sýrlandi Aðeins einn af tíu segist myndu tilkynna ofbeldið að fenginni reynslu „Ákveðinn árangur“ hafi náðst í viðræðum um vopnahlé í Líbanon Fimmtíu þúsund hermenn sagðir undirbúa gagnsókn í Kúrsk Búinn að velja sendiherra og „landamærakeisara“ Sakar Orbán um „ungverskt Watergate-hneyksli“ Vill losna við tálma úr vegi sínum Scholz tilbúinn að láta undan þrýstingi um vantraust Sjá meira
Leynilega upptakan á Edition-hótelinu: „Ef ég á að taka fimmta sætið vil ég verða þinn maður í þessu“ Innlent
Leynilega upptakan á Edition-hótelinu: „Ef ég á að taka fimmta sætið vil ég verða þinn maður í þessu“ Innlent