Gervigreind og hröð og hæg hugsun Þorsteinn Siglaugsson skrifar 28. nóvember 2023 20:01 Samkvæmt gervigreindarbloggaranum Alberto Romero var upphafið að þeirri atburðarás sem átti sér stað innan OpenAI fyrirtækisins, sem þróar ChatGPT mállíkanið, fyrir um 10 dögum síðan líklega tengt ágreiningi varðandi nýja Q* (Q-Star) líkanið sem er talið geta leyst flókin stærðfræðileg vandamál, eitthvað sem núverandi stóru tungumálalíkön geta ekki gert. Forstjórinn, Sam Altman, var fyrst rekinn af stjórninni, en ráðinn aftur fáum dögum síðar og nánast öllum stjórnarmönnum skipt út. Að mati Romerosendurspeglar þessi atburður djúpstæðan ágreining milli yfirlýsts markmiðs fyrirtækisins um að þróa örugga gervigreind sem gagnast öllu mannkyni og þeirrar almennu stefnu tæknifyrirtækja að vera í fremstu röð á sínu sviði við þróun og markaðssetningu nýjunga. Þetta er kannski dæmigert fyrir það sem getur gerst þegar fyrirtæki setur sér mótsagnakennd markmið. Hvað er Q* líkanið? Fyrir nokkrum dögum birti Andrej Karpathy, sérfræðingur hjá OpenAI, myndband þar sem hann útskýrir stóru tungumálalíkönin, hvað þau eru, hvernig þau virka og hvernig þau kunna að þróast. Þetta myndband er eiginlega skylduáhorf fyrir alla sem vilja fá greinargott yfirlit yfir þessa nýju tækni. Meðal annars ræðir Karpathy Q* líkanið og mikilvægi þess. Hann lýsir getu þess með því að vísa til aðgreiningar Daniels Kahnemann milli hraðrar og hægrar hugsunar, eða þess sem hann nefnir "System 1" og "System 2" hugsun. Dæmi um "System 1" hugsun er þegar við leggjum saman tvo og tvo. Við svörum strax, notum upplýsingar sem eru til staðar í huga okkar, í skammtímaminninu. En ef dæmið er 24*47 er, geta fæstokkar svarað strax. Við þurfum að fara í "System 2", "hægu" hugsunina til þess. Eins og Karpathy útskýrir, færir Q* verkefnið stórt tungumálalíkan yfir á stig "System 2" hugsunar. Þetta er mikil framför í getu slíks líkans og markvert skref í átt að svonefndri almennri gervigreind, líkani sem stendur okkur langtum framar í getu til rökhugsunar. Það hljómar ekki ósennilega að ótti við afleiðingar þessarar þróunar og vantraust á áætlunum Altmansum hana hafi legið að baki ákvörðun stjórnarinnar. Það sem stjórnin virðist hins vegar ekki hafa áttað sig á er að á endanum býr þekkingin sem knýr fyrirtækið í hugum starfsmanna og stjórnenda, og ný tækni, hversu ógnvekjandi sem hún kann að virðast, gufar ekki upp, sama hvað stjórn eins fyrirtækis ákveður, jafnvel þótt ákvörðunin leiddi til upplausnar fyrirtækisins. Hvernig getum við brugðist við? Stóru mállíkönin munu halda áfram að þróast ogbreyta lífi okkar og við höfum aðeins séð glitta í blátoppinn á þeim ísjaka. Fram að þessu hafa líkönin aðeins verið fær um "System 1" hugsun, og samt hef ég sannreynt að þau hafa nú þegar umtalsverða getu til að meta jafnvel flóknar röklegar greiningar. Fljótlega verður þessi geta langtum meiri. Hvernig getum við brugðist við? Einu raunhæfu viðbrögðin eru þau að við gerum okkar besta til að efla okkar eigin hugsun og nýtum þessa nýju tækni til þess: Við verðum að styrkja okkar eigin málskilning og tjáningarhæfni eins og kostur er. Við verðum að efla okkar eigin getu til gagnrýninnar hugsunar. Við verðum að þjálfa okkur markvisst í samskiptum við mállíkönin. Þetta gerir enginn fyrir okkur. Við verðum að gera það sjálf, hvert og eitt. Það er verkefnið framundan. Höfundur er ráðgjafi og stjórnendaþjálfari, https://thinksharper.net. Viltu birta grein á Vísi? Sendu okkur póst. Senda grein Þorsteinn Siglaugsson Gervigreind Tækni Mest lesið Iðjuþjálfun í verki Þóra Leósdóttir Skoðun Geta öll dýrin í skóginum verið vinir? Steinar Bragi Sigurjónsson Skoðun Kirkjur og kynfræðsla Bjarni Karlsson Skoðun Stóriðjutíminn á Íslandi er að renna sitt skeið Guðmundur Franklin Jónsson Skoðun Í nafni frelsis og valdeflingar Ragnar Þór Ingólfsson Skoðun Að læra íslensku sem annað mál: ný brú milli íslensku og ensku Guðrún Nordal Skoðun Hamona Benedikt S. Benediktsson Skoðun Stúlka frá Gaza sem að missti allt Asil Jihad Al-Masri Skoðun Núll mínútur og þrjátíuogeittþúsund Grétar Birgisson Skoðun Mannfræðingar á atvinnumarkaði: opið bréf til íslenskra atvinnuveitenda Elísabet Dröfn Kristjánsdóttir Skoðun Skoðun Skoðun Geta öll dýrin í skóginum verið vinir? Steinar Bragi Sigurjónsson skrifar Skoðun Iðjuþjálfun í verki Þóra Leósdóttir skrifar Skoðun Mannfræðingar á atvinnumarkaði: opið bréf til íslenskra atvinnuveitenda Elísabet Dröfn Kristjánsdóttir skrifar Skoðun Íbúðalán Landsbankans og fyrstu kaupendur Helgi Teitur Helgason skrifar Skoðun Að læra íslensku sem annað mál: ný brú milli íslensku og ensku Guðrún Nordal skrifar Skoðun Hamona Benedikt S. Benediktsson skrifar Skoðun Ógn og ofbeldi á vinnustöðum – hvað er til ráða Gísli Níls Einarsson skrifar Skoðun Lesum meira með börnunum okkar Steinn Jóhannsson skrifar Skoðun Kynjajafnrétti á ekki að stöðvast við hurð heilbrigðiskerfisins Elín A. Eyfjörð Ármannsdóttir skrifar Skoðun Stóriðjutíminn á Íslandi er að renna sitt skeið Guðmundur Franklin Jónsson skrifar Skoðun Núll mínútur og þrjátíuogeittþúsund Grétar Birgisson skrifar Skoðun Barnvæn borg byggist á traustu leikskólakerfi Stefán Pettersson skrifar Skoðun Kirkjur og kynfræðsla Bjarni Karlsson skrifar Skoðun Ójöfnuður í fjármögnun nýsköpunarverkefna Elinóra Inga Sigurðardóttir skrifar Skoðun „Dánaraðstoð er viðurkenning á sjálfræði sjúklings og mannlegri reisn” Ingrid Kuhlman skrifar Skoðun Þjóð án máls – hver þegir, hver fær að tala? Guðjón Heiðar Pálsson skrifar Skoðun Hvað vilja sumarbústaðaeigendur í Grímsnes- og Grafningshreppi? Bergdís Linda Kjartansdóttir skrifar Skoðun Lýðræði og samfélagsmiðlar Ása Berglind Hjálmarsdóttir skrifar Skoðun „Þú þarft ekki að skilja, bara virða“ Hanna Birna Valdimarsdóttir skrifar Skoðun Þetta er ekki tölfræði, heldu líf fólks Sandra B. Franks skrifar Skoðun Stjórnmálaklækir og hræsni Salvör Gullbrá Þórarinsdóttir skrifar Skoðun Samfélag sem stendur saman Benóný Valur Jakobsson skrifar Skoðun Er biðin á enda? Halla Thoroddsen skrifar Skoðun Lífsstílsvísindi og breytingaskeiðið Harpa Lind Hilmarsdóttir skrifar Skoðun Hærri skattar á ferðamenn draga úr tekjum ríkissjóðs Þórir Garðarsson skrifar Skoðun Ég þarf ekki að læra íslensku til að búa hérna Halla Hrund Logadóttir skrifar Skoðun Ósýnilegu bjargráð lögreglumannsins Sigurður Árni Reynisson skrifar Skoðun Allt á einum stað – framtíð stafrænnar þjónustu ríkis og sveitarfélaga Einar Sveinbjörn Guðmundsson skrifar Skoðun Óttast Þorgerður úrskurð EFTA-dómstólsins? Hjörtur J. Guðmundsson skrifar Skoðun Jafnréttisþjóðin sem gleymdi dansinum Brogan Davison,Pétur Ármannsson skrifar Sjá meira
Samkvæmt gervigreindarbloggaranum Alberto Romero var upphafið að þeirri atburðarás sem átti sér stað innan OpenAI fyrirtækisins, sem þróar ChatGPT mállíkanið, fyrir um 10 dögum síðan líklega tengt ágreiningi varðandi nýja Q* (Q-Star) líkanið sem er talið geta leyst flókin stærðfræðileg vandamál, eitthvað sem núverandi stóru tungumálalíkön geta ekki gert. Forstjórinn, Sam Altman, var fyrst rekinn af stjórninni, en ráðinn aftur fáum dögum síðar og nánast öllum stjórnarmönnum skipt út. Að mati Romerosendurspeglar þessi atburður djúpstæðan ágreining milli yfirlýsts markmiðs fyrirtækisins um að þróa örugga gervigreind sem gagnast öllu mannkyni og þeirrar almennu stefnu tæknifyrirtækja að vera í fremstu röð á sínu sviði við þróun og markaðssetningu nýjunga. Þetta er kannski dæmigert fyrir það sem getur gerst þegar fyrirtæki setur sér mótsagnakennd markmið. Hvað er Q* líkanið? Fyrir nokkrum dögum birti Andrej Karpathy, sérfræðingur hjá OpenAI, myndband þar sem hann útskýrir stóru tungumálalíkönin, hvað þau eru, hvernig þau virka og hvernig þau kunna að þróast. Þetta myndband er eiginlega skylduáhorf fyrir alla sem vilja fá greinargott yfirlit yfir þessa nýju tækni. Meðal annars ræðir Karpathy Q* líkanið og mikilvægi þess. Hann lýsir getu þess með því að vísa til aðgreiningar Daniels Kahnemann milli hraðrar og hægrar hugsunar, eða þess sem hann nefnir "System 1" og "System 2" hugsun. Dæmi um "System 1" hugsun er þegar við leggjum saman tvo og tvo. Við svörum strax, notum upplýsingar sem eru til staðar í huga okkar, í skammtímaminninu. En ef dæmið er 24*47 er, geta fæstokkar svarað strax. Við þurfum að fara í "System 2", "hægu" hugsunina til þess. Eins og Karpathy útskýrir, færir Q* verkefnið stórt tungumálalíkan yfir á stig "System 2" hugsunar. Þetta er mikil framför í getu slíks líkans og markvert skref í átt að svonefndri almennri gervigreind, líkani sem stendur okkur langtum framar í getu til rökhugsunar. Það hljómar ekki ósennilega að ótti við afleiðingar þessarar þróunar og vantraust á áætlunum Altmansum hana hafi legið að baki ákvörðun stjórnarinnar. Það sem stjórnin virðist hins vegar ekki hafa áttað sig á er að á endanum býr þekkingin sem knýr fyrirtækið í hugum starfsmanna og stjórnenda, og ný tækni, hversu ógnvekjandi sem hún kann að virðast, gufar ekki upp, sama hvað stjórn eins fyrirtækis ákveður, jafnvel þótt ákvörðunin leiddi til upplausnar fyrirtækisins. Hvernig getum við brugðist við? Stóru mállíkönin munu halda áfram að þróast ogbreyta lífi okkar og við höfum aðeins séð glitta í blátoppinn á þeim ísjaka. Fram að þessu hafa líkönin aðeins verið fær um "System 1" hugsun, og samt hef ég sannreynt að þau hafa nú þegar umtalsverða getu til að meta jafnvel flóknar röklegar greiningar. Fljótlega verður þessi geta langtum meiri. Hvernig getum við brugðist við? Einu raunhæfu viðbrögðin eru þau að við gerum okkar besta til að efla okkar eigin hugsun og nýtum þessa nýju tækni til þess: Við verðum að styrkja okkar eigin málskilning og tjáningarhæfni eins og kostur er. Við verðum að efla okkar eigin getu til gagnrýninnar hugsunar. Við verðum að þjálfa okkur markvisst í samskiptum við mállíkönin. Þetta gerir enginn fyrir okkur. Við verðum að gera það sjálf, hvert og eitt. Það er verkefnið framundan. Höfundur er ráðgjafi og stjórnendaþjálfari, https://thinksharper.net.
Mannfræðingar á atvinnumarkaði: opið bréf til íslenskra atvinnuveitenda Elísabet Dröfn Kristjánsdóttir Skoðun
Skoðun Mannfræðingar á atvinnumarkaði: opið bréf til íslenskra atvinnuveitenda Elísabet Dröfn Kristjánsdóttir skrifar
Skoðun Kynjajafnrétti á ekki að stöðvast við hurð heilbrigðiskerfisins Elín A. Eyfjörð Ármannsdóttir skrifar
Skoðun „Dánaraðstoð er viðurkenning á sjálfræði sjúklings og mannlegri reisn” Ingrid Kuhlman skrifar
Skoðun Hvað vilja sumarbústaðaeigendur í Grímsnes- og Grafningshreppi? Bergdís Linda Kjartansdóttir skrifar
Skoðun Allt á einum stað – framtíð stafrænnar þjónustu ríkis og sveitarfélaga Einar Sveinbjörn Guðmundsson skrifar
Mannfræðingar á atvinnumarkaði: opið bréf til íslenskra atvinnuveitenda Elísabet Dröfn Kristjánsdóttir Skoðun