Gervigreind og hröð og hæg hugsun Þorsteinn Siglaugsson skrifar 28. nóvember 2023 20:01 Samkvæmt gervigreindarbloggaranum Alberto Romero var upphafið að þeirri atburðarás sem átti sér stað innan OpenAI fyrirtækisins, sem þróar ChatGPT mállíkanið, fyrir um 10 dögum síðan líklega tengt ágreiningi varðandi nýja Q* (Q-Star) líkanið sem er talið geta leyst flókin stærðfræðileg vandamál, eitthvað sem núverandi stóru tungumálalíkön geta ekki gert. Forstjórinn, Sam Altman, var fyrst rekinn af stjórninni, en ráðinn aftur fáum dögum síðar og nánast öllum stjórnarmönnum skipt út. Að mati Romerosendurspeglar þessi atburður djúpstæðan ágreining milli yfirlýsts markmiðs fyrirtækisins um að þróa örugga gervigreind sem gagnast öllu mannkyni og þeirrar almennu stefnu tæknifyrirtækja að vera í fremstu röð á sínu sviði við þróun og markaðssetningu nýjunga. Þetta er kannski dæmigert fyrir það sem getur gerst þegar fyrirtæki setur sér mótsagnakennd markmið. Hvað er Q* líkanið? Fyrir nokkrum dögum birti Andrej Karpathy, sérfræðingur hjá OpenAI, myndband þar sem hann útskýrir stóru tungumálalíkönin, hvað þau eru, hvernig þau virka og hvernig þau kunna að þróast. Þetta myndband er eiginlega skylduáhorf fyrir alla sem vilja fá greinargott yfirlit yfir þessa nýju tækni. Meðal annars ræðir Karpathy Q* líkanið og mikilvægi þess. Hann lýsir getu þess með því að vísa til aðgreiningar Daniels Kahnemann milli hraðrar og hægrar hugsunar, eða þess sem hann nefnir "System 1" og "System 2" hugsun. Dæmi um "System 1" hugsun er þegar við leggjum saman tvo og tvo. Við svörum strax, notum upplýsingar sem eru til staðar í huga okkar, í skammtímaminninu. En ef dæmið er 24*47 er, geta fæstokkar svarað strax. Við þurfum að fara í "System 2", "hægu" hugsunina til þess. Eins og Karpathy útskýrir, færir Q* verkefnið stórt tungumálalíkan yfir á stig "System 2" hugsunar. Þetta er mikil framför í getu slíks líkans og markvert skref í átt að svonefndri almennri gervigreind, líkani sem stendur okkur langtum framar í getu til rökhugsunar. Það hljómar ekki ósennilega að ótti við afleiðingar þessarar þróunar og vantraust á áætlunum Altmansum hana hafi legið að baki ákvörðun stjórnarinnar. Það sem stjórnin virðist hins vegar ekki hafa áttað sig á er að á endanum býr þekkingin sem knýr fyrirtækið í hugum starfsmanna og stjórnenda, og ný tækni, hversu ógnvekjandi sem hún kann að virðast, gufar ekki upp, sama hvað stjórn eins fyrirtækis ákveður, jafnvel þótt ákvörðunin leiddi til upplausnar fyrirtækisins. Hvernig getum við brugðist við? Stóru mállíkönin munu halda áfram að þróast ogbreyta lífi okkar og við höfum aðeins séð glitta í blátoppinn á þeim ísjaka. Fram að þessu hafa líkönin aðeins verið fær um "System 1" hugsun, og samt hef ég sannreynt að þau hafa nú þegar umtalsverða getu til að meta jafnvel flóknar röklegar greiningar. Fljótlega verður þessi geta langtum meiri. Hvernig getum við brugðist við? Einu raunhæfu viðbrögðin eru þau að við gerum okkar besta til að efla okkar eigin hugsun og nýtum þessa nýju tækni til þess: Við verðum að styrkja okkar eigin málskilning og tjáningarhæfni eins og kostur er. Við verðum að efla okkar eigin getu til gagnrýninnar hugsunar. Við verðum að þjálfa okkur markvisst í samskiptum við mállíkönin. Þetta gerir enginn fyrir okkur. Við verðum að gera það sjálf, hvert og eitt. Það er verkefnið framundan. Höfundur er ráðgjafi og stjórnendaþjálfari, https://thinksharper.net. Viltu birta grein á Vísi? Sendu okkur póst. Senda grein Þorsteinn Siglaugsson Gervigreind Tækni Mest lesið „Sýndu mér vini þína og ég sýni þér framtíð þína“ Gísli Hvanndal Jakobsson Skoðun Takk, Gísli Marteinn Eva Dögg Davíðsdóttir Skoðun Áskorun til hæstvirts fjármálaráðherra Sigurðar Inga Jóhanssonar frá sérfræðingum í klínískri sálfræði Haukur Haraldsson,Inga Hrefna,Sólveig Erna Jónsdóttir,Kristbjörg Þórisdóttir Skoðun Hvað er fátækt? Sanna Magdalena Mörtudóttir Skoðun Skynsemishyggja Miðflokksins hvarf hratt Kristófer Már Maronsson Skoðun Græn vindorka Ásdís Hlökk Theodórsdóttir Skoðun Miðflokkurinn: fjarverandi í landi tækifæranna Lilja Hrund Lúðvíksdóttir Skoðun Heilsugæsla í vanda Jón Magnús Kristjánsson Skoðun Er rúmdýnan þín hægt og rólega að murka úr þér líftóruna? Gunnar Dan Wiium Skoðun Halldór 28.09.2024 Halldór Skoðun Skoðun Áskorun til hæstvirts fjármálaráðherra Sigurðar Inga Jóhanssonar frá sérfræðingum í klínískri sálfræði Haukur Haraldsson,Inga Hrefna,Sólveig Erna Jónsdóttir,Kristbjörg Þórisdóttir skrifar Skoðun Takk, Gísli Marteinn Eva Dögg Davíðsdóttir skrifar Skoðun Hvað er fátækt? Sanna Magdalena Mörtudóttir skrifar Skoðun „Sýndu mér vini þína og ég sýni þér framtíð þína“ Gísli Hvanndal Jakobsson skrifar Skoðun Evrópusambandið er í vanda Þórður Birgisson skrifar Skoðun Skynsemishyggja Miðflokksins hvarf hratt Kristófer Már Maronsson skrifar Skoðun Þetta gengur ekki lengur! Reynir Böðvarsson skrifar Skoðun „Með Guði vinkonu okkar“ Sigurvin Lárus Jónsson skrifar Skoðun Græn vindorka Ásdís Hlökk Theodórsdóttir skrifar Skoðun Af hverju þetta tímabundna álag á útsvarið? Bragi Bjarnason skrifar Skoðun Aðgengi að húsnæði fyrir ungt fólk – ekki lúxus heldur grundvallarréttur Gísli Rafn Ólafsson skrifar Skoðun Að eldast – ertu undirbúin? Hafdís Dögg Sveinbjarnardóttir ,Lára María Valgerðardóttir ,Magnús E. Smith skrifar Skoðun Heilsugæsla í vanda Jón Magnús Kristjánsson skrifar Skoðun Laxalús og varnir gegn henni Jón Sveinsson skrifar Skoðun En hér er ég ekkert... Nichole Leigh Mosty skrifar Skoðun Við getum ekki beðið í 131 ár Jódís Skúladóttir skrifar Skoðun Nýtt upphaf hjá Vinstri grænum Hólmfríður Jennýjar Árnadóttir skrifar Skoðun Íslensk kjör á íslenskum vinnumarkaði Kristrún Frostadóttir skrifar Skoðun Viðbrögð við vanlíðan ungmenna Sandra Björk Birgisdóttir skrifar Skoðun Valdatafl Skák og Mát! Lárus Guðmundsson skrifar Skoðun FO: Hvernig getur þú skipt sköpum fyrir konur í Súdan? Áslaug Eva Björnsdóttir skrifar Skoðun Tvö útspil Pírata fyrir notendur heilbrigðiskerfisins Halldóra Mogensen,Eva Sjöfn Helgadóttir skrifar Skoðun Miðflokkurinn: fjarverandi í landi tækifæranna Lilja Hrund Lúðvíksdóttir skrifar Skoðun Við stöndum saman með réttindum táknmálsins! Mordekaí Elí Esrason skrifar Skoðun Það sem „gleymist“ að segja Sigmar Guðmundsson skrifar Skoðun Hvar er fótspor stjórnvalda gegn vinnumansali? Þorbjörrg Sigríður Gunnlaugsdóttir skrifar Skoðun Þegar Joe Camel varð jafngóður vinur barnanna og Mikki mús Eyrún Magnúsdóttir skrifar Skoðun Riddarar kærleikans Halla Tómasdóttir skrifar Skoðun Um mennsku og samfélag Bolli Pétur Bollason skrifar Skoðun Er rúmdýnan þín hægt og rólega að murka úr þér líftóruna? Gunnar Dan Wiium skrifar Sjá meira
Samkvæmt gervigreindarbloggaranum Alberto Romero var upphafið að þeirri atburðarás sem átti sér stað innan OpenAI fyrirtækisins, sem þróar ChatGPT mállíkanið, fyrir um 10 dögum síðan líklega tengt ágreiningi varðandi nýja Q* (Q-Star) líkanið sem er talið geta leyst flókin stærðfræðileg vandamál, eitthvað sem núverandi stóru tungumálalíkön geta ekki gert. Forstjórinn, Sam Altman, var fyrst rekinn af stjórninni, en ráðinn aftur fáum dögum síðar og nánast öllum stjórnarmönnum skipt út. Að mati Romerosendurspeglar þessi atburður djúpstæðan ágreining milli yfirlýsts markmiðs fyrirtækisins um að þróa örugga gervigreind sem gagnast öllu mannkyni og þeirrar almennu stefnu tæknifyrirtækja að vera í fremstu röð á sínu sviði við þróun og markaðssetningu nýjunga. Þetta er kannski dæmigert fyrir það sem getur gerst þegar fyrirtæki setur sér mótsagnakennd markmið. Hvað er Q* líkanið? Fyrir nokkrum dögum birti Andrej Karpathy, sérfræðingur hjá OpenAI, myndband þar sem hann útskýrir stóru tungumálalíkönin, hvað þau eru, hvernig þau virka og hvernig þau kunna að þróast. Þetta myndband er eiginlega skylduáhorf fyrir alla sem vilja fá greinargott yfirlit yfir þessa nýju tækni. Meðal annars ræðir Karpathy Q* líkanið og mikilvægi þess. Hann lýsir getu þess með því að vísa til aðgreiningar Daniels Kahnemann milli hraðrar og hægrar hugsunar, eða þess sem hann nefnir "System 1" og "System 2" hugsun. Dæmi um "System 1" hugsun er þegar við leggjum saman tvo og tvo. Við svörum strax, notum upplýsingar sem eru til staðar í huga okkar, í skammtímaminninu. En ef dæmið er 24*47 er, geta fæstokkar svarað strax. Við þurfum að fara í "System 2", "hægu" hugsunina til þess. Eins og Karpathy útskýrir, færir Q* verkefnið stórt tungumálalíkan yfir á stig "System 2" hugsunar. Þetta er mikil framför í getu slíks líkans og markvert skref í átt að svonefndri almennri gervigreind, líkani sem stendur okkur langtum framar í getu til rökhugsunar. Það hljómar ekki ósennilega að ótti við afleiðingar þessarar þróunar og vantraust á áætlunum Altmansum hana hafi legið að baki ákvörðun stjórnarinnar. Það sem stjórnin virðist hins vegar ekki hafa áttað sig á er að á endanum býr þekkingin sem knýr fyrirtækið í hugum starfsmanna og stjórnenda, og ný tækni, hversu ógnvekjandi sem hún kann að virðast, gufar ekki upp, sama hvað stjórn eins fyrirtækis ákveður, jafnvel þótt ákvörðunin leiddi til upplausnar fyrirtækisins. Hvernig getum við brugðist við? Stóru mállíkönin munu halda áfram að þróast ogbreyta lífi okkar og við höfum aðeins séð glitta í blátoppinn á þeim ísjaka. Fram að þessu hafa líkönin aðeins verið fær um "System 1" hugsun, og samt hef ég sannreynt að þau hafa nú þegar umtalsverða getu til að meta jafnvel flóknar röklegar greiningar. Fljótlega verður þessi geta langtum meiri. Hvernig getum við brugðist við? Einu raunhæfu viðbrögðin eru þau að við gerum okkar besta til að efla okkar eigin hugsun og nýtum þessa nýju tækni til þess: Við verðum að styrkja okkar eigin málskilning og tjáningarhæfni eins og kostur er. Við verðum að efla okkar eigin getu til gagnrýninnar hugsunar. Við verðum að þjálfa okkur markvisst í samskiptum við mállíkönin. Þetta gerir enginn fyrir okkur. Við verðum að gera það sjálf, hvert og eitt. Það er verkefnið framundan. Höfundur er ráðgjafi og stjórnendaþjálfari, https://thinksharper.net.
Áskorun til hæstvirts fjármálaráðherra Sigurðar Inga Jóhanssonar frá sérfræðingum í klínískri sálfræði Haukur Haraldsson,Inga Hrefna,Sólveig Erna Jónsdóttir,Kristbjörg Þórisdóttir Skoðun
Skoðun Áskorun til hæstvirts fjármálaráðherra Sigurðar Inga Jóhanssonar frá sérfræðingum í klínískri sálfræði Haukur Haraldsson,Inga Hrefna,Sólveig Erna Jónsdóttir,Kristbjörg Þórisdóttir skrifar
Skoðun Aðgengi að húsnæði fyrir ungt fólk – ekki lúxus heldur grundvallarréttur Gísli Rafn Ólafsson skrifar
Skoðun Að eldast – ertu undirbúin? Hafdís Dögg Sveinbjarnardóttir ,Lára María Valgerðardóttir ,Magnús E. Smith skrifar
Skoðun Tvö útspil Pírata fyrir notendur heilbrigðiskerfisins Halldóra Mogensen,Eva Sjöfn Helgadóttir skrifar
Áskorun til hæstvirts fjármálaráðherra Sigurðar Inga Jóhanssonar frá sérfræðingum í klínískri sálfræði Haukur Haraldsson,Inga Hrefna,Sólveig Erna Jónsdóttir,Kristbjörg Þórisdóttir Skoðun