Rammi til að meta stafræna og tengda tækni í hraðri þróun: gervigreind, stór tungumálalíkön og víðar

• Hvernig gengur lífið dag frá degi? Er það í jafnvægi og allt eins og það á að vera? Er jafnvægi hvort sem litið er á veraldlega stöðu eða andlega? Lífið er eins og það er. Það er ekki alltaf sólskyn. Það koma reglulega lægðir með rok og rigningu. Við vitum að í heildar samhenginu er lægð hluti af vistkerfi að leita að jafnvægi. Stundum erum við stödd í miðju lægðarinnar. Þar er logn og gott veður, sama hvað gengur á þar sem stormurinn er mestur. Sama lögmál gildir varðandi þitt eigið líf. Ef þú ert í þinn miðju, þínum sannleik þá heldur þú alltaf jafnvægi átakalaust. Sama hvað gustar mikið frá þér þegar þú lætur til þín taka. Huldufólk hefur gefið okkur hugleiðslu sem hjálpar okkur að finna þessa miðju, finna kjarna okkar og sannleikann sem í honum býr. Þegar þú veist hver þú ert og hvers vegna þú ert hér, mun líf þitt vera í flæðandi jafnvægi. Hugleiðslan virkjar þekkinguna sem er í vitund jarðar og færir hana með lífsorkunni inn í líkama okkar. Þar skoðar hún hugsana og hegðunar munstrið og athugar hvort það myndar átakalausu flæðandi jafnvægi. Hinn möguleikinn er falskt jafnvægi sem hafa þarf fyrir að viðhalda með tilheyrandi striti, áhyggjum og ótta. Síðan leiðbeinir þessi þekking okkur að því jafnvægi sem er okkur eðlilegt. Við blómstrum átakalaust, líkt og planta sem vex átakalaut frá fræi í fullþroska plöntu sem ber ávöxt. 
• Bakgrunnur 
• Þróun greiningarramma 
• Að nota greiningarrammann 
• Stærðir sem þarf að hafa í huga þegar ný tækni er metin 
• Leið fram á við 
• Þakkir

Ört vaxandi tækni býður upp á krefjandi vandamál þegar kemur að stjórnun þeirra og hugsanlegri reglugerð. Stefnan og opinberar umræður um gervigreind (AI) og notkun hennar hafa sett þessi mál í brennidepli. Þó að víðtækar meginreglur fyrir gervigreind hafi verið kynntar af UNESCO, OECD og fleirum, og umræður eru að hefjast um alþjóðlegt eða lögsagnarumdæmi um tæknina, þá er verufræðilegt bil á milli þróunar á háu stigi meginreglna og innleiðingar þeirra í regluverk, stefnu, stjórnun og ráðsmennskuaðferðir. Þetta er þar sem óopinbera vísindasamfélagið gæti haft ákveðið hlutverk. 

Nokkrir fræðimenn og stefnumótunarsérfræðingar hafa lagt til að Alþjóðavísindaráðið (ISC) – með fjölræðisaðild sinni frá félags- og náttúruvísindum – komi á ferli til að búa til og viðhalda skýrum ramma/gátlista yfir áhættu, ávinning, ógnir og tækifæri sem tengjast stafrænni tækni á hraðri ferð, þar á meðal – en ekki takmarkað við – gervigreind. Tilgangur gátlistans væri að upplýsa alla hagsmunaaðila - þar á meðal stjórnvöld, samningamenn í viðskiptum, eftirlitsstofnanir, borgaralegt samfélag og iðnaður - um hugsanlegar framtíðarsviðsmyndir og ramma hvernig þeir gætu íhugað tækifærin, ávinninginn, áhættuna og önnur atriði. 

Niðurstöðurnar myndu ekki virka sem matsaðili, heldur sem aðlagandi og þróandi greiningarrammi sem gæti stutt hvers kyns mats- og eftirlitsferli sem gætu þróast af hagsmunaaðilum, þar með talið stjórnvöldum og fjölþjóðakerfinu. Sérhver greiningarrammi ætti helst að vera þróaður óháður fullyrðingum stjórnvalda og iðnaðarins, í ljósi skiljanlegra hagsmuna þeirra. Það verður líka að vera hámarks fjölræði í sjónarhornum sínum og ná þannig yfir alla þætti tækninnar og afleiðingar hennar. 

Þetta umræðuskjal veitir útlínur upphafsramma til að upplýsa hina margvíslegu alþjóðlegu og innlendu umræður sem eiga sér stað í tengslum við gervigreind. 

Hröð tilkoma tækni með margbreytileika og afleiðingum gervigreindar ýtir undir margar kröfur um mikinn ávinning. Hins vegar vekur það einnig ótta um verulega áhættu, frá einstaklingsbundnu til landfræðilegu stigi. Mikið af umræðunni hefur tilhneigingu til að fara fram á ystu endum skoðanasviðsins og það þarf raunsærri nálgun. Gervigreind tækni mun halda áfram að þróast og sagan sýnir að nánast sérhver tækni hefur bæði gagnleg og skaðleg notkun. Spurningin er því: hvernig getum við náð jákvæðum árangri af þessari tækni, en minnka líkurnar á skaðlegum afleiðingum, sem sumar gætu verið tilvistarlegar? 

Framtíðin er alltaf óviss, en það eru nægar trúverðugar og sérfræðiraddir varðandi gervigreind og skapandi gervigreind til að hvetja til tiltölulega varúðarsjónarmiða. Að auki er þörf á kerfisnálgun, vegna þess að gervigreind er flokkur tækni með víðtæka notkun og beitingu margra tegunda notenda. Þetta þýðir að taka verður tillit til alls samhengis þegar hugað er að afleiðingum gervigreindar fyrir einstaklinga, félagslíf, borgaralíf, samfélagslíf og í hnattrænu samhengi. 

Ólíkt flestum fyrri tækni hefur stafræn og tengd tækni mjög stuttan tíma frá þróun til útgáfu, að mestu knúin áfram af hagsmunum framleiðslufyrirtækja eða stofnana. gervigreind er fljótt útbreidd; sumir eiginleikar geta aðeins komið í ljós eftir útgáfu, og tæknin gæti haft bæði illgjarn og góðgæti. Víddir mikilvægra gilda munu hafa áhrif á hvernig litið er á hvers kyns notkun. Ennfremur geta verið landfræðilegir hagsmunir í spilinu. 

Hingað til hefur stjórnun sýndartækni að mestu verið séð í gegnum linsu „meginreglna“ og sjálfviljugurs samræmis. Í seinni tíð hefur umræðan hins vegar snúist að innlendum og fjölþjóðlegum stjórnarháttum, þar á meðal notkun regluverks og annarra stefnumiða. Fullyrðingarnar sem gerðar eru með eða á móti gervigreind eru oft yfirdrifnar og – miðað við eðli tækninnar – erfitt að meta þær. Það verður krefjandi að koma á skilvirku alþjóðlegu eða landsbundnu tæknireglukerfi og þörf er á mörgum lögum áhættuupplýstrar ákvarðanatöku meðfram keðjunni, frá uppfinningamanni til framleiðanda, til notanda, til stjórnvalda og til marghliða kerfisins. 

Þótt meginreglur á háu stigi hafi meðal annars verið kynntar af UNESCO, OECD og framkvæmdastjórn Evrópusambandsins og ýmsar umræður á háu stigi séu í gangi um málefni mögulegrar reglugerðar, þá er mikið verufræðilegt bil á milli slíkra meginreglna og stjórnarhátta eða regluverks. Hver er flokkun þeirra sjónarmiða sem eftirlitsaðili gæti þurft að huga að? Þröngt markviss ramma væri óskynsamlegt, miðað við víðtækar afleiðingar þessarar tækni. Þessi möguleiki hefur verið mikið umtalaður, bæði jákvæður og neikvæður.

ISC er helsta alþjóðlega félagasamtökin sem samþætta náttúru- og félagsvísindi. Hnattrænt og agalegt umfang þess þýðir að það er vel í stakk búið til að búa til óháða og alþjóðlega viðeigandi ráðgjöf til að upplýsa flóknar ákvarðanir framundan, sérstaklega þar sem núverandi raddir á þessum vettvangi eru að miklu leyti frá iðnaði eða frá helstu tækniveldum. Eftir umfangsmikla umræðu undanfarna mánuði, þar á meðal íhugun á matsferli án félagasamtaka, komst ISC að þeirri niðurstöðu að gagnlegasta framlag þess væri að búa til og viðhalda aðlögunarhæfum greiningarramma sem hægt er að nota sem grundvöll fyrir orðræðu og ákvarðanatöku með alla hagsmunaaðila, þar með talið við hvers kyns formlegt matsferli sem fram kemur. 

Þessi rammi myndi vera í formi yfirgnæfandi gátlista sem gæti nýst bæði af stjórnvöldum og frjálsum stofnunum. Ramminn greinir og kannar möguleika tækni eins og gervigreindar og afleiður hennar í gegnum víðri linsu sem nær yfir mannlega og samfélagslega velferð, sem og utanaðkomandi þætti, svo sem hagfræði, stjórnmál, umhverfi og öryggi. Sumir þættir gátlistans geta verið meira viðeigandi en aðrir, allt eftir samhengi, en betri ákvarðanir eru líklegri ef öll lén eru skoðuð. Þetta er eðlislægt gildi gátlistaaðferðar. 

Fyrirhugaður rammi er fenginn af fyrri vinnu og hugsun, þar á meðal stafræna velferðarskýrslu International Network for Governmental Science Advice (INGSA)¹ og OECD AI flokkunarrammi² að kynna heildar möguleg tækifæri, áhættu og áhrif gervigreindar. Þessar fyrri vörur voru takmarkaðari í ásetningi sínum miðað við tíma þeirra og samhengi, það er þörf fyrir yfirgripsmikinn ramma sem sýnir allt svið mála, bæði til skemmri og lengri tíma. 

Þótt þessi greiningarrammi væri þróaður með tilliti til gervigreindar, væri hægt að beita þessari greiningarrammi á hvaða tækni sem er að koma hratt fram. Málin eru í stórum dráttum flokkuð í eftirfarandi flokka til frekari skoðunar: 

• Vellíðan (þar á meðal einstaklings eða sjálfs, samfélags og félagslífs og borgaralífs) 
• Verslun og hagkerfi 
• Environmental 
• Geo-strategic og geo-political 
• Tæknileg (kerfiseiginleikar, hönnun og notkun) 

Listi yfir sjónarmið fyrir hvern af ofangreindum flokkum er innifalinn ásamt tækifærum þeirra og afleiðingum. Sum eru viðeigandi fyrir tiltekin tilvik eða forrit gervigreindar á meðan önnur eru almenn og agnostic af vettvangi eða notkun. Ekkert eitt atriði sem hér er tekið upp ætti að vera í forgangi og sem slíkt ætti að skoða allt. 

Hægt væri að nota þennan ramma á, en ekki takmarkað við, eftirfarandi hátt: 

• Að brúa bilið á milli meginreglna og mats með því að koma á viðurkenndri sameiginlegri flokkunarfræði yfir fjölda sjónarmiða sem viðeigandi hagsmunaaðilar gætu nýtt sér sem grundvöll til að upplýsa og móta frekari hugsun, þar með talið hvers kyns matsramma sem yfirvöld gætu þróað. 

• Til að upplýsa mat á áhrifum. Lög um gervigreind ESB krefjast þess að stofnanir sem útvega gervigreindarverkfæri eða taka upp gervigreind í ferlum sínum, geri mat á áhrifum til að bera kennsl á áhættuna af frumkvæði sínu og beita viðeigandi áhættustjórnunaraðferð. Ramminn sem hér er kynntur gæti verið grunnur að þessu. 

• Til að auka siðferðisreglur sem þarf til að leiðbeina og stjórna notkun gervigreindar. Ramminn getur gert þetta með því að leggja sveigjanlegan grunn sem hægt er að þróa áreiðanleg kerfi á og tryggja löglega, siðferðilega, öfluga og ábyrga notkun tækninnar. Þessar meginreglur gætu verið prófaðar á móti öllum þeim áhrifum sem kynntar eru í þessum ramma. 
• Til að auðvelda greiningu á núverandi ráðstöfunum (þ.e. reglugerðum, löggjöf, stefnu) og greina hvers kyns eyður sem þarfnast frekari skoðunar. 

• Umgjörðin er ónæm fyrir tækninni og notkun hennar. Það gæti því verið notað á nokkuð sérstökum sviðum eins og tilbúið líffræði. 

Eftirfarandi tafla er snemmbúin mótun á víddum greiningarramma. Það fer eftir tækninni og notkun hennar, sumir hlutir munu skipta meira máli en aðrir. Dæmin eru veitt til að sýna hvers vegna hvert lén getur skipt máli; í samhengi myndi ramminn krefjast stækkunar sem skiptir máli í samhengi. Það er líka mikilvægt að greina á milli þróunar vettvangs og almennra vandamála sem geta komið upp við sérstakar umsóknir.  

Lykillinn að heimildum lýsinganna

Einfaldur texti:
Gluckman, P. og Allen, K. 2018. Að skilja vellíðan í samhengi við hraðar stafrænar og tengdar umbreytingar. INGSA. https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf 

Djarfur texti:
OECD. 2022. OECD ramma fyrir flokkun gervigreindarkerfa. OECD Digital Economy Papers, nr. 323, OECD Publishing, París. https://oecd.ai/en/classification 

Skáletrað texta:
Nýjar lýsingar (frá mörgum aðilum) 

Það fer eftir viðbrögðum við þessu umræðuskjali, sérfræðivinnuhópur yrði stofnaður af ISC til að þróa frekar eða breyta ofangreindum greiningarramma þar sem hagsmunaaðilar gætu skoðað ítarlega hvaða mikilvæga þróun sem er, annaðhvort á vettvangi eða notkunarvíddum. Starfshópurinn yrði fræðilega, landfræðilega og lýðfræðilega fjölbreyttur, með sérfræðiþekkingu sem spannaði allt frá tæknimati til opinberrar stefnu, frá mannþróun til félagsfræði og framtíðar- og tæknifræði. 

Til að taka þátt í þessu umræðuskjali skaltu fara á Council.science/publications/framework-digital-technologies 

Margir hafa verið ráðfærðir við gerð þessarar skýrslu, sem var skrifuð af Sir Peter Gluckman, forseti, ISC og Hema Sridhar, fyrrverandi yfirvísindamaður varnarmálaráðuneytisins og nú yfirrannsóknarfélagi við Háskólann í Auckland á Nýja-Sjálandi. 

Sérstaklega þökkum við lávarði Martin Rees, fyrrverandi forseta Royal Society og meðstofnandi Center for the Study of Existential Risks, University of Cambridge; prófessor Shivaji Sondhi, prófessor í eðlisfræði, háskólanum í Oxford; Prófessor K Vijay Raghavan, fyrrverandi helsti vísindaráðgjafi ríkisstjórnar Indlands; Amandeep Singh Gill, tæknifulltrúi framkvæmdastjóra Sameinuðu þjóðanna; Dr Seán Óh Éigeartaigh, framkvæmdastjóri, Center for the Study of Existential Risks, University of Cambridge; Amanda-June Brawner, yfirstefnuráðgjafi og Ian Wiggins, framkvæmdastjóri alþjóðamála hjá Royal Society UK; Dr Jerome Duberry, Dr Marie-Laure Salles, forstöðumaður, Genf Graduate Institute; Mr Chor Pharn Lee, Center for Strategic Futures, forsætisráðuneytinu, Singapúr; Barend Mons og Dr Simon Hodson, nefnd um gögn (CoDATA); Prófessor Yuko Harayama, Japan; Prófessor Rémi Quirion, forseti, INGSA; Dr Claire Craig, háskólanum í Oxford og fyrrverandi yfirmaður framsýni, vísindaskrifstofu ríkisstjórnarinnar; og prófessor Yoshua Bengio, vísindaráðgjafanefnd framkvæmdastjóra Sameinuðu þjóðanna og við Université de Montréal. Gátlistaaðferðin var almennt samþykkt og lögð var áhersla á tímanleika hvers kyns aðgerða af hálfu ISC.