Leiðbeiningar ISC býður upp á alhliða ramma sem ætlað er að brúa bilið á milli háþróaðra meginreglna og hagnýtrar, framkvæmanlegrar stefnu. Það bregst við brýnni þörf fyrir sameiginlegan skilning á bæði tækifærum og áhættum sem skapast af vaxandi tækni. Þetta er ómissandi skjal fyrir þá sem starfa við stefnumótun á stafrænu tímum okkar sem eru að breytast hratt.
Ramminn kannar möguleika gervigreindar og afleiða þess í gegnum yfirgripsmikla linsu, sem nær yfir mannlega og samfélagslega velferð ásamt ytri þáttum eins og hagfræði, stjórnmálum, umhverfi og öryggi. Sumir þættir gátlistans geta skipt meira máli en aðrir, allt eftir samhengi, en betri ákvarðanir virðast líklegri ef öll svið eru tekin til greina, jafnvel þótt fljótt sé hægt að greina sumt sem óviðkomandi í sérstökum tilvikum. Þetta er eðlislægt gildi gátlistaaðferðar.
„Á tímum sem einkennast af hraðri tækninýjungum og flóknum alþjóðlegum áskorunum, gerir ramma ISC fyrir alhliða og fjölvíða greiningu á hugsanlegum áhrifum leiðtogum kleift að taka upplýstar, ábyrgar ákvarðanir. Það tryggir að þegar við tækniframfarir gerum við það með vandlega íhugun á siðferðilegum, félagslegum og efnahagslegum afleiðingum“.
Peter Gluckman, forseti ISC
Þótt meginreglur á háu stigi hafi meðal annars verið kynntar af UNESCO, OECD, framkvæmdastjórn Evrópusambandsins og SÞ og ýmsar umræður halda áfram um mögulega stjórnarhætti, reglugerðir, siðferði og öryggi, þá er stórt bil á milli slíkra meginreglna og stjórnarhætti eða regluverki. ISC sinnir þessari þörf með nýjum leiðarvísi fyrir stefnumótendur.
Þessi leiðarvísir fyrir stefnumótendur er ekki ætlaður til að mæla fyrir um regluverk, heldur frekar að stinga upp á aðlögunarhæfni og þróaðri greiningaramma sem gæti undirbyggt hvers kyns mats- og reglugerðarferli sem gætu þróast af hagsmunaaðilum, þar með talið stjórnvöldum og fjölþjóðakerfinu.
„Umgjörðin er mikilvægt skref í alþjóðlegu samtali um gervigreind þar sem það veitir grunn sem við getum byggt upp samstöðu um hvaða afleiðingar tæknin hefur fyrir bæði nú og í framtíðinni.
Hema Sridhar, fyrrverandi yfirvísindaráðgjafi, varnarmálaráðuneyti Nýja-Sjálands og nú yfirmaður rannsókna FellowHáskólinn í Auckland, Nýja-Sjálandi.
Síðan í október 2023 hafa verið nokkur mikilvæg innlend og marghliða frumkvæði þar sem frekari skoðun á siðferði og öryggi gervigreindar. Áhrif gervigreindar á heilleika sumra mikilvægra kerfa okkar, þar á meðal fjármála, stjórnvalda, lögfræði og menntunar, sem og mismunandi þekkingarkerfa (þar á meðal vísinda- og frumbyggjaþekking), vekja vaxandi áhyggjur. Ramminn endurspeglar þessa þætti enn frekar.
Viðbrögðin sem hafa borist frá meðlimum ISC og alþjóðlegu stefnumótunarsamfélaginu til þessa endurspeglast í endurskoðaðri útgáfu greiningarrammans, sem nú er gefinn út sem leiðarvísir fyrir stefnumótendur.
Leiðbeiningar fyrir stefnumótendur: Mat á tækni í hraðri þróun, þar á meðal gervigreind, stór tungumálalíkön og fleira
Þetta umræðuskjal veitir útlínur upphafsramma til að upplýsa hina margvíslegu alþjóðlegu og innlendu umræður sem eiga sér stað í tengslum við gervigreind.
Sæktu rammann til notkunar í fyrirtækinu þínu
Hér gefum við rammaverkfærið sem breytanlegt Excel blað til notkunar í fyrirtækinu þínu. Ef þú vilt frekar opið snið, vinsamlegast hafðu samband [netvarið].
Hvernig gengur lífið dag frá degi? Er það í jafnvægi og allt eins og það á að vera? Er jafnvægi hvort sem litið er á veraldlega stöðu eða andlega? Lífið er eins og það er. Það er ekki alltaf sólskyn. Það koma reglulega lægðir með rok og rigningu. Við vitum að í heildar samhenginu er lægð hluti af vistkerfi að leita að jafnvægi. Stundum erum við stödd í miðju lægðarinnar. Þar er logn og gott veður, sama hvað gengur á þar sem stormurinn er mestur. Sama lögmál gildir varðandi þitt eigið líf. Ef þú ert í þinn miðju, þínum sannleik þá heldur þú alltaf jafnvægi átakalaust. Sama hvað gustar mikið frá þér þegar þú lætur til þín taka. Huldufólk hefur gefið okkur hugleiðslu sem hjálpar okkur að finna þessa miðju, finna kjarna okkar og sannleikann sem í honum býr. Þegar þú veist hver þú ert og hvers vegna þú ert hér, mun líf þitt vera í flæðandi jafnvægi. Hugleiðslan virkjar þekkinguna sem er í vitund jarðar og færir hana með lífsorkunni inn í líkama okkar. Þar skoðar hún hugsana og hegðunar munstrið og athugar hvort það myndar átakalausu flæðandi jafnvægi. Hinn möguleikinn er falskt jafnvægi sem hafa þarf fyrir að viðhalda með tilheyrandi striti, áhyggjum og ótta. Síðan leiðbeinir þessi þekking okkur að því jafnvægi sem er okkur eðlilegt. Við blómstrum átakalaust, líkt og planta sem vex átakalaut frá fræi í fullþroska plöntu sem ber ávöxt.
Tækni sem er að koma hratt fram býður upp á krefjandi vandamál þegar kemur að notkun þeirra, stjórnun og hugsanlegri reglugerð. Áframhaldandi stefna og opinberar umræður um gervigreind (AI) og notkun hennar hafa komið þessum málum í brennidepli. Víðtækar meginreglur fyrir gervigreind hafa verið kynntar af UNESCO, OECD, SÞ og fleirum, þar á meðal Bletchley-yfirlýsingu Bretlands, og lögsögutilraunir eru að koma upp til að setja reglur um þætti tækninnar í gegnum, til dæmis, gervigreind Evrópusambandsins (ESB) laga eða nýlegri AI framkvæmdareglu Bandaríkjanna.
Þó að notkun gervigreindar sé rædd ítarlega á þessum og öðrum vettvangi, þvert á landfræðileg skil og í löndum á öllum tekjustigum, er enn verufræðileg gjá á milli þróunar háþróaðra meginreglna og innleiðingar þeirra í framkvæmd með annað hvort regluverki, stefnu, stjórnunarháttum eða ráðsmennska nálgast. Leiðin frá meginreglu til iðkunar er illa skilgreind, en miðað við eðli og hraða gervigreindarþróunar og beitingar, fjölbreytileika áhugasviðs sem um ræðir og úrval mögulegra forrita, getur hverja nálgun ekki verið of almenn eða fyrirskipandi.
Af þessum ástæðum heldur hið óopinbera vísindasamfélag áfram að gegna ákveðnu hlutverki. Alþjóðlega vísindaráðið (ISC) – með fjölræðisaðild sinni frá félags- og náttúruvísindum – gaf út umræðuskjal í október 2023 þar sem kynnt var bráðabirgðagreiningaramma sem tók tillit til áhættu, ávinnings, ógnar og tækifæra sem fylgja stafrænni tækni á hraðri leið. Þó að það hafi verið þróað til að íhuga gervigreind, þá er það í eðli sínu tæknivitundarlegt og hægt að beita því á ýmsar nýjar og truflandi tækni, svo sem tilbúna líffræði og skammtafræði. Það umræðuskjal bauð viðbrögðum frá fræðimönnum og stefnumótendum. Yfirgnæfandi endurgjöfin gerði slíka greiningu nauðsynlega og var dýrmæt nálgun til að takast á við nýja tækni eins og gervigreind.
Tilgangur rammans er að bjóða upp á tæki til að upplýsa alla hagsmunaaðila - þar á meðal stjórnvöld, samningamenn í viðskiptum, eftirlitsstofnanir, borgaralegt samfélag og iðnaðinn - um þróun þessarar tækni til að hjálpa þeim að setja ramma um hvernig þeir gætu íhugað afleiðingar, jákvæðar eða neikvæðar, af tæknin sjálf, og nánar tiltekið tiltekna notkun hennar. Þessi greiningarrammi hefur verið þróaður óháður hagsmunum stjórnvalda og iðnaðarins. Það er hámarks fjölræði í sjónarmiðum sínum, nær yfir alla þætti tækninnar og afleiðingar hennar byggt á víðtæku samráði og endurgjöf.
Þessu umræðuskjali fyrir stefnumótendur er ekki ætlað að mæla fyrir um regluverk, heldur frekar að stinga upp á aðlögunarhæfni og þróaðri greiningarramma sem gæti stutt hvers kyns mats- og eftirlitsferli sem gætu þróast af hagsmunaaðilum, þar með talið stjórnvöldum og fjölþjóðakerfinu.
Þar sem ákvarðanatakendur á heimsvísu og á landsvísu íhuga viðeigandi stefnustillingar og lyftistöng til að jafna áhættu og ávinning nýrrar tækni eins og gervigreindar, er greiningarramminn hugsaður sem viðbótarverkfæri til að tryggja að öll möguleg áhrif endurspeglast á fullnægjandi hátt.
Bakgrunnur: hvers vegna greiningarrammi?
Hröð tilkoma tækni með margbreytileika og afleiðingum gervigreindar ýtir undir margar fullyrðingar um mikinn ávinning. Hins vegar vekur það einnig ótta um verulega áhættu, allt frá einstaklingsbundnu til landfræðilegu stigi.1 Mikið af umræðunni hingað til hefur verið talið í tvíþættum skilningi þar sem opinberar skoðanir hafa tilhneigingu til að eiga sér stað á ystu endum litrófsins. Fullyrðingarnar sem gerðar eru með eða á móti gervigreind eru oft yfirdrifnar og – miðað við eðli tækninnar – erfitt að meta þær.
Raunhæfari nálgun er nauðsynleg þar sem ofhækkun er skipt út fyrir kvarðað og kornóttara mat. Gervigreind tækni mun halda áfram að þróast og sagan sýnir að nánast sérhver tækni hefur bæði gagnleg og skaðleg notkun. Spurningin er því: hvernig getum við náð jákvæðum árangri af þessari tækni, en dregur úr hættu á skaðlegum afleiðingum, sem sumar gætu verið tilvistarlegar?
Framtíðin er alltaf óviss, en það eru nægar trúverðugar og sérfræðiraddir varðandi gervigreind og skapandi gervigreind til að hvetja til tiltölulega varúðarsjónarmiða. Að auki er kerfisnálgun nauðsynleg þar sem gervigreind er flokkur tækni með víðtæka notkun og beitingu margra tegunda notenda. Þetta þýðir að íhuga verður allt samhengið þegar hugað er að því hvaða áhrif hvers kyns gervigreind notkun hefur fyrir einstaklinga, félagslíf, borgaralíf, samfélagslíf og í hnattrænu samhengi.
Ólíkt flestum annarri tækni, fyrir stafræna og tengda tækni, er tíminn á milli þróunar, útgáfu og notkunar afar stuttur, að mestu knúinn áfram af hagsmunum framleiðslufyrirtækja eða stofnana. Eðli málsins samkvæmt – og þar sem það er byggt á stafrænu burðarásinni – mun gervigreind hafa forrit sem eru hratt útbreidd, eins og þegar hefur sést með þróun stórra tungumálalíkana. Þar af leiðandi geta sumir eiginleikar aðeins komið í ljós eftir að það er sleppt, sem þýðir að hætta er á ófyrirséðum afleiðingum, bæði illgjarnra og góðvildar.
Mikilvæg samfélagsleg gildisvídd, sérstaklega á mismunandi svæðum og menningu, munu hafa áhrif á hvernig hvers kyns notkun er litin og samþykkt. Jafnframt eru jarðstefnulegir hagsmunir þegar ráðandi í umræðunni, þar sem fullveldis- og marghliða hagsmunir skerast stöðugt og ýta þannig undir samkeppni og sundrungu.
Hingað til hefur mikið af regluverki sýndartækni að mestu verið séð í gegnum linsu „meginreglna“ og sjálfviljugrar fylgni, þó að lögum um gervigreind ESB2 og svipað erum við að sjá breytingu á framfylgjanlegri en nokkuð þrengri reglugerðum. Að koma á skilvirku alþjóðlegu eða landsbundnu tæknistjórnunarkerfi og/eða eftirlitskerfi er enn krefjandi og engin augljós lausn er til. Mörg lög af áhættuupplýstri ákvarðanatöku verður þörf meðfram keðjunni, frá uppfinningamanni til framleiðanda, til notanda, til stjórnvalda og til marghliða kerfisins.
Þótt meginreglur á háu stigi hafi meðal annars verið kynntar af UNESCO, OECD, framkvæmdastjórn Evrópusambandsins og SÞ, og ýmsar umræður á háu stigi halda áfram um mögulega stjórnarhætti, reglugerðir, siðferði og öryggi, er mikið bil á milli slíkra meginreglur og stjórnarhætti eða regluverk. Við þessu þarf að bregðast.
Sem upphafspunktur íhugar ISC að þróa flokkunarfræði sjónarmiða sem sérhver verktaki, eftirlitsaðili, stefnuráðgjafi, neytandi eða ákvörðunaraðili gæti vísað til. Miðað við víðtækar afleiðingar þessarar tækni verður slík flokkunarfræði að taka tillit til heildar afleiðinganna frekar en þröngt einbeittan ramma. Alheims sundrungin eykst vegna áhrifa landfræðilegra hagsmuna á ákvarðanatöku, og í ljósi þess hve brýnt er að nota þessa tækni, er nauðsynlegt fyrir sjálfstæðar og hlutlausar raddir að halda stöðugt fram fyrir sameinaða nálgun án aðgreiningar.
1) Hindustan Times. 2023. G20 verður að setja á laggirnar alþjóðlega nefnd um tæknibreytingar.
https://www.hindustantimes.com/opinion/g20-must-set-up-an-international-panel-on-technological-change-101679237287848.html
2) Gervigreindarlög ESB. 2023. https://artificialintelligenceact.eu
Þróun greiningarramma
ISC eru helstu alþjóðlegu frjálsu félagasamtökin sem samþætta náttúru- og félagsvísindi. Hnattrænt og agalegt umfang þess þýðir að það er vel í stakk búið til að búa til óháða og alþjóðlega viðeigandi ráðgjöf til að upplýsa flóknar ákvarðanir framundan, sérstaklega þar sem núverandi raddir á þessum vettvangi eru að mestu leyti frá iðnaði eða frá stefnu og pólitískum samfélögum helstu tækniveldanna.
Eftir umfangsmikla umræðutíma, sem fól í sér íhugun á matsferli sem ekki er opinbert, komst ISC að þeirri niðurstöðu að gagnlegasta framlag þess væri að búa til aðlögunarramma sem hægt er að nota sem grundvöll fyrir orðræðu og ákvarðanatöku allra. hagsmunaaðila, þar með talið við hvers kyns formlegt matsferli sem fram kemur.
Bráðabirgðagreiningarramminn, sem var gefinn út til umræðu og endurgjöf í október 2023, var í formi yfirgnæfandi gátlista sem hannaður var til notkunar bæði hjá stjórnvöldum og frjálsum stofnunum. Ramminn greindi og kannaði möguleika tækni eins og gervigreindar og afleiður hennar með víðri linsu sem nær yfir mannlega og samfélagslega velferð, sem og ytri þætti eins og hagfræði, stjórnmál, umhverfi og öryggi. Sumir þættir gátlistans geta skipt meira máli en aðrir, allt eftir samhengi, en betri ákvarðanir virðast líklegri ef öll svið eru tekin til greina, jafnvel þótt fljótt sé hægt að greina sumt sem óviðkomandi í sérstökum tilvikum. Þetta er eðlislægt gildi gátlistaaðferðar.
Bráðabirgðaramminn var fenginn af fyrri vinnu og hugsun, þar á meðal skýrslu International Network for Governmental Science Advice (INGSA) um stafræna vellíðan3 og OECD Framework for the Classification of AI Systems,4 til að kynna heildar möguleg tækifæri, áhættur og áhrif. af gervigreind. Þessar fyrri vörur voru takmarkaðari í tilgangi sínum miðað við tíma þeirra og samhengi; þörf er á yfirgripsmiklum ramma sem sýnir heildarsvið mála, bæði til skemmri og lengri tíma.
Síðan það kom út hefur umræðuskjalið fengið umtalsverðan stuðning frá mörgum sérfræðingum og stefnumótendum. Margir hafa sérstaklega tekið undir tilmæli um að þróa aðlögunarramma sem gerir ráð fyrir vísvitandi og fyrirbyggjandi íhugun á áhættu og afleiðingum tækninnar, og í því skyni alltaf að huga að heildarvíddum frá einstaklingi til samfélags og kerfa.
Ein lykilathugun sem gerð var með endurgjöfinni var viðurkenning á því að nokkrir af þeim afleiðingum sem litið er til í rammanum eru í eðli sínu margþætt og ná yfir marga flokka. Til dæmis væri hægt að líta á óupplýsingar bæði frá einstaklings- og landfræðilegri linsu; því yrðu afleiðingarnar víðtækar.
Einnig var stungið upp á þeim möguleika að hafa dæmisögur eða dæmi til að prófa rammann. Þetta gæti verið notað til að þróa leiðbeiningar til að sýna fram á hvernig hægt væri að nota það í reynd í mismunandi samhengi. Hins vegar væri þetta verulegt verkefni og gæti takmarkað hvernig mismunandi hópar skynja notkun þessa ramma. Það er best gert af stefnumótendum sem vinna með sérfræðingum í sérstökum lögsagnarumdæmum eða samhengi.
Síðan í október 2023 hafa verið nokkur mikilvæg innlend og marghliða frumkvæði þar sem frekari skoðun á siðferði og öryggi gervigreindar. Áhrif gervigreindar á heilleika sumra mikilvægra kerfa okkar, þar á meðal fjármála, stjórnvalda, lögfræði og menntunar, sem og mismunandi þekkingarkerfa (þar á meðal vísinda- og frumbyggjaþekking), vekja vaxandi áhyggjur. Endurskoðaður rammi endurspeglar þessa þætti enn frekar.
Viðbrögðin sem hafa borist hingað til endurspeglast í endurskoðaðri útgáfu greiningarrammans, sem nú er gefinn út sem leiðarvísir fyrir stefnumótendur.
Þó að umgjörðin sé sett fram í samhengi við gervigreind og tengda tækni, þá er hún strax yfirfæranleg til sjónarmiða annarrar tækni sem er að koma hratt fram eins og skammtafræði og tilbúið líffræði.
3) Gluckman, P. og Allen, K. 2018. Skilningur á vellíðan í samhengi við hraðar stafrænar og tengdar umbreytingar. INGSA.
https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf
4) OECD. 2022. OECD Rammi um flokkun gervigreindarkerfa. OECD Digital Economy Papers, nr. 323,#. París, OECD Publishing.
https://oecd.ai/en/classificatio
Ramminn
Eftirfarandi tafla sýnir víddir hugsanlegs greiningarramma. Dæmi eru veitt til að sýna hvers vegna hvert lén getur skipt máli; í samhengi myndi ramminn krefjast stækkunar sem skiptir máli í samhengi. Það er einnig mikilvægt að greina á milli almennra vandamála sem koma upp við þróun palla og þeirra sem kunna að koma upp við sérstakar umsóknir. Ekkert eitt atriði sem hér er tekið upp ætti að vera í forgangi og sem slíkt ætti að skoða allt.
Málin eru í stórum dráttum flokkuð í eftirfarandi flokka eins og lýst er hér að neðan:
Taflan sýnir stærðir sem gæti þurft að hafa í huga þegar ný tækni er metin.
? INGSA. 2018. Að skilja velferð í samhengi við hraðar stafrænar og tengdar umbreytingar.
https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf
? Nýjar lýsingar (fengnar með víðtæku samráði og endurgjöf og ritrýni)
? OECD Framework for the Classification of AI Systems: Verkfæri fyrir skilvirka AI stefnu.
https://oecd.ai/en/classification
| Viðmiðanir | Dæmi um hvernig þetta getur endurspeglast í greiningu |
| ? Gervigreindarhæfni notenda | Hversu hæfir og meðvitaðir um eiginleika kerfisins eru líklegir notendur sem munu hafa samskipti við kerfið? Hvernig verður þeim veitt viðeigandi notendaupplýsingar og varúðarráðstafanir? |
| ? Hagsmunaaðili fyrir áhrifum | Hverjir eru helstu hagsmunaaðilarnir sem verða fyrir áhrifum af kerfinu (einstaklingar, samfélög, viðkvæmir, starfsmenn í atvinnugreinum, börn, stefnumótendur, sérfræðingar o.s.frv.)? |
| ? Valmöguleiki | Er notendum gefinn kostur á að afþakka kerfið eða fá þeir tækifæri til að ögra eða leiðrétta úttakið? |
| ?Áhætta fyrir mannréttindi og lýðræðisleg gildi | Hefur kerfið grundvallar áhrif á mannréttindi, þar með talið en ekki takmarkað við friðhelgi einkalífs, tjáningarfrelsi, sanngirni, jafnræði o.s.frv.? |
| ?Möguleg áhrif á líðan fólks | Tengist áhrifasvið kerfisins velferð einstakra notenda (starfsgæði, menntun, félagsleg samskipti, geðheilbrigði, sjálfsmynd, umhverfi o.s.frv.)? |
| ? Möguleiki á fólksflótta vinnuafls | Er möguleiki fyrir kerfið að gera sjálfvirk verkefni eða aðgerðir sem voru framkvæmdar af mönnum? Ef svo er, hverjar eru afleiðingarnar í kjölfarið? |
| ? Möguleiki á sjálfsmynd, gildum eða þekkingu | Er kerfið hannað eða hugsanlega hægt að vinna með auðkenni notandans eða gildi sett, eða dreifa óupplýsingum? |
| ? Tækifæri til sjálftjáningar og sjálfsframkvæmdar | Er möguleiki á gervi og sjálfsefa? Er möguleiki á falskum eða ósannanlegar fullyrðingar um sérfræðiþekkingu? |
| ? Mælingar á sjálfsvirðingu | Er þrýstingur á að sýna hugsjónað sjálf? Gæti sjálfvirkni komið í stað skynjunar af persónulegri uppfyllingu? Er þrýstingur á að keppa við kerfið í vinnustað? Er erfiðara að vernda mannorð einstaklings gegn óupplýsingum? |
| ? Persónuvernd | Eru dreifðar skyldur til að standa vörð um friðhelgi einkalífs og eru einhverjar forsendur um hvernig persónuupplýsingar eru notaðar? |
| ? Sjálfræði | Gæti gervigreindarkerfið haft áhrif á sjálfræði mannsins með því að búa til ofreiðanleika með því að endanotendur? |
| ? Þroski mannsins | Eru áhrif á öflun lykilfærni til mannlegs þroska, ss framkvæmdastörf eða færni í mannlegum samskiptum, eða breytingar á athyglistíma sem hafa áhrif nám, persónuleikaþroska, geðheilbrigðisáhyggjur o.s.frv.? |
| ? Persónuleg heilsugæsla | Eru fullyrðingar um sjálfsgreiningu eða persónulegar lausnir í heilbrigðisþjónustu? Ef svo, eru þau fullgilt samkvæmt eftirlitsstöðlum? |
| ? Andleg heilsa | Er hætta á auknum kvíða, einmanaleika eða öðrum geðrænum vandamálum, eða getur tæknin bætt slík áhrif? |
| ? Mannleg þróun | Gætu stór tungumálalíkön og gervi almenn greind breytt gangur mannlegrar þróunar? |
| ? Samskipti manna og véla | Gæti notkunin leitt til afnáms og ósjálfstæðis einstaklinga með tímanum? Eru hefur áhrif á mannleg samskipti? |
| Viðmiðanir | Dæmi um hvernig þetta getur endurspeglast í greiningu |
| ? Samfélagsleg gildi | Breytir kerfið eðli samfélagsins í grundvallaratriðum, gerir hugmyndum sem áður voru taldar andfélagslegar í eðlilegt horf, eða brýtur í bága við samfélagsleg gildi þeirrar menningar sem því er beitt í? |
| ? Félagsleg samskipti | Eru áhrif á þroskandi mannleg samskipti, þar með talið tilfinningaleg samskipti? |
| ? Heilsufar íbúa | Er möguleiki fyrir kerfið að efla eða grafa undan heilsufarsáformum íbúa? |
| ? Menningarleg tjáning | Er aukning á menningarheimild eða mismunun líkleg eða erfiðara að bregðast við? Útilokar eða jaðarsetur það að treysta á kerfið til að taka ákvarðanir, menningarleg tengsl samfélagsins? |
| ? Fræðsla almennings | Eru það áhrif á kennarahlutverk eða menntastofnanir? Leggur kerfið áherslu á eða minnkar stafræna gjá og ójöfnuð meðal nemenda? Er innra gildi þekkingar eða gagnrýninnar skilnings háþróað eða grafið undan? |
| ? Afbakaður veruleiki | Eru aðferðirnar sem notaðar eru til að greina hvað er satt enn við? Er raunveruleikaskynjun í hættu? |
| Viðmiðanir | Dæmi um hvernig þetta getur endurspeglast í greiningu |
| ? Iðnaðargeiri | Í hvaða atvinnugrein er kerfið notað (fjármál, landbúnaður, heilbrigðisþjónusta, menntun, varnarmál o.s.frv.)? |
| ? Viðskiptamódel | Í hvaða viðskiptahlutverki er kerfið notað og í hvaða getu? Hvar er kerfið notað (einka, opinbert, í hagnaðarskyni)? |
| ? Áhrif á mikilvæga starfsemi | Myndi truflun á virkni eða starfsemi kerfisins hafa áhrif á nauðsynlega þjónustu eða mikilvæga innviði? |
| ? Breidd dreifingar | Hvernig er kerfið sett upp (þröng notkun innan eininga á móti útbreidd á landsvísu/alþjóðlegu)? |
| ? Tæknilegur þroski | Hversu tæknilega þroskað er kerfið? |
| ? Samvirkni | Eru líklegt að það séu síló, á landsvísu eða á heimsvísu, sem hamla fríverslun og hafa áhrif á samvinnu við samstarfsaðila? |
| ? Tæknilegt fullveldi | Er löngun til tæknilegs fullveldis knúin áfram hegðun, þar á meðal stjórn á allri gervigreindarkeðjunni? |
| ? Dreifing tekna og innlend ríkisfjármál | Gæti verið stefnt að kjarnahlutverkum fullvalda ríkisins (td varabankar)? Mun getu ríkisins til að mæta væntingum og afleiðingum borgaranna (félagslegar, efnahagslegar, pólitískar o.s.frv.) aukast eða minnka? |
| ? Stafræn skil (AI skipting) | Er núverandi stafrænn ójöfnuður aukinn eða nýr skapaður? |
| Viðmiðanir | Dæmi um hvernig þetta getur endurspeglast í greiningu |
| ? Stjórnarhættir og opinber þjónusta | Gæti stjórnunaraðferðir og alþjóðlegt stjórnkerfi haft jákvæð eða neikvæð áhrif? |
| ? Fréttamiðlar | Er líklegt að opinber umræða verði skautuð og rótgróin á íbúastigi? Mun það hafa áhrif á hversu mikið traust á fjórða ríkinu er? Munu hefðbundin siðareglur blaðamanna og heiðarleikastaðla verða fyrir frekari áhrifum? |
| ? Réttarríkið | Mun það hafa áhrif á getu til að bera kennsl á einstaklinga eða stofnanir til að draga til ábyrgðar (td hvers konar ábyrgð á að úthluta reiknirit fyrir skaðlegar niðurstöður)? Er fullveldismissi skapað (umhverfis-, ríkisfjármála-, félagsmálastefnu, siðferði o.s.frv.)? |
| ?Pólitík og félagsleg samheldni | Er möguleiki á rótgrónari stjórnmálaskoðunum og minni möguleika á að skapa samstöðu? Er möguleiki á að jaðarsetja hópa enn frekar? Eru andstæðingar stjórnmálastefnunnar meira eða minna líklegir? |
| ? Félagslegt leyfi | Eru áhyggjur af persónuvernd, traustsvandamálum og siðferðislegum áhyggjum sem þarf að hafa í huga til að hagsmunaaðilar samþykki notkunina? |
| ? Þekking frumbyggja | Gæti þekking og gögn frumbyggja verið skemmd eða misnotuð? Eru fullnægjandi ráðstafanir til að verjast rangfærslum, rangfærslum og misnotkun? |
| ? Vísindakerfi | Er fræðilegum og rannsóknalegum heilindum í hættu? Er það tap á trausti á vísindum? Eru möguleikar á misnotkun, ofnotkun eða misnotkun? Hver er afleiðingin af iðkun vísinda? |
| Viðmiðanir | Dæmi um hvernig þetta getur endurspeglast í greiningu |
| ? Nákvæmt eftirlit | Eru kerfin þjálfuð á einstökum atferlis- og líffræðilegum gögnum og gætu þau verið notuð til að nýta einstaklinga eða hópa? |
| ? Stafræn samkeppni | Gætu ríkisaðilar eða utanríkisaðilar (td stór tæknifyrirtæki) virkjað kerfi og gögn til að skilja og stjórna íbúa og vistkerfum annarra landa, eða grafið undan lögsögueftirliti? |
| ? Geopólitísk samkeppni | Gæti kerfið ýtt undir samkeppni milli þjóða um að nýta einstaklings- og hópgögn fyrir efnahagslega, læknisfræðilega og öryggishagsmuni? |
| ? Breyting í alþjóðlegum völdum | Er stöðu þjóðríkja sem helstu geopólitísku gerendur heimsins í hættu? Fara tæknifyrirtæki með vald sem einu sinni var frátekið fyrir þjóðríki og eru þau orðin sjálfstæðir, fullvalda aðilar (heimsskipan sem er að koma upp í tæknipólum)? |
| ? Óupplýsingar | Myndi kerfið auðvelda framleiðslu og miðlun óupplýsinga hjá ríkisaðilum og aðilum utan ríkis með áhrif á félagslega samheldni, traust og lýðræði? |
| ? Tvínota forrit | Er möguleiki fyrir bæði hernaðarlega notkun og borgaralega notkun? |
| ? Brotnun heimsskipulags | Gætu myndast síló eða klasar reglugerða og samræmis sem hindra samvinnu, leitt til ósamræmis í beitingu og skapa rými fyrir átök? |
| Viðmiðanir | Dæmi um hvernig þetta getur endurspeglast í greiningu |
| ? Orku- og auðlindanotkun (kolefnisfótspor) | Auka kerfið og kröfur upptöku orku og auðlindanotkunar umfram hagkvæmni sem fæst með umsókninni? |
| ?Orkugjafi | Hvaðan er orkan fengin fyrir kerfið (endurnýjanlegt á móti jarðefnaeldsneyti o.s.frv.)? |
| Viðmiðanir | Dæmi um hvernig þetta getur endurspeglast í greiningu |
| ? Leikstjórn og söfnun | Er gögnunum og inntakinu safnað af mönnum, sjálfvirkum skynjurum eða hvort tveggja? |
| ? Uppruni gagna | Eru gögnin og inntak frá sérfræðingum veitt, athugað, tilbúið eða afleitt? Eru vatnsmerkisvörn til að staðfesta uppruna? |
| ? Kvikt eðli gagnanna | Eru gögnin kvik, kyrrstæð, kvik uppfærð af og til eða í rauntíma? |
| ? Réttindi | Eru gögnin einkaeign, opinber eða persónuleg (tengd persónugreinanlegum einstaklingum)? |
| ? Auðkennleiki og persónuupplýsingar | Ef persónuleg, eru gögnin nafnlaus eða dulnefni? |
| ? Uppbygging gagna | Eru gögnin uppbyggð, hálfgerð, flókin uppbyggð eða óskipulögð? |
| ? Snið gagna | Er snið gagna og lýsigagna staðlað eða óstaðlað? |
| ? Umfang gagnanna | Hver er mælikvarði gagnasafnsins? |
| ? Viðeigandi og gæði gagnanna | Er gagnasafnið hentugt fyrir tilgang? Er úrtakið fullnægjandi? Er það nógu dæmigert og fullkomið? Hversu hávær eru gögnin? Er það villuhættulegt? |
| Viðmiðanir | Dæmi um hvernig þetta getur endurspeglast í greiningu |
| ? Upplýsingar aðgengilegar | Eru einhverjar upplýsingar tiltækar um líkan kerfisins? |
| ? Tegund gervigreindar líkans | Er líkanið táknrænt (reglur gerðar af mönnum), tölfræðilegt (notar gögn) eða blendingur? |
| ? Réttindi tengd fyrirmynd | Er líkaninu stýrt með opnum uppspretta eða séreign, sjálfsstjórn eða þriðja aðila? |
| ? Ein af mörgum gerðum | Er kerfið samsett úr einu líkani eða nokkrum samtengdum gerðum? |
| ? Generative eða mismunandi | Er líkanið skapandi, mismunandi eða hvort tveggja? |
| ? Fyrirmyndarbygging | Lærir kerfið út frá reglum sem skrifuð eru af mönnum, af gögnum, í gegnum eftirlitsnám eða í gegnum styrkingarnám? |
| ? Líkanþróun (AI drift) | Þróast líkanið og/eða öðlast hæfileika vegna samskipta við gögn á sviði? |
| ? Sambandsnám eða miðlægt nám | Er líkanið þjálfað miðlægt eða á nokkrum staðbundnum netþjónum eða „edge“ tækjum? |
| ? Þróun/viðhald | Er líkanið alhliða, sérhannaðar eða sniðin að gögnum gervigreindarleikarans? |
| ? Ákveðið eða líkindalegt | Er líkanið notað á ákveðinn eða líkindalegan hátt? |
| ? Gagnsæi líkansins | Eru upplýsingar aðgengilegar notendum til að gera þeim kleift að skilja úttak líkana og takmarkanir eða nota takmarkanir? |
| ? Reiknitakmörkun | Eru reiknitakmarkanir á kerfinu? Er hægt að spá fyrir um getustökk eða stærðarlögmál? |
| Viðmiðanir | Dæmi um hvernig þetta getur endurspeglast í greiningu |
| ? Verkefni/verk unnin af kerfi | Hvaða verkefnum sinnir kerfið (þekking, atburðagreining, spá osfrv.)? |
| ? Að sameina verkefni og aðgerðir | Sameinar kerfið nokkur verkefni og aðgerðir (efnisframleiðslukerfi, sjálfstæð kerfi, stjórnkerfi osfrv.)? |
| ? Sjálfræðisstig kerfisins | Hversu sjálfstæðar eru aðgerðir kerfisins og hvaða hlutverki gegna menn? |
| ? Gráða mannleg þátttaka | Er einhver mannleg þátttaka til að hafa umsjón með heildarvirkni gervigreindarkerfisins og getu til að ákveða hvenær og hvernig eigi að nota gervigreindarkerfið í hvaða aðstæðum sem er? |
| ? Kjarnaforrit | Tilheyrir kerfið kjarnanotkunarsviði eins og tungumálatækni, tölvusjón, sjálfvirkni og/eða hagræðingu eða vélfærafræði? |
| ? Mat | Eru staðlar eða aðferðir tiltækar til að meta úttak kerfisins? |
Hvernig væri hægt að nota þennan ramma?
Hægt væri að nota þennan ramma á marga vegu, þar á meðal:
Leið fram á við
Í stuttu máli er greiningarramminn veittur sem grunnur að verkfærakistu sem hagsmunaaðilar gætu notað til að skoða ítarlega mikilvæga þróun annaðhvort á vettvangi eða notkun á samræmdan og kerfisbundinn hátt. Víddir sem kynntar eru í þessum ramma hafa þýðingu frá tæknimati til opinberrar stefnu, frá mannlegri þróun til félagsfræði og framtíðar- og tæknifræði. Þó að þessi greiningarrammi sé hannaður fyrir gervigreind, hefur mun víðtækari notkun á hvaða annarri tækni sem er að koma fram.
6 ráðgjafaráð Sameinuðu þjóðanna fyrir AI. 2023. Áfangaskýrsla: Stjórnandi gervigreind fyrir mannkynið. https://www.un.org/sites/un2.un.org/files/ai_advisory_body_interim_report.pd
Þakkir
Margir hafa verið ráðfærðir við og veitt ábendingar við gerð bæði upphaflegu umræðuskjalsins og ábendinga eftir að það kom út. Báðar skjölin voru skrifuð af Sir Peter Gluckman, forseti Alþjóðavísindaráðgjafarnefndarinnar (ISC) og Hema Sridhar, fyrrverandi yfirvísindaráðgjafi varnarmálaráðuneytisins á Nýja-Sjálandi og nú yfirmaður rannsóknamála. FellowHáskólinn í Auckland, Nýja-Sjálandi.
Einkum ISC Lord Martin Rees, fyrrverandi forseti Royal Society og meðstofnandi Center for the Study of Existential Risks, University of Cambridge; prófessor Shivaji Sondhi, prófessor í eðlisfræði, háskólanum í Oxford; Prófessor K Vijay Raghavan, fyrrverandi aðalvísindalegur ráðgjafi ríkisstjórnar Indlands; Amandeep Singh Gill, tæknifulltrúi framkvæmdastjóra Sameinuðu þjóðanna; Seán Ó hÉigeartaigh, framkvæmdastjóri, Center for the Study of Existential Risks, University of Cambridge; Sir David Spiegelhalter, Winton prófessor í almennum skilningi á áhættu, háskólanum
frá Cambridge; Amanda-June Brawner, yfirstefnuráðgjafi og Ian Wiggins, framkvæmdastjóri alþjóðamála, Royal Society, Bretlandi; Dr Jerome Duberry, framkvæmdastjóri og Dr Marie-Laure Salles, framkvæmdastjóri, Genf Graduate Institute; Chor Pharn Lee, Center for Strategic Futures, forsætisráðuneytið, Singapúr; Barend Mons og Dr Simon Hodson, nefnd um gögn (CoDATA); Prófessor Yuko Harayama, fyrrverandi framkvæmdastjóri, RIKEN; Prófessor
Rémi Quirion, forseti, INGSA; Dr Claire Craig, háskólanum í Oxford og fyrrverandi yfirmaður framsýni, vísindaskrifstofu ríkisstjórnarinnar; Prófessor Yoshua Bengio, vísindaráðgjafanefnd framkvæmdastjóra Sameinuðu þjóðanna og við Université de Montréal; og margir aðrir sem veittu ISC athugasemdir við upphaf umræðuskjalsins.
Undirbúningur landsvísindarannsókna fyrir gervigreind: Aðferðir og framfarir árið 2024
Þetta vinnuskjal frá hugveitu ISC, Center for Science Futures, veitir grundvallarupplýsingar og aðgang að auðlindum frá löndum frá öllum heimshlutum, á ýmsum stigum samþættingar gervigreindar í vistkerfi rannsókna sinna.
Að byggja upp framtíðarhæf vísindakerfi á Suðurhveli jarðar
Nýjar tæknilausnir eru að móta vísindastarfsemi á nýjan leik og bjóða upp á mikla möguleika til að styrkja vísindakerfi á Suðurhveli jarðar – ef innleiðing þeirra er leidd af aðgengilegum, vel studdum og samhengisnæmum aðferðum. Aðaláherslan í þessari nýlegu stefnumótandi ráðstefnu var hvernig tryggja megi að þessar tæknilausnir stuðli að réttlátari og seigri vísindakerfum, frekar en að styrkja núverandi misrétti.
Lestu meira um INGSA-Asia Science Advice Workshops 
Lestu meira um ársskýrslu 2024 – svæðisbundinn tengipunktur fyrir Rómönsku Ameríku og Karíbahafið 
Lestu meira um að beisla „stafrænt“ fyrir vísindi í umhverfi með minni úrræði 
