Iminungkahi ng ilang akademya at dalubhasa sa patakaran na ang International Science Council - kasama ang pluralistic na membership nito mula sa social at natural sciences - ay nagtatag ng isang proseso upang makagawa at mapanatili ang isang annotated na balangkas/checklist ng mga panganib, benepisyo, banta at pagkakataon nauugnay sa mabilis na paglipat ng mga digital na teknolohiya, kabilang ang – ngunit hindi limitado sa – AI. Ang layunin ng checklist ay upang ipaalam sa lahat ng stakeholder – kabilang ang mga pamahalaan, trade negotiators, regulators, civil society at industriya – ng mga potensyal na sitwasyon sa hinaharap, at magbalangkas kung paano nila maaaring isaalang-alang ang mga pagkakataon, benepisyo, panganib at iba pang mga isyu.
Ang ISC ay nalulugod na ipakita ang papel ng talakayan na ito sa pagsusuri sa mabilis na pagbuo ng digital at kaugnay na teknolohiya. Ang Artificial Intelligence, synthetic biology at quantum technologies ay mga pangunahing halimbawa ng inobasyon, na alam ng agham, na umuusbong sa hindi pa nagagawang bilis. Maaaring maging mahirap na sistematikong asahan hindi lamang ang kanilang mga aplikasyon, kundi pati na rin ang kanilang mga implikasyon.
Ang pagsusuri sa mga sosyal na aspeto ng generative AI tulad ng malalaking modelo ng wika, na mahuhulaan na kumakatawan sa karamihan ng papel ng talakayan na ito, ay isang kinakailangang tulay sa loob ng kasalukuyang diskurso - kung minsan ay dulot ng panic, sa ibang pagkakataon ay hindi sapat na malalim sa pag-iisip - at ang mga kinakailangang kurso ng aksyon na maaari nating gawin. Ang ISC ay kumbinsido na ang isang analytical na balangkas sa pagitan ng panlipunang pagtanggap ng mga naturang bagong teknolohiya at ang kanilang posibleng regulasyon ay kinakailangan upang mapadali ang mga talakayan ng multistakeholder na kailangan upang makagawa ng matalino at responsableng mga desisyon kung paano i-optimize ang mga benepisyong panlipunan ng mabilis na umuusbong na teknolohiyang ito.
Bukas ang ISC sa mga reaksyon mula sa ating komunidad sa pamamagitan ng papel na ito ng talakayan upang masuri kung paano pinakamahusay na patuloy na maging bahagi at mag-ambag sa debate tungkol sa teknolohiya.
Salvatore Aricò, CEO
Isang papel sa talakayan ng ISC
Isang balangkas para sa pagsusuri ng mabilis na pagbuo ng mga digital at nauugnay na teknolohiya: AI, malalaking modelo ng wika at higit pa
Ang papel ng talakayan na ito ay nagbibigay ng balangkas ng isang paunang balangkas upang ipaalam ang maramihang pandaigdigang at pambansang mga talakayan na nagaganap na may kaugnayan sa AI.
I-download ang ulatBago! Basahin ang 2024 na bersyon para sa mga gumagawa ng patakaran na may nada-download na framework para sa iyong organisasyon.
Isang gabay para sa mga gumagawa ng patakaran: Pagsusuri sa mabilis na pagbuo ng mga teknolohiya kabilang ang AI, malalaking modelo ng wika at higit pa
Ang papel ng talakayan na ito ay nagbibigay ng balangkas ng isang paunang balangkas upang ipaalam ang maramihang pandaigdigang at pambansang mga talakayan na nagaganap na may kaugnayan sa AI.
Nilalaman
pagpapakilala
Ang mabilis na umuusbong na mga teknolohiya ay nagpapakita ng mga mapaghamong isyu pagdating sa kanilang pamamahala at potensyal na regulasyon. Ang patakaran at mga pampublikong debate sa artificial intelligence (AI) at ang paggamit nito ay nagdala sa mga isyung ito sa matinding pagtuon. Habang ang malawak na mga prinsipyo para sa AI ay ipinahayag ng UNESCO, OECD at iba pa, at may mga bagong talakayan tungkol sa pandaigdigang o hurisdiksyon na regulasyon ng teknolohiya, mayroong isang ontological na agwat sa pagitan ng pagbuo ng mga mataas na antas na prinsipyo at ang kanilang pagsasama sa regulasyon, patakaran, mga diskarte sa pamamahala at pangangasiwa. Dito maaaring magkaroon ng partikular na papel ang non-governmental scientific community.
Iminungkahi ng ilang akademya at eksperto sa patakaran na ang International Science Council (ISC) – kasama ang pluralistic membership nito mula sa social at natural sciences – ay nagtatag ng isang proseso para makagawa at mapanatili ang isang annotated na balangkas/checklist ng mga panganib, benepisyo, mga banta at pagkakataong nauugnay sa mabilis na paglipat ng mga digital na teknolohiya, kabilang ang – ngunit hindi limitado sa – AI. Ang layunin ng checklist ay upang ipaalam sa lahat ng stakeholder – kabilang ang mga pamahalaan, trade negotiators, regulators, civil society at industriya – ng mga potensyal na sitwasyon sa hinaharap, at magbalangkas kung paano nila maaaring isaalang-alang ang mga pagkakataon, benepisyo, panganib at iba pang mga isyu.
Ang mga output ay hindi kikilos bilang isang katawan ng pagtatasa, ngunit bilang isang adaptive at umuusbong na balangkas ng analytical na maaaring magpatibay sa anumang proseso ng pagtatasa at regulasyon na maaaring binuo ng mga stakeholder, kabilang ang mga pamahalaan at ang multilateral na sistema. Ang anumang analytical na balangkas ay dapat na mainam na mabuo nang independyente sa mga paghahabol ng gobyerno at industriya, dahil sa kanilang naiintindihan na mga interes. Dapat din itong maging maximally pluralistic sa mga pananaw nito, kaya sumasaklaw sa lahat ng aspeto ng teknolohiya at mga implikasyon nito.
Ang papel ng talakayan na ito ay nagbibigay ng balangkas ng isang paunang balangkas upang ipaalam ang maramihang pandaigdigang at pambansang mga talakayan na nagaganap na may kaugnayan sa AI.
Background: Bakit isang analytical framework?
Ang mabilis na paglitaw ng isang teknolohiya na may kumplikado at mga implikasyon ng AI ay nagtutulak ng maraming pag-aangkin ng magagandang benepisyo. Gayunpaman, nagdudulot din ito ng takot sa mga makabuluhang panganib, mula sa indibidwal hanggang sa geo-strategic na antas. Karamihan sa talakayan ay may posibilidad na maganap sa sukdulang dulo ng spectrum ng mga pananaw, at kailangan ang isang mas pragmatikong diskarte. Ang teknolohiya ng AI ay patuloy na magbabago at ipinapakita ng kasaysayan na halos lahat ng teknolohiya ay may parehong kapaki-pakinabang at nakakapinsalang paggamit. Ang tanong ay, samakatuwid: paano natin makakamit ang mga kapaki-pakinabang na kinalabasan mula sa teknolohiyang ito, habang binabawasan ang panganib ng mga mapaminsalang kahihinatnan, ang ilan sa mga ito ay maaaring maging eksistensyal sa magnitude?
Ang hinaharap ay palaging hindi tiyak, ngunit may sapat na mapagkakatiwalaan at ekspertong mga boses tungkol sa AI at generative AI upang hikayatin ang isang medyo maingat na diskarte. Bilang karagdagan, kailangan ang diskarte sa system, dahil ang AI ay isang klase ng mga teknolohiya na may malawak na paggamit at aplikasyon ng maraming uri ng mga user. Nangangahulugan ito na ang buong konteksto ay dapat isaalang-alang kapag isinasaalang-alang ang mga implikasyon ng AI para sa mga indibidwal, buhay panlipunan, buhay sibiko, buhay panlipunan at sa pandaigdigang konteksto.
Hindi tulad ng karamihan sa mga nakaraang teknolohiya, ang mga digital at nauugnay na teknolohiya ay may napakaikling panahon mula sa pag-unlad hanggang sa paglabas, na higit sa lahat ay hinihimok ng mga interes ng mga kumpanya o ahensya ng produksyon. Ang AI ay mabilis na lumaganap; ang ilang mga pag-aari ay maaari lamang maging maliwanag pagkatapos ng paglabas, at ang teknolohiya ay maaaring magkaroon ng parehong mapaminsalang at mabait na mga aplikasyon. Ang mga dimensyon ng mahahalagang halaga ay makakaimpluwensya sa kung paano nakikita ang anumang paggamit. Higit pa rito, maaaring mayroong geo-strategic na interes sa paglalaro.
Sa ngayon, ang regulasyon ng isang virtual na teknolohiya ay higit na nakikita sa pamamagitan ng lens ng "mga prinsipyo" at boluntaryong pagsunod. Gayunpaman, kamakailan lamang, ang talakayan ay bumaling sa mga isyu ng pambansa at multilateral na pamamahala, kabilang ang paggamit ng mga tool sa regulasyon at iba pang patakaran. Ang mga paghahabol na ginawa para sa o laban sa AI ay madalas na hyperbolic at - dahil sa likas na katangian ng teknolohiya - mahirap masuri. Ang pagtatatag ng isang epektibong pandaigdigan o pambansang sistema ng regulasyon ng teknolohiya ay magiging mahirap, at maramihang mga layer ng paggawa ng desisyon na may kaalaman sa panganib ay kakailanganin kasama ang kadena, mula sa imbentor hanggang sa producer, sa user, sa gobyerno at sa multilateral system.
Habang ang mga prinsipyong may mataas na antas ay ipinahayag ng UNESCO, OECD at ng European Commission, bukod sa iba pa, at ang iba't ibang mga talakayan sa mataas na antas ay isinasagawa patungkol sa mga isyu ng potensyal na regulasyon, mayroong malaking agwat sa ontolohiya sa pagitan ng mga naturang prinsipyo at isang balangkas ng pamamahala o regulasyon. Ano ang taxonomy ng mga pagsasaalang-alang na maaaring kailangang isaalang-alang ng isang regulator? Ang isang makitid na nakatutok na pag-frame ay magiging hindi matalino, dahil sa malawak na implikasyon ng mga teknolohiyang ito. Ang potensyal na ito ay naging paksa ng maraming komentaryo, parehong positibo at negatibo.
Ang pagbuo ng isang analytical framework
Ang ISC ay ang pangunahing pandaigdigang NGO na nagsasama ng natural at panlipunang agham. Nangangahulugan ang pandaigdigan at pandisiplinang abot nito na mahusay itong nakalagay upang makabuo ng independyente at may kaugnayang payo sa buong mundo upang ipaalam ang mga kumplikadong pagpipilian sa hinaharap, lalo na dahil ang kasalukuyang mga boses sa arena na ito ay higit sa lahat ay mula sa industriya o mula sa mga pangunahing kapangyarihan ng teknolohiya. Kasunod ng malawakang talakayan sa nakalipas na mga buwan, kabilang ang pagsasaalang-alang ng isang proseso ng pagtatasa na hindi pang-gobyerno, ang ISC ay nagtapos na ang pinakakapaki-pakinabang na kontribusyon nito ay ang paggawa at pagpapanatili ng adaptive analytic framework na magagamit bilang batayan para sa diskurso at paggawa ng desisyon ng lahat ng stakeholder, kasama ang anumang pormal na proseso ng pagtatasa na lalabas.
Ang balangkas na ito ay magkakaroon ng anyo ng isang pangkalahatang checklist na maaaring magamit ng parehong mga institusyon ng gobyerno at non-government. Tinutukoy at tinutuklas ng framework ang potensyal ng isang teknolohiya tulad ng AI at mga derivatives nito sa pamamagitan ng malawak na lente na sumasaklaw sa kapakanan ng tao at lipunan, gayundin ang mga panlabas na salik, gaya ng ekonomiya, pulitika, kapaligiran at seguridad. Maaaring mas may kaugnayan ang ilang aspeto ng checklist kaysa sa iba, depende sa konteksto, ngunit mas malamang na magkaroon ng mas mahuhusay na desisyon kung isasaalang-alang ang lahat ng domain. Ito ang likas na halaga ng isang checklist approach.
Ang iminungkahing balangkas ay hinango mula sa nakaraang gawain at pag-iisip, kabilang ang ulat ng digital wellbeing ng International Network for Governmental Science Advice (INGSA).1 at ang OECD AI Classification Framework2 upang ipakita ang kabuuan ng mga potensyal na pagkakataon, panganib at epekto ng AI. Ang mga nakaraang produktong ito ay mas pinaghihigpitan sa kanilang layunin dahil sa kanilang oras at konteksto, mayroong pangangailangan para sa isang pangkalahatang balangkas na nagpapakita ng buong hanay ng mga isyu kapwa sa maikli at mas mahabang panahon.
Habang binuo para sa pagsasaalang-alang ng AI, ang analytical framework na ito ay maaaring ilapat sa anumang mabilis na umuusbong na teknolohiya. Ang mga isyu ay malawak na pinagsama-sama sa mga sumusunod na kategorya para sa karagdagang pagsusuri:
Ang isang listahan ng mga pagsasaalang-alang para sa bawat isa sa mga kategorya sa itaas ay kasama kasama ng kani-kanilang mga pagkakataon at kahihinatnan. May kaugnayan ang ilan para sa mga partikular na pagkakataon o application ng AI habang ang iba ay generic at agnostic ng platform o paggamit. Walang iisang pagsasaalang-alang na kasama dito ang dapat ituring bilang priyoridad at, dahil dito, lahat ay dapat suriin.
Paano magagamit ang balangkas na ito?
Maaaring gamitin ang balangkas na ito sa, ngunit hindi limitado sa, sa mga sumusunod na paraan:
Ang sumusunod na talahanayan ay isang maagang paghubog ng mga sukat ng isang analytic framework. Depende sa teknolohiya at paggamit nito, ang ilang bahagi ay magiging mas may kaugnayan kaysa sa iba. Ang mga halimbawa ay ibinigay upang ilarawan kung bakit maaaring mahalaga ang bawat domain; sa konteksto, ang balangkas ay mangangailangan ng pagpapalawak na nauugnay sa konteksto. Mahalaga rin na makilala ang pagkakaiba sa pagitan ng mga pagpapaunlad ng platform at ang mga generic na isyu na maaaring lumabas sa panahon ng mga partikular na application.
Mga sukat na dapat isaalang-alang kapag sinusuri ang isang bagong teknolohiya
| Paunang draft ng mga dimensyon na maaaring kailangang isaalang-alang kapag nagsusuri ng bagong teknolohiya | ||
| Mga sukat ng epekto | Pamantayan ng | Mga halimbawa kung paano ito maipapakita sa pagsusuri |
| Indibidwal/ sarili | Kakayahan sa AI ng mga gumagamit | Gaano kahusay at kamalayan sa mga katangian ng system ang malamang na mga user na makikipag-ugnayan sa system? Paano sila bibigyan ng may-katuturang impormasyon at pag-iingat ng user? |
| Mga apektadong stakeholder | Sino ang mga pangunahing stakeholder na maaapektuhan ng sistema (ibig sabihin, mga indibidwal, komunidad, mahina, sektoral na manggagawa, mga bata, mga gumagawa ng patakaran, mga propesyonal)? | |
| Opsyonalidad | Ang mga user ba ay binibigyan ng opsyong mag-opt out sa system; dapat ba silang bigyan ng pagkakataon na hamunin o itama ang output? | |
| Mga panganib sa karapatang pantao at mga demokratikong halaga | Maaari bang makaapekto ang system (at sa anong direksyon) sa mga karapatang pantao, kabilang ang, ngunit hindi limitado sa, privacy, kalayaan sa pagpapahayag, pagiging patas, panganib ng diskriminasyon, atbp.? | |
| Mga potensyal na epekto sa kapakanan ng mga tao | Maaapektuhan ba ng system (at sa anong direksyon) ang kapakanan ng indibidwal na gumagamit (ibig sabihin, kalidad ng trabaho, edukasyon, pakikipag-ugnayan sa lipunan, kalusugan ng isip, pagkakakilanlan, kapaligiran)? | |
| Potensyal para sa paglilipat ng paggawa ng tao | Mayroon bang potensyal para sa system na i-automate ang mga gawain o function na ginagawa ng mga tao? Kung gayon, ano ang mga kahihinatnan sa ibaba ng agos? | |
| Potensyal para sa pagkakakilanlan, pagpapahalaga o pagmamanipula ng kaalaman | Idinisenyo ba ang system para o potensyal na magagawang manipulahin ang pagkakakilanlan ng user o itinakda ang mga halaga, o magpakalat ng disinformation? Mayroon bang potensyal para sa mali o hindi nabe-verify na pag-aangkin ng kadalubhasaan? | |
| Mga sukat ng pagpapahalaga sa sarili | Mayroon bang pressure na ilarawan ang isang idealized na sarili? Maaari bang palitan ng automation ang isang pakiramdam ng personal na katuparan? Mayroon bang pressure na makipagkumpitensya sa sistema sa lugar ng trabaho? Ginagawa bang mas mahirap protektahan ang indibidwal na reputasyon laban sa disinformation? | |
| Privacy | Mayroon bang magkakaibang mga responsibilidad para sa pag-iingat sa privacy at mayroon bang anumang mga pagpapalagay kung paano ginagamit ang personal na data? | |
| Pagsasarili | Maaapektuhan ba ng system ang awtonomiya ng tao sa pamamagitan ng pagbuo ng labis na pag-asa sa teknolohiya ng mga end-user? | |
| Pag-unlad ng tao | Mayroon bang epekto sa pagkuha ng mga pangunahing kasanayan para sa pag-unlad ng tao tulad ng mga executive function, interpersonal na kasanayan, mga pagbabago sa oras ng atensyon na nakakaapekto sa pag-aaral, pag-unlad ng personalidad, mga alalahanin sa kalusugan ng isip, atbp.? | |
| Personal na pangangalaga sa kalusugan | Mayroon bang mga claim ng mga personalized na solusyon sa pangangalagang pangkalusugan? Kung gayon, napatunayan ba ang mga ito sa mga pamantayan ng regulasyon? | |
| Sa kalusugan ng isip | Mayroon bang panganib ng pagtaas ng pagkabalisa, kalungkutan o iba pang mga isyu sa kalusugan ng isip, o maaari bang pagaanin ng teknolohiya ang mga ganitong epekto? | |
| Ebolusyon ng tao | Maaari bang humantong ang teknolohiya sa mga pagbabago sa ebolusyon ng tao? | |
| Mga sukat ng epekto | Pamantayan ng | paglalarawan |
| Lipunan / buhay panlipunan | Mga pagpapahalaga sa lipunan | Sa panimula ba ay binabago ng sistema ang kalikasan ng lipunan o pinapagana ang normalisasyon ng mga ideya na dating itinuturing na kontra-sosyal, o nilalabag ba nito ang mga societal values ng kultura kung saan ito inilalapat? |
| Pakikipag-ugnayan sa lipunan | Mayroon bang epekto sa makabuluhang pakikipag-ugnayan ng tao, kabilang ang mga emosyonal na relasyon? | |
| katarungan | Ang aplikasyon/teknolohiya ba ay malamang na bawasan o pahusayin ang mga hindi pagkakapantay-pantay (ibig sabihin, pang-ekonomiya, panlipunan, pang-edukasyon, heograpikal)? | |
| Kalusugan ng populasyon | Mayroon bang potensyal para sa sistema na isulong o pahinain ang mga intensyon sa kalusugan ng populasyon? | |
| Pagpapahayag ng kultura | Ang pagtaas ba ng kultural na paglalaan o diskriminasyon ay malamang o mas mahirap tugunan? Ang pag-asa ba sa sistema para sa paggawa ng desisyon ay posibleng magbukod o mag-marginalize ng mga seksyon ng lipunan? | |
| Pampublikong edukasyon | May epekto ba sa mga tungkulin ng guro o institusyong pang-edukasyon? Ang sistema ba ay binibigyang-diin o binabawasan ang hindi pagkakapantay-pantay sa mga mag-aaral at ang digital divide? Ang intrinsic na halaga ba ng kaalaman o kritikal na pag-unawa ay sumulong o humihina? | |
| Mga baluktot na katotohanan | Ang mga pamamaraan ba na ginagamit natin upang matukoy kung ano ang totoo ay naaangkop pa rin? Nakompromiso ba ang pang-unawa sa katotohanan? | |
| Konteksto ng ekonomiya (kalakalan) | Sektor ng industriya | Aling sektor ng industriya ang sistemang naka-deploy (ibig sabihin, pananalapi, agrikultura, pangangalaga sa kalusugan, edukasyon, depensa)? |
| Modelo ng negosyo | Sa anong function ng negosyo ginagamit ang system, at sa anong kapasidad? Saan ginagamit ang sistema (pribado, pampubliko, non-profit)? | |
| Epekto sa mga kritikal na aktibidad | Makakaapekto ba ang pagkagambala sa paggana o aktibidad ng system sa mga mahahalagang serbisyo o kritikal na imprastraktura? | |
| Hininga ng deployment | Paano inilalagay ang system (makitid sa loob ng isang organisasyon kumpara sa malawakang pambansa/internasyonal)? | |
| Technical maturity (TRL) | Gaano technically mature ang system? | |
| Teknolohikal na soberanya | Ang teknolohiya ba ay nagtutulak ng higit na konsentrasyon ng teknolohikal na soberanya. | |
| Muling pamamahagi ng kita at pambansang piskal na mga lever | Maaari bang makompromiso ang mga pangunahing tungkulin ng soberanong estado (ibig sabihin, Mga Reserve Bank)? Ang kakayahan ba ng estado na matugunan ang mga inaasahan at implikasyon ng mga mamamayan (ibig sabihin, panlipunan, pang-ekonomiya, pampulitika) ay susulong o mababawasan? | |
| Mga sukat ng epekto | Pamantayan ng | paglalarawan |
| buhay sibiko | Pamamahala at serbisyo publiko | Maaari bang maapektuhan ng positibo o negatibo ang mga mekanismo ng pamamahala at mga pandaigdigang sistema ng pamamahala? |
| Balita media | Ang pampublikong diskurso ba ay malamang na maging mas marami o hindi gaanong polarized at nakabaon sa antas ng populasyon? Magkakaroon ba ng epekto sa antas ng tiwala sa media? Mas maaapektuhan ba ang conventional journalism ethics at integrity standards? | |
| Alituntunin ng batas | Magkakaroon ba ng epekto sa kakayahang tukuyin ang mga indibidwal o organisasyon upang managot (ibig sabihin, anong uri ng pananagutan ang itatalaga sa isang algorithm para sa mga masamang resulta)? Lumilikha ba ito ng pagkawala ng soberanya (ibig sabihin, kapaligiran, piskal, patakarang panlipunan, etika)? | |
| Pulitika at pagkakaisa sa lipunan | Mayroon bang posibilidad ng mas nakabaon na pananaw sa pulitika at mas kaunting pagkakataon para sa pagbuo ng pinagkasunduan? Mayroon bang posibilidad na higit pang i-marginalize ang mga grupo? Ang mga istilo ba ng pulitika ng magkasalungat ay ginawang mas malamang? | |
| Geo-strategic/ geo-political na konteksto | Precision surveillance | Sinanay ba ang mga sistema sa indibidwal na data ng pag-uugali at biyolohikal, at kung gayon, magagamit ba ang mga ito upang pagsamantalahan ang mga indibidwal o grupo? |
| Digital kolonisasyon | Nagagamit ba ng mga aktor ng estado o hindi estado ang mga sistema at data upang maunawaan at makontrol ang mga populasyon at ecosystem ng ibang mga bansa, o upang pahinain ang kontrol sa hurisdiksyon? | |
| Geo-politikal na kompetisyon | Nakakaapekto ba ang system sa kompetisyon sa pagitan ng mga bansa at mga platform ng teknolohiya para sa pag-access sa indibidwal at kolektibong data para sa pang-ekonomiya o estratehikong layunin? | |
| Mga kasunduan sa kalakalan at kalakalan | May implikasyon ba ang sistema para sa mga internasyonal na kasunduan sa kalakalan? | |
| Paglipat sa pandaigdigang kapangyarihan | Nasa banta ba ang katayuan ng mga nation-state bilang pangunahing geo-political na aktor sa mundo? Magkakaroon ba ng kapangyarihan ang mga kumpanya ng teknolohiya sa sandaling nakalaan para sa mga bansang estado at sila ba ay nagiging independiyenteng soberanong aktor? | |
| Disinformation | Mas madali ba para sa mga aktor ng estado at hindi estado na gumawa at magpakalat ng disinformation na nakakaapekto sa pagkakaisa ng lipunan, tiwala at demokrasya? | |
| Environmental | Pagkonsumo ng enerhiya at mapagkukunan (carbon footprint) | Pinapataas ba ng system at mga kinakailangan ang paggamit ng enerhiya at pagkonsumo ng mapagkukunan nang higit pa sa kahusayan na nakuha sa pamamagitan ng aplikasyon? |
| Mga sukat ng epekto | Pamantayan ng | paglalarawan |
| Data at input | Pagtuklas at pagkolekta | Ang data at input ba ay kinokolekta ng mga tao, mga automated na sensor o pareho? |
| Provenance ng data | Tungkol sa data, ang mga ito ba ay ibinigay, sinusunod, sintetiko o hinango? Mayroon bang mga proteksyon sa watermark upang kumpirmahin ang pinagmulan? | |
| Dynamic na katangian ng data | Ang data ba ay dynamic, static, na-update paminsan-minsan o na-update sa real-time? | |
| Karapatan | Ang data ba ay pagmamay-ari, pampubliko o personal (ibig sabihin, nauugnay sa mga makikilalang indibidwal)? | |
| Pagkakakilanlan ng personal na data | Kung personal na data, sila ba ay hindi nagpapakilala o pseudonymized? | |
| Istruktura ng data | Ang data ba ay structured, semi-structured, complex structured o unstructured? | |
| Format ng data | Ang format ba ng data at metadata ay na-standardize o hindi? | |
| Scale ng data | Ano ang sukat ng dataset? | |
| Angkop at kalidad ng data | Ang dataset ba ay angkop para sa layunin? Sapat ba ang sample size? Ito ba ay kinatawan at sapat na kumpleto? Gaano kaingay ang data? Ito ba ay madaling kapitan ng pagkakamali? | |
| modelo | Ang pagkakaroon ng impormasyon | Available ba ang impormasyon tungkol sa modelo ng system? |
| Uri ng modelo ng AI | Simboliko ba ang modelo (mga panuntunang binuo ng tao), istatistika (gumagamit ng data) o hybrid? | |
| Mga karapatang nauugnay sa modelo | Ang modelo ba ay open source, o proprietary, self-o third-party na pinamamahalaan? | |
| Iisa o maramihang modelo | Ang system ba ay binubuo ng isang modelo o ilang magkakaugnay na modelo? | |
| Generative o discriminative | Ang modelo ba ay generative, discriminative o pareho? | |
| Modelo ng gusali | Natututo ba ang system batay sa mga panuntunang isinulat ng tao, mula sa data, sa pamamagitan ng pinangangasiwaang pag-aaral o sa pamamagitan ng reinforcement learning? | |
| Ebolusyon ng modelo (AI drift) | Nag-evolve ba ang modelo at/o nakakakuha ng mga kakayahan mula sa pakikipag-ugnayan sa data sa field? | |
| Federated o central learning | Ang modelo ba ay sinanay sa gitna o sa ilang mga lokal na server o "gilid" na mga aparato? | |
| Pag-unlad at pagpapanatili | Ang modelo ba ay unibersal, nako-customize o iniayon sa data ng aktor ng AI? | |
| Deterministic o probabilistiko | Ginagamit ba ang modelo sa isang deterministic o probabilistic na paraan? | |
| Transparency ng modelo | Available ba ang impormasyon sa mga user upang payagan silang maunawaan ang mga output at limitasyon ng modelo o gumamit ng mga hadlang? | |
| Limitasyon sa computational | Mayroon bang mga limitasyon sa computational sa system? Maaari ba nating hulaan ang mga paglukso ng kakayahan o pag-scale ng mga batas? | |
| Mga sukat ng epekto | Pamantayan ng | paglalarawan |
| Gawain at output | (mga) gawaing ginagawa ng system | Anong mga gawain ang ginagawa ng system (ibig sabihin, pagkilala, pagtuklas ng kaganapan, pagtataya)? |
| Pinagsasama-sama ang mga gawain at aksyon | Pinagsasama ba ng system ang ilang mga gawain at aksyon (ibig sabihin, mga sistema ng pagbuo ng nilalaman, mga autonomous na sistema, mga sistema ng kontrol)? | |
| Ang antas ng awtonomiya ng system | Gaano autonomous ang mga aksyon ng system at anong papel ang ginagampanan ng mga tao? | |
| Degree ng pakikilahok ng tao | Mayroon bang ilang pakikilahok ng tao upang pangasiwaan ang pangkalahatang aktibidad ng AI system at ang kakayahang magpasya kung kailan at paano gamitin ang system sa anumang sitwasyon? | |
| Pangunahing aplikasyon | Nabibilang ba ang system sa isang pangunahing lugar ng aplikasyon gaya ng mga teknolohiya sa wika ng tao, computer vision, automation at/o optimization, o robotics? | |
| Paghusga | Available ba ang mga pamantayan o pamamaraan upang suriin ang output ng system o makitungo sa mga hindi inaasahang lumilitaw na katangian? | |
Susi sa pinagmumulan ng mga deskriptor
Plain text:
Gluckman, P. at Allen, K. 2018. Pag-unawa sa kagalingan sa konteksto ng mabilis na digital at nauugnay na mga pagbabago. INGSA. https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf
Makapal na sulat:
OECD. 2022. OECD Framework para sa Pag-uuri ng mga AI system. OECD Digital Economy Papers, No. 323, OECD Publishing, Paris. https://oecd.ai/en/classification
Italic text:
Mga bagong deskriptor (mula sa maraming mapagkukunan)
Isang daan pasulong
Depende sa tugon sa papel na ito ng talakayan, isang grupo ng ekspertong nagtatrabaho ang bubuo ng ISC upang higit pang bumuo o baguhin ang analytical framework sa itaas kung saan maaaring komprehensibong tingnan ng mga stakeholder ang anumang makabuluhang pag-unlad alinman sa mga platform o mga sukat ng paggamit. Ang grupong nagtatrabaho ay magiging disciplinarily, heograpikal at demograpikong magkakaibang, na may kadalubhasaan na sumasaklaw mula sa pagtatasa ng teknolohiya hanggang sa pampublikong patakaran, mula sa pag-unlad ng tao hanggang sa pag-aaral sa sosyolohiya at hinaharap at teknolohiya.
Upang makisali sa papel ng talakayang ito, mangyaring bisitahin ang council.science/publications/framework-digital-technologies
Pagkilala
Maraming tao ang nakonsulta sa pagbuo ng papel na ito, na binuo ni Sir Peter Gluckman, Presidente, ISC at Hema Sridhar, dating Punong Siyentista, Ministri ng Depensa, at ngayon ay senior research fellow, University of Auckland, New Zealand .
Sa partikular, pinasasalamatan namin si Lord Martin Rees, dating Pangulo ng Royal Society at co-founder ng Center for the Study of Existential Risks, University of Cambridge; Propesor Shivaji Sondhi, Propesor ng Physics, Unibersidad ng Oxford; Propesor K Vijay Raghavan, dating punong siyentipikong tagapayo sa Pamahalaan ng India; Amandeep Singh Gill, UN Secretary General's Envoy on Technology; Dr Seán Óh Éigeartaigh, Executive Director, Center for the Study of Existential Risks, University of Cambridge; Amanda-June Brawner, Senior Policy Adviser at Ian Wiggins, Director of International Affairs, Royal Society UK; Dr Jerome Duberry, Dr Marie-Laure Salles, Direktor, Geneva Graduate Institute; Mr Chor Pharn Lee, Center for Strategic Futures, Prime Minister's Office, Singapore; Barend Mons at Dr Simon Hodson, ang Committee on Data (CoDATA); Prof Yuko Harayama, Japan; Propesor Rémi Quirion, Pangulo, INGSA; Dr Claire Craig, University of Oxford at Dating Pinuno ng Foresight, Government Office of Science; at Prof Yoshua Bengio, Scientific Advisory Board ng UN Secretary General at sa Université de Montréal. Ang diskarte sa checklist ay karaniwang inendorso at ang pagiging maagap ng anumang aksyon ng ISC ay binigyang-diin.
Larawan: adamichi sa iStock
Magbasa nang higit pa tungkol sa Mula sa agham hanggang sa pagkilos: Paggamit ng siyentipikong kaalaman at mga solusyon para sa pagsusulong ng napapanatiling at nababanat na pag-unlad 
Magbasa pa tungkol sa The Contextualization Deficit: Reframing Trust in Science for Multilateral Policy Magbasa pa tungkol sa Position paper para sa 2023 High-Level Political Forum 