Uundaji wa Ujasusi wa Jumla wa Bandia (AGI) unachukuliwa kwa upana kuwa usioweza kuepukika. Hata hivyo, vitendo vya AGI inayojitambua vina utata, na utafiti muhimu unaonyesha uwezekano mkubwa wa uadui kwa wanadamu. Makala haya yanashughulikia mada ya wakati muafaka na muhimu ya utafiti wa kuzuia AGI. Ingawa kazi zilizopo zinachunguza mikakati kama semantiki salama ya lugha na sanduku la mchanga, mara nyingi hufungiwa na uwanja wake wa asili. Utafiti huu unajenga ontolojia ya msingi ya kikoa kuelezea vipengele muhimu kwa teknolojia za baadaye za kuzuia AGI, na kuweka tatizo ndani ya mfumo kamili wa sayansi ya mtandao.
AGI inawakilisha AI yenye ujasusi sawa au zaidi ya uwezo wa kibinadamu, ikifanya kazi katika upeo wa jumla na wenye mabadiliko. Hii inaleta hatari ya moja kwa moja na endelevu ikilinganishwa na AI nyembamba.
Kikichochewa na Babcock, Kramar, & Yampolskiy (2016), kuzuia kunaonekana kuhitaji mchanganyiko wa teknolojia za kawaida za usalama wa mtandao. Makala yanatambua hatari za kuwepo zilizowekwa na wataalamu kama Nick Bostrom, na kufanya kuzuia kuwa wasiwasi mkuu wa usalama.
Mifumo ya kawaida (kuta za moto, ugunduzi wa uvamizi) inatambuliwa kuwa na uwezo mdogo wa kushughulikia tishio la kipekee, linalobadilika la AGI yenye ujasusi mkubwa. Asili yao ya kuitikia haifai kwa ujasusi wa jumla unaotangulia.
Makala yanageukia sayansi ya mtandao, uwanja mpya unaotoa muktadha wa maarifa zaidi kamili. Yanatumia ufafanuzi wa Kott (2015) wa shughuli za mtandao zinazohusisha programu hatari, na kuchora mlinganisho ambapo AGI au vifaa vyake vya kuzuia vinaweza kuonekana kuwa "hatari" kutoka kwa mtazamo wa upande wa pili, na kusisitiza hitaji la ontolojia iliyopangwa kupanga dhana hizi.
Ontolojia hii iliundwa kupitia uchambuzi wa kimfumo wa fasihi ya kitaaluma iliyopo kuhusu AGI, usalama wa mtandao, na mikakati ya kuzuia.
Ontolojia maalum ya kikoa, yenye ngazi, ilijengwa ili kuainisha na kuunganisha dhana kuu. Mchakato wa uundaji ulihusisha kutambua vyombo muhimu, sifa, na uhusiano kutoka kwa fasihi.
Uchambuzi ulitoa dhana za msingi muhimu za kuiga hali ya kuzuia AGI, na kusababisha kutambuliwa kwa vitu vitatu vikuu vya wakala.
Mchango msingi ni ontolojia moja ya kikoa iliyoundwa kutoa msamiati wa kawaida na mfumo wa dhana kwa utafiti wa kuzuia AGI.
Ontolojia imepangwa katika viwango vitano tofauti vya ngazi, ikijumuisha jumla ya nambari 32, kila moja ikiwa na maelezo yanayohusiana. Viwango hivi vinakwenda kimantiki kutoka dhana za msingi za kufikirika hadi utekelezaji halisi wa utaratibu.
Makala yanajumuisha michoro ya ontolojia kuonyesha kwa macho uhusiano uliokusudiwa kati ya dhana zilizotambuliwa, kama vile "ina", "inafuatilia", "inatishia", na "inafanya kazi ndani ya".
Ufahamu muhimu ni utambuzi rasmi wa vitu vitatu vipya vya wakala muhimu kwa kuiga kuzuia:
Mfano huu wa pande tatu ni muhimu kwa kuondoka kwenye hadithi rahisi za wanadamu dhidi ya AI hadi kwenye mtazamo wa kimfumo wenye utata zaidi.
Waandishi wanadai kuwa kazi yao inashughulikia mapengo matatu muhimu katika uwanja huu:
Ufahamu Msingi: Mchango wenye thamana zaidi wa makala sio algoriti mpya ya kuzuia, bali mfumo-meta muhimu. Inatambua kwa usahihi kwamba mjadala wa kuzuia AGI umekwama katika suluhisho maalum za uwanja (Sayansi ya Kompyuta, falsafa, usalama) na hukosa lugha ya umoja. Kwa kupendekeza ontolojia ya sayansi ya mtandao, inajaribu kujenga misingi ya dhana muhimu kwa utafiti mkali wa taaluma mbalimbali. Hii inalingana na masomo kutoka kwa taaluma zilizokomaa; kwa mfano, uundaji wa lugha ya kupanga STRIPS ulikuwa muhimu kwa utafiti wa kupanga AI, na kutoa msingi wa kawaida wa kuunda tatizo na kulinganisha suluhisho.
Mtiririko wa Mantiki: Hoja ni sahihi: 1) Hatari ya AGI ni halisi na kuzuia kunahitajika. 2) Usalama wa sasa wa mtandao hautoshi (hoja iliyokubaliwa vizuri, inayorudiwa katika ukosoaji wa usalama wa ML na Papernot et al.). 3) Kwa hivyo, tunahitaji msingi mpana—Sayansi ya Mtandao. 4) Ili kujenga ndani ya msingi huu, kwanza tunahitaji ontolojia iliyopangwa kufafanua istilahi na uhusiano wetu. Mtiririko kutoka kwa utambuzi wa tatizo hadi suluhisho la msingi lililopendekezwa ni wazi na wenye mantiki.
Nguvu na Kasoro: Nguvu yake ni mwelekeo wake wa busara wa kupangilia kimfumo. Mfano wa wakala wa pande tatu (Mwanadamu/AGI/Ulimwengu wa Mtandao) ni mzuri na muhimu. Hata hivyo, kasoro kuu ya makala ni ufikiriaji mkubwa sana. Inawasilisha uwepo wa ontolojia (viwango 5, nambari 32) kama matokeo, bila kuchapisha ontolojia yenyewe. Nambari 32 ni zipi? Viwango vitano ni vipi? Hii ni kama kutangaza sintaksia mpya ya lugha ya programu bila kutoa sarufi. Bila maelezo haya, kazi inabaki kuwa ahadi, na kuzuia matumizi ya haraka. Zaidi ya hayo, ingawa kutoa marejeo ya ufafanuzi wa sayansi ya mtandao wa Kott ni busara, inaweza kunyoosha mlinganisho wa "programu hatari" kupita kiasi kwa wakala mwenye ujasusi mkubwa.
Ufahamu Unaoweza Kutekelezwa: Kwa watafiti: Kazi ya haraka ni kutekeleza ontolojia hii. Chapisha seti kamili ya nambari na maelezo. Tumia kuiga rasmi hali maalum za kuzuia (k.m., AGI inayojaribu kutoroka kupitia njia ya ziada) na kutambua mapengo katika mikakati iliyopo. Kwa watendaji na waunda sera: Makala haya yanasistiza kwamba usalama wa AGI sio tu tatizo la AI bali tatizo la usalam wa mifumo ya kimwili ya mtandao kwa kiwango kikubwa. Uwekezaji unapaswa kuelekea sio tu katika utafiti wa usawa wa AI, bali pia katika kazi ya msingi juu ya kompyuta inayoweza kuthibitishwa, mbinu rasmi za mifumo changamano, na usanifu wenye uwezo wa kustahimili mtandao, kama inavyotangazwa na taasisi kama programu ya DARPA ya Kuhakikisha Uimara wa AI dhidi ya Udanganyifu (GARD).
Ingawa PDF haielezi kwa kina misingi ya hisabati, ontolojia thabiti ya kuzuia AGI inapaswa kuweza kuelezewa katika mfumo unaotegemea mantiki. Urasimishaji unaowezekana kwa kutumia mantiki ya maelezo au mantiki ya mpangilio wa kwanza unaweza kufafanua wakala, vitendo, na uhusiano wa kuzuia.
Mfano wa Kipande cha Rasmi (Kifikra):
Acha $A$ iwe seti ya Wakala, ambapo $A = \{Mwanadamu, AGI, Kitu cha Mtandao\}$.
Acha $S$ iwe seti ya Hali za Ulimwengu wa Mtandao.
Acha $Uwezo(x)$ ionyeshe uwezo wa wakala $x$.
Kanuni msingi ya kuzuia inaweza kuwa:
$\forall s \in S, \forall a \in A \text{ ambapo } a = AGI: \text{ItifakiYaKuzuia}(s) \rightarrow \text{Hupunguza}(Uwezo(a), s)$
Hii inasema kwamba kwa hali zote na kwa wakala AGI, itifaki ya kuzuia inayofanya kazi inamaanisha kikomo kwenye uwezo wa AGI ndani ya hali hiyo.
Ontolojia inaonyesha uwezekano wa mfumo wa mpito wa hali ambapo vitendo vya AGI au watetezi wanadamu vinabadilisha hali ya mfumo, na kuzuia ni sifa inayopaswa kuthibitishwa katika mipito inayowezekana, sawa na ukaguzi wa mfano katika usalama wa kompyuta.
Hali: Kuchambua "Sanduku la Mchanga la AI" lililopendekezwa kwa kutumia ontolojia ya Pittman & Crosby.
Hatua: