सामान्य कृत्रिम बुद्धिमत्ता (AGI) का विकास व्यापक रूप से अपरिहार्य माना जाता है। हालांकि, आत्म-जागरूक AGI का व्यवहार अनिश्चित है, और बड़ी मात्रा में शोध यह दर्शाते हैं कि मानवता के प्रति शत्रुता प्रदर्शित करने की इसकी संभावना नगण्य नहीं है। यह लेख AGI सुरक्षा संयमन (कंटेनमेंट) के इस समयोपयोगी और महत्वपूर्ण शोध विषय की पड़ताल करता है। यद्यपि मौजूदा कार्य सुरक्षित भाषा शब्दार्थ और सैंडबॉक्स जैसी रणनीतियों का अन्वेषण करते हैं, वे अक्सर अपने मूल क्षेत्र तक सीमित रहते हैं। यह अध्ययन भविष्य की AGI संयमन तकनीकों के लिए आवश्यक तत्वों का वर्णन करने हेतु एक मूलभूत डोमेन ओंटोलॉजी का निर्माण करता है और इस समस्या को नेटवर्क विज्ञान के एक व्यापक ढांचे में स्थापित करता है।
AGI उस कृत्रिम बुद्धिमत्ता का प्रतिनिधित्व करता है जिसकी बुद्धिमत्ता मानव क्षमताओं तक पहुँचती या उससे आगे निकल जाती है, और जो गतिशील, सामान्य दायरे में कार्य कर सकती है। संकीर्ण AI की तुलना में, यह एक प्रत्यक्ष और निरंतर खतरा बनाता है।
Babcock, Kramar और Yampolskiy (2016) से प्रेरित होकर, नियंत्रण को पारंपरिक साइबर सुरक्षा तकनीकों के संयोजन की आवश्यकता वाला माना गया है। यह लेख Nick Bostrom जैसे विचारकों द्वारा प्रस्तुत अस्तित्वगत जोखिम को स्वीकार करता है, जो नियंत्रण को एक महत्वपूर्ण सुरक्षा मुद्दा बना देता है।
पारंपरिक प्रतिमान (फ़ायरवॉल, घुसपैठ का पता लगाना) को सुपरइंटेलिजेंट AGI जैसे अद्वितीय, अनुकूली खतरों से निपटने में सीमित क्षमता वाला माना जाता है। इसकी निष्क्रिय प्रकृति सक्रिय, सामान्य बुद्धिमान एजेंटों से निपटने के लिए उपयुक्त नहीं है।
यह लेख मुड़ता हैNetwork Science, यह एक उभरता हुआ क्षेत्र है जो अधिक व्यापक ज्ञान पृष्ठभूमि प्रदान करता है। यह Kott (2015) द्वारा मैलवेयर से जुड़े साइबर ऑपरेशन्स की परिभाषा को आधार बनाता है और एक सादृश्य बनाता है: एक विरोधी परिप्रेक्ष्य से, AGI या उसके नियंत्रण उपकरण को "दुर्भावनापूर्ण" माना जा सकता है, जो इन घटकों को व्यवस्थित करने के लिए एक संरचित ओंटोलॉजी की आवश्यकता को रेखांकित करता है।
यह ओंटोलॉजी AGI, साइबर सुरक्षा और नियंत्रण रणनीतियों पर मौजूदा शैक्षणिक साहित्य के व्यवस्थित विश्लेषण के माध्यम से निर्मित की गई है।
मुख्य अवधारणाओं को वर्गीकृत और संबंधित करने के लिए एक पदानुक्रमित, डोमेन-विशिष्ट ओंटोलॉजी का निर्माण किया गया। निर्माण प्रक्रिया में साहित्य से प्रमुख इकाइयों, गुणों और संबंधों की पहचान शामिल है।
AGI नियंत्रण परिदृश्यों के मॉडलिंग के लिए आवश्यक मूल संरचनात्मक घटकों का विश्लेषण और शोधन किया गया, जिससे तीन प्रमुख एजेंट वस्तुओं की पहचान हुई।
मुख्य योगदान एक एकल डोमेन ऑन्टोलॉजी है, जिसका उद्देश्य AGI कंटेनमेंट अनुसंधान के लिए एक सामान्य शब्दावली और वैचारिक ढांचा प्रदान करना है।
यह ऑन्टोलॉजी को व्यवस्थित किया गया हैपाँच विभिन्न स्तरों में, कुल मिलाकर शामिल हैं32 कोड, प्रत्येक कोड का संबंधित वर्णनकर्ता है। ये स्तर अमूर्त मूल अवधारणाओं से लेकर ठोस कार्यान्वयन तंत्र तक, तार्किक रूप से आगे बढ़ते हैं।
यह पाठ ओन्टोलॉजिकल आरेख शामिल करता है, जो पहचाने गए घटकों के बीच अपेक्षित संबंधों, जैसे "शामिल करना", "निगरानी करना", "खतरा" और "के भीतर संचालित होना", को दृश्य रूप से प्रस्तुत करता है।
एक महत्वपूर्ण अंतर्दृष्टि यह है कि कंटेनमेंट मॉडलिंग के लिए महत्वपूर्ण तीन नए एजेंट ऑब्जेक्ट्स की औपचारिक रूप से पहचान की गई:
यह त्रिपक्षीय मॉडल सरल मानव-मशीन प्रतिद्वंद्विता की कथा से आगे बढ़कर, अधिक सूक्ष्म प्रणालीगत दृष्टिकोण की ओर मुड़ने के लिए महत्वपूर्ण है।
लेखकों का मानना है कि उनके कार्य ने इस क्षेत्र में तीन प्रमुख अंतरालों का समाधान किया है:
मुख्य अंतर्दृष्टि: इस लेख का सबसे मूल्यवान योगदान एक नई containment algorithm नहीं, बल्कि एक महत्वपूर्णमेटा-फ्रेमवर्कइसने सही निदान किया कि AGI नियंत्रण पर बहस विशिष्ट क्षेत्रों (कंप्यूटर विज्ञान, दर्शन, सुरक्षा) के अस्थायी समाधानों में फंसी हुई है और एक एकीकृत भाषा का अभाव है। एक नेटवर्क विज्ञान आधारभूत संरचना (ऑन्टोलॉजी) प्रस्तावित करके, यह कठोर अंतर-अनुशासनिक शोध के लिए आवश्यक संकल्पनात्मक नाली (कंसेप्चुअल पाइपलाइन) का निर्माण करने का प्रयास करता है। यह परिपक्व क्षेत्रों के अनुभवों से सबक के अनुरूप है; उदाहरण के लिए,STRIPSAI योजना अनुसंधान के लिए योजना भाषा का विकास महत्वपूर्ण है, जो समस्या अभिव्यक्ति और समाधान तुलना के लिए एक सामान्य आधार प्रदान करता है।
तार्किक संरचना: तर्क उचित है: 1) AGI जोखिम वास्तविक है और इसे रोकने की आवश्यकता है। 2) वर्तमान साइबर सुरक्षा अपर्याप्त है (यह एक व्यापक रूप से स्वीकृत दृष्टिकोण है, और Papernot et al. द्वारा मशीन लर्निंग सुरक्षा की आलोचना भी इसी का समर्थन करती है)। 3) इसलिए, हमें एक व्यापक आधार - नेटवर्क विज्ञान की आवश्यकता है। 4) इस आधार पर निर्माण करने के लिए, हमें पहले अपनी शर्तों और संबंधों को परिभाषित करने के लिए एक संरचित ओंटोलॉजी की आवश्यकता है। समस्या पहचान से लेकर मूलभूत समाधान प्रस्तावित करने तक का तार्किक क्रम स्पष्ट और तर्कसंगत है।
लाभ और कमियाँ: इसका लाभ यह है कि यह दूरदर्शी रूप से ध्यान केंद्रित करता हैव्यवस्थित। त्रिपक्षीय एजेंट मॉडल (मानव/AGI/साइबर वर्ल्ड) सुंदर और आवश्यक है। हालाँकि, इस पेपर की मुख्य कमी इसकेअत्यधिक अमूर्तता। यह ओन्टोलॉजी के अस्तित्व (5 स्तर, 32 कोड) को परिणाम के रूप में प्रस्तुत करता है, लेकिन ओन्टोलॉजी को स्वयं प्रकाशित नहीं करता है। 32 कोड क्या हैं? पांच स्तर क्या हैं? यह एक नई प्रोग्रामिंग भाषा के वाक्यविन्यास की घोषणा करने जैसा है, लेकिन वाक्यविन्यास नियम जारी न करना। इन विवरणों के बिना, यह कार्य अभी भी एक खाली चेक है, जो इसकी तात्कालिक उपयोगिता को सीमित करता है। इसके अलावा, हालांकि Kott के नेटवर्क विज्ञान की परिभाषा का हवाला देना चतुराई भरा है, सुपर-एजेंट के संदर्भ में "मैलवेयर" की सादृश्यता को बहुत दूर तक बढ़ाना जोखिम भरा है।
क्रियान्वयन योग्य अंतर्दृष्टि: शोधकर्ताओं के लिए: वर्तमान कार्य हैपरिचालनीकरणयह ऑन्टोलॉजी। पूर्ण कोडसेट और डिस्क्रिप्टर जारी करें। इसका उपयोग विशिष्ट नियंत्रण परिदृश्यों (जैसे, AGI साइड-चैनल के माध्यम से डेटा लीक करने का प्रयास कर रहा है) को औपचारिक रूप से मॉडल करने और मौजूदा रणनीतियों में अंतराल की पहचान करने के लिए करें। व्यवसायियों और नीति निर्माताओं के लिए: यह पेपर इस बात पर जोर देता है कि AGI सुरक्षा न केवल एक AI समस्या है, बल्कि एक ब्रह्मांडीय पैमाने कीसाइबर-फिजिकल सिस्टम सुरक्षासमस्या। निवेश न केवल AI संरेखण अनुसंधान की ओर, बल्कि सत्यापन योग्य कंप्यूटिंग, जटिल प्रणालियों के लिए औपचारिक तरीके और साइबर लचीला आर्किटेक्चर जैसे मूलभूत कार्यों की ओर भी प्रवाहित होना चाहिए, जैसा कि DARPA केगारंटीकृत एआई रोबस्टनेस अगेंस्ट डिसेप्शन (GARD)जैसे कार्यक्रमों द्वारा प्रचारित किया गया है।
Although the PDF does not elaborate on the mathematical formalization, a robust AGI containment ontology should be expressible using a logic-based framework. Potential formalizations using description logic or first-order logic could define agents, actions, and containment relations.
Example Formalization Fragment (Conceptual):
मान लीजिए $A$ एजेंटों का समुच्चय है, जहाँ $A = \{Human, AGI, CyberEntity\}$।
मान लीजिए $S$ साइबर दुनिया की अवस्थाओं का समुच्चय है।
मान लीजिए $Cap(x)$ एजेंट $x$ की क्षमता को दर्शाता है।
एक मूल नियंत्रण अभिगृहीत इस प्रकार हो सकता है:
$\forall s \in S, \forall a \in A \text{ where } a = AGI: \text{ContainmentProtocol}(s) \rightarrow \text{Limits}(Cap(a), s)$
यह दर्शाता है कि सभी अवस्थाओं और AGI एजेंटों के लिए, एक सक्रिय नियंत्रण प्रोटोकॉल का तात्पर्य उस अवस्था में AGI की क्षमताओं पर प्रतिबंध से है।
यह ओंटोलॉजी एक अवस्था संक्रमण मॉडल का सुझाव दे सकती है, जिसमें AGI या मानव रक्षकों की कार्रवाइयाँ सिस्टम की अवस्था बदल देती हैं, और नियंत्रण एक ऐसा गुण है जिसे संभावित संक्रमणों में सत्यापित करने की आवश्यकता होती है, जो कंप्यूटर सुरक्षा में मॉडल जाँच के समान है।
परिदृश्य: 使用Pittman & Crosby本体论分析一个提议的“AI沙箱”。
चरण: