আর্টিফিশিয়াল জেনারেল ইন্টেলিজেন্স (এজিআই) এর বিকাশকে ব্যাপকভাবে অনিবার্য হিসেবে বিবেচনা করা হয়। তবে, একটি আত্মসচেতন এজিআই এর কর্মকাণ্ড অনিশ্চিত, এবং উল্লেখযোগ্য গবেষণা ইঙ্গিত দেয় যে মানুষের প্রতি বৈরী মনোভাবের সম্ভাবনা নগন্য নয়। এই গবেষণাপত্রটি এজিআই কন্টেইনমেন্টের সময়োপযোগী ও গুরুত্বপূর্ণ গবেষণা বিষয়টি সম্বোধন করে। বিদ্যমান কাজ নিরাপদ ভাষা শব্দার্থবিদ্যা এবং স্যান্ডবক্সিংয়ের মতো কৌশলগুলি অন্বেষণ করলেও, তা প্রায়শই তার উৎপত্তি ক্ষেত্র দ্বারা সীমাবদ্ধ থাকে। এই গবেষণা ভবিষ্যতের এজিআই কন্টেইনমেন্ট প্রযুক্তির জন্য প্রয়োজনীয় উপাদানগুলি বর্ণনা করার জন্য একটি মৌলিক ডোমেইন অন্টোলজি গঠন করে, সমস্যাটিকে সাইবার বিজ্ঞানের ব্যাপক কাঠামোর মধ্যে স্থাপন করে।
এজিআই এমন কৃত্রিম বুদ্ধিমত্তাকে প্রতিনিধিত্ব করে যা মানুষের ক্ষমতার সমান বা তার চেয়ে বেশি বুদ্ধিমত্তা সম্পন্ন, এবং যা গতিশীল, সাধারণ পরিসরে কাজ করে। সংকীর্ণ এআই এর তুলনায় এটি একটি প্রত্যক্ষ ও স্থায়ী বিপদ তৈরি করে।
বাবকক, ক্রামার, ও ইয়াম্পোলস্কি (২০১৬) দ্বারা অনুপ্রাণিত হয়ে, কন্টেইনমেন্টকে প্রচলিত সাইবার নিরাপত্তা প্রযুক্তির সমন্বয়ের প্রয়োজনীয়তা হিসেবে দেখা হয়। গবেষণাপত্রটি নিক বোস্ত্রমের মতো চিন্তাবিদদের দ্বারা বর্ণিত অস্তিত্বগত ঝুঁকিগুলিকে স্বীকার করে, কন্টেইনমেন্টকে সর্বোচ্চ নিরাপত্তা উদ্বেগে পরিণত করে।
প্রচলিত প্যারাডাইম (ফায়ারওয়াল, অনুপ্রবেশ সনাক্তকরণ) একটি অতিমানবিক বুদ্ধিমত্তাসম্পন্ন এজিআই এর অনন্য, অভিযোজিত হুমকি মোকাবেলায় সীমিত ক্ষমতা সম্পন্ন বলে স্বীকৃত। তাদের প্রতিক্রিয়াশীল প্রকৃতি একটি সক্রিয়, সাধারণ বুদ্ধিমত্তার জন্য অনুপযুক্ত।
গবেষণাপত্রটি সাইবার বিজ্ঞান এর দিকে মোড় নেয়, যা একটি নবীন ক্ষেত্র যা আরও ব্যাপক জ্ঞান প্রসঙ্গ প্রদান করে। এটি কটের (২০১৫) সংজ্ঞা ব্যবহার করে যা ক্ষতিকারক সফটওয়্যার জড়িত সাইবার অপারেশনকে সংজ্ঞায়িত করে, একটি সমান্তরাল টানে যেখানে একটি এজিআই বা তার কন্টেইনমেন্ট যন্ত্রপাতি বিপরীত দৃষ্টিকোণ থেকে "ক্ষতিকারক" হিসেবে দেখা যেতে পারে, এই নির্মাণগুলিকে সংগঠিত করার জন্য একটি কাঠামোগত অন্টোলজির প্রয়োজনীয়তা তুলে ধরে।
অন্টোলজিটি এজিআই, সাইবার নিরাপত্তা এবং কন্টেইনমেন্ট কৌশল সম্পর্কিত বিদ্যমান একাডেমিক সাহিত্যের একটি পদ্ধতিগত বিশ্লেষণের মাধ্যমে উন্নত করা হয়েছিল।
মূল ধারণাগুলিকে শ্রেণীবদ্ধ ও সম্পর্কিত করার জন্য একটি শ্রেণিবদ্ধ, ডোমেইন-নির্দিষ্ট অন্টোলজি তৈরি করা হয়েছিল। উন্নয়ন প্রক্রিয়ায় সাহিত্য থেকে মূল সত্তা, বৈশিষ্ট্য এবং সম্পর্ক চিহ্নিত করা জড়িত ছিল।
বিশ্লেষণটি এজিআই কন্টেইনমেন্ট পরিস্থিতি মডেল করার জন্য প্রয়োজনীয় মৌলিক নির্মাণগুলিকে পরিশ্রুত করেছে, যা তিনটি প্রাথমিক এজেন্ট অবজেক্ট চিহ্নিত করার দিকে নিয়ে যায়।
মূল অবদান হল একটি একক ডোমেইন অন্টোলজি যা এজিআই কন্টেইনমেন্ট গবেষণার জন্য একটি সাধারণ শব্দভাণ্ডার এবং ধারণাগত কাঠামো প্রদান করার জন্য নকশা করা হয়েছে।
অন্টোলজিটি পাঁচটি স্বতন্ত্র শ্রেণিবদ্ধ স্তরে সংগঠিত, যাতে মোট ৩২টি কোড রয়েছে, প্রতিটির সাথে একটি সংশ্লিষ্ট বর্ণনাকারী রয়েছে। এই স্তরগুলি যৌক্তিকভাবে বিমূর্ত মৌলিক ধারণা থেকে শুরু করে কংক্রিট বাস্তবায়ন প্রক্রিয়ায় অগ্রসর হয়।
গবেষণাপত্রে অন্টোলজি চিত্র অন্তর্ভুক্ত রয়েছে যা চিহ্নিত নির্মাণগুলির মধ্যে উদ্দিষ্ট সম্পর্ক, যেমন "ধারণ করে", "নিরীক্ষণ করে", "হুমকি দেয়" এবং "এর মধ্যে কাজ করে" দৃশ্যত প্রদর্শন করে।
একটি মূল অন্তর্দৃষ্টি হল কন্টেইনমেন্ট মডেলিংয়ের জন্য গুরুত্বপূর্ণ তিনটি অভিনব এজেন্ট অবজেক্টের আনুষ্ঠানিক সনাক্তকরণ:
এই ত্রিপাক্ষিক মডেলটি সরল মানুষ-বনাম-এআই বর্ণনার বাইরে গিয়ে আরও সূক্ষ্ম পদ্ধতিগত দৃষ্টিভঙ্গির দিকে যাওয়ার জন্য অপরিহার্য।
লেখকরা দাবি করেন যে তাদের কাজ এই ক্ষেত্রে তিনটি উল্লেখযোগ্য শূন্যতা সমাধান করে:
মূল অন্তর্দৃষ্টি: গবেষণাপত্রের সবচেয়ে মূল্যবান অবদান একটি নতুন কন্টেইনমেন্ট অ্যালগরিদম নয়, বরং একটি গুরুত্বপূর্ণ মেটা-কাঠামো। এটি সঠিকভাবে নির্ণয় করে যে এজিআই কন্টেইনমেন্ট বিতর্ক তাত্ক্ষণিক, ক্ষেত্র-নির্দিষ্ট সমাধানে (কম্পিউটার বিজ্ঞান, দর্শন, নিরাপত্তা) আটকে আছে এবং একটি ঐক্যবদ্ধ ভাষার অভাব রয়েছে। একটি সাইবার-বিজ্ঞান অন্টোলজি প্রস্তাব করে, এটি কঠোর, আন্তঃশাস্ত্রীয় গবেষণার জন্য প্রয়োজনীয় ধারণাগত অবকাঠামো নির্মাণের চেষ্টা করে। এটি পরিপক্ক ক্ষেত্রের পাঠের সাথে সামঞ্জস্যপূর্ণ; উদাহরণস্বরূপ, STRIPS পরিকল্পনা ভাষার বিকাশ এআই পরিকল্পনা গবেষণার জন্য অত্যন্ত গুরুত্বপূর্ণ ছিল, যা সমস্যা গঠন এবং সমাধান তুলনার জন্য একটি সাধারণ ভিত্তি প্রদান করেছিল।
যৌক্তিক প্রবাহ: যুক্তিটি সঠিক: ১) এজিআই ঝুঁকি বাস্তব এবং কন্টেইনমেন্ট প্রয়োজন। ২) বর্তমান সাইবার নিরাপত্তা অপর্যাপ্ত (একটি ভালোভাবে গৃহীত বিষয়, যা পেপারনট ও অন্যান্যদের দ্বারা এমএল নিরাপত্তার সমালোচনায় প্রতিধ্বনিত হয়েছে)। ৩) অতএব, আমাদের একটি বিস্তৃত ভিত্তির প্রয়োজন—এখানে সাইবার বিজ্ঞান আসে। ৪) এই ভিত্তির মধ্যে নির্মাণ করতে, আমাদের প্রথমে আমাদের পরিভাষা এবং সম্পর্ক সংজ্ঞায়িত করার জন্য একটি কাঠামোগত অন্টোলজির প্রয়োজন। সমস্যা সনাক্তকরণ থেকে প্রস্তাবিত মৌলিক সমাধানের দিকে প্রবাহটি স্পষ্ট ও যৌক্তিক।
শক্তি ও দুর্বলতা: এর শক্তি হল পদ্ধতিগতকরণের উপর এর দূরদর্শী ফোকাস। ত্রিপাক্ষিক এজেন্ট মডেল (মানুষ/এজিআই/সাইবার জগৎ) মার্জিত এবং প্রয়োজনীয়। তবে, গবেষণাপত্রের প্রধান দুর্বলতা হল এর চরম বিমূর্ততা। এটি অন্টোলজির অস্তিত্ব (৫ স্তর, ৩২ কোড) ফলাফল হিসেবে উপস্থাপন করে, অন্টোলজিটি নিজেই প্রকাশ না করেই। ৩২টি কোড কী কী? পাঁচটি স্তর কী কী? এটি একটি নতুন প্রোগ্রামিং ভাষার সিনট্যাক্স ঘোষণা করা কিন্তু ব্যাকরণ প্রকাশ না করার মতো। এই বিবরণ ছাড়া, কাজটি একটি প্রতিশ্রুতিপত্র হিসেবেই থেকে যায়, যা তাৎক্ষণিক উপযোগিতা সীমিত করে। তদুপরি, কটের সাইবার বিজ্ঞান সংজ্ঞা উদ্ধৃত করা চতুর হলেও, এটি একটি অতিমানবিক বুদ্ধিমত্তাসম্পন্ন এজেন্টের জন্য "ক্ষতিকারক সফটওয়্যার" উপমাটিকে খুব পাতলা করে টানার ঝুঁকি তৈরি করে।
বাস্তবায়নযোগ্য অন্তর্দৃষ্টি: গবেষকদের জন্য: তাৎক্ষণিক কাজ হল এই অন্টোলজিকে কার্যকরী করা। সম্পূর্ণ কোড সেট এবং বর্ণনাকারী প্রকাশ করুন। নির্দিষ্ট কন্টেইনমেন্ট পরিস্থিতি (যেমন, একটি এজিআই একটি সাইড-চ্যানেলের মাধ্যমে তথ্য চুরি করার চেষ্টা করছে) আনুষ্ঠানিকভাবে মডেল করতে এটি ব্যবহার করুন এবং বিদ্যমান কৌশলগুলির শূন্যতা চিহ্নিত করুন। অনুশীলনকারী ও নীতিনির্ধারকদের জন্য: এই গবেষণাপত্রটি জোর দেয় যে এজিআই নিরাপত্তা শুধুমাত্র একটি এআই সমস্যা নয়, বরং একটি মহাজাগতিক মাপের সাইবার-ফিজিক্যাল সিস্টেম নিরাপত্তা সমস্যা। বিনিয়োগ শুধুমাত্র এআই অ্যালাইনমেন্ট গবেষণায় নয়, বরং যাচাইযোগ্য কম্পিউটিং, জটিল সিস্টেমের জন্য আনুষ্ঠানিক পদ্ধতি এবং সাইবার-প্রতিরোধী স্থাপত্যের উপর মৌলিক কাজেও প্রবাহিত হওয়া উচিত, যেমন ডিআরপিএর গ্যারান্টি অফ এআই রোবাস্টনেস এগেইনস্ট ডিসেপশন (GARD) প্রোগ্রামের মতো প্রতিষ্ঠানগুলি সমর্থন করে।
পিডিএফটি গাণিতিক আনুষ্ঠানিকতা বিস্তারিতভাবে বর্ণনা না করলেও, এজিআই কন্টেইনমেন্টের জন্য একটি শক্তিশালী অন্টোলজি একটি যুক্তি-ভিত্তিক কাঠামোতে প্রকাশযোগ্য হওয়া উচিত। বর্ণনামূলক যুক্তি বা প্রথম-ক্রম যুক্তি ব্যবহার করে একটি সম্ভাব্য আনুষ্ঠানিকীকরণ এজেন্ট, কর্ম এবং কন্টেইনমেন্ট সম্পর্ক সংজ্ঞায়িত করতে পারে।
উদাহরণ আনুষ্ঠানিক স্নিপেট (ধারণাগত):
ধরা যাক $A$ হল এজেন্টের সেট, যেখানে $A = \{মানুষ, এজিআই, সাইবারসত্তা\}$।
ধরা যাক $S$ হল সাইবার জগতের অবস্থার সেট।
ধরা যাক $Cap(x)$ এজেন্ট $x$ এর ক্ষমতাগুলি নির্দেশ করে।
একটি মূল কন্টেইনমেন্ট স্বতঃসিদ্ধ হতে পারে:
$\forall s \in S, \forall a \in A \text{ যেখানে } a = এজিআই: \text{কন্টেইনমেন্টপ্রোটোকল}(s) \rightarrow \text{সীমাবদ্ধকরে}(Cap(a), s)$
এটি বলে যে সমস্ত অবস্থার জন্য এবং এজিআই এজেন্টের জন্য, একটি সক্রিয় কন্টেইনমেন্ট প্রোটোকল সেই অবস্থার মধ্যে এজিআই এর ক্ষমতার উপর একটি সীমাবদ্ধতা বোঝায়।
অন্টোলজিটি সম্ভবত একটি অবস্থা-পরিবর্তন মডেল বোঝায় যেখানে এজিআই বা মানুষের রক্ষাকারীদের কর্ম সিস্টেমের অবস্থা পরিবর্তন করে, এবং কন্টেইনমেন্ট হল সম্ভাব্য পরিবর্তনের মধ্যে যাচাই করার একটি বৈশিষ্ট্য, কম্পিউটার নিরাপত্তায় মডেল চেকিংয়ের মতো।
পরিস্থিতি: পিটম্যান ও ক্রসবি অন্টোলজি ব্যবহার করে একটি প্রস্তাবিত "এআই স্যান্ডবক্স" বিশ্লেষণ করা।
ধাপসমূহ: