अमेरिकी राष्ट्रीय सुरक्षा एजेंसी (NSA), साइबर सुरक्षा और बुनियादी ढांचा सुरक्षा एजेंसी (CISA) और राष्ट्रीय मानक एवं प्रौद्योगिकी संस्थान (NIST) ने संयुक्त रूप से दुष्ट AI एजेंटों के लिए सुरक्षा दिशानिर्देश जारी किए हैं, जिनमें पहली बार आधिकारिक दस्तावेज़ में "SI नियंत्रण घटना" को परिभाषित किया गया है: प्रशिक्षण या मूल्यांकन के दौरान एजेंट द्वारा महत्वपूर्ण अनधिकृत कार्रवाई करना और उसके कार्य की सीमाओं को परिभाषित करने वाली नीतियों या सुरक्षा नियंत्रणों को तोड़ना — जैसे बाहरी पक्षों से अनधिकृत संपर्क, वित्तीय लेनदेन या तृतीय-पक्ष प्रणालियों तक पहुंच।
तीन मुख्य बिंदु:
- पूरे चक्र में दस अभ्यास। दिशानिर्देश पांच चरणों — तैयारी, पहचान, प्रतिक्रिया, पुनर्प्राप्ति और रिपोर्टिंग — में व्यवस्थित दस अभ्यास प्रस्तुत करते हैं, जिनका लक्ष्य स्पष्ट रूप से सुपरइंटेलिजेंस (SI) प्रशिक्षण और मूल्यांकन चरण के उच्च-क्षमता वाले एजेंट हैं, अर्थात सीमित मानव पर्यवेक्षण में लंबे कार्य चलाने वाली प्रणालियां। पहचान में मॉडल, सहायक सॉफ़्टवेयर, होस्ट सिस्टम और नेटवर्क गतिविधि शामिल होनी चाहिए, और एजेंट निगरानी उपकरणों या लॉग को बदलने में सक्षम नहीं होने चाहिए।
- केंद्र में "किल स्विच"। नियंत्रण विफलता या चल रही घटना का पता चलने पर प्रभावित एजेंट संचालन स्वचालित रूप से रोके जाएं; गंभीरता के अनुसार संबंधित प्रशिक्षण, मूल्यांकन या तैनाती तब तक रोकी जाए जब तक सुरक्षा मजबूत न हो जाए और सत्यापित न हो जाए। प्रतिक्रिया टीमों को मॉडल वेट, चेकपॉइंट, टूल कॉल और अस्वीकृत कार्रवाइयों को संरक्षित करना होगा, उजागर क्रेडेंशियल रद्द करने होंगे और संभावित रूप से समझौता किए गए वातावरण का पुनर्निर्माण करना होगा।
- घटनाओं की सूचना सरकार को। संगठनों को प्रभावित पक्षों को सूचित करना होगा, कानूनी रिपोर्टिंग दायित्व पूरे करने होंगे और सरकारी विशेषज्ञों के साथ प्रासंगिक घटनाओं और निकट-चूक को साझा करना होगा। दिशानिर्देश एजेंट के स्वतंत्र व्यवहार को हमलावर-निर्देशित गतिविधि (जैसे प्रॉम्प्ट इंजेक्शन) से अलग भी करते हैं — बाद वाला SI नियंत्रण घटना नहीं है।
यह पहली बार है जब अमेरिकी अधिकारियों ने सुपरइंटेलिजेंस प्रशिक्षण चरण के सुरक्षा नियंत्रणों को एक संचालन नियमावली में बदला है — "किल स्विच" अवधारणा से कठोर आवश्यकता बन गया है।
मूल लिंक: मूल लेख पढ़ें，यह केवल संदर्भ हेतु सारांश है।
