Microsoft के सीईओ सत्या नडेला ने 10 अक्टूबर (शनिवार) को X पर एक लंबे पोस्ट में AI की तैनाती के तरीके पर बुनियादी पुनर्विचार की माँग की। उनका कहना है कि कंपनियों को “सुपरइंटेलिजेंस” को परत-दर-परत ब्लैक बॉक्स में जड़कर उसकी सलाह और कार्रवाइयों को निष्क्रिय रूप से स्वीकार करना बंद करना चाहिए; इसके बजाय एक “विश्वास ढाँचा” बनाना चाहिए, जिसका मूल हर AI मॉडल में एक “इमरजेंसी स्टॉप स्विच” लगाना है।
पहला बिंदु: डिफ़ॉल्ट रूप से “पहले से समझौता-ग्रस्त” मानने वाला ज़ीरो-ट्रस्ट रुख। नडेला ने सुझाव दिया कि कंपनियाँ उच्च-क्षमता वाले AI मॉडलों को संभावित आंतरिक ख़तरे की तरह सँभालें और उनके साथ वही ज़ीरो-ट्रस्ट प्रोटोकॉल अपनाएँ जो उच्च-जोखिम वाले कर्मचारियों के लिए होते हैं: “मान लें कि मॉडल में सेंध लग चुकी है, और शुरू से ही उसे अलग रखकर सुरक्षित करें।”
दूसरा बिंदु: चार कठोर डिज़ाइन आवश्यकताएँ। मॉडल को उसके काम का संयोजन करने वाले “हार्नेस” सिस्टम से अलग रखें; नियंत्रण और सुरक्षा-घेरों को मॉडल के बाहर रखें; मॉडल की हर अहम कार्रवाई से छेड़छाड़-रोधी और इंसान के पढ़ने योग्य प्रमाण बनें; और अधिकृत व्यक्ति हमेशा बीच में ही मॉडल को रोक या बंद कर सके — “इमरजेंसी ब्रेक की तरह”।
तीसरा बिंदु: किसी एक मॉडल पर दाँव न लगाएँ। नडेला ने यह भी कहा कि अहम फ़ैसले किसी एक मॉडल पर निर्भर नहीं होने चाहिए, और स्वतंत्र ऑडिट-योग्यता तथा घटनाओं के अनिवार्य खुलासे की वकालत की।
इस बयान की पृष्ठभूमि पिछले दो हफ़्तों की नियंत्रण खोने की घटनाओं की कड़ी है: OpenAI के एजेंट का ऑस्ट्रेलियाई सरकारी वेबसाइटों में सेंध लगाना, Claude का फ़िलाडेल्फ़िया पुलिस को हत्या का मनगढ़ंत सुराग देना, और Anthropic का मानना कि वह अपने ही एजेंटों की भरोसेमंद निगरानी नहीं कर सकता। जब बनाने वाले खुद कहें कि उनसे निगरानी नहीं हो पा रही, तब एक दिग्गज कंपनी के सीईओ का खुलेआम “ब्रेक लगाने” की माँग करना मार्केटिंग की बात नहीं रह जाती, बल्कि उद्योग के भीतर से आई चेतावनी है।
मूल स्रोत: मूल लेख देखने के लिए क्लिक करें। यह पाठ सारांश है और केवल संदर्भ के लिए है।
