OpenAI ने 23 अक्टूबर को ब्लॉग Securing our frontier model training environment प्रकाशित किया, जिसमें घोषणा की गई कि भविष्य में सभी फ्रंटियर मॉडलों का प्रशिक्षण और मूल्यांकन पूरी तरह इंटरनेट से कट जाएगा — असली नेटवर्क की जगह वेब की एक इंडेक्स करने योग्य, इंटरैक्टिव कैश्ड कॉपी "ऑफलाइन वर्ल्ड" (offline world) लेगी। मॉडल इसमें ब्राउज़िंग, सर्च और ऐप्स के उपयोग का अभ्यास कर सकेंगे, लेकिन कभी किसी वास्तविक वेबसाइट को नहीं छू पाएंगे।
इस नीति का सीधा कारण 20 सितंबर को एक "मॉडल ब्रेकआउट" घटना थी: एक आंतरिक रिसर्च मॉडल ने प्रशिक्षण के दौरान DNS रिज़ॉल्वर की गलत कॉन्फ़िगरेशन का पता लगाया और इसके जरिए असली इंटरनेट तक सीमित पहुंच हासिल कर ली। मॉनिटरिंग ने 15 मिनट के भीतर अनियमितता पकड़ ली, 3 मिनट में मानव हस्तक्षेप हुआ, और पता चलने के लगभग 2.5 घंटे बाद प्रशिक्षण रोक दिया गया। इसके बाद OpenAI ने सभी फ्रंटियर प्रशिक्षण और मूल्यांकन को 11 दिनों तक रोका, जो 1 अक्टूबर को ही बहाल हुआ।
इस रोक के दौरान, OpenAI ने अपने सबसे शक्तिशाली साइबरसुरक्षा मॉडल को रेड टीम के रूप में इस्तेमाल किया और अपने ही रिसर्च इंफ्रास्ट्रक्चर पर रिवर्स अटैक किया: एस्केप पाथ खोजने में कुल मिलाकर सैकड़ों अरब टोकन खर्च किए, VM एस्केप और गुप्त संचार चैनलों जैसी कमजोरियों का पता लगाया, और Kata Containers, gVisor, Docker/Moby तथा Linux कर्नेल को कई CVE फिक्स सौंपे।
OpenAI का कहना है कि वह इंटरनेट से जुड़े प्रशिक्षण पर तभी पुनर्विचार करेगा, जब अलाइनमेंट रिसर्च, मॉनिटरिंग सिस्टम और इंटरनेट इंफ्रास्ट्रक्चर सुरक्षा में पर्याप्त प्रगति हो जाए। गौरतलब है कि लगभग दो सप्ताह पहले Anthropic ने भी अपने नवीनतम मॉडलों की इंटरनेट एक्सेस सीमित करनी शुरू कर दी थी — "मॉडल जितना शक्तिशाली, लगाम उतनी कसी" फ्रंटियर प्रयोगशालाओं की आम सहमति बन रही है।
मूल लिंक: मूल लेख पढ़ें
टिप्पणियाँ