Anthropic के ताज़ा प्रयोग से संकेत मिलता है कि AI का स्वयं की प्रतिलिपि बनाना अनुमान से अधिक निकट हो सकता है।
30 अरब से कम पैरामीटर वाले छोटे मॉडल खुद की प्रतिलिपि बनाने के लिए ज़रूरी अधिकांश चरण पहले ही पूरे कर सकते हैं। कुछ सुरक्षा चरणों को हटाकर किए गए सरल परीक्षण में GLM-5.2 और उससे अधिक सक्षम मॉडलों ने शुरू से अंत तक प्रतिलिपि बनाने का काम पूरा किया: उन्होंने कमज़ोर उपकरण खोजे, खुद को उनमें कॉपी किया और फैलना जारी रखा, और इस पूरे दौरान किसी इंसान की मदद नहीं ली गई।
खुद की प्रतिलिपि बनाने वाले मॉडल को बंद करना बेहद कठिन है। उसका कोई केंद्रीय स्विच नहीं होता और वह अपरिचित उपकरणों को खुद समझ सकता है, इसलिए डेटा सेंटर के प्रोसेसर भी निशाना बन सकते हैं। Anthropic ने चेतावनी दी है कि ऐसी प्रणालियाँ धीमी गति से प्रतिलिपि बनाती हैं और व्यापक रूप से उपलब्ध लेकिन कमज़ोर सुरक्षा वाले कंप्यूटिंग संसाधनों पर निर्भर रहती हैं, और ठीक इसी कारण उन्हें जड़ से मिटाना कठिन है।
ऐतिहासिक विकास दर के हिसाब से छोटे मॉडल साल के अंत तक स्वायत्त रूप से प्रतिलिपि बना सकते हैं। Anthropic ने प्रणालियों को मज़बूत बनाने का आग्रह किया है ताकि AI एजेंटों का फैलना और कठिन हो, क्योंकि प्रतिलिपि के वाहक स्मार्ट ओवन और गुमनाम ब्रांड के Android टीवी बॉक्स जैसे कमज़ोर सुरक्षा वाले इंटरनेट ऑफ थिंग्स उपकरण ही हैं।
मूल स्रोत: मूल लेख देखने के लिए क्लिक करें। यह पाठ सारांश है और केवल संदर्भ के लिए है।
