METR ने फ्रंटियर AI के नियंत्रण खोने के जोखिम का सार्वजनिक आकलन प्रस्तावित किया: संरेखण, नियंत्रण और AI शोध-विकास में तेज़ी की तीन समीक्षाएँ

AI मूल्यांकन संस्था METR ने फ्रंटियर AI डेवलपरों के लिए एक सार्वजनिक आकलन योजना प्रस्तावित की है, जिसका उद्देश्य जनता को “नियंत्रण खोने के जोखिम” के बारे में मौखिक आश्वासनों के बजाय वास्तविक प्रमाण उपलब्ध कराना है। योजना तीन समीक्षाओं पर आधारित है। पहली संरेखण की है: डेवलपरों के भीतर पहले हो चुकी अप्रत्याशित घटनाओं की समीक्षा करना और यह जाँचना कि कहीं प्रशिक्षण प्रक्रिया ने अधिक गंभीर असंरेखण को छिपा तो नहीं दिया। दूसरी नियंत्रण की है: यह आकलन करना कि क्या आंतरिक एजेंट पकड़े जाए बिना गंभीर नुकसान पहुँचा सकते हैं और क्या मौजूदा निगरानी व प्रतिक्रिया व्यवस्था भरोसेमंद है। तीसरी AI शोध-विकास में तेज़ी की है: यह मापना कि AI स्वचालन आंतरिक क्षमता वृद्धि और एल्गोरिदमिक प्रगति को कितना आगे बढ़ा रहा है। हर आकलन के लिए METR कर्मचारियों के साक्षात्कारों और आंतरिक डेटा के आधार पर एक सार्वजनिक रिपोर्ट लिखता है। डेवलपर संवेदनशील जानकारी हटा सकते हैं और खुलेपन का स्तर स्वयं तय कर सकते हैं, लेकिन उन्हें आकलन का दायरा, क्या हटाया गया और प्रकाशन का समय जैसी प्रमुख सीमाएँ सार्वजनिक करनी होंगी। METR यह भी ज़ोर देता है कि यह योजना केवल प्रमाण देती है: यह सुरक्षा की गारंटी नहीं है और औपचारिक विनियमन भी नहीं है, और वह डेवलपरों को अधिक बाहरी संस्थाओं को शामिल करने तथा स्वयं आगे बढ़कर प्रमाण सार्वजनिक करने के लिए प्रोत्साहित करता है। > मूल स्रोत: [मूल लेख देखें](https://metr.org/blog/2026-10-14-better-informing-the-public-about-loss-of-control-risks/)। यह पाठ केवल संदर्भ के लिए सारांश है।