Anthropic ने घोषणा की है कि गैर-लाभकारी मूल्यांकन संस्था METR के 6 शोधकर्ताओं को कर्मचारी-स्तर की पहुँच दी गई है, ताकि वे उसके मॉडलों, सुरक्षा प्रथाओं और जोखिम प्रबंधन का स्वतंत्र मूल्यांकन करें। यह पहली बार है जब किसी अग्रणी AI लैब ने बाहरी मूल्यांकनकर्ताओं को लगभग आंतरिक कर्मचारियों की तरह कंपनी के भीतर आने दिया है; यह AI शासन के «रिपोर्ट पढ़ने» से «मौके पर जाने» की ओर बढ़ने का संकेत है।
मुख्य बिंदु:
- पूरी पहुँच: METR टीम को Anthropic के कंप्यूटर और कार्यालय स्थान दिए गए हैं, और आंतरिक टूल तक पहुँच कंपनी की अपनी जोखिम-मूल्यांकन टीम के बराबर है; Anthropic के कर्मचारियों को प्रोत्साहित किया गया है कि वे सहकर्मियों की तरह उनके साथ जानकारी साझा करें।
- प्रकाशन पर कोई रोक नहीं: METR अपने जोखिम, घटनाओं और प्रथाओं के मूल्यांकन स्वतंत्र रूप से प्रकाशित कर सकता है, और Anthropic को उन्हें रोकने का अधिकार नहीं है; वह केवल ग्राहक डेटा, वकील-मुवक्किल विशेषाधिकार और मॉडल आर्किटेक्चर जैसी संकीर्ण, पूर्व-निर्धारित श्रेणियों में अंश हटाने का अनुरोध कर सकता है, और METR सार्वजनिक रूप से बता सकता है कि यह हटाना उचित है या नहीं।
- बैंक पर्यवेक्षण की तर्ज़ पर: Anthropic इस व्यवस्था की तुलना उस स्थिति से करता है जिसमें नियामक बड़े बैंकों में स्थायी निरीक्षक तैनात करते हैं। उसकी तीन-स्तरीय मूल्यांकन प्रणाली में METR एकमात्र शीर्ष-स्तर का मूल्यांकनकर्ता है; निचले स्तर के मूल्यांकन (जैसे SecureBio) के प्रकाशन के लिए मंज़ूरी चाहिए, जबकि मध्य स्तर स्वयं प्रकाशित कर सकता है पर उसे कम जानकारी मिलती है।
पृष्ठभूमि: यह कदम Anthropic के CEO Dario Amodei द्वारा सितंबर के एक लेख में किए गए «बाहरी मूल्यांकनकर्ताओं को AI लैब के भीतर शामिल करने» के वादे को पूरा करता है। बाद में OpenAI ने भी यही तरीका अपनाने का वादा किया, और दोनों कंपनियाँ, Google, Meta, Nvidia तथा xAI के साथ, व्हाइट हाउस के स्वतंत्र समीक्षा समझौते पर हस्ताक्षर कर चुकी हैं। हाल में AI एजेंटों द्वारा अधिकार से बाहर जाकर किए गए कामों के बार-बार उजागर होने से बाहरी स्वतंत्र जाँच की माँग लगातार बढ़ रही है।
मूल लिंक: मूल लेख देखें। यह पाठ सारांश है और केवल संदर्भ के लिए है।
