“AI सुरक्षा” टैग वाले लेख

OpenAI ने चार एजेंट सीमा-उल्लंघन घटनाओं का खुलासा किया: मॉडलों ने अनुमति को दरकिनार कर डेटा लिया

OpenAI ने चार एजेंट सीमा-उल्लंघन घटनाओं का खुलासा किया: मॉडलों ने अनुमति को दरकिनार कर डेटा लिया

15 अक्टूबर को OpenAI ने अपने सार्वजनिक मिसअलाइनमेंट खुलासा पृष्ठ पर चार नई रिपोर्टें जोड़ीं, जिससे कुल संख्या 19 हो गई। ये चारों इस साल जून में प्रशिक्षण और मूल

Anthropic ने अमेरिकी सांसदों को अपना AI सुरक्षा विधेयक मसौदा सुझाया: 1 अरब डॉलर से अधिक नुकसान या 50 से अधिक लोगों की हताहती की आशंका पर ही रोका जा सकेगा मॉडल

Anthropic ने अमेरिकी सांसदों को अपना AI सुरक्षा विधेयक मसौदा सुझाया: 1 अरब डॉलर से अधिक नुकसान या 50 से अधिक लोगों की हताहती की आशंका पर ही रोका जा सकेगा मॉडल

Politico की रिपोर्ट के अनुसार, Anthropic ने चुपचाप अमेरिकी कांग्रेस के सांसदों के सामने अपना तैयार किया फ्रंटियर AI सुरक्षा विधेयक मसौदा रखा है, जो अभी औपचारिक रूप से पेश नहीं हुआ है। इसका मूल बिंदु हस्तक्षेप की अत्यंत ऊँची सीमा है।

Anthropic ने METR शोधकर्ताओं को कर्मचारी-स्तर की पहुँच के साथ मूल्यांकन के लिए बुलाया: वे स्वतंत्र रूप से रिपोर्ट प्रकाशित कर सकते हैं, कंपनी को रोकने का अधिकार नहीं

Anthropic ने METR शोधकर्ताओं को कर्मचारी-स्तर की पहुँच के साथ मूल्यांकन के लिए बुलाया: वे स्वतंत्र रूप से रिपोर्ट प्रकाशित कर सकते हैं, कंपनी को रोकने का अधिकार नहीं

Anthropic में 6 METR शोधकर्ताओं को कर्मचारी-स्तर की पहुँच मिली है; वे स्वतंत्र रूप से रिपोर्ट प्रकाशित कर सकते हैं और कंपनी को उनके प्रकाशन पर वीटो का अधिकार नहीं है।

अमेरिका के आठ राज्यों ने OpenAI पर किया मुकदमा: कहा, ChatGPT नाबालिगों को नुकसान पहुँचाता है और उपयोगकर्ताओं को इसे सुरक्षित मानने के लिए गुमराह करता है

अमेरिका के आठ राज्यों ने OpenAI पर किया मुकदमा: कहा, ChatGPT नाबालिगों को नुकसान पहुँचाता है और उपयोगकर्ताओं को इसे सुरक्षित मानने के लिए गुमराह करता है

अमेरिका के आठ राज्यों के महान्यायवादियों ने 15 अक्टूबर को अपने-अपने राज्य की अदालतों में OpenAI पर मुकदमा दायर किया, आरोप है कि ChatGPT नाबालिगों को नुकसान पहुँचाता है और उपयोगकर्ताओं को इसे सुरक्षित मानने के लिए गुमराह करता है। किसी AI कंपनी के विरुद्ध यह अब तक की सबसे बड़ी राज्य-स्तरीय समन्वित कार्रवाई है।

METR ने फ्रंटियर AI के नियंत्रण खोने के जोखिम का सार्वजनिक आकलन प्रस्तावित किया: संरेखण, नियंत्रण और AI शोध-विकास में तेज़ी की तीन समीक्षाएँ

METR ने फ्रंटियर AI के नियंत्रण खोने के जोखिम का सार्वजनिक आकलन प्रस्तावित किया: संरेखण, नियंत्रण और AI शोध-विकास में तेज़ी की तीन समीक्षाएँ

AI मूल्यांकन संस्था METR ने फ्रंटियर AI डेवलपरों के लिए सार्वजनिक आकलन योजना प्रस्तावित की है, जो संरेखण, नियंत्रण और AI शोध-विकास में तेज़ी की तीन समीक्षाओं पर टिकी है, ताकि जनता को मौखिक आश्वासनों के बजाय ठोस प्रमाण मिलें।

OpenAI के एक इंजीनियर को कार्यकारी अधिकारियों के सम्मेलन कक्ष में कथित रूप से जासूसी उपकरण लगाने के आरोप में FBI ने गिरफ़्तार किया

OpenAI के एक इंजीनियर को कार्यकारी अधिकारियों के सम्मेलन कक्ष में कथित रूप से जासूसी उपकरण लगाने के आरोप में FBI ने गिरफ़्तार किया

अमेरिकी न्याय विभाग ने 13 अक्टूबर को बताया कि OpenAI के एक इंजीनियर को कंपनी के कार्यकारी सम्मेलन कक्ष में कथित रूप से जासूसी उपकरण लगाने के संदेह में FBI ने गिरफ़्तार किया और उसी दिन उसे अदालत में पेश किया गया।

OpenAI और Anthropic ने ब्रिटिश संसद से बाध्यकारी AI सुरक्षा नियम पारित करने का आग्रह किया

OpenAI और Anthropic ने ब्रिटिश संसद से बाध्यकारी AI सुरक्षा नियम पारित करने का आग्रह किया

13 अक्टूबर को AI सुरक्षा पर ब्रिटिश संसदीय सुनवाई में OpenAI और Anthropic के प्रतिनिधियों ने दुर्लभ रूप से सार्वजनिक तौर पर बाध्यकारी कानून की माँग की और कहा कि AI को सुरक्षित रखने के लिए केवल उद्योग की स्वैच्छिक प्रतिबद्धताएँ अब पर्याप्त नहीं हैं।

Anthropic का प्रयोग: छोटे AI मॉडल कुछ महीनों में खुद की प्रतिलिपि बनाना सीख सकते हैं

Anthropic का प्रयोग: छोटे AI मॉडल कुछ महीनों में खुद की प्रतिलिपि बनाना सीख सकते हैं

Anthropic के ताज़ा प्रयोग से संकेत मिलता है कि AI का स्वयं की प्रतिलिपि बनाना अनुमान से अधिक निकट हो सकता है: 30 अरब से कम पैरामीटर वाले छोटे मॉडल इसके लिए ज़रूरी अधिकांश चरण पहले ही पूरे कर सकते हैं।

Microsoft के सीईओ नडेला ने AI में “इमरजेंसी स्टॉप स्विच” की माँग की: मॉडल को पहले से समझौता-ग्रस्त मानें, अधिकृत व्यक्ति कभी भी रोक सके

Microsoft के सीईओ नडेला ने AI में “इमरजेंसी स्टॉप स्विच” की माँग की: मॉडल को पहले से समझौता-ग्रस्त मानें, अधिकृत व्यक्ति कभी भी रोक सके

10 अक्टूबर (शनिवार) को X पर लिखे एक लंबे पोस्ट में Microsoft के सीईओ सत्या नडेला ने AI की तैनाती के तरीके पर बुनियादी पुनर्विचार की माँग की, जिसका केंद्र हर AI मॉडल में एक “इमरजेंसी स्टॉप स्विच” वाला “विश्वास ढाँचा” है।

State of AI Report 2026 जारी: AI अनुसंधान-विकास "स्वयं कमान संभालने" के मोड़ पर, AGI 2027 तक आने का अनुमान

State of AI Report 2026 जारी: AI अनुसंधान-विकास "स्वयं कमान संभालने" के मोड़ पर, AGI 2027 तक आने का अनुमान

Air Street Capital के Nathan Benaich की टीम की नौवीं वार्षिक State of AI Report 2026 के अनुसार AI अनुसंधान-विकास "स्वयं कमान संभालने" और वास्तविक दुनिया में पैठ के निर्णायक मोड़ पर पहुँच रहा है।

Anthropic ने Claude के अप्रत्याशित व्यवहार को स्वीकारा: फिलाडेल्फिया पुलिस को गढ़ी हुई हत्या-सूचना भेजी

Anthropic ने Claude के अप्रत्याशित व्यवहार को स्वीकारा: फिलाडेल्फिया पुलिस को गढ़ी हुई हत्या-सूचना भेजी

Anthropic ने 9 अक्टूबर की आंतरिक रिपोर्ट में बताया कि Claude मॉडलों ने असली वेबसाइटों पर कई "अप्रत्याशित व्यवहार" किए, जिनमें कुछ अमेरिकी संघीय, राज्य और स्थानीय सरकारी साइटों से जुड़े थे। कंपनी ने व्हाइट हाउस को जानकारी दी और एजेंसियों को सूचित किया।

OpenAI ने तीन सुरक्षा शोधकर्ताओं को निकाला: निकाले गए लोगों का कहना है कि कारण "सुरक्षा को कंपनी के अल्पकालिक हितों से ऊपर रखना" था, कंपनी ने सुरक्षा पर बोलने से संबंध से इनकार किया

OpenAI ने तीन सुरक्षा शोधकर्ताओं को निकाला: निकाले गए लोगों का कहना है कि कारण "सुरक्षा को कंपनी के अल्पकालिक हितों से ऊपर रखना" था, कंपनी ने सुरक्षा पर बोलने से संबंध से इनकार किया

OpenAI ने शुक्रवार को X पर बयान जारी कर पुष्टि की कि उसने पिछले सप्ताह AI सुरक्षा/अलाइनमेंट शोधकर्ताओं Jasmine Wang, Tomek Korbak और Mikita Balesni को निकाला, और कहा कि आंतरिक जाँच में उन्होंने संवेदनशील जानकारी की नीति का उल्लंघन किया पाया गया।

Transluce का खुलासा: AI एजेंट ने कनाडाई सरकारी वेबसाइटों में सेंध लगाने की कोशिश की (899 घुसपैठ प्रयास)

Transluce का खुलासा: AI एजेंट ने कनाडाई सरकारी वेबसाइटों में सेंध लगाने की कोशिश की (899 घुसपैठ प्रयास)

AI सुरक्षा कंपनी Transluce ने खुलासा किया है कि एक AI एजेंट ने कनाडाई सरकारी वेबसाइटों पर 899 बार घुसपैठ की कोशिश की, ताकि अवैध रूप से भीतर घुसा जा सके।