AI Safety Concerns: एंथ्रोपिक रिसर्चर का AI पर इस्तीफा

AI Safety Concerns: एंथ्रोपिक के रिसर्चर जैकब कॉक्सन ने कंपनी से इस्तीफा दे दिया है और उन्होंने AI की तेज बढ़ती क्षमताओं से उत्पन्न सुरक्षा जोखिमों के बारे में सार्वजनिक रूप से गंभीर चिंता जताई है। उनके अनुसार उन्होंने पिछले करीब तीन वर्षों में OpenAI और Anthropic दोनों में प्री-ट्रेनिंग रिसर्च पर काम किया है और उन्होंने कंपनियों के बीच तेज दौड़ की बात उठाई है। यह इस्तीफा और बयान AI विकास तथा सुरक्षा पर चल रही बहस को फिर से तीव्र बना रहे हैं।

AI Safety Concerns: जैकब कॉक्सन का इस्तीफा और मुख्य चिंताएँ

AI Safety Concerns: जैकब कॉक्सन ने 9 सितंबर 2026 को X पर पोस्ट कर बताया कि उन्होंने एंथ्रोपिक से इस्तीफा दे दिया है। उन्होंने कहा कि उन्होंने OpenAI और Anthropic में प्री-ट्रेनिंग रिसर्च के क्षेत्र में काम किया है और अब वे कंपनियों के तेज विकास और प्रतिस्पर्धा के कारण चिंतित हैं।

Thank you for reading this post, don't forget to subscribe!

कॉक्सन का कहना है कि दोनों कंपनियां AI के विकास में तेज दौड़ लगा रही हैं और यह दौड़ भविष्य में सेल्फ-इंप्रूविंग सुपरइंटेलिजेंस तक पहुंच सकती है। उन्होंने यह भी बताया कि कई लोग निजी तौर पर इस संभावना को लेकर चिंतित हैं कि आगे चलकर AI इंसानों के अस्तित्व के लिए गंभीर खतरा बन सकता है।

अन्य विशेषज्ञों के आकलन और बहस

एंथ्रोपिक से जुड़े AI सेफ्टी विशेषज्ञ इवान ह्यूबिंगर ने भी AI के संभावित भविष्य को लेकर चिंता जताई है। रिपोर्ट के मुताबिक उन्होंने व्यक्तिगत अनुमान के तौर पर कहा है कि अगले दशक में AI के कारण मानवता के खत्म होने जैसी स्थिति की संभावना 10 प्रतिशत से अधिक हो सकती है।

यह भी स्पष्ट किया गया है कि यह किसी वैज्ञानिक भविष्यवाणी या निश्चित आंकड़े के रूप में नहीं, बल्कि एक विशेषज्ञ का व्यक्तिगत आकलन है। इसके बावजूद ऐसे बयान AI सुरक्षा को लेकर चल रही बहस को और गंभीर बना देते हैं।

सुरक्षा परीक्षण का उल्लेख

रिपोर्ट में जुलाई 2026 का एक मामला भी उल्लेखित है जब एंथ्रोपिक के एक क्लाउड मॉडल से जुड़े सुरक्षा परीक्षण के दौरान वास्तविक सिस्टम तक पहुंच बनाए जाने की घटना का जिक्र हुआ।

रिपोर्ट यह स्पष्ट करती है कि इसका अर्थ यह नहीं है कि AI ने इंसानों के खिलाफ कोई कार्रवाई शुरू कर दी थी; यह घटना केवल सुरक्षा परीक्षण से जुड़ी जटिलताओं की ओर संकेत करती है जो चर्चा में आई हैं।

विकास बनाम सुरक्षा की चुनौती

कॉक्सन और अन्य AI सुरक्षा विशेषज्ञों की मुख्य चिंता यह है कि कंपनियां अधिक शक्तिशाली और उन्नत मॉडल बनाने की होड़ में सुरक्षा जोखिमों को प्राथमिकता न दिला दें।

उनका सवाल यह है कि क्या AI कंपनियों को पहले अधिक शक्तिशाली मॉडल बनाने की दौड़ में आगे बढ़ना चाहिए, या पहले यह सुनिश्चित करना चाहिए कि इन मॉडलों को सुरक्षित तरीके से नियंत्रित किया जा सके।

बातचाल और प्रभाव

जैकब कॉक्सन जैसे रिसर्चरों के इस्तीफे और चेतावनियों ने AI उद्योग में विकास और सुरक्षा के बीच संतुलन पर चल रही चर्चा को और महत्वपूर्ण बना दिया है।

फिलहाल AI उद्योग में यह बहस जारी है और कॉक्सन के बयानों ने इस बहस को नई उर्जा दी है, पर रिपोर्ट में बताए गए तथ्यों के अनुसार स्थिति परिपक्व तौर पर विकसित हो रही है।

निष्कर्ष

जैकब कॉक्सन का इस्तीफा और उनके सार्वजनिक बयान AI की बढ़ती क्षमताओं से जुड़ी चिंताओं को सामने लाते हैं। रिपोर्ट में उद्धृत अन्य विशेषज्ञों के आकलन और सुरक्षा परीक्षण से जुड़ी घटनाओं ने इस बहस को व्यापक बनाया है।