AI Safety Concerns: आर्टिफिशियल इंटेलिजेंस यानी AI को लेकर पूरी दुनिया में उम्मीदों के साथ-साथ चिंताएं भी बढ़ रही हैं। जहां AI को भविष्य की कई बड़ी समस्याओं का समाधान माना जा रहा है, वहीं इसके संभावित खतरों पर भी लगातार चर्चा हो रही है। इसी बीच AI कंपनी Anthropic से जुड़े रिसर्चर जैकब कॉक्सन के इस्तीफे ने इस बहस को और गंभीर बना दिया है। कॉक्सन का कहना है कि AI कंपनियां ऐसे सिस्टम तैयार करने की होड़ में हैं, जो आगे चलकर खुद को और बेहतर बना सकें और इंसानों की क्षमता से भी काफी आगे निकल जाएं। उनका आरोप है कि इस दौड़ में AI की सुरक्षा और उसे नियंत्रित करने से जुड़े जोखिमों को उतनी प्राथमिकता नहीं दी जा रही, जितनी दी जानी चाहिए।

AI Safety Concerns: कौन हैं जैकब कॉक्सन?

जैकब कॉक्सन के X प्रोफाइल के अनुसार, वह AI रिसर्चर हैं। उनका कहना है कि उन्होंने पिछले तीन साल OpenAI और Anthropic, दोनों कंपनियों में प्री-ट्रेनिंग रिसर्च पर काम किया है। Anthropic से इस्तीफा देने की जानकारी उन्होंने X पर साझा की। उन्होंने कहा कि पिछले तीन वर्षों में OpenAI और Anthropic दोनों में काम करने के दौरान उन्होंने देखा कि दोनों कंपनियां AI के विकास को जिम्मेदारी से आगे नहीं बढ़ा रही हैं।कॉक्सन के मुताबिक, दोनों कंपनियां सीधे ऐसी सुपरइंटेलिजेंस तैयार करने की दौड़ में शामिल हैं, जो खुद को बेहतर बनाने में सक्षम हो सकती है। उनका मानना है कि इस तरह की तकनीक विकसित करने की जल्दबाजी इंसानी जीवन के लिए बड़ा जोखिम पैदा कर सकती है।उनकी मुख्य चिंता यह है कि AI को विकसित करने की रफ्तार कहीं ऐसी स्थिति तक न पहुंच जाए, जहां इंसानों के लिए इन बेहद शक्तिशाली सिस्टम्स पर नियंत्रण बनाए रखना मुश्किल हो जाए।

सुपरइंटेलिजेंट AI कितना खतरनाक हो सकता है?

कॉक्सन का मानना है कि AI सिस्टम आने वाले समय में ऐसी क्षमताएं हासिल कर सकते हैं, जो इंसानी क्षमता से बहुत आगे होंगी। उनका कहना है कि AI की ताकत और उसके संभावित प्रभाव को कम करके नहीं देखा जाना चाहिए।उनके अनुसार, भविष्य के कुछ AI सिस्टम ऐसे हो सकते हैं जो बेहद जटिल कंप्यूटर सिस्टम्स को हैक करने में सक्षम हों। वे किसी भी क्षेत्र में बहुत कम समय में बड़े बदलाव ला सकते हैं और वास्तविक दुनिया में अपने लिए ताकत और संसाधन जुटाने की क्षमता भी हासिल कर सकते हैं।कॉक्सन का तर्क है कि इन क्षेत्रों में AI की प्रगति के संकेत अभी से दिखाई दे रहे हैं और इसकी रफ्तार लगातार बनी हुई है।

AI Safety Concerns: क्या AI इंसानों के लिए खतरा बन सकता है?

कॉक्सन ने AI से जुड़े सबसे गंभीर खतरे को लेकर भी चिंता जाहिर की है। उनका दावा है कि AI विकसित करने वाले कई लोग इस संभावना को गंभीरता से लेते हैं कि यह तकनीक इस दशक के खत्म होने से पहले इंसानों के लिए बेहद खतरनाक साबित हो सकती है।उनके मुताबिक, AI बनाने वाले लोगों के बीच यह आशंका सिर्फ किसी प्रचार या मार्केटिंग रणनीति का हिस्सा नहीं है। उनका कहना है कि कई बड़े अधिकारी और वरिष्ठ AI रिसर्चर सार्वजनिक मंचों पर खतरे को लेकर सावधानी से बात करते हैं, लेकिन निजी बातचीत में वे अपनी चिंताएं ज्यादा खुलकर सामने रखते हैं।कॉक्सन का मानना है कि मानव गतिविधियों में शायद ही कोई दूसरी गतिविधि इतनी बड़ी संभावित तबाही का जोखिम पैदा करती हो, जितना शक्तिशाली AI सिस्टम पैदा कर सकते हैं।

खतरा है तो कंपनियां AI विकसित क्यों कर रही हैं?

यहां सबसे बड़ा सवाल यही उठता है कि अगर AI के संभावित खतरों को लेकर इतनी चिंता है, तो फिर कंपनियां इसका विकास लगातार क्यों कर रही हैं?कॉक्सन ने OpenAI और Anthropic को लेकर अलग-अलग स्थिति बताई है। उनके अनुसार, OpenAI में कई लोग AI से जुड़े संभावित सभ्यतागत खतरों यानी civilizational stakes को पूरी तरह नहीं समझ पाए हैं।दूसरी ओर, उनका दावा है कि Anthropic में AI के संभावित खतरे को अच्छी तरह समझा जाता है। लेकिन कंपनी खुद को ऐसी प्रतिस्पर्धा में फंसा हुआ महसूस करती है, जहां उसे डर है कि अगर उसने विकास की रफ्तार कम कर दी तो दूसरी कंपनियां उससे आगे निकल सकती हैं।

AI Safety Concerns: जैकब कॉक्सन की पांच बड़ी चिंताएं

कॉक्सन की बातों से AI को लेकर पांच प्रमुख चिंताएं सामने आती हैं।

• AI इंसानों से ज्यादा शक्तिशाली हो सकता है।
• ऐसे सिस्टम तैयार हो सकते हैं जो खुद को बेहतर बनाने में सक्षम हों।
• भविष्य में AI को नियंत्रित करना मुश्किल हो सकता है।
• AI की हैकिंग और संसाधन जुटाने की क्षमता बहुत बढ़ सकती है।
• AI कंपनियों के बीच चल रही प्रतिस्पर्धा सुरक्षा को पीछे छोड़ सकती है।

AI को शक्तिशाली बनाने की दौड़ पर सवाल

कॉक्सन को सबसे ज्यादा आपत्ति AI को अधिक से अधिक शक्तिशाली बनाने की होड़ से है। उनका मानना है कि इतनी महत्वपूर्ण तकनीक के विकास का फैसला सिर्फ किसी निजी कंपनी के अंदर, जैसे Slack के आंतरिक मंच पर होने वाली चर्चाओं के आधार पर नहीं किया जाना चाहिए।उनके अनुसार, AI के विकास का असर सिर्फ किसी एक कंपनी या उसके कर्मचारियों तक सीमित नहीं रहेगा, बल्कि पूरी मानवता पर पड़ सकता है। इसलिए AI को इस तरह विकसित किया जाना चाहिए कि वह इंसानों के हितों, निर्देशों और सुरक्षा के अनुरूप काम करे।कॉक्सन का कहना है कि AI की सुरक्षा पर तेजी से काम करना तभी उचित होगा, जब यह पूरी तरह सुनिश्चित हो कि उससे ज्यादा सुरक्षित और बेहतर विकल्प मौजूद नहीं है।AI की क्षमता को लेकर हाल ही में एलन मस्क ने भी दावा किया था कि भविष्य में AI इंसानों से ज्यादा शक्तिशाली हो सकता है।

AI Safety Concerns: क्या AI मॉडल के विकास पर रोक लगनी चाहिए?

कॉक्सन ने केवल खतरे को लेकर चेतावनी नहीं दी, बल्कि AI विकास को लेकर कुछ कड़े कदमों की संभावना पर भी बात की है। उनका मानना है कि अगर दुनिया वास्तव में AI की वैश्विक दौड़ को रोकना चाहती है तो इसके लिए कुछ बेहद महंगे और असाधारण कदम उठाने पड़ सकते हैं।उन्होंने AI मॉडल की क्षमताओं को लगातार आगे बढ़ाने की प्रक्रिया पर कुछ समय के लिए रोक लगाने की संभावना का समर्थन किया है। हालांकि, उनका मानना है कि AI कंपनियों के बीच किसी तरह के समन्वय की संभावना अभी पूरी तरह खत्म नहीं हुई है।उन्होंने Hugging Face पर हुए हमले जैसी घटनाओं को भी चेतावनी के संकेत के तौर पर देखा है। उनके अनुसार, ऐसी घटनाओं के बाद अमेरिकी AI लैब्स के बीच AI विकास की रफ्तार को लेकर किसी समझौते की संभावना बढ़ सकती है।हालांकि, कॉक्सन का कहना है कि मौजूदा स्थिति को देखकर ऐसा नहीं लगता कि दुनिया फिलहाल उस दिशा में बढ़ रही है, जहां वैश्विक AI रेस को रोका जा सके।

AI रिसर्चर्स से क्या चाहते हैं कॉक्सन?

कॉक्सन ने AI लैब्स में काम कर रहे दूसरे रिसर्चर्स से भी अपने काम के भविष्य को लेकर गंभीरता से विचार करने की अपील की है।उन्होंने सवाल उठाया है कि क्या रिसर्चर्स आने वाले वर्षों में ऐसे सुपरइंटेलिजेंट सिस्टम पर बेहद शक्तिशाली रीइंफोर्समेंट लर्निंग यानी RL प्रक्रिया चलाना चाहेंगे, जबकि उन्हें अभी तक यह पूरी तरह समझ नहीं है कि ऐसा सिस्टम किस तरह ‘सोचता’ है।उनका कहना है कि रिसर्चर्स को सिर्फ यह सोचकर चुप नहीं बैठना चाहिए कि ‘यह तो होना ही है।’ इसके बजाय उन्हें ऐसे कामकाजी और विकास संबंधी हालात की मांग करनी चाहिए, जिनमें AI को अधिक सुरक्षित तरीके से आगे बढ़ाया जा सके।

AI Safety Concerns: AI की ताकत बढ़ने पर क्या हो सकता है?

अगर AI सिस्टम की क्षमताएं बहुत तेजी से बढ़ती हैं, तो इससे कई तरह की संभावनाएं और जोखिम पैदा हो सकते हैं।

• हैकिंग: AI बेहद जटिल कंप्यूटर सिस्टम्स में सेंध लगाने की क्षमता हासिल कर सकता है।
• पावर और रिसोर्स: AI वास्तविक दुनिया में अपने लिए ताकत और संसाधन जुटाने में सक्षम हो सकता है।
• सबसे बड़ा डर: AI इंसानी क्षमताओं से बहुत ज्यादा आगे निकल सकता है।
• तेज बदलाव: AI किसी भी क्षेत्र में बहुत कम समय के भीतर बड़े बदलाव ला सकता है।
• मानव नियंत्रण: सबसे बड़ी चिंता यह है कि इंसानों के लिए ऐसे शक्तिशाली सिस्टम्स को नियंत्रित करना मुश्किल हो सकता है।

Anthropic के CEO डारियो अमोदेई का अलग रुख

कॉक्सन की चिंताओं के बीच Anthropic के CEO डारियो अमोदेई का AI रेगुलेशन को लेकर अलग नजरिया भी सामने आया है। 16 अगस्त को अमोदेई ने उन दावों का विरोध किया था, जिनमें कहा गया था कि AI को नियंत्रित करने वाले नियम बनाने से इसकी ताकत कुछ बड़ी कंपनियों और सरकारों तक सीमित हो जाएगी।अमोदेई का तर्क है कि अगर नियम सोच-समझकर और सही तरीके से बनाए जाएं, तो वे बड़ी और अत्याधुनिक AI कंपनियों की ताकत को नियंत्रित कर सकते हैं। साथ ही, ऐसे नियम छोटी कंपनियों को आगे बढ़ने के लिए बेहतर अवसर भी दे सकते हैं।

AI Safety Concerns: अमोदेई ने इसे ‘झूठा विकल्प’ क्यों बताया?

यह बहस निवेशक गेविन बेकर की उस दलील के बाद तेज हुई, जिसमें उन्होंने कहा था कि AI की शक्ति कुछ बड़ी कंपनियों के हाथों में सीमित रखने के बजाय इसे ज्यादा से ज्यादा लोगों और कंपनियों के लिए उपलब्ध कराया जाना चाहिए।अमोदेई ने इस सोच को ‘झूठा विकल्प’ बताया। उनका कहना है कि AI की शक्ति को नियंत्रित करने और उसे हर किसी के लिए उपलब्ध कराने के बीच केवल दो ही विकल्प नहीं हैं। इनके बीच एक तीसरा रास्ता भी हो सकता है।उनके अनुसार, निष्पक्ष नियम और मजबूत संस्थाएं बड़ी कंपनियों की ताकत को सीमित कर सकती हैं। साथ ही, वे लोगों के अधिकारों की रक्षा करते हुए AI के व्यापक इस्तेमाल का रास्ता भी खोल सकती हैं।

AI को लेकर असली बहस क्या है?

Anthropic के रिसर्चर जैकब कॉक्सन का इस्तीफा और कंपनी के CEO डारियो अमोदेई का AI रेगुलेशन को लेकर रुख इस तकनीक से जुड़ी एक बड़ी बहस को सामने लाता है।एक तरफ सवाल यह है कि AI को कितनी तेजी से विकसित किया जाना चाहिए, ताकि तकनीकी फायदे और आर्थिक अवसर हासिल किए जा सकें। दूसरी ओर चिंता यह है कि अगर AI इंसानी क्षमता से बहुत आगे निकल गया, तो उसकी सुरक्षा और नियंत्रण कैसे सुनिश्चित किया जाएगा।कॉक्सन इस प्रतिस्पर्धा को बेहद जोखिम भरा मानते हैं और AI विकास की रफ्तार पर रोक लगाने या कंपनियों के बीच किसी समझौते की जरूरत की बात करते हैं।

इसलिए AI को लेकर मौजूदा बहस सिर्फ इस सवाल तक सीमित नहीं है कि भविष्य में AI कितना शक्तिशाली बन सकता है। असली सवाल यह भी है कि इतनी बड़ी शक्ति पर नियंत्रण किसके पास होगा और यह कैसे सुनिश्चित किया जाएगा कि AI का विकास इंसानों की सुरक्षा और हितों के खिलाफ न जाए।

ये भी पढ़ें…क्या उत्तरप्रदेश को जातीय हिंसा की आग में झोंकना चाहते हैं अखिलेश यादव?