Elon musk: एलन मस्क की कंपनी xAI ने अपने एआई चैटबॉट ग्रोक (Grok) को लेकर बड़ा फैसला लिया है। अब ग्रोक किसी भी महिला, लड़की या किसी भी व्यक्ति की अश्लील, आपत्तिजनक या बिना सहमति वाली तस्वीरें और वीडियो नहीं बनाएगा। कंपनी ने साफ किया है कि जहां यह कानूनन अपराध है, वहां ग्रोक वास्तविक लोगों की तस्वीरों को अनड्रेस करना या उन्हें बिकिनी, अंडरवियर या अन्य खुली पोशाक में दिखाने में सक्षम नहीं होगा। यह कदम दुनियाभर में महिलाओं और बच्चों की सेक्सुअलाइज्ड एआई-जनरेटेड तस्वीरों को लेकर बढ़ते विरोध के बाद उठाया गया है।
वैश्विक विरोध के बाद लिया गया फैसला
बीते कुछ समय से कई देशों में ग्रोक के जरिए बनाई जा रही गैर-सहमति वाली यौन सामग्री को लेकर विरोध हो रहा था। कुछ देशों ने चेतावनी दी, तो कुछ ने कानूनी कार्रवाई भी शुरू की। अमेरिका के कैलिफोर्निया राज्य ने ग्रोक द्वारा बनाई जा रही ऐसी सामग्री की जांच की घोषणा की, जिससे महिलाओं और लड़कियों को मानसिक उत्पीड़न का सामना करना पड़ा। शुरुआत में मस्क की ओर से इसे लेकर कोई स्पष्ट जवाब नहीं दिया गया, लेकिन अब xAI ने माना है कि वह कानून का उल्लंघन करने वाली सामग्री को जियो-ब्लॉक करेगी।
Elon musk: अब बिकिनी या अंडरवियर में तस्वीरें नहीं बनाएगा ग्रोक
xAI ने अपने बयान में कहा है कि, “हमने तकनीकी उपाय लागू किए हैं, जिससे ग्रोक किसी भी वास्तविक व्यक्ति की तस्वीर को बिकिनी, अंडरवियर या अन्य खुली पोशाक में एडिट नहीं कर सकेगा।” यह नियम सभी यूजर्स पर लागू होगा, जिनमें पेड सब्सक्राइबर्स भी शामिल हैं। हालांकि, कंपनी ने इमेज क्रिएशन और एडिटिंग की सुविधा को केवल पेड यूजर्स तक सीमित कर दिया है, ताकि कानून तोड़ने वालों की पहचान कर उनके खिलाफ कार्रवाई की जा सके। ग्रोक का “Spicy Mode” पहले यूजर्स को स्पष्ट कंटेंट बनाने की छूट देता था, जिसे लेकर सबसे ज्यादा विवाद हुआ। इसी वजह से मलेशिया और इंडोनेशिया जैसे देशों ने ग्रोक पर कार्रवाई करते हुए उसकी सेवाएं ब्लॉक कर दीं।
Elon musk: यूके और यूरोप में भी जांच के घेरे में ग्रोक
ग्रोक अब सिर्फ अमेरिका ही नहीं, बल्कि यूके और यूरोपीय संघ की जांच के दायरे में भी है। फ्रांस, भारत और ब्राजील ने भी इसके दुरुपयोग पर सख्त नियंत्रण की मांग की है। ब्रिटेन की सरकार ने xAI के इस फैसले का स्वागत किया है, हालांकि वहां का रेगुलेटर Ofcom अभी जांच जारी रखेगा। टेक्नोलॉजी सेक्रेटरी लिज केंडल ने कहा कि सोशल मीडिया और एआई प्लेटफॉर्म्स को हर हाल में यूजर्स के लिए सुरक्षित बनाना होगा।
बिना सहमति की अंतरंग तस्वीरों पर जीरो टॉलरेंस
Elon musk: कैलिफोर्निया के अटॉर्नी जनरल रॉब बोंटा ने xAI से कहा है कि ग्रोक के किसी भी फीचर से महिलाओं और लड़कियों को आगे नुकसान नहीं होना चाहिए। उन्होंने साफ कहा कि, “एआई के जरिए बनाई गई गैर-सहमति वाली अंतरंग तस्वीरों और बाल यौन शोषण सामग्री के लिए हमारी नीति जीरो टॉलरेंस की है।” कैलिफोर्निया में पहले ही ऐसे कानून लागू किए जा चुके हैं, जिनका मकसद बच्चों को एआई-जनरेटेड यौन कंटेंट से बचाना है।
यह भी पढ़ें: इंडियन कोस्ट गार्ड ने नाकाम की पाकिस्तान की बड़ी साजिश
