महिलाओं की अश्लील फोटोज बना रहा AI, सरकार ने चेतावनी

नई दिल्‍ली। केंद्र सरकार ने एक्स को सख्त चेतावनी दी है। केंद्र ने कहा है कि ग्रोक एआई महिलाओं की अश्लील फोटो बना रहा है। इसलिए इन्हें तुरंत हटाया जाए। इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय ने एलन मस्क के स्वामित्व वाले सोशल मीडिया प्लेटफॉर्म के मुख्य अनुपालन अधिकारी को एक पत्र लिखा है। इस पत्र में कहा है कि ग्रोक की तत्काल व्यापक समीक्षा करें और अवैध सामग्री तक पहुंच को हटा दें या डिसेबल कर दें।

क्यों जताई चिंता
सूचना प्रौद्योगिकी मंत्रालय के पत्र में कहा गया कि आपके द्वारा विकसित और एक्स प्लेटफॉर्म पर उपलब्ध कराई गई सेवा ग्रोक का इस्तेमाल महिलाओं की अश्लील या अपमानजनक तस्वीरें और वीडियो बनाने में हो रहा है। इसके अलावा इसका इस्तेमाल गलत चीजों को प्रकाशित करने या साझा करने के लिए किया जा रहा है। इससे महिलाओं आ अभद्र ढंग से अपमान हो रहा है।

पत्र में आगे कहा गया है कि ऐसा व्यवहार प्लेटफॉर्म-स्तरीय सुरक्षा उपायों और सिस्टम की गंभीर विफलता को दर्शाता है। यह प्रासंगिक कानूनों के उल्लंघन में एआई तकनीक के गंभीर दुरुपयोग की तरह है।

रिपोर्ट देने के लिए भी कहा
मंत्रालय ने एक्स से तत्काल अनुपालन सुनिश्चित करने और की गई कार्रवाई की रिपोर्ट देने के लिए भी कहा है। नोटिस में खासकर ‘ग्रोक’ के दुरुपयोग से तैयार अश्लील, नग्न, आपत्तिजनक एवं यौन गतिविधियों को स्पष्ट रूप से दर्शाने वाली सामग्री के होस्टिंग, निर्माण, प्रकाशन, प्रसारण, साझा करने या अपलोड करने पर लगाम लगाने के लिए ठोस कदम उठाने को कहा गया है।

हो सकती है कानूनी कार्रवाई
मंत्रालय ने चेतावनी देते हुए कहा है कि निर्धारित वैधानिक प्रावधानों का पालन न करने को गंभीरता से लिया जाएगा और ऐसा होने पर मंच, उसके जिम्मेदार अधिकारियों तथा कानून का उल्लंघन करने वाले उपयोगकर्ताओं के खिलाफ बिना किसी अतिरिक्त नोटिस के सख्त कानूनी कार्रवाई की जा सकती है।

आदेश के मुताबिक, ऐसी स्थिति में कार्रवाई सूचना प्रौद्योगिकी अधिनियम, आईटी नियमों, भारतीय न्याय संहिता (बीएनएस), भारतीय नागरिक सुरक्षा संहिता (बीएनएसएस) और अन्य लागू कानूनों के तहत की जाएगी.