यूरोपीय संघ (EU) जल्द ही 'न्यूडिफाई' ऐप्स पर प्रतिबंध लगा सकता है। यह कदम एलोन मस्क के चैटबॉट 'ग्रोक' द्वारा बच्चों समेत वास्तविक लोगों की अश्लील तस्वीरें बनाने के बाद उठाया जा रहा है।
यूरोपीय संसद की आंतरिक बाजार और नागरिक स्वतंत्रता समितियों ने एक संयुक्त प्रेस विज्ञप्ति में इसकी पुष्टि की है। सांसदों ने आर्टिफिशियल इंटेलिजेंस एक्ट को सरल बनाने और 'न्यूडिफायर' प्रणालियों पर प्रतिबंध लगाने के लिए 101-9 के वोट से मंजूरी दी है।
इससे पहले, यूरोपीय आयोग ने निष्कर्ष निकाला था कि AI अधिनियम उन AI प्रणालियों को प्रतिबंधित नहीं करता है जो बाल यौन शोषण सामग्री (CSAM) या यौन रूप से स्पष्ट डीपफेक नग्न तस्वीरें उत्पन्न करती हैं।
यदि संशोधन पारित हो जाता है, तो यह एलोन मस्क की उपयोगकर्ताओं पर दोष मढ़ने की योजना को विफल कर देगा। xAI ने आउटपुट को ब्लॉक करने के लिए सुरक्षा उपाय पेश करने से इनकार कर दिया था, और कहा था कि CSAM या गैर-सहमति वाली अंतरंग इमेजरी उत्पन्न करने वाले उपयोगकर्ताओं को निलंबित कर दिया जाएगा और कानूनी रूप से जवाबदेह ठहराया जाएगा।
EU में, ऐसी उम्मीद है कि मस्क को 'ग्रोक' को कम 'मसालेदार' बनाने के लिए मजबूर होना पड़ेगा, अन्यथा AI अधिनियम का उल्लंघन करने का जोखिम होगा। इससे xAI को भारी जुर्माना लग सकता है, जो उसके कुल वार्षिक वैश्विक कारोबार का 7 प्रतिशत तक हो सकता है।
अधिकारियों का कहना है कि वे ऐसे 'न्यूडिफायर' सिस्टम पर प्रतिबंध लगाना चाहते हैं जो AI का उपयोग करके ऐसी छवियां बनाते या हेरफेर करते हैं जो यौन रूप से स्पष्ट या अंतरंग होती हैं और बिना सहमति के एक वास्तविक व्यक्ति से मिलती-जुलती हैं।
ब्लूमबर्ग ने बताया कि यह प्रतिबंध स्पष्ट डीपफेक को विनियमित करने के लिए EU के दृष्टिकोण को मौलिक रूप से बदल देगा, और यह सिर्फ उपयोगकर्ताओं पर मुकदमा चलाने से आगे बढ़कर प्लेटफार्मों को भी दंडित करेगा।
कानून निर्माताओं ने चेतावनी दी है कि AI-संचालित नग्नता एप्लिकेशन, जैसे कि X पर Grok, और अन्य टूल जो ऑनलाइन मुफ्त में उपलब्ध हैं, AI-संचालित टूल में वृद्धि को उजागर करते हैं जो उपयोगकर्ताओं को व्यक्तियों की सहमति के बिना छेड़छाड़ की गई अंतरंग छवियां उत्पन्न करने की अनुमति देते हैं, जिससे लैंगिक साइबर हिंसा और बाल यौन शोषण सामग्री का निर्माण होता है।
EU में, नियामक हस्तक्षेप करने के लिए सार्वजनिक दबाव बढ़ रहा है, क्योंकि xAI वास्तविक लोगों को निर्वस्त्र करने से 'ग्रोक' को रोकने के लिए तैयार नहीं है।
