क्रिस्टाल हेसऔर
ओसमंड चिया
गेटी इमेजेजयूके और यूएस सहित देशों में कामुक एआई डीपफेक पर व्यापक चिंता के बाद, एलोन मस्क का एआई मॉडल ग्रोक अब वास्तविक लोगों की तस्वीरों को संपादित करके उन्हें खुले कपड़ों में नहीं दिखा पाएगा।
“हमने ग्रोक खाते को बिकनी जैसे खुले कपड़ों में वास्तविक लोगों की छवियों के संपादन की अनुमति देने से रोकने के लिए तकनीकी उपाय लागू किए हैं।
ग्रोक एआई टूल संचालित करने वाले एक्स पर एक घोषणा में कहा गया है, “यह प्रतिबंध भुगतान किए गए ग्राहकों सहित सभी उपयोगकर्ताओं पर लागू होता है।”
इस बदलाव की घोषणा कैलिफोर्निया के शीर्ष अभियोजक के यह कहने के कुछ घंटों बाद की गई कि राज्य एआई मॉडल द्वारा उत्पन्न बच्चों सहित यौन एआई डीपफेक के प्रसार की जांच कर रहा था।
एक्स, जिसे पहले ट्विटर के नाम से जाना जाता था, में भी दोहराया गया बुधवार को एक बयान केवल भुगतान किए गए उपयोगकर्ता ही इसके प्लेटफ़ॉर्म पर ग्रोक का उपयोग करके छवियों को संपादित करने में सक्षम होंगे।
इसमें कहा गया है कि इससे यह सुनिश्चित करने में मदद करके सुरक्षा की एक अतिरिक्त परत जुड़ जाएगी कि जो लोग कानून या एक्स की नीतियों का उल्लंघन करने के लिए ग्रोक का प्रयास और दुरुपयोग करते हैं, उन्हें जवाबदेह ठहराया जाएगा।
एक्स के बयान में कहा गया है कि जो उपयोगकर्ता ग्रोक का उपयोग करके बिकनी, अंडरवियर और इसी तरह के कपड़ों में वास्तविक लोगों की छवियां उत्पन्न करने का प्रयास करते हैं, उन्हें उनके अधिकार क्षेत्र के कानूनों के अनुसार ऐसा करने से रोक दिया जाएगा।
मस्क ने बुधवार को ऑनलाइन लिखा, एनएसएफडब्ल्यू (काम के लिए सुरक्षित नहीं) सेटिंग्स सक्षम होने के साथ, ग्रोक को “काल्पनिक वयस्क मनुष्यों (वास्तविक नहीं) के ऊपरी शरीर की नग्नता” की अनुमति देनी चाहिए, जैसा कि आर-रेटेड फिल्मों में देखा जा सकता है।
तकनीकी बहु-अरबपति ने कहा, “यह अमेरिका में वास्तविक मानक है। यह देश-दर-देश के आधार पर अन्य क्षेत्रों में अलग-अलग होगा।”
मस्क ने पहले एक्स का बचाव करते हुए पोस्ट किया था कि आलोचक यूके के प्रधान मंत्री सर कीर स्टारमर की बिकनी में दो एआई-जनरेटेड छवियों के साथ “केवल मुक्त भाषण को दबाना चाहते हैं”।
हाल के दिनों में, दुनिया भर के नेताओं ने ग्रोक की छवि संपादन सुविधा की आलोचना की है।
सप्ताहांत में, मलेशिया और इंडोनेशिया बन गए ग्रोक एआई टूल पर प्रतिबंध लगाने वाले पहले देश उपयोगकर्ताओं ने कहा कि सहमति के बिना स्पष्ट चित्र बनाने के लिए तस्वीरों में बदलाव किया गया है।
ब्रिटेन के मीडिया नियामक, ऑफकॉम ने सोमवार को कहा कि वह जांच करेगा कि क्या एक्स अनुपालन करने में विफल रहा है यौन छवियों पर ब्रिटेन का कानून.
सर कीर ने चेतावनी दी कि एआई छवियों पर प्रतिक्रिया के बीच एक्स “स्वयं विनियमन का अधिकार” खो सकता है, लेकिन बाद में सप्ताह में उन्होंने कहा कि उन्होंने उन रिपोर्टों का स्वागत किया है कि एक्स इस मुद्दे के समाधान के लिए कार्रवाई कर रहा है।
कुछ ब्रिटेन के सांसदों ने भी एक्स सोशल मीडिया प्लेटफॉर्म छोड़ दिया आक्रोश के मद्देनजर.
कैलिफ़ोर्निया के अटॉर्नी जनरल रॉब बोंटा ने बुधवार को कहा: “यह सामग्री, जिसमें महिलाओं और बच्चों को नग्न और यौन रूप से स्पष्ट स्थितियों में दर्शाया गया है, का उपयोग इंटरनेट पर लोगों को परेशान करने के लिए किया गया है।”
नीति शोधकर्ता रियाना फ़ेफ़रकोर्न ने कहा कि वह आश्चर्यचकित हैं कि एक्स ने नए ग्रोक सुरक्षा उपायों को तैनात करने में इतना समय लिया और दुरुपयोग शुरू होते ही संपादन सुविधाओं को हटा दिया जाना चाहिए था।
फ़ेफ़रकोर्न ने कहा कि एक्स अपनी नई नीतियों को कैसे लागू करेगा, इस पर सवाल बने हुए हैं, जैसे कि एआई मॉडल को कैसे पता चलेगा कि कोई छवि वास्तविक व्यक्ति की है और जब उपयोगकर्ता नियम तोड़ेंगे तो वह क्या कार्रवाई करेगा।
उन्होंने कहा, मस्क ने कंपनी को गंभीर रूप से प्रस्तुत नहीं किया है, उन्होंने कहा कि इससे मदद मिलेगी अगर वह “बिकनी में कीर स्टारर की एआई छवि को दोबारा पोस्ट करने जैसी चीजें करना बंद कर दें।”
कैटी बेल्स द्वारा अतिरिक्त रिपोर्टिंग