xAI के चैटबॉट ग्रोक पर प्रतिबंध हटाने में इंडोनेशिया ने मलेशिया और फिलीपींस का अनुसरण किया है।
वास्तविक महिलाओं और नाबालिगों की छवियों सहित, एक्स (अब एक्सएआई की सहायक कंपनी) पर गैर-सहमति, कामुक छवियों की बाढ़ पैदा करने के लिए इस्तेमाल किए जाने के बाद दक्षिण पूर्व एशियाई देशों ने ग्रोक पर प्रतिबंध लगा दिया। द न्यूयॉर्क टाइम्स और सेंटर फॉर काउंटरिंग डिजिटल हेट के अलग-अलग विश्लेषणों के अनुसार, दिसंबर के अंत और जनवरी में ग्रोक का इस्तेमाल महिलाओं की कम से कम 1.8 मिलियन कामुक छवियां बनाने के लिए किया गया था।
एक बयान में, इंडोनेशिया के संचार और डिजिटल मामलों के मंत्रालय ने कहा कि वह एक्स द्वारा “सेवा में सुधार और दुरुपयोग की रोकथाम के लिए ठोस कदमों की रूपरेखा” पत्र भेजने के बाद प्रतिबंध हटा रहा है (द न्यूयॉर्क टाइम्स के माध्यम से अनुवाद)।
मंत्रालय के डिजिटल स्पेस मॉनिटरिंग के महानिदेशक अलेक्जेंडर सबर ने कहा कि प्रतिबंध केवल “सशर्त” हटाया जा रहा है और “आगे उल्लंघनों का पता चलने पर” इसे बहाल किया जा सकता है।
मलेशिया और फिलीपींस ने 23 जनवरी को अपना प्रतिबंध हटा लिया।
ग्रोक के डीपफेक ने दुनिया भर की सरकारों की ओर से आलोचना और जांच को बढ़ावा दिया है – लेकिन केवल कुछ ही प्रतिबंध लगाए गए हैं। संयुक्त राज्य अमेरिका में, कैलिफोर्निया के अटॉर्नी जनरल रॉब बोंटा ने कहा कि उनका कार्यालय एक्सएआई की जांच कर रहा था और कंपनी को इन छवियों के उत्पादन को समाप्त करने के लिए तत्काल कार्रवाई करने का आदेश देते हुए एक संघर्ष विराम पत्र भेजा था।
ऐसा प्रतीत होता है कि एक्सएआई ने ग्रोक की क्षमताओं को प्रतिबंधित करने के लिए कुछ कदम उठाए हैं, जिसमें एक्स पर भुगतान करने वाले ग्राहकों के लिए अपनी एआई छवि निर्माण सुविधा को सीमित करना शामिल है। सीईओ एलोन मस्क ने जोर देकर कहा है, “अवैध सामग्री बनाने के लिए ग्रोक का उपयोग करने वाले किसी भी व्यक्ति को उसी तरह के परिणाम भुगतने होंगे जैसे कि वे अवैध सामग्री अपलोड करते हैं” और कहा कि उन्हें “ग्रोक द्वारा उत्पन्न किसी भी नग्न कम उम्र की छवियों के बारे में जानकारी नहीं है।”
न्याय विभाग द्वारा शुक्रवार को कुख्यात यौन अपराधी जेफरी एपस्टीन के संबंध में जारी किए गए दस्तावेजों में 2012 और 2013 में मस्क और एपस्टीन के बीच कम से कम 16 ईमेल शामिल हैं, जिसमें मस्क ने एपस्टीन के कैरेबियाई द्वीप का दौरा करने के लिए कहा था और “अपने द्वीप पर सबसे जंगली पार्टी” के बारे में सोचा था। एपस्टीन ने 2008 में वेश्यावृत्ति के लिए एक कम उम्र की लड़की की खरीद के लिए दोषी ठहराया था।
इस बीच, एक्सएआई कथित तौर पर स्पेसएक्स आईपीओ से पहले मस्क की दो अन्य कंपनियों, स्पेसएक्स और टेस्ला के साथ विलय के लिए बातचीत कर रही है।
