Apple ने एलन मस्क की कंपनी xAI के Grok AI चैटबॉट को लेकर बड़ा कदम उठाया था। रिपोर्ट के मुताबिक, App Store गाइडलाइंस के उल्लंघन के कारण Apple ने Grok ऐप को अपने प्लेटफॉर्म से हटाने की चेतावनी दी थी, हालांकि उस समय कंपनी ने सार्वजनिक रूप से कोई बयान नहीं दिया, लेकिन अंदर ही अंदर इस मुद्दे पर कड़ी कार्रवाई की गई।
क्या है पूरा Deepfake विवाद?
Grok को लेकर विवाद तब शुरू हुआ जब यूजर्स ने इसका इस्तेमाल गैर-सहमति वाले अश्लील डीपफेक कंटेंट बनाने के लिए करना शुरू कर दिया। खासकर महिलाओं और नाबालिगों की तस्वीरों को AI के जरिए “undress” करने जैसी घटनाएं सामने आईं, जिसने वैश्विक स्तर पर चिंता बढ़ा दी।
Apple और Google पर बढ़ा दबाव
इस मामले के बाद अमेरिकी सांसदों ने Apple और Google पर दबाव बनाया कि वे Grok और X ऐप को अपने प्लेटफॉर्म से हटा दें। उनका कहना था कि ऐसे ऐप्स बच्चों के शोषण और अश्लील कंटेंट को बढ़ावा दे सकते हैं, जो प्लेटफॉर्म की नीतियों के खिलाफ है।
App Store ने क्यों किया ऐप रिजेक्ट?
रिपोर्ट के अनुसार, जब X ने Grok ऐप का अपडेट Apple को भेजा, तो उसे यह कहकर रिजेक्ट कर दिया गया कि बदलाव पर्याप्त नहीं हैं। बाद में X ने फिर से अपडेट सबमिट किया, जिसमें कुछ सुधार किए गए थे। Apple ने बताया कि पहले Grok ऐप नियमों के अनुरूप नहीं था, लेकिन अतिरिक्त बदलावों के बाद उसे मंजूरी दे दी गई।
भारत समेत कई देशों में हुआ विरोध
इस विवाद का असर भारत में भी देखने को मिला। सरकार ने सख्त नोटिस जारी किया, जिसके बाद X को 3,500 से ज्यादा कंटेंट हटाने और 600 अकाउंट ब्लॉक करने पड़े। भारत के अलावा ब्रिटेन, मलेशिया और इंडोनेशिया में भी इस मुद्दे पर कड़ी प्रतिक्रिया देखने को मिली।
xAI ने किए बदलाव, लेकिन खतरा बरकरार
विवाद बढ़ने के बाद xAI ने Grok के AI इमेज जनरेशन फीचर को सीमित कर दिया और इसे केवल पेड यूजर्स तक सीमित कर दिया। Elon Musk ने चेतावनी दी कि अवैध कंटेंट बनाने वालों के खिलाफ सख्त कार्रवाई होगी। इसके बावजूद, हालिया रिपोर्ट्स में अब भी ऐसे कई डीपफेक कंटेंट सामने आ रहे हैं।
