मलेशिया आणि इंडोनेशियाने लैंगिक सुस्पष्ट क्लिप तयार करण्याच्या क्षमतेमुळे एलोन मस्कच्या एआय चॅटबॉट ग्रोकमध्ये प्रवेश अवरोधित केला आहे.
मस्कच्या एक्स प्लॅटफॉर्मवरील ग्रोक हे साधन वापरकर्त्यांना प्रतिमा तयार करण्यास अनुमती देते. तथापि, अलिकडच्या आठवड्यात ते उघडकीस कपड्यांमध्ये दर्शविण्यासाठी वास्तविक लोकांचे फोटो संपादित करण्यासाठी वापरले गेले आहे.
दक्षिणपूर्व आशियाई देशांनी म्हटले आहे की महिला आणि मुलांचा समावेश असलेल्या अश्लील आणि गैर-सहमतीच्या प्रतिमा तयार करण्यासाठी ग्रोकचा वापर केला जाऊ शकतो. एआय टूलवर बंदी घालणारे ते जगातील पहिले आहेत.
बीबीसीने टिप्पणीसाठी ग्रोकशी संपर्क साधला आहे. मस्कने पूर्वी म्हटले होते की त्याच्या व्यासपीठाचे समीक्षक “सेन्सॉरशिपसाठी कोणतेही निमित्त” शोधत आहेत.
ऑनलाइन सुरक्षा कायद्यांचे पालन करण्यात अयशस्वी झाल्याबद्दल तंत्रज्ञान मंत्री लिझ केंडल यांनी सोशल मीडिया प्लॅटफॉर्मवर प्रवेश अवरोधित करण्याच्या कॉलचे समर्थन केल्यानंतर, ग्रॉक आणि तिची मूळ कंपनी X देखील ब्रिटनमध्ये दबावाचा सामना करत आहे.
मलेशियन आणि इंडोनेशियाच्या संपर्क मंत्रालयांनी आठवड्याच्या शेवटी स्वतंत्र विधानांमध्ये ग्रोक विरुद्ध त्यांच्या कारवाईची घोषणा केली.
मलेशियाच्या कम्युनिकेशन्स अँड मल्टीमीडिया कमिशनने रविवारी सांगितले की त्यांनी दुर्भावनापूर्ण सामग्री तयार करण्यासाठी Grok चा “पुन्हा वारंवार गैरवापर” केल्याचे आढळल्यानंतर कठोर कारवाई करण्यासाठी X ला नोटिसा बजावल्या होत्या.
परंतु त्याच्या प्रतिसादात, X त्याच्या प्लॅटफॉर्मच्या डिझाइनमध्ये अंतर्निहित जोखीम हाताळण्यात अयशस्वी ठरला आणि मुख्यतः वापरकर्त्यांसाठी अहवाल प्रक्रियेवर लक्ष केंद्रित केले, नियामकाने सांगितले.
तिने जोडले की प्रभावी सुरक्षा उपाय लागू होईपर्यंत Grok वर बंदी घातली जाईल आणि लोकांना हानिकारक ऑनलाइन सामग्रीची तक्रार करण्याचे आवाहन केले जाईल.
लैंगिकदृष्ट्या सुस्पष्ट सामग्री तयार करण्यासाठी Grok वापरणे हे मानवी हक्क, सन्मान आणि ऑनलाइन सुरक्षिततेचे उल्लंघन आहे, इंडोनेशियाचे दळणवळण आणि डिजिटल व्यवहार मंत्री, Meutia Hafid यांनी Instagram पोस्टमध्ये म्हटले आहे.
मंत्रालयाने मस्कच्या एक्सला ग्रोकच्या वापराबद्दल स्पष्टीकरण देण्यास सांगितले.
इंडोनेशियन अधिकाऱ्यांनी अलिकडच्या वर्षांत ऑनलाइन पोर्नोग्राफीच्या इतर स्रोतांवर कारवाई केली आहे, ओन्लीफॅन्स आणि पॉर्नहब सारख्या प्लॅटफॉर्मवर देशात आधीच बंदी आहे.
ब्रिटीश मीडिया रेग्युलेटर ऑफकॉम लवकरच ग्रोकबद्दल काय करायचे ते ठरवेल अशी अपेक्षा आहे.
जगभरातील नेत्यांनी लैंगिक प्रतिमा तयार करण्यासाठी ग्रॉकच्या वापराचा निषेध केला आहे, ज्यात ब्रिटीश पंतप्रधान केयर स्टारर यांचा समावेश आहे, ज्यांनी त्याचे वर्णन “लज्जास्पद” आणि “घृणास्पद” असे केले आहे.
