इलॉन मस्कच्या प्लॅटफॉर्म X ने त्याच्या AI टूल Grok द्वारे वापरकर्त्यांना पैसे देण्यासाठी इमेज एडिटिंग मर्यादित केले आहे, जे लोकांना लैंगिक डीपफेक तयार करण्यास अनुमती दिल्याने चर्चेत आल्यानंतर.
चॅटबॉट वापरकर्त्यांकडून त्यांच्या संमतीशिवाय त्यांचे फोटो काढून टाकण्यासाठी आणि डिजिटल बदल करण्याच्या विनंत्यांनंतर एक महत्त्वपूर्ण प्रतिक्रिया आली आहे.
परंतु Grok आता लोकांना अशी सामग्री तयार करण्यास सांगत आहे जे केवळ पैसे देणारे ग्राहकच करू शकतील – म्हणजे त्यांची नावे आणि देय माहिती फाइलवर असणे आवश्यक आहे.
बीबीसीने टिप्पणीसाठी एक्सशी संपर्क साधला आहे.
जे सदस्यत्व घेत नाहीत ते अजूनही फोटो संपादित करण्यासाठी Grok चे स्वतंत्र ॲप आणि वेबसाइट वापरू शकतात.
प्रोफेसर क्लेअर मॅकग्लिन, पोर्नोग्राफी, लैंगिक हिंसाचार आणि ऑनलाइन गैरवर्तनाच्या कायदेशीर नियमनाचे तज्ञ, म्हणाले: “दुरुपयोगाच्या सुनामीला जबाबदार असल्याच्या निषेधार्थ मस्कने आपली खेळणी प्रॅममधून फेकून दिली आहेत.”
“Grok अपमानास्पद हेतूंसाठी वापरला जाऊ शकत नाही याची खात्री करण्यासाठी जबाबदार पावले उचलण्याऐवजी, त्याने बहुतेक वापरकर्त्यांसाठी प्रवेश रद्द केला आहे.”
आणि इंटरनेट वॉच फाऊंडेशनच्या धोरण प्रमुख, हॅना स्विर्स्की यांनी सांगितले की ते “झालेले नुकसान पूर्ववत करत नाही”.
“आम्ही अलिकडच्या दिवसात ज्या प्रकारच्या प्रतिमा पाहिल्या त्या प्रकारची निर्मिती करण्याची क्षमता कधीही नसलेल्या साधनाचा प्रवेश मर्यादित करणे पुरेसे आहे यावर आमचा विश्वास नाही,” तो म्हणाला.
धर्मादाय संस्थेने पूर्वी सांगितले होते की त्यांच्या विश्लेषकांनी 11 ते 13 वयोगटातील मुलींच्या “गुन्हेगार प्रतिमा” शोधल्या आहेत ज्या Grok वापरून “तयार केल्या गेल्या” आहेत.
“कारवाई करण्यापूर्वी असुरक्षित उत्पादनांचा गैरवापर होण्याची वाट पाहणे आणि बसणे अस्वीकार्य आहे,” स्विर्स्की म्हणाले.
साइटवर तयार केलेल्या बेकायदेशीर AI प्रतिमांबद्दलच्या चिंतेमुळे सरकारने नियामक ऑफकॉमला त्याचे सर्व अधिकार – प्रभावी बंदीसह – X विरुद्ध वापरण्याचे आवाहन केल्यानंतर हे आले आहे.
ग्रोकने प्रौढ आणि मुलांची लैंगिक प्रतिमा बनविल्याच्या चिंतेला संबोधित करताना, पंतप्रधान सर कीर स्टारर म्हणाले की ते “लज्जास्पद” आणि “घृणास्पद” आहे.
ते म्हणाले की ऑफकॉमला सामग्रीवर काम करण्यासाठी सरकारचा “पूर्ण पाठिंबा” आहे.
ग्रेटेस्ट हिट्स रेडिओला दिलेल्या मुलाखतीत ते म्हणाले, “हे बेकायदेशीर आहे. आम्ही ते सहन करणार नाही. मी सर्व पर्याय टेबलवर ठेवण्यास सांगितले आहे.”
सरकारी सूत्रांनी बीबीसी न्यूजला सांगितले: “आम्ही ऑफकॉमने ग्रोक आणि एक्सच्या संबंधात सर्व शक्ती वापरण्याची अपेक्षा करू.”
ऑनलाइन सुरक्षा कायद्यांतर्गत ऑफकॉमच्या अधिकारांमध्ये एलोन मस्कच्या मालकीच्या प्लॅटफॉर्मला पैसे उभारण्यापासून किंवा तृतीय पक्षांना यूकेमध्ये प्रवेश करण्यास मदत करण्यापासून रोखण्यासाठी न्यायालयीन आदेश घेण्यास सक्षम असणे समाविष्ट आहे.
बीबीसीने टिप्पणीसाठी नियामकाशी संपर्क साधला आहे.
Grok हे एक विनामूल्य साधन आहे जे वापरकर्त्यांना थेट पोस्ट टॅग करण्यास किंवा विशिष्ट प्रतिसादासाठी इतर वापरकर्त्यांच्या पोस्टच्या खाली उत्तर देण्यास अनुमती देते.
परंतु वैशिष्ट्याने लोकांना फोटो संपादनाची विनंती करण्याची परवानगी दिली – आणि त्याने लोकांना त्यांचे बहुतेक कपडे डिजिटली काढण्यास सांगितले.
ग्रोकने अनेक वापरकर्त्यांच्या विनंत्या पूर्ण केल्या आहेत ज्यात महिलांना बिकिनी किंवा स्किम्पी ड्रेसमध्ये दर्शविण्यासाठी त्यांचे फोटो संपादित करण्यास सांगितले आहे – अशा विनंत्यांचा विषय असलेल्या काहींनी बीबीसीला सांगितले की त्यांना “अपमानित” आणि “अमानवीकरण” वाटले.
तथापि, शुक्रवारी सकाळपर्यंत, Grok ने वापरकर्त्यांना X वर अपलोड केलेल्या प्रतिमा सुधारित करण्यास सांगितले की “प्रतिमा निर्मिती आणि संपादन सध्या ग्राहकांना पैसे देण्यापुरते मर्यादित आहे”.
हे जोडते की वापरकर्ते “ही वैशिष्ट्ये अनलॉक करण्यासाठी सदस्यता घेऊ शकतात”.
बीबीसी न्यूजने पाहिलेल्या प्लॅटफॉर्मवरील काही पोस्ट्समध्ये फक्त निळ्या रंगाची टिक “सत्यापित” चिन्ह सुचवले – X च्या सशुल्क सदस्य श्रेणीसाठी विशेष – Grok ला फोटो संपादित करण्यासाठी यशस्वीरित्या विनंती करण्यात सक्षम होते.
डॉ. डेझी डिक्सन, एक महिला एक्स वापरकर्ता ज्याने सांगितले की तिला कपडे घालण्यासाठी ग्रोक वापरणाऱ्या लोकांमध्ये वाढ झाली आहे, त्यांनी या बदलाचे स्वागत केले परंतु ते “चिकटलेल्या प्लास्टरसारखे” वाटले.
“हे पुन्हा घडू नये म्हणून Groc पूर्णपणे पुन्हा डिझाइन करणे आणि अंगभूत नैतिक कुंपण असणे आवश्यक आहे,” त्याने बीबीसीला सांगितले.
“अगदी इलॉन मस्क यांनाही हे मान्य करावे लागेल – लिंग-आधारित उल्लंघनाचे आणखी एक उदाहरण.”
प्रोफेसर मॅकग्लिन X च्या पावले त्याच्या दृष्टिकोनाचे प्रतिध्वनी करतात पोर्नोग्राफिक टेलर स्विफ्टने गेल्या वर्षी प्लॅटफॉर्मवर डीपफेक केले होते – जिथे त्याने Grok AI व्हिडिओ वैशिष्ट्य वापरून पॉपस्टारच्या लैंगिक सामग्रीचा शोध अवरोधित केला होता.
“तो मुक्त भाषण युक्तिवाद वाढवण्यासाठी हे करत आहे,” तो पुढे म्हणाला.
“तो असा दावा करेल की नियमन लोकांच्या या तंत्रज्ञानाच्या वापरात अडथळा आणत आहे. परंतु, सर्व नियमनासाठी त्याने हानी कमी करण्यासाठी आवश्यक खबरदारी घेणे आवश्यक आहे.”
