एलोन मस्क आणि xAI लोगो.
व्हिन्सेंट फ्युरे एएफपी | गेटी प्रतिमा
इलॉन मस्कच्या X ची युरोप, भारत आणि मलेशियामधील अधिका-यांद्वारे चौकशी केली जात आहे कारण त्याचा Groc चॅटबॉट वापरकर्त्यांना मुले आणि महिलांच्या AI-व्युत्पन्न लैंगिक प्रतिमा तयार आणि सामायिक करू देतो.
ब्रिटीश मीडिया वॉचडॉग ऑफकॉमने देखील सांगितले की त्यांनी X कडून माहिती मागितली आहे, जी xAI च्या मालकीची आहे, Grok समस्येबद्दल. आणि रविवारी, ब्राझीलच्या संसदेच्या सदस्याने सोशल मीडियावर सांगितले की त्यांनी देशाच्या फेडरल सरकारी वकील आणि डेटा संरक्षण प्राधिकरणाला तपास पूर्ण होईपर्यंत ग्रोकचा वापर निलंबित करण्यास सांगितले आहे.
अलिकडच्या आठवड्यांमध्ये, वापरकर्त्याच्या सूचनांना प्रतिसाद म्हणून वास्तविक लोकांच्या फोटो किंवा व्हिडिओंमधून घेतलेल्या गैर-सहमतीच्या, अंतरंग प्रतिमा किंवा NCII तयार करण्यासाठी आणि सामायिक करण्यासाठी Grok चा वापर करण्यासाठी जगभरातील शोधांमध्ये वाढ झाली आहे. X वर संबंधित प्रतिमा मोठ्या प्रमाणावर शेअर केल्या गेल्या आहेत.
मस्कच्या कंपनीने अलीकडेच त्याचे Grok Imagine वैशिष्ट्य अद्यतनित केले आहे, ज्यामुळे प्लॅटफॉर्मला मजकूर-आधारित प्रॉम्प्ट्समधून सहजपणे प्रतिमा तयार करता येतील.
सुरक्षा तज्ञ आणि तंत्रज्ञान समीक्षकांनी X वरील शोषणात्मक प्रतिमा आणि क्लिपच्या प्रसाराचा निषेध केला आहे, तर मस्कने स्मायली-क्राय इमोजींनी विरामचिन्ह असलेल्या बिकिनीमध्ये स्वतःचे चित्रण करणाऱ्या ग्रॉक-व्युत्पन्न प्रतिमांचा ॲरे सामायिक करून परिस्थितीची खिल्ली उडवली आहे.
सोमवारी एका पत्रकार परिषदेत, युरोपियन कमिशनचे प्रवक्ते थॉमस रेग्नियर म्हणाले की अधिकारी “हे प्रकरण अतिशय गांभीर्याने घेत आहेत” आणि “चांगले जाणते” आहेत की X आणि Grok “आता एक मसालेदार मोड ऑफर करत आहेत जे स्पष्ट लैंगिक सामग्री प्रदर्शित करतात, ज्यात मुलांच्या प्रतिमा बनलेल्या काही आउटपुटचा समावेश आहे.”
“हे ‘मसालेदार’ नाही,” रेग्नियर म्हणाला. “हे बेकायदेशीर आहे. ते भयंकर आहे. ते तिरस्करणीय आहे. आम्ही ते कसे पाहतो आणि युरोपमध्ये त्याला स्थान नाही.”
गेल्या आठवड्याच्या अखेरीस, भारताच्या इलेक्ट्रॉनिक्स आणि माहिती तंत्रज्ञान मंत्रालयाने X ला Grok चे “सर्वसमावेशक तांत्रिक, प्रक्रियात्मक आणि प्रशासन-स्तरीय पुनरावलोकन” करण्याचे आदेश दिले. त्याचे पालन करण्यासाठी कंपनीला ५ जानेवारीपर्यंत मुदत देण्यात आली होती.
मलेशियाच्या कम्युनिकेशन्स अँड मल्टीमीडिया कमिशनने आठवड्याच्या शेवटी सांगितले की ते X चा तपास करत आहेत आणि कंपनीच्या प्रतिनिधींना बोलावतील.
“एमसीएमसी मलेशियातील सर्व प्लॅटफॉर्मवर प्रवेश करण्यायोग्य मलेशियातील कायदे आणि ऑनलाइन सुरक्षा मानकांशी संरेखित संरक्षणाची अंमलबजावणी करण्याचे आवाहन करते, विशेषत: त्यांच्या AI-शक्तीवर चालणारी वैशिष्ट्ये, चॅटबॉट्स आणि इमेज मॅनिप्युलेशन टूल्सच्या संदर्भात,” गटाने एका निवेदनात म्हटले आहे.
दरम्यान, युनायटेड स्टेट्समध्ये, नॅशनल सेंटर ऑन सेक्शुअल एक्स्प्लॉयटेशन (NCOSE) ने CNBC ला दिलेल्या मुलाखतीत या प्रकरणाची चौकशी करण्यासाठी न्याय विभाग आणि फेडरल ट्रेड कमिशनला बोलावले. एनसीओएसईच्या लॉ सेंटरचे मुख्य कायदेशीर अधिकारी आणि संचालक डॅनी पिंटर म्हणाले, “या विशिष्ट मुद्द्यांसाठी येथे फारसे कायदेशीर उदाहरण नाही.
तथापि, त्यांनी सांगितले की फेडरल कायदा बाल लैंगिक शोषण सामग्रीचे उत्पादन आणि वितरण प्रतिबंधित करते, किंवा CSAM, आणि ते तयार केलेल्या सामग्रीवर लागू केले जाऊ शकते “जेव्हा ते एखाद्या ओळखण्यायोग्य मुलाचे चित्रण करते किंवा लैंगिकरित्या सुस्पष्ट वर्तनात गुंतलेले बालक दर्शवते.”
या कायद्यांमध्ये टेक इट डाउन कायद्याचा समावेश आहे, जो गेल्या वर्षी लागू होण्यापूर्वी प्रथम महिला मेलानिया ट्रम्प यांनी मंजूर केला होता.
डीओजेने टिप्पणीसाठी केलेल्या विनंत्यांना प्रतिसाद दिला नाही. FTC ने टिप्पणी करण्यास नकार दिला. XAI ने स्वयंचलित प्रत्युत्तराच्या पलीकडे टिप्पणी दिली नाही.
मस्कच्या सोशल मीडिया कंपनीने शनिवारी अधिकृत एक्स सेफ्टी खात्यावरील पोस्टमध्ये पहिले सार्वजनिक विधान केले.
“आम्ही X वरील बेकायदेशीर सामग्रीवर कारवाई करतो, ज्यामध्ये बाल लैंगिक अत्याचार सामग्री (CSAM) समाविष्ट आहे, ती काढून टाकून, खाती कायमची निलंबित करून आणि आवश्यकतेनुसार स्थानिक सरकार आणि कायद्याची अंमलबजावणी करणाऱ्या एजन्सींसोबत काम करून,” कंपनीने लिहिले.
मस्कने X वर एका वेगळ्या पोस्टमध्ये लिहिले आहे, “जो कोणी बेकायदेशीर सामग्री तयार करतो किंवा Grok तयार करण्यास प्रवृत्त करतो, त्याने बेकायदेशीर सामग्री अपलोड केल्यासारखेच परिणाम भोगावे लागतील.”
दुसऱ्या दिवशी, Ethan He नावाच्या xAI कर्मचाऱ्याने X वर एका पोस्टमध्ये लिहिले की Grok Imagine अपडेट केले गेले आहे, परंतु त्याने नुकसानाची स्पष्ट प्रतिमा निर्माण करण्याच्या क्षमतेबाबत कोणत्याही बदलांचा उल्लेख केला नाही.
कस्तुरी आणि एक्स यांचा प्लॅटफॉर्मवर मुलांचे लैंगिक शोषण दाखवणाऱ्या पोस्ट तयार करण्याचा इतिहास आहे.
2023 मध्ये, X ने Dom Lucre नावाच्या वापरकर्त्याचे खाते “फिलीपिन्समध्ये ऑस्ट्रेलियन व्यक्तीच्या गुन्हेगारी शिक्षेशी संबंधित बाल शोषणाच्या प्रतिमा” पोस्ट केल्यावर त्याचे खाते काही काळासाठी निलंबित केले आणि नंतर पुनर्स्थापित केले. मस्कने त्या वेळी सांगितले की X ने ल्यूक्रेच्या आक्षेपार्ह पोस्ट काढून टाकण्याचा निर्णय घेतला परंतु उजव्या विचारसरणीच्या प्रभावकर्त्याला प्लॅटफॉर्मवर पुनर्संचयित करण्याचा निर्णय घेतला. लुक्रेचे सध्या X वर 1.6 दशलक्ष सूचीबद्ध अनुयायांसह कमाई केलेले खाते आहे.
सामाजिक नेटवर्क आणि AI कंपन्यांना सामग्री मॉडरेशन स्वयंचलित करण्यासाठी AI वापरण्यास मदत करणारे Musubi AI चे CEO टॉम क्विसेल म्हणाले की, XAI Grok Imagine to X च्या रोलआउटमध्ये “एंट्री-लेव्हल ट्रस्ट आणि सेफ्टी लेयर” तयार करण्यात अपयशी ठरले आहे.
क्विझेलने सांगितले की xAI सारख्या कंपनीसाठी त्याचे मॉडेल शोधणे आणि अवरोधित करणे “मुलाची किंवा आंशिक नग्नता असलेली प्रतिमा” किंवा वापरकर्त्यांकडून लैंगिक सूचक कपड्यांमध्ये प्रतिमा सामग्री ठेवण्याची विनंती नाकारणे सोपे होईल.
वादामुळे X च्या रहदारीला धक्का बसला नाही.
मोबाइल ॲप ट्रेंडचा मागोवा घेणाऱ्या ॲपटोपियाच्या मते, 2 जानेवारीपासून Grok चे दैनंदिन डाउनलोड 54% वाढले आहेत, तर X चे दैनंदिन डाउनलोड गेल्या तीन दिवसांत 25% वाढले आहेत.
पहा: एलोन मस्क एक्सच्या दंडानंतर EU स्फोट
