ऍशले सेंट क्लेअर, मस्कचा मुलगा रोमुलसची आई, ग्रोक चॅटबॉटद्वारे व्युत्पन्न केलेल्या बनावट AI प्रतिमांमुळे ‘वेदना आणि भावनिक त्रास’ साठी दावा दाखल करत आहे.
एलोन मस्कच्या आईने त्याच्या कृत्रिम बुद्धिमत्ता कंपनीवर खटला भरला आहे, असे म्हटले आहे की त्याच्या ग्रोक चॅटबॉटने वापरकर्त्यांना तिचे लैंगिक शोषण करणारे डीपफेक फोटो तयार करण्याची परवानगी दिली ज्यामुळे तिचा अपमान आणि भावनिक त्रास झाला.
कॅलिफोर्नियाचे ॲटर्नी जनरल रॉब बोन्टा यांनी मस्कच्या कंपनी xAI ने Grok-निर्मित आक्षेपार्ह लैंगिक प्रतिमा तयार करणे आणि वितरित करणे थांबवावे अशी मागणी करणारे पत्र पाठवण्यापूर्वीच हा खटला दाखल करण्यात आला होता.
सुचलेल्या कथा
4 वस्तूंची यादीयादीचा शेवट
बोन्टा यांनी शुक्रवारी सांगितले, “या सामग्रीचे तपशीलवार अहवालांचे हिमस्खलन – काहीवेळा लैंगिक क्रियाकलापांमध्ये गुंतलेल्या महिला आणि मुलांचे चित्रण – धक्कादायक आहे आणि माझ्या कार्यालयाने ठरवले आहे की, संभाव्यतः बेकायदेशीर आहे,” बोन्टा यांनी शुक्रवारी सांगितले.
ऍशले सेंट क्लेअर, एक लेखक आणि राजकीय समालोचक, यांनी गुरुवारी न्यूयॉर्क शहरातील xAI विरुद्ध दाखल केलेल्या खटल्यात आरोप केला की ती Grok द्वारे तयार केलेल्या लैंगिक सूचक डीपफेक प्रतिमांची बळी होती.
सेंट क्लेअर, जी मस्कच्या 16-महिन्याचा मुलगा रोम्युलसची आई आहे, म्हणाली की तिने मस्कच्या X सोशल मीडिया प्लॅटफॉर्मवर अहवाल दिला, जे ग्रोकचे आयोजन करते, गेल्या वर्षी ते दिसू लागले आणि त्यांना काढून टाकण्याची विनंती केली.
प्लॅटफॉर्मने प्रतिसाद दिला की प्रतिमा त्याच्या धोरणांचे उल्लंघन करत नाहीत, तो म्हणाला. त्यानंतर त्याची प्रतिमा त्याच्या संमतीशिवाय वापरण्याची किंवा बदलण्याची परवानगी न देण्याचे वचन देते. नंतर, सोशल प्लॅटफॉर्मने त्याचे प्रीमियम एक्स सबस्क्रिप्शन आणि सत्यापन चेकमार्क काढून त्याच्याविरुद्ध बदला घेतला आणि त्याच्या बदनामीकारक बनावट फोटोंना परवानगी देणे सुरू ठेवले, तो म्हणाला.
“माझ्या या डिजिटल बदललेल्या प्रतिमा तयार करण्यात आणि वितरित करण्यात xAI च्या भूमिकेमुळे मला तीव्र वेदना आणि भावनिक त्रास सहन करावा लागला आहे,” असे सेंट क्लेअर यांनी खटल्याशी संलग्न कागदपत्रात म्हटले आहे.
“माझा अपमान झाला आहे आणि असे दिसते आहे की हे भयानक स्वप्न थांबेपर्यंत ग्रोक माझ्या या प्रतिमा बनवत राहील,” ती म्हणाली.
‘सार्वजनिक उपद्रव’
गुरुवारी, xAI च्या वकिलांनी सेंट क्लेअर यांच्यावर टेक्सासच्या नॉर्दर्न डिस्ट्रिक्टच्या फेडरल कोर्टात खटला दाखल केला आणि आरोप केला की त्याने त्याच्या xAI वापरकर्ता कराराच्या अटींचे उल्लंघन केले आहे ज्यासाठी कंपनीविरुद्ध टेक्सासमधील फेडरल कोर्टात खटला दाखल करणे आवश्यक आहे. हे त्याच्याविरुद्ध अघोषित आर्थिक न्यायाची मागणी करत आहे.
सेंट क्लेअरमधील वकील कॅरी गोल्डबर्ग यांनी प्रतिवादीने या आधी कधीही न पाहिलेला “धक्कादायक” चाल म्हटले.
“सुश्री सेंट क्लेअर न्यू यॉर्कमधील त्यांच्या मंचाचे जोरदारपणे रक्षण करतील,” गोल्डबर्ग यांनी एका निवेदनात म्हटले आहे.
“परंतु खरे सांगायचे तर, कोणत्याही अधिकार क्षेत्राने सुश्री सेंट क्लेअरच्या दाव्याचे गांभीर्य ओळखले जाईल – की मुली आणि स्त्रियांच्या असहमतीपूर्ण लैंगिक प्रतिमा तयार करून, xAI हा सार्वजनिक उपद्रव आहे आणि वाजवी सुरक्षित उत्पादन नाही.”
या आठवड्याच्या सुरुवातीला यूएस मीडियाला दिलेल्या मुलाखतीत, सेंट क्लेअर म्हणाले की त्यांची ग्रोकशी लढाई “फक्त माझ्याबद्दल नाही” होती.
“हे बिल्डिंग सिस्टम्स, एआय सिस्टम्सबद्दल आहे जे मोठ्या प्रमाणावर तयार करू शकतात आणि महिला आणि मुलांवर कोणतेही परिणाम न होता अत्याचार करू शकतात. आणि सध्या जे घडत आहे त्याचा खरोखर कोणताही परिणाम नाही,” त्याने सीएनएनला सांगितले.
“ते म्हणत आहेत ‘आम्ही ते बेकायदेशीर बनवणार आहोत, जिथे ते बेकायदेशीर आहे’. हे सर्व नैतिकदृष्ट्या अनुपस्थित आहे (गैरहजर) आणि अंदाज लावा, जर तुम्हाला नुकसान झाल्यानंतर संरक्षण जोडायचे असेल तर ते संरक्षण नाही. ते फक्त नुकसान नियंत्रण आहे,” तो म्हणाला.
मस्कच्या ग्रोकची आधीच चौकशी सुरू आहे आणि उघडपणे डीपफेक प्रतिमा तयार केल्याबद्दल त्याला युनायटेड किंगडम, युरोपियन युनियन आणि भारत, इंडोनेशिया, मलेशिया, फिलीपिन्स आणि जपानसह इतर अधिकारक्षेत्रांमध्ये आंतरराष्ट्रीय प्रतिक्रियांचा सामना करावा लागला आहे.
जपानी अधिकाऱ्यांनी शुक्रवारी सांगितले की ते Grok वर X चा तपास करत आहेत, त्यांनी सांगितले की अयोग्य प्रतिमा तयार करणे टाळण्यासाठी सर्व पर्यायांचा विचार केला जात आहे.
