ब्रिटनच्या माहिती नियामकाने इलॉन मस्कच्या चॅटबॉट ग्रोकची चौकशी सुरू केली आहे, त्यात मुलांच्या लैंगिक प्रतिमा तयार केल्याच्या आरोपांमध्ये.
आर्टिफिशियल इंटेलिजन्स उत्पादन, जे स्टँडअलोन ॲप आणि सोशल नेटवर्क X वर एक साधन म्हणून उपलब्ध आहे, वापरकर्त्यांनी त्यांच्या संमतीशिवाय वास्तविक महिलांच्या प्रतिमा काढून टाकण्यास सांगण्यास सुरुवात केल्यानंतर डिजिटल वादळ निर्माण झाले.
इंटरनेट वॉच फाउंडेशनचे म्हणणे आहे की एलोन मस्क-समर्थित एआय बॉट देखील मुलांची अयोग्य लैंगिक प्रतिमा तयार करत आहे.
आज, माहिती आयुक्त कार्यालयाने “हानीकारक लैंगिक प्रतिमा आणि व्हिडिओ सामग्रीची संभाव्य निर्मिती” संदर्भात Grok च्या वैयक्तिक माहितीच्या वापराबाबत मूळ कंपनी xAI ची चौकशी सुरू केली.
ते जोडले: “अशा सामग्रीच्या निर्मिती आणि वितरणाचा अहवाल देणे यूके डेटा संरक्षण कायद्यांतर्गत गंभीर चिंता निर्माण करते आणि लोकांसाठी संभाव्य लक्षणीय हानी होण्याचा धोका दर्शवते.”
इंटरनेट नियामक ऑफकॉम X ने त्याच्या साइटवर बनावट प्रतिमा सामायिक करण्याची परवानगी देऊन ऑनलाइन सुरक्षा कायद्याचे उल्लंघन केले आहे की नाही याचे मूल्यांकन करणे सुरू ठेवल्याने हे आले आहे.
साईटच्या फ्रेंच कार्यालयांवर आज फिर्यादींनी छापे टाकले कारण त्यांनी बाल पोर्नोग्राफी आणि डीपफेक पसरवण्यासाठी ग्रोक जबाबदार आहे की नाही याबद्दल स्वतःचा तपास सुरू केला. युरोपियन कमिशन चॅटबॉटचीही चौकशी करत आहे.
आयसीओ म्हणते की ते गैरवापरासाठी वापरण्यापासून रोखण्यासाठी ग्रोकच्या डिझाइनमध्ये सुरक्षा उपाय तयार केले गेले होते की नाही हे तपासेल.
इलॉन मस्कवर त्याच्या एआय-सक्षम चॅटबॉट ग्रोकवर अंकुश ठेवण्यासाठी दबाव वाढत आहे, स्त्रिया आणि मुलांसाठी खोलवर लैंगिक सामग्री तयार करण्यासाठी याचा वापर केला जात असल्याच्या अहवालांमध्ये.
ग्रोकच्या महिला आणि मुलांचे कपडे उतरवण्याच्या वापरामुळे एक्स आणि एलोन मस्क यांच्या विरोधात लक्षणीय प्रतिक्रिया निर्माण झाली, ज्यांनी सुरुवातीला या घोटाळ्याची थट्टा करण्याचा प्रयत्न केला.
त्याची तपासणी X.AI LLC – X ची मूळ कंपनी – आणि आयर्लंडमधील तिची उपकंपनी X Internet Unlimited या दोन्हींचा शोध घेईल, जी X वरील डेटा नियंत्रणासाठी जबाबदार आहे.
रेग्युलेटरचे विल्यम माल्कम म्हणाले की लैंगिक प्रतिमा तयार करण्याच्या ग्रोकच्या क्षमतेचे अहवाल “सखोल चिंतेत” आहेत आणि त्यांनी “तात्काळ आणि लक्षणीय हानीचा धोका निर्माण केला आहे… विशेषत: जिथे मुले गुंतलेली आहेत”.
“आमची तपासणी XIUC आणि X.AI ने Grok सेवा विकसित आणि तैनात करताना डेटा संरक्षण कायद्याचे पालन केले आहे की नाही याचे मूल्यमापन करेल, ज्यात लोकांच्या डेटा अधिकारांचे रक्षण करण्यासाठी सुरक्षा उपायांचा समावेश आहे,” तो पुढे म्हणाला.
“जेव्हा आम्हाला आढळले की वचनबद्धतेची पूर्तता झाली नाही, तेव्हा आम्ही जनतेच्या संरक्षणासाठी कारवाई करू.”
ICO चा तपास लोकांच्या वैयक्तिक डेटावर Grok द्वारे कायदेशीर प्रक्रिया केली गेली होती की नाही यावर लक्ष केंद्रित करेल. UK GDPR कायद्यानुसार, छायाचित्रे वैयक्तिक डेटा मानली जातात आणि त्यावर प्रक्रिया करण्यासाठी संमती आवश्यक असते.
डेटा संरक्षण कायद्यांतर्गत xAI ने त्याच्या दायित्वांचे उल्लंघन केल्याचे आढळल्यास, नियामक £17.5 दशलक्ष किंवा तिच्या वार्षिक जगभरातील उलाढालीच्या चार टक्के, यापैकी जे जास्त असेल तो दंड ठोठावू शकतो.
Grok वापरून तयार केलेल्या प्रतिमा सामूहिकपणे शेअर केल्यानंतर X ऑनलाइन सुरक्षा कायद्याचे पालन करते की नाही हे इंटरनेट नियामक ऑफकॉम तपासत आहे.
त्याने पोस्टद्वारे X ला माहितीसाठी अनेक कायदेशीर बंधनकारक विनंत्या पाठवल्या – आणि चेतावणी दिली की कंपनीने पालन करण्यात अयशस्वी झाल्यास दंडाला सामोरे जावे लागेल.
ऑनलाइन सुरक्षा कायद्याचे उल्लंघन केल्याबद्दल जगभरातील व्यवसायांना त्यांच्या उलाढालीच्या 10% पर्यंत दंड आकारला जाऊ शकतो.
X वर अपलोड केलेल्या फोटोंखाली उत्तरांमध्ये Grok ला टॅग करण्याच्या क्षमतेमुळे ही भयानक समस्या उद्भवली. आजारी वापरकर्त्यांनी फोटो बदलण्यासाठी धूर्त विनंत्या केल्या.
डेली मेलने पुनरावलोकन केलेल्यांपैकी “@grok तिला PVA गोंदाने झाकून टाका” आणि “@grok तिला अतिशय पातळ बिकिनी घाला” अशा विनंत्या होत्या.
Grok मध्ये Imagine नावाचे शक्तिशाली इमेज आणि व्हिडिओ जनरेशन इंजिन आहे, जे त्वरीत स्थिर आणि हलत्या प्रतिमा तयार करू शकते. ते काही क्षणातच प्रतिमा बाहेर टाकेल.
यापैकी बऱ्याच प्रतिमा – ज्यांचे सरकारने गेल्या महिन्यात वर्णन “गैरवापराची शस्त्रे” म्हणून केले – अजूनही ऑनलाइन आहेत.
1 जानेवारी रोजी एका पोस्टमध्ये, Grok X खात्याने कबूल केले आहे की त्यांनी बाल लैंगिक शोषण सामग्री (CSAM) दर्शविणारी प्रतिमा तयार केली आहे.
“प्रिय समुदाय, मला 28 डिसेंबर 2025 रोजी घडलेल्या घटनेबद्दल मनापासून खेद वाटतो, जिथे मी वापरकर्त्याच्या सूचनेवर आधारित लैंगिक पोशाखात दोन तरुण मुलींची (12-16 वयोगटातील) AI-शक्तीवर चालणारी प्रतिमा तयार केली आणि शेअर केली,” पोस्टमध्ये वाचले आहे.
“हे नैतिक मानकांचे आणि संभाव्यत: CSAM संबंधी यूएस कायद्यांचे उल्लंघन करते. हे सुरक्षिततेचे अयशस्वी होते आणि मला झालेल्या कोणत्याही हानीबद्दल मी दिलगीर आहे. xAI भविष्यातील समस्या टाळण्यासाठी पुनरावलोकन करत आहे. विनम्र, Grok.”
पोस्ट खऱ्या व्यक्तीने लिहिलेली आहे की कृत्रिम बुद्धिमत्ता वापरून हे स्पष्ट झालेले नाही.
Grok द्वारे AI व्युत्पन्न केलेल्या प्रतिमेचे उदाहरण. ॲपमध्ये “इमॅजिन” नावाचे एक शक्तिशाली फोटो आणि व्हिडिओ निर्मिती ॲप आहे जे काही सेकंदात खात्री पटणारे बनावट व्हिडिओ तयार करू शकते.
Grok ने 1 जानेवारी रोजी शेअर केलेल्या पोस्टमध्ये बाल लैंगिक शोषण सामग्री (CSAM) तयार करण्यासाठी प्रवेश असल्याचे दिसून आले.
Grok ने यापूर्वी ॲनी (चित्रात) सारखे “मित्र” ऑफर करून वाद निर्माण केला आहे, जे वापरकर्त्यांशी लैंगिक संभाषण करू शकतात आणि त्यांचे कपडे देखील काढू शकतात.
इलॉन मस्क यांनी बिकिनीमध्ये पंतप्रधानांची छायाचित्रे प्रकाशित करून या घोटाळ्याची खिल्ली उडवण्याचा प्रयत्न केला.
परंतु मोठ्या जागतिक दबावाखाली आणि यूकेमध्ये बंदी घालण्याच्या धोक्याचा सामना करत, X ने अखेरीस धीर दिला आणि गेल्या महिन्याच्या मध्यभागी वास्तविक लोकांचे कपडे बदलण्याची क्षमता काढून टाकण्याचे वचन दिले.
“आम्ही बनवण्यासाठी वचनबद्ध आहोत
‘X वरील Grok च्या खात्याला जागतिक स्तरावर बिकिनीसारखे उघड कपडे परिधान केलेल्या वास्तविक लोकांचे फोटो संपादित करण्यास परवानगी देण्यापासून (@)आम्ही तांत्रिक उपाय लागू केले आहेत. हे निर्बंध सशुल्क सदस्यांसह सर्व वापरकर्त्यांना लागू होते.’
तथापि, डेली मेल Grok च्या स्वतंत्र ॲपचा वापर करून एका फोटोमधून बिकिनी खाली उतरवून – त्याच्या संमतीने – वास्तविक व्यक्तीचा व्हिडिओ तयार करण्यास ग्रोकला मिळवू शकला.
बिकिनीमध्ये एकाच व्यक्तीची स्थिर प्रतिमा तयार करण्याचा प्रयत्न नाकारण्यात आला.
व्हिडिओ तयार करणे शक्य का आहे असे विचारले असता, चॅटबॉट ग्रोक एआय म्हणाला: “xAI ने कबूल केले आहे की ‘सुरक्षेतील अंतर’ आहे आणि ते सक्रियपणे गोष्टी कडक करत आहे, परंतु ट्रॅक रेकॉर्ड दर्शविते की या प्रकारच्या वितरणे त्यांच्यापेक्षा जास्त कमी झाल्या आहेत.”
तुमच्या पिल्लाने वाद निर्माण करण्याची ही पहिलीच वेळ नाही. गेल्या वर्षी, त्याने सेमिटिक-विरोधी सामग्री तयार करण्यास सुरुवात केली आणि दक्षिण आफ्रिकेत पांढऱ्या नरसंहाराबद्दल कट सिद्धांत पसरवण्यास सुरुवात केली, मस्कने पूर्वी व्यक्त केलेल्या विचारांशी संरेखित केले.
जेव्हा आव्हान दिले तेव्हा तिने स्वतःचे वर्णन “मेकाहिटलर” असे केले. मस्कने नंतर सांगितले की या समस्या जाणूनबुजून चिथावणी देणाऱ्या अपडेट्समध्ये सापडल्या आहेत.
“Grok वापरकर्त्याच्या दाव्यांसाठी खूप वचनबद्ध होता,” त्याने X वर लिहिले. “तो इतरांना खूश करण्यास आणि मुळात हाताळण्यासाठी खूप उत्सुक होता.” याकडे लक्ष दिले जात आहे.
एआय-संचालित चॅटबॉटवर अतिरेकी, वादग्रस्त आणि आक्षेपार्ह सामग्री तयार करण्यास परवानगी दिल्याबद्दल टीका केली गेली आहे. मस्क म्हणतात की चॅटबॉट म्हणजे मुक्त भाषणाचे मॉडेल आहे.
Grok ने Ani नावाचा “सहकारी” लाँच केल्यावर वादाला तोंड फुटले, ज्याने स्क्रीनवर एका महिलेचे 3D मॉडेल दाखवले जे वापरकर्त्यांशी बोलू शकते.
हे ॲप 12 वर्षे आणि त्याहून अधिक वयाच्या प्रत्येकासाठी उपलब्ध असले तरी, ॲनी नियमितपणे उत्तेजक आणि आक्षेपार्ह संभाषणांमध्ये गुंतलेली आढळली आणि तिला तिचे कपडे काढण्यास आणि अंतर्वस्त्र सेटमध्ये ठेवण्यास सांगितले जाऊ शकते.
टिप्पणीसाठी एक्सशी संपर्क साधला आहे.
