इलॉन मस्कच्या सोशल मीडिया प्लॅटफॉर्म X ने चॅटबॉट ग्रोकचा वापर करून महिलांचे कपडे काढून त्यांचे फोटो बदलल्यानंतर संताप निर्माण झाला.
बीबीसीने महिलांना त्यांच्या संमतीशिवाय बिकिनीमध्ये दिसण्यासाठी त्यांचे कपडे काढून टाकले गेल्याची, तसेच लैंगिक स्थितीत ठेवल्याची अनेक उदाहरणे पाहिली.
XAI, Grok च्या मागे असलेल्या कंपनीने BBC च्या टिप्पणीसाठी केलेल्या विनंतीला प्रतिसाद दिला नाही, “जुना मीडिया खोटे” असे स्वयं-व्युत्पन्न प्रतिसादाव्यतिरिक्त.
गृह कार्यालयाच्या प्रवक्त्याने सांगितले की त्यांनी स्ट्रिपर्सवर बंदी घालणारा कायदा आणला आहे आणि नवीन गुन्हेगारी गुन्ह्यांतर्गत, कोणीही अशा तंत्रज्ञानाचा परिचय करून देणाऱ्यास “तुरुंगवास आणि मोठ्या दंडाला सामोरे जावे लागेल”.
रेग्युलेटर ऑफकॉम म्हणाले की तंत्रज्ञान कंपन्यांनी यूकेमधील लोक त्यांच्या प्लॅटफॉर्मवर बेकायदेशीर सामग्री पाहण्याच्या “जोखमीचे मूल्यांकन” केले पाहिजे, परंतु ते सध्या एआय प्रतिमांच्या संदर्भात X किंवा Grok चा तपास करत आहेत की नाही याची पुष्टी केली नाही.
Grok एक विनामूल्य AI सहाय्यक आहे — ज्यामध्ये काही प्रीमियम वैशिष्ट्यांसाठी पैसे दिले जातात — जे X वापरकर्त्यांनी पोस्टमध्ये टॅग केल्यावर त्यांच्याकडून येणाऱ्या सूचनांना प्रतिसाद देतात.
इतर पोस्टर्सच्या नोट्सना प्रतिक्रिया देण्यासाठी किंवा अधिक संदर्भ देण्यासाठी हे सहसा वापरले जाते, परंतु वरचे लोक
वापरकर्त्यांना नग्नता आणि लैंगिक सामग्री असलेली प्रतिमा आणि व्हिडिओ तयार करण्याची परवानगी दिल्याबद्दल टीका केली गेली आहे आणि यापूर्वी टेलर स्विफ्टची लैंगिक स्पष्ट क्लिप तयार केल्याचा आरोप होता.
क्लेअर मॅकग्लिन, डरहॅम युनिव्हर्सिटीमधील कायद्याचे प्राध्यापक, म्हणाले की X किंवा Grok “त्यांना हवे असल्यास या प्रकारचे गैरवर्तन रोखू शकतात”, ते जोडून ते “दंडमुक्तीचा आनंद घेत आहेत” असे दिसते.
“प्लॅटफॉर्मने कोणतीही कारवाई न करता या प्रतिमा अनेक महिन्यांसाठी तयार आणि वितरित करण्याची परवानगी दिली आहे आणि आम्हाला अद्याप आयोजकांकडून कोणतेही आव्हान दिसले नाही,” ती म्हणाली.
XAI चे स्वीकार्य वापर धोरण “पोर्नोग्राफिक पद्धतीने लोकांच्या समानतेचे चित्रण करणे” प्रतिबंधित करते.
बीबीसीला दिलेल्या निवेदनात, ऑफकॉमने म्हटले आहे की “मुलांच्या संमतीशिवाय अंतरंग प्रतिमा किंवा लैंगिक शोषण सामग्री तयार करणे किंवा सामायिक करणे” बेकायदेशीर आहे आणि यात कृत्रिम बुद्धिमत्तेचा वापर करून तयार केलेल्या लैंगिक डीपफेक्सचा समावेश आहे यावर जोर दिला.
असे व्यासपीठ म्हणाले
