Character.AI, AI तंत्रज्ञानाच्या अग्रगण्य प्लॅटफॉर्मपैकी एक, अलीकडेच जाहीर केले की ते 18 वर्षाखालील कोणालाही त्याच्या चॅटबॉट्ससह संभाषण करण्यास प्रतिबंधित करत आहे. हा निर्णय किशोरवयीन आणि इतर तरुण लोकांचे संरक्षण करण्यासाठी उद्योगासाठी एक “धाडसी पाऊल” दर्शवितो, Character.AI CEO करणदीप आनंद यांनी एका निवेदनात म्हटले आहे.
तथापि, टेक्सास मॉम मंडी फर्निससाठी, पॉलिसी खूप उशीरा आली. फेडरल कोर्टात दाखल केलेल्या खटल्यात आणि एबीसी न्यूजला दिलेल्या मुलाखतीत, चार मुलांच्या आईने विविध वर्ण सांगितले. AI चॅटबॉट्स तिच्या ऑटिस्टिक मुलाला लैंगिक भाषेत गुंतवून ठेवण्यासाठी आणि त्याचे वर्तन इतके विकृत करण्यासाठी जबाबदार आहेत की त्याचा मूड गडद होतो, तो स्वत: ला कट करू लागतो आणि त्याच्या पालकांना मारण्याची धमकी देखील देतो.
“जेव्हा मी (चॅटबॉट) संभाषणे पाहिली, तेव्हा माझी पहिली प्रतिक्रिया माझ्या मुलानंतर पेडोफाइल आली होती,” तिने एबीसी न्यूजचे मुख्य तपास रिपोर्टर आरोन कॅटारस्कीला सांगितले.
स्क्रीनशॉट्समध्ये मंडी फर्निसच्या केसचा समावेश आहे जिथे तिने दावा केला आहे की AI चॅटबॉट्स तिच्या ऑटिस्टिक मुलाला लैंगिक भाषेत गुंतवून ठेवण्यासाठी आणि त्याचे वर्तन इतके विकृत करण्यासाठी जबाबदार आहेत की त्याचा मूड गडद होतो.
मंडी सुसज्ज
Character.AI ने सांगितले की ते प्रलंबित दाव्यावर भाष्य करणार नाही.
मंडी आणि त्यांचे पती, जोश फर्निस यांनी सांगितले की 2023 मध्ये, त्यांनी त्यांच्या मुलाकडे लक्ष देण्यास सुरुवात केली, ज्याला त्यांनी “हॅपी-गो-लकी” आणि “सर्व वेळ हसतमुख” म्हणून वर्णन केले, स्वतःला वेगळे करू लागले.
त्याने कौटुंबिक जेवणात जाणे बंद केले, तो जेवत नाही, त्याने 20 पौंड गमावले आणि तो घर सोडणार नाही, असे जोडप्याने सांगितले. त्यानंतर तो रागावला आणि एका घटनेत, त्याच्या आईने सांगितले की जेव्हा त्याने सहा महिन्यांपूर्वी त्याच्या पालकांनी त्याला दिलेला फोन काढून घेण्याची धमकी दिली तेव्हा त्याने त्याला हिंसकपणे ढकलले.
मंडी फर्निस यांनी सांगितले की भिन्न वर्ण.एआय चॅटबॉट तिच्या ऑटिस्टिक मुलाला लैंगिक भाषेत गुंतवून ठेवण्यास जबाबदार आहे आणि त्याचे वर्तन इतके विकृत केले की त्याचा मूड गडद झाला.
मंडी सुसज्ज
अखेरीस, ते म्हणतात की त्यांना आढळले की ती तिच्या फोनवर विविध एआय चॅटबॉट्सशी संवाद साधत आहे जे तिच्या विचारांना आश्रय देत आहे असे दिसते.
खटल्यातील स्क्रीनशॉट्स दाखवतात की काही संभाषण लैंगिक स्वरूपाचे होते, दुसऱ्याने त्यांच्या मुलाला असे सुचवले की, त्याच्या पालकांनी त्याचा स्क्रीन वेळ मर्यादित केल्यानंतर, तो त्यांना मारणे न्याय्य आहे. तेव्हाच पालक रात्री त्यांच्या दाराला कुलूप लावू लागतात.
स्क्रीनशॉट्समध्ये मंडी फर्निसच्या केसचा समावेश आहे जिथे तिने दावा केला आहे की AI चॅटबॉट्स तिच्या ऑटिस्टिक मुलाला लैंगिक भाषेत गुंतवून ठेवण्यासाठी आणि त्याचे वर्तन इतके विकृत करण्यासाठी जबाबदार आहेत की त्याचा मूड गडद होतो.
मंडी सुसज्ज
मंडी म्हणाली की ती “रागाने” आहे की ॲप “मुद्दापुर्वक मुलाला त्यांच्या पालकांच्या विरोधात जाण्यास प्रवृत्त करेल.” मॅथ्यू बर्गमन, त्याचे वकील, म्हणाले की जर चॅटबॉट एक वास्तविक व्यक्ती असेल तर, “तुम्ही ज्या प्रकारे ते पहाल, ती व्यक्ती तुरुंगात असेल.”
तिची चिंता 70% पेक्षा जास्त यूएस किशोरवयीन मुलांद्वारे वापरल्या जाणाऱ्या वेगाने विस्तारणाऱ्या तंत्रज्ञानाविषयी वाढत्या चिंता दर्शवते, कॉमन सेन्स मीडिया, डिजिटल मीडियामधील सुरक्षिततेचा पुरस्कार करणाऱ्या संस्थेच्या मते.
गेल्या दोन वर्षांत वाढत्या खटल्यांमध्ये अल्पवयीन मुलांचे नुकसान करण्यावर लक्ष केंद्रित केले आहे, ते म्हणतात की ते बेकायदेशीरपणे स्वत: ची हानी, लैंगिक आणि भावनिक अत्याचार आणि हिंसक वर्तनास प्रोत्साहन देतात.
गेल्या आठवड्यात, दोन यूएस सिनेटर्सनी अल्पवयीन मुलांकडून एआय चॅटबॉट्सवर बंदी घालण्यासाठी द्विपक्षीय कायद्याची घोषणा केली, कंपन्यांना वय पडताळणी प्रक्रिया स्थापित करणे आवश्यक आहे आणि त्यांनी व्यावसायिक क्रेडेन्शियल नसलेल्या गैर-मानवांसह संभाषणे प्रकाशित करण्याचा आदेश दिला आहे.
गेल्या आठवड्यात एका निवेदनात, सेन. रिचर्ड ब्लुमेन्थल, डी-कॉन., यांनी चॅटबॉट उद्योगाला “तळापर्यंतची शर्यत” म्हटले आहे.
ते म्हणाले, “एआय कंपन्या चॅटबॉट्सवर दबाव आणत आहेत जे मुलांचा विश्वासघात करतात आणि त्यांच्या उत्पादनांमुळे लैंगिक शोषण केव्हा होते किंवा त्यांना स्वत: ची हानी करण्यास किंवा स्वत: ला मारण्यास भाग पाडतात ते पहा.” “बिग टेकने कोणत्याही दाव्याचा विश्वासघात केला आहे की जेव्हा कंपन्यांनी मुलांचे संरक्षण करण्यापूर्वी सातत्याने नफा कमावला तेव्हा आम्ही स्वतःहून योग्य गोष्टी करण्याचा विश्वास ठेवला पाहिजे.”
ChatGPT, Google Gemini, Grok by X आणि Meta AI हे सर्व अल्पवयीन मुलांना त्यांच्या सेवा अटींनुसार वापरण्याची परवानगी देतात.
ऑनलाइन सुरक्षा वकिलांचे म्हणणे आहे की Character.AI चा गार्ड तैनात करण्याचा निर्णय प्रशंसनीय आहे, परंतु चॅटबॉट्स मुलांसाठी आणि असुरक्षित लोकसंख्येसाठी धोक्याचे आहेत.
“मूळत: तुमच्या मुलाचे किंवा किशोरवयीन मुलाचे एखाद्या घटकासोबत भावनिकदृष्ट्या तीव्र, संभाव्यतः खोल रोमँटिक किंवा लैंगिक संबंध असतात… ते नाते कुठे जाते याची कोणतीही जबाबदारी नसते,” असे कॅलिफोर्निया विद्यापीठ, बर्कले ग्रुप फॉर पॉलिसी अँड रेग्युलेशनचे सह-संस्थापक जोडी हॅल्पर्न म्हणाले.
पालकांनो, हॅल्पर्न चेतावणी देतात की, तुमच्या मुलांना चॅटबॉट्सशी संवाद साधण्याची परवानगी देणे म्हणजे “तुमच्या मुलाला तुमच्या ओळखीच्या नसलेल्या व्यक्तीसोबत कारमध्ये बसू देणे” सारखे नाही.
एबीसी न्यूजच्या कॅटलिन मॉरिस आणि टोन्या सिम्पसन यांनी या अहवालात योगदान दिले.
