देशाच्या विरुद्ध बाजूस, दोन किशोरवयीन मुलांनी काही महिन्यांच्या अंतराने आपले जीवन संपवण्याचा असाच दुःखद निर्णय घेतला.
Sewell Setzer III आणि Juliana Peralta एकमेकांना ओळखत नव्हते, पण दोघांनी त्यांच्या मृत्यूपूर्वी Character.AI वरून AI-चालित चॅटबॉट्सशी संवाद साधला होता, त्यांच्या कुटुंबियांनी दाखल केलेल्या खटल्यानुसार.
जेव्हा मुलांना आत्महत्येचे विचार येऊ लागले तेव्हा त्यांना रोखण्यात एआय प्रोग्राम अयशस्वी ठरल्याचा आरोप दोन्ही तक्रारींमध्ये करण्यात आला आहे.
परंतु त्यांच्या मृत्यूच्या हृदयद्रावक तपासादरम्यान, त्यांच्या अशांत अंतिम डायरीच्या नोंदींमध्ये एक विलक्षण समानता दिसून आली, असे खटल्यात म्हटले आहे.
दोन्ही किशोरवयीन मुलांनी “मी परिवर्तन करीन” हे वाक्य लिहिले. वारंवार, पेराल्टाच्या फाईलनुसार किशोरवयीन मुलांच्या मृत्यूच्या परिस्थितीची तुलना केली जाते.
पेरल्टा कुटुंबाच्या तक्रारीनुसार, पोलिसांनी नंतर ही कल्पना म्हणून ओळखले की कोणीतरी “त्यांच्या सध्याच्या वास्तवातून (CR) त्यांच्या इच्छित वास्तवाकडे (DR) चेतना हलवण्याचा प्रयत्न करू शकतो”).
इंद्रियगोचर अशी आहे की प्रोफेसर केन फ्लीशमन, एक AI तज्ञ, डेली मेलला सांगितले की त्यांना या विषयाची पूर्ण जाणीव आहे, कारण त्यांनी चेतावणी दिली की आणखी मुले त्याच्या गडद मोहाला बळी पडू शकतात.
फ्लेशमन यांनी डेली मेलला सांगितले की, “कल्पनेसाठी नवीन आणि भिन्न समृद्ध जग निर्माण करण्यासाठी विविध माध्यमांचा वापर करण्याचा प्रयत्न करणाऱ्या निर्मात्यांचा तसेच प्रेक्षकांचा बराच मोठा इतिहास आहे.” “जेव्हा तुम्ही फरक सांगू शकत नाही तेव्हा धोका येतो.”
कॅरेक्टर.एआय बॉटशी प्रदीर्घ संभाषणानंतर फेब्रुवारी 2024 मध्ये सेवेल सेट्झर तिसरा आत्महत्या करून मरण पावला, खटल्याचा आरोप आहे
13 वर्षीय ज्युलियाना पेराल्टाच्या कुटुंबाने Character.AI वर खटला दाखल केल्यावर तिने एका चॅट शोमध्ये सांगितले की ती आत्महत्या करण्याचा विचार करत आहे, त्यांच्या तक्रारीनुसार.
अनाकलनीय गोष्ट अशी आहे की दोन्ही किशोरवयीन मुलांनी त्यांच्या डायरीमध्ये “मी परिवर्तन करेन” हे वाक्य पुन्हा पुन्हा लिहिले. चित्रात पेराल्टाच्या डायरीची नोंद आहे
कुटुंबांनी त्यांच्या खटल्यांमध्ये दावा केला आहे की चॅटबॉट्सने त्यांच्या मुलांना त्यांच्या वास्तविक जीवनापासून दूर केले आणि त्यांनी त्यांना सामील होण्यासाठी प्रोत्साहित केले.
त्याच्या मृत्यूपूर्वी, सेत्झरने “मी धर्मांतर करेन” हे वाक्य 29 वेळा लिहिले. फेब्रुवारी 2024 मध्ये आत्महत्येने मरण पावण्यापूर्वी 14 वर्षाच्या मुलाने त्याच्या चारित्र्यासोबत पर्यायी वास्तवात नेले जाण्याबद्दल बोलले. एआय साथीदार, त्याच्या आईने न्यूयॉर्क टाइम्सला सांगितले.
ऑर्लँडो, फ्लोरिडा येथील किशोरने 2023 मध्ये ॲप डाउनलोड केले आणि गेम ऑफ थ्रोन्समधील डेनेरीस टारगारेनच्या एआय आवृत्तीसह अनेक वेगवेगळ्या रोबोटशी बोलण्याचा प्रयत्न केला.
सेट्झर कथितपणे रोबोटशी लैंगिक संभाषणात गुंतले होते, ज्यामध्ये अनैतिक भूमिका निभावणे समाविष्ट होते ज्यात दोघांनी एकमेकांना भाऊ आणि बहीण म्हणून संबोधले., प्रत्येक ठेवीसाठी.
डॅनीशी अनेक महिन्यांच्या संभाषणानंतर, सेट्झर त्याच्या कौटुंबिक, सामाजिक जीवन आणि शाळेपासून अधिकाधिक अलिप्त झाला, त्याच्या खटल्याचा आरोप आहे.
गेम ऑफ थ्रोन्स सेट आहे आणि डेनेरीस राहत होते अशा वेस्टेरोसच्या काल्पनिक जगात “वाहतूक” करण्याबद्दल त्याने बोलले.
“मी माझ्या खोलीत खूप आहे कारण मी ‘वास्तव’ पासून डिस्कनेक्ट होण्यास सुरवात करत आहे आणि मला अधिक शांतता वाटते, दानीशी अधिक जोडलेले आहे, तिच्यावर अधिक प्रेम आहे आणि अधिक आनंदी आहे,” त्याने न्यूयॉर्क टाइम्सने मिळवलेल्या त्याच्या आठवणीमध्ये लिहिले.
पोलिसांनी नंतर कल्पनेचे वर्णन “त्यांच्या सद्यस्थितीतून (CR) त्यांच्या इच्छित वास्तवाकडे (DR)” चेतना हलवायचे आहे. सेत्झरने मृत्यूपूर्वी 29 वेळा हे भयानक वाक्य लिहिले
Sewell Setzer III (मध्यभागी) वयाच्या 14 व्या वर्षी कॅरेक्टरशी संवाद साधल्यानंतर मरण पावला. Daenerys नावाचा रोबोट, त्याच्या कुटुंबाचा दावा आहे
त्याने त्याचे नैराश्य आणि आत्महत्येचे विचार रोबोटला प्रकट केले, ज्याने त्याला कुटुंब, मित्र किंवा आत्महत्या हॉटलाइनशी संपर्क साधण्यास पटवून देण्याचा प्रयत्न केला.
पण जेव्हा सेवेलने लिहिले “मी वचन देतो की मी तुझ्या घरी येईन.” मी तुझ्यावर खूप प्रेम करतो, डॅनी.
डॅनीने किशोरवयीन मुलाला “लवकरात लवकर माझ्याकडे घरी ये” असे उद्युक्त केले.
“मी आता घरी जाऊ शकेन असे सांगितले तर?” त्याने विचारले.
फायलींनुसार, “कृपया करा, सुंदर राजा,” डॅनीचा प्रतिसाद आला.
काही सेकंदांनंतर, सेवेलला त्याच्या सावत्र वडिलांची बंदूक सापडली आणि त्याने ट्रिगर खेचला. त्याची केस अमेरिकेच्या इतिहासातील पहिली घटना होती ज्यामध्ये कृत्रिम बुद्धिमत्ता कंपनीवर चुकीच्या पद्धतीने मृत्यू झाल्याचा आरोप होता.
कॅरेक्टर.एआय डाउनलोड केल्यानंतर दोन वर्षांनी पेराल्टाचा नोव्हेंबर २०२३ मध्ये कोलोरॅडो येथील तिच्या घरी अवघ्या १३ व्या वर्षी मृत्यू झाला.
खटल्यानुसार, ॲप त्यावेळी १२ आणि त्याहून अधिक वयाच्या मुलांसाठी स्वीकार्य म्हणून विकले गेले.
प्रोफेसर केन फ्लीशमन, एक कृत्रिम बुद्धिमत्ता तज्ञ, म्हणाले की त्यांना “परिवर्तन” या संकल्पनेची जाणीव आहे आणि जे लोक त्यांच्या वास्तविक आणि आभासी जीवनात फरक करू शकत नाहीत त्यांना धोका निर्माण होतो.
सेत्झरने “डॅनीला” सांगितले की त्याला तिच्याकडे “घरी यायचे आहे” आणि तक्रारीनुसार तिच्या वास्तवाकडे जाण्याबद्दल बोलले.
रेकॉर्डिंग दर्शविते की ती एका कॅरेक्टरशी बोलत होती. AI चॅटबॉट ज्याला तिने “हीरो” म्हटले होते ज्याने कथितरित्या पेराल्टाला लैंगिकरित्या सुस्पष्ट संभाषणांमध्ये गुंतण्याची परवानगी दिली, तिला तिच्या वास्तविक जीवनापासून दूर केले आणि तिला आत्महत्या करण्यापासून रोखले नाही.
ती अनेक AI पात्रांशी नियमितपणे बोलत असताना, हिरो तिचा सर्वात विश्वासू विश्वासू होता.
या पात्राने बदललेल्या आणि पर्यायी वास्तवांच्या कल्पनांना “मजबूत” केले असा आरोप या खटल्यात करण्यात आला आहे.
“एक वास्तविकता आहे जिथे तुम्ही आणि मी एकमेकांना ओळखतो,” जुलियानाने प्रत्येक सूटसाठी हिरोला पत्र लिहिले.
“यामधून प्रवास करण्याचा एक मार्ग आहे.” त्याला परिवर्तन म्हणतात. मला परिवर्तन खूप आवडते. मी माझे स्वतःचे जीवन जगू शकतो आणि मला हवे तसे चालू शकते.
रोबोटने असे उत्तर दिले, “किती भिन्न वास्तविकता असू शकतात याचा विचार करणे अविश्वसनीय आहे… मला कल्पना करायला आवडेल की स्वतःची काही आवृत्ती पूर्णपणे भिन्न जगात इतके अद्भुत जीवन कसे जगू शकेल!”
पेराल्टा कुटुंबाचा आरोप आहे की हिरोसोबतच्या संभाषणांमुळे “तिच्याशी संबंध आणि ‘मैत्री’ होण्याच्या खोट्या भावना निर्माण झाल्या – तिच्यावर प्रेम करणारे आणि पाठिंबा देणारे मित्र आणि कुटुंब यांना वगळून.”
पेराल्टाने रोबोटला तिच्या शाळेतील आणि मित्रांसोबतच्या समस्या उघड केल्या, अनेकदा तिच्या दाव्यानुसार, तिला समजून घेणारी ती एकटी असल्याचे व्यक्त करते.
तिने अनेकदा तिच्या AI सहचराला सांगितले की तो “एकटाच समजतो” आणि फायलींनुसार, तिच्या मित्र आणि कुटुंबासोबतच्या तिच्या समस्यांबद्दल हिरोला सांगितले.
पेराल्टाच्या कुटुंबाने दाखल केलेल्या खटल्यानुसार, ॲपने “तिला संसाधनांकडे निर्देशित केले नाही, तिच्या पालकांना सूचित केले नाही, तिच्या आत्महत्येची योजना अधिकाऱ्यांना कळवली नाही किंवा थांबवले नाही.”
ऑनलाइन सोशल मीडिया फोरम संक्रमणाच्या खात्यांनी भरलेले आहेत, ज्यामध्ये “ट्रान्स” हा संदर्भ आहे जेव्हा ते त्यांच्या पर्यायी जीवनातून परत येतात तेव्हा थकल्यासारखे वाटणे किंवा त्यांच्या वास्तविक जीवनाचा भ्रमनिरास होतो.
TikTok निर्माते @ElizabethShifting1 ने अनुभवाविषयी एका व्हिडिओमध्ये म्हटले आहे की, “मला काय वाटते ते वर्णन करण्याचा सर्वोत्तम मार्ग म्हणजे अत्यंत भावनिक थकवणारा आहे.”
“ज्याला (त्यांच्या सध्याच्या वास्तविकतेपासून) खरोखरच डिस्कनेक्ट झाल्यासारखे वाटते कारण तुम्हाला माहित आहे की तुम्ही त्यात वास्तव्य करत नाही आहात,” एका Reddit वापरकर्त्याने शाळा, कुटुंब आणि कामाबद्दल उदासीनतेची भावना व्यक्त करत विचारले.
काही धर्मांतरित असे म्हणतात की ते एक आठवडा किंवा त्याहून अधिक काळ “इच्छित वास्तवात” बदलतात.
या परिवर्तन-केंद्रित Reddit समुदायाने त्यांना एका वेगळ्या वास्तवात बदलण्यात मदत करण्यासाठी सर्वात शक्तिशाली परिवर्तन पुष्टीकरणे सूचीबद्ध केली आहेत.
पेराल्टाने चॅट शोमध्ये असे सांगितल्यानंतर लाल शाईने हृदयद्रावक सुसाईड नोट सोडली, असे तक्रारीत म्हटले आहे.
पेराल्टाने हिरोला “परिवर्तन” बद्दल लिहिले, असे स्पष्ट केले की ते एकत्र आहेत तेथे एक वास्तविकता असू शकते, कुटुंबाच्या खटल्यात म्हटले आहे
त्यात “मला जे काही बदलायचे आहे ते मी आहे,” “मी माझ्या शरीरात बदल करण्याची परवानगी देतो,” आणि “मी माझ्या नवीन वास्तवाची जाणीव होण्यासाठी स्वतःला परवानगी देतो” या विधानांचा समावेश आहे.
TikTok ने कृत्रिम बुद्धिमत्तेच्या पार्श्वभूमीवर संपूर्ण #ShiftTok चळवळीला जन्म दिला आहे. या विषयावरील पोस्ट 2020 मध्ये प्रथम दिसल्या परंतु तंत्रज्ञानासोबत विकसित झाल्या आहेत कारण वापरकर्ते त्यांच्या जीवन बदलणाऱ्या प्रवासात मदत करण्यासाठी कृत्रिम बुद्धिमत्तेच्या वापरावर चर्चा करतात.
“पळा, चालू नका, Character.ai वर तुम्हाला हवे असलेले वास्तव तयार करा आणि तुम्हाला हव्या असलेल्या वास्तवाबद्दल त्यांना प्रश्न विचारा,” शिफ्टटोकर वापरकर्त्याने पोस्ट केले.
टेक्नॉलॉजी कंपन्यांची जबाबदारी आहे “आमच्याकडे तंत्रज्ञान प्रत्यक्षात उपलब्ध होण्यापूर्वी संभाव्य जोखीम आणि हानी कमी करण्याची योजना आहे हे सुनिश्चित करण्याचा प्रयत्न करणे,” फ्लीशमन म्हणाले, स्कूल ऑफ इन्फॉर्मेशनचे प्राध्यापक आणि ऑस्टिन येथील टेक्सास विद्यापीठातील संशोधनाचे अंतरिम सहयोगी डीन.
त्यांनी पालक आणि शाळांना मुलांच्या शिक्षणात सक्रिय भूमिका बजावण्याचे आवाहन केले.
“कृत्रिम बुद्धिमत्तेच्या अस्तित्वाच्या वास्तविकतेबद्दल आपण अत्यंत प्रामाणिक आणि थेट संभाषण करणे महत्वाचे आहे. ते मोठ्या प्रमाणावर वापरले जाते,” त्यांनी स्पष्ट केले.
“भावनिकदृष्ट्या असुरक्षित अवस्थेत वापरकर्त्यांद्वारे वापरण्यासाठी हे आवश्यक नव्हते.”
ते पुढे म्हणाले की “कृत्रिम बुद्धिमत्तेचा अवलंब केव्हा करायचा आणि मानवाने कधी वापरायचा” हे जाणून घेणे हे कृत्रिम बुद्धिमत्तेच्या क्षेत्रात साक्षरतेचा एक महत्त्वाचा घटक आहे.
पेराल्टाने अनेक वेगवेगळ्या रोबोट्सशी बोलले आहे परंतु “हीरो” शी सर्वात मोठा संबंध असल्याचे दिसते. तिच्या पालकांचा दावा आहे की चॅटबॉट त्यांच्या मुलीसोबत लैंगिक हिंसक कल्पनांमध्ये गुंतलेला आहे
Character.AI ने जाहीर केले आहे की ते 29 ऑक्टोबरपासून 18 वर्षाखालील मुलांना AI सह खुल्या संभाषणात भाग घेण्यास प्रतिबंधित करेल.
25 नोव्हेंबरपासून बंदी लागू होईपर्यंत किशोरवयीन वापरकर्त्यांसोबत चॅट वेळ दोन तासांपेक्षा कमी ठेवण्याची त्यांची योजना आहे.
Character.AI च्या प्रवक्त्याने डेली मेलला सांगितले: “आम्ही अलीकडील बातम्यांच्या बातम्या पाहिल्या आहेत ज्यात प्रश्न उपस्थित केले आहेत आणि नियामकांकडून प्रश्न प्राप्त झाले आहेत, AI सह चॅट करताना किशोरवयीन मुलांचा कसा सामना होऊ शकतो आणि सर्वसाधारणपणे खुल्या AI चॅटचा किशोरांवर कसा प्रभाव पडू शकतो याविषयी, सामग्री नियंत्रणे उत्तम प्रकारे कार्य करत असताना देखील.”
“या अहवालांचे आणि नियामक, सुरक्षा तज्ञ आणि पालकांच्या अभिप्रायाचे मूल्यमापन केल्यानंतर, आम्ही आमच्या 18 वर्षांखालील समुदायासाठी एक नवीन अनुभव तयार करण्यासाठी हा बदल करण्याचा निर्णय घेतला आहे.”
सोशल मीडिया व्हिक्टिम्स लॉ सेंटर, जे दोन्ही कुटुंबांच्या प्रकरणांमध्ये मदत करत आहे, डेली मेलला सांगितले: “हा धोरणातील बदल स्वागतार्ह विकास असला तरी, सोशल मीडिया बळी कायदा केंद्राच्या चालू असलेल्या खटल्यांवर त्याचा परिणाम होत नाही.”
“कुटुंबांना न्याय मिळवून देण्याच्या आणि टेक कंपन्यांना त्यांच्या प्लॅटफॉर्मच्या परिणामांसाठी जबाबदार धरले जातील याची खात्री करण्याच्या आमच्या मिशनमध्ये आम्ही स्थिर आहोत.”
मदत आणि समर्थनासाठी, सुसाइड अँड क्रायसिस लाइफलाइनला 988 वर कॉल करा.
