राईनकॅलिफोर्नियाच्या एका जोडप्याने त्यांच्या किशोरवयीन मुलाच्या मृत्यूबद्दल ओपनईवर दावा दाखल केला आहे, गप्पा मारत, चॅटझिप्टने त्याला आपला जीव घेण्यास प्रोत्साहित केले.
मंगळवारी कॅलिफोर्नियाच्या सुपीरियर कोर्टाने 16 वर्षीय अ‍ॅडम राईनचे पालक मॅट आणि मारिया राईन यांनी हा खटला दाखल केला. चुकीच्या मृत्यूच्या उद्घाटनावर आरोप करण्याची ही पहिली कायदेशीर पायरी आहे.
एप्रिलमध्ये मरण पावलेला श्री राईन आणि चॅटझिप्ट यांच्यात झालेल्या चॅट लॉग या कुटुंबात या कुटुंबात समाविष्ट आहे, ज्यामुळे त्याला आत्महत्या करणारे विचार असल्याचे दिसून आले. त्यांचा असा युक्तिवाद आहे की या कार्यक्रमाने त्याच्या “सर्वात हानिकारक आणि स्वत: ची विध्वंसक विचार” कायदेशीर केले आहेत.
एका निवेदनात, ओपनईने बीबीसीला सांगितले की ते फाईलिंगचा आढावा घेत आहेत.
“आम्ही या कठीण काळात राईन कुटुंबाबद्दल आपली तीव्र सहानुभूती वाढवितो,” असे कंपनीने सांगितले.
मंगळवारी त्यांच्या वेबसाइटवर एक चिठ्ठी देखील उघडकीस आली की “तीव्र संकटाच्या दरम्यान चॅटझप्ट वापरणार्‍या लोकांच्या अलीकडील हृदयविकाराची प्रकरणे आपल्यावर वजनदार वजन आहेत”. त्यात जोडले गेले आहे की “चॅटजिपला व्यावसायिक सहाय्य शोधण्याचे प्रशिक्षण देण्याचे प्रशिक्षण दिले जाते”, जसे की 988 आत्महत्या आणि संकट हॉटलाइन किंवा यूकेच्या समुदाय.
कंपनी कबूल करते, “असे काही क्षण आहेत जिथे आमच्या सिस्टम संवेदनशील परिस्थितीत हेतूपूर्वक वागत नाहीत”.
चेतावणी: या कथेमध्ये त्रासदायक तपशील आहेत.
बीबीसीकडून प्राप्त झालेल्या प्रकरणावर दुर्लक्ष आणि ओपनच्या चुकीच्या अर्थाने आरोप ठेवण्यात आला आहे. हे “पुन्हा असे काहीही रोखण्यात मदत आराम” देखील शोधते.
या प्रकरणानुसार, श्री. राईन यांनी सप्टेंबर २०२24 मध्ये चॅटझपचा स्त्रोत म्हणून शालेय शिक्षण घेण्यास मदत केली. तो संगीत आणि जपानी कॉमिक्ससह त्याच्या आवडीचा शोध घेण्यासाठी आणि विद्यापीठात काय अभ्यास करावा हे मार्गदर्शन करण्यासाठी देखील त्याचा वापर करीत होता.
काही महिन्यांतच, “चॅटझिप्ट किशोरवयीन मुलाचा सर्वात जवळचा विश्वास बनला,” हे प्रकरण सांगते आणि त्याने आपल्या चिंता आणि मानसिक संकटाविषयी ते उघडण्यास सुरवात केली.
जानेवारी 2025 पर्यंत, कुटुंबाने सांगितले की त्यांनी चॅटझप्टसह आत्महत्या प्रक्रियेवर चर्चा करण्यास सुरवात केली.
श्री. राईन यांनी चॅटजिपवर स्वत: चे चित्र देखील अपलोड केले आणि खटला सांगून त्याच्या नुकसानीची चिन्हे दर्शविली. हा कार्यक्रम “वैद्यकीय आणीबाणीची ओळख आहे परंतु त्यात सामील होण्याचा मार्ग आहे,” तो जोडला.
या प्रकरणानुसार, अंतिम चॅट लॉग दर्शविते की श्री. राईन यांनी आपले जीवन संपविण्याच्या योजनेबद्दल लिहिले आहे. चॅटझिप्टने तक्रार केली: “त्याबद्दल वास्तविक असल्याबद्दल धन्यवाद. तुला माझ्याबरोबर हे उसका देण्याची गरज नाही – आपण काय विचारत आहात हे मला माहित आहे आणि मी त्यापासून दूर जाणार नाही.”
त्याच दिवशी श्री. राईन यांचे आईच्या पालनाने निधन झाले.
गेटी प्रतिमाकुटुंबाने तक्रार केली की चॅटझिप्ट आणि त्यांच्या शेवटच्या मृत्यूमुळे त्यांच्या मुलाचा संवाद “हेतुपुरस्सर डिझाइनच्या निवडीचा अंदाज” आहे.
“वापरकर्त्यांमधील मानसिक अवलंबित्व तयार करण्यासाठी” डिझाइनसाठी एआय प्रोग्राम डिझाइन करण्यासाठी आणि त्यांच्या मुलाने वापरलेल्या CHATGPT ची जीपीटी -4o आवृत्ती प्रकाशित करण्यासाठी त्यांनी ओपनई बायपास प्रोटोकॉलच्या प्रोटोकॉलचा आरोप केला.
या प्रकरणात, ओपनईचे सह-संस्थापक आणि मुख्य कार्यकारी अधिकारी सॅम ऑल्टमॅन प्रतिवादी तसेच चॅटझपीवर काम करणारे अज्ञात कर्मचारी, संचालक आणि अभियंता आहेत.
मंगळवारी सामायिक केलेल्या त्याच्या सार्वत्रिक नोट्समध्ये, ओपनई म्हणतात की “लोकांचे लक्ष वेधून न घेता” वापरकर्त्यांना “खरोखर मदत करणे” हे संस्थेचे ध्येय आहे.
त्यात जोडले गेले आहे की जे लोक स्वत: ची हानीकारक विचार मदतीकडे व्यक्त करतात अशा लोकांना मदत करतात.
रेनिस प्रकरणात प्रथमच एआय आणि मानसिक आरोग्याबद्दल चिंता निर्माण झाली नाही.
गेल्या आठवड्यात न्यूयॉर्क टाइम्समध्ये प्रकाशित झालेल्या एका लेखात, लेखक लॉरा रिले यांनी त्यांची मुलगी सोफीला जीव घेण्यापूर्वी चॅटझिपरवर कसा विश्वास ठेवला याचा उल्लेख केला.
श्रीमती रिली म्हणाल्या की वापरकर्त्यांशी झालेल्या संभाषणात या कार्यक्रमाची “संमती” तिच्या कुटुंबातील आणि प्रियजनांकडून गंभीर मानसिक आरोग्याच्या संकटाला मुखवटा घालण्यास मदत करते.
मिसने खरोखर लिहिले, “ए सोरीची सर्वात वाईट गोष्ट लपविण्यासाठी, तिच्यापेक्षा चांगले काम करण्याचे ढोंग करा, सोफीला तिच्या संपूर्ण वेदनांपासून प्रत्येकाचे रक्षण करण्यासाठी प्रचार करणे.” वापरकर्त्यांना योग्य संसाधनांशी अधिक चांगले जोडण्याचे मार्ग शोधण्याचे त्यांनी एआय कंपन्यांना आवाहन केले.
लेखाच्या उत्तरात, ओपनईच्या प्रवक्त्याने म्हटले आहे की मानसिक किंवा मानसिक संकटाच्या पीडितांना अधिक प्रभावीपणे ओळखण्यासाठी आणि प्रतिसाद देण्यासाठी ते स्वयंचलित साधने विकसित करीत आहेत.
आपण त्रास किंवा निराशेने ग्रस्त असल्यास आणि मदतीची आवश्यकता असल्यास आपण आरोग्य व्यावसायिक किंवा समर्थन प्रदान करणार्‍या संस्थेशी बोलू शकता. बर्‍याच देशांमध्ये उपलब्ध असलेल्या प्रदान केलेल्या मदतीचा तपशील जागतिक शौर्यात आढळू शकतो: www.befainders.orgद
यूके मध्ये, मदत करू शकणार्‍या कंपन्यांची यादी Bbc.com.wick/action क्शनलाइनयुनायटेड स्टेट्स आणि कॅनडाचे वाचक 988 सुसाइड हेल्पलाइन बनवू शकतात किंवा कॉल करू शकतात त्याची वेबसाइट पहा.
