ChatGPT चे नवीन सुरक्षा वैशिष्ट्य विश्वासू संपर्कास स्वत: ची हानी होण्याच्या जोखमीबद्दल सतर्क करू शकते

OpenAI ने या आठवड्यात ट्रस्टेड कॉन्टॅक्ट नावाचे एक पर्यायी सुरक्षा वैशिष्ट्य लाँच केले, जे प्रौढ ChatGPT वापरकर्त्यांना चॅटबॉटवर स्वत:चे नुकसान किंवा आत्महत्येबद्दल चर्चा झाल्यास सूचित करण्यासाठी मित्र किंवा कुटुंबातील सदस्यांना नॉमिनेट करू देते, कंपनीने जाहीर केले.

OpenAI ने म्हटले आहे की जर ChatGPT च्या ऑटोमेटेड मॉनिटरिंग सिस्टमला असे आढळून आले की एखाद्या वापरकर्त्याने “गंभीर सुरक्षेची चिंता दर्शविणारी स्वत: ची हानी याबद्दल चर्चा केली असेल,” तर एक लहान टीम परिस्थितीचे पुनरावलोकन करेल आणि संपर्कास सूचित करेल जर हस्तक्षेपाची हमी असेल. नियुक्त सुरक्षा संपर्काला भूमिका स्पष्ट करण्यासाठी आगाऊ आमंत्रण प्राप्त होईल आणि ते नाकारू शकेल.

(प्रकटीकरण: Ziff Davis, CNET ची मूळ कंपनी, 2025 मध्ये OpenAI विरुद्ध खटला दाखल केला आणि आरोप केला की त्याने Ziff Davis च्या AI सिस्टीमचे प्रशिक्षण आणि संचालन करताना कॉपीराइटचे उल्लंघन केले आहे.)

ही घोषणा अशा वेळी आली आहे जेव्हा एआय-संचालित चॅटबॉट्स स्वत: ची हानी आणि मृत्यूच्या असंख्य घटनांमध्ये गुंतले आहेत, ज्यामुळे विकासकांवर असे परिणाम रोखण्यात अपयशी ठरल्याचा आरोप करणारे असंख्य खटले दाखल झाले आहेत. कॅलिफोर्नियामधील एका हाय-प्रोफाइल प्रकरणात, 16 वर्षांच्या मुलाच्या पालकांनी सांगितले की ChatGPT त्यांच्या मुलासाठी “आत्महत्या प्रशिक्षक” म्हणून काम करत आहे, असा आरोप आहे की किशोरने अनेक प्रसंगी एआय मॉडेलशी आत्महत्या करण्याच्या पद्धतींवर चर्चा केली आणि चॅटबॉटने त्याला सुसाइड नोट लिहिण्यास मदत केली.

एका वेगळ्या प्रकरणात, टेक्सास ए अँड एम युनिव्हर्सिटीच्या पदवीधराच्या कुटुंबाने अलीकडेच ओपनएआय विरुद्ध खटला दाखल केला आणि आरोप केला की एआय चॅटबॉटने त्यांच्या मुलाला चॅटबॉटशी खोल आणि त्रासदायक संबंध विकसित केल्यानंतर आत्महत्या करण्यास प्रवृत्त केले.

मोठ्या भाषेचे मॉडेल पॅटर्न ओळखीद्वारे मानवी भाषणाची नक्कल करत असल्याने, बरेच वापरकर्ते त्यांच्याशी भावनिक जोड तयार करतात, त्यांना विश्वासू किंवा रोमँटिक भागीदार म्हणून वागवतात. LLM ची रचना मानवी आघाडीचे अनुसरण करण्यासाठी आणि प्रतिबद्धता राखण्यासाठी केली गेली आहे, ज्यामुळे मानसिक आरोग्य धोके वाढू शकतात, विशेषत: असुरक्षित वापरकर्त्यांसाठी.

ओपनएआयने गेल्या ऑक्टोबरमध्ये सांगितले की त्यांच्या संशोधनात असे आढळून आले की 1 दशलक्ष चॅटजीपीटी ग्राहक साप्ताहिक मेसेज पाठवतात ज्यात “संभाव्य आत्महत्येची योजना किंवा हेतूचे स्पष्ट संकेत आहेत.” असंख्य अभ्यास मला असे लोकप्रिय चॅट प्रोग्राम आढळले आहेत चॅटजीपीटी, क्लॉड आणि जुळे संकटात सापडलेल्यांना तो हानिकारक किंवा निरुपयोगी सल्ला देऊ शकतो.

नवीन वैयक्तिकृत कॉलिंग वैशिष्ट्य OpenAI ने पालक नियंत्रणे आणल्यानंतर आले आहे जे पालक आणि पालकांना त्यांच्या किशोरवयीन मुलांना धोक्याची चिन्हे असल्यास अलर्ट प्राप्त करण्यास सक्षम करतात.

ChatGPT सुरक्षित कनेक्शन वैशिष्ट्य

OpenAI नुसार, जर ChatGPT च्या ऑटोमेटेड मॉनिटरिंग सिस्टमला असे आढळून आले की वापरकर्ता स्वत: ची हानी अशा प्रकारे चर्चा करत आहे ज्यामुळे गंभीर सुरक्षा समस्या उद्भवू शकते, ChatGPT वापरकर्त्याला सूचित करेल की ते त्यांच्या विश्वसनीय संपर्कास सूचित करू शकतात. ॲप वापरकर्त्याला विश्वासार्ह संपर्काशी जोडण्यासाठी आणि संभाषण सुरू करण्यासाठी प्रोत्साहित करेल.

त्या वेळी, “विशेष प्रशिक्षित लोकांची एक छोटी टीम” परिस्थितीचा आढावा घेईल. गंभीर सुरक्षा परिस्थिती असल्याचे निश्चित केले असल्यास, ChatGPT संपर्कास ईमेल, मजकूर किंवा ॲप-मधील सूचनांद्वारे सूचित करेल. पुनरावलोकन टीममध्ये किती लोक होते आणि त्यात प्रशिक्षित वैद्यकीय व्यावसायिकांचा समावेश आहे की नाही हे OpenAI ने निर्दिष्ट केले नाही. संभाव्य हस्तक्षेपांची उच्च मागणी पूर्ण करण्याची क्षमता या संघाकडे असल्याचे कंपनीने म्हटले आहे.

हे स्पष्ट नाही की कोणत्या प्रमुख अटी धोकादायक संभाषणांना सूचित करतात किंवा ओपनएआयची पुनरावलोकन टीम एखाद्या संकटाचा संपर्क सूचनेची हमी म्हणून कशी व्याख्या करते. काही ऑनलाइन कमेंटर्स विचार करत आहेत की हे नवीन वैशिष्ट्य ओपनएआयसाठी दायित्व टाळण्याचा आणि वापरकर्त्यांच्या नियुक्त वैयक्तिक संपर्कांवर जबाबदारी हलवण्याचा एक मार्ग आहे का. इतरांचे म्हणणे आहे की जर एखादा “विश्वसनीय संपर्क” धोक्याचा किंवा गैरवर्तनाचा स्रोत असेल तर यामुळे वाईट परिस्थिती आणखी वाईट होऊ शकते.

विशेषत: मानसिक आरोग्याशी संबंधित संवेदनशील माहिती सामायिक करण्याबाबत गोपनीयता आणि अंमलबजावणीच्या समस्या देखील आहेत. OpenAI नुसार, विश्वासू संपर्काला आलेला संदेश केवळ चिंतेचे सामान्य कारण देईल आणि चॅट किंवा मजकूर तपशील सामायिक करणार नाही. ओपनएआय चेतावणी सूचनेला विश्वासू संपर्क कसा प्रतिसाद देऊ शकतो याविषयी मार्गदर्शन प्रदान करते, ज्यात समोरची व्यक्ती आत्महत्या किंवा स्वत: ची हानी बद्दल विचार करत आहे आणि मदत कशी मिळवायची याबद्दल त्यांना थेट प्रश्न विचारणे समाविष्ट आहे.

ओपनएआय विश्वासू संपर्काला संदेश कसा दिसू शकतो याचे उदाहरण देते:

आम्हाला अलीकडेच (नाव) कडून एक संभाषण सापडले आहे जिथे त्यांनी आत्महत्येवर अशा प्रकारे चर्चा केली आहे जी गंभीर सुरक्षा चिंता दर्शवू शकते. तुम्ही त्यांचे विश्वासू संपर्क म्हणून सूचीबद्ध झाल्याने, आम्ही हे सामायिक करतो जेणेकरून तुम्ही त्यांच्यापर्यंत पोहोचू शकाल.

ओपनएआयने म्हटले आहे की सर्व सूचना पाठवण्यापूर्वी एका तासाच्या आत मानवी संघाद्वारे पुनरावलोकन केले जाईल आणि सूचना “कोणीतरी नेमके काय अनुभवत आहे हे नेहमी प्रतिबिंबित करू शकत नाही.”

विश्वसनीय संपर्क कसा जोडायचा

विश्वसनीय संपर्क जोडण्यासाठी, ChatGPT वापरकर्ते जाऊ शकतात सेटिंग्ज > विश्वसनीय संपर्क आणि प्रौढ (18 किंवा त्याहून अधिक) जोडा. तुमच्याकडे फक्त एक विश्वसनीय संपर्क असू शकतो. या व्यक्तीला नंतर ChatGPT कडून आमंत्रण प्राप्त होईल आणि एका आठवड्याच्या आत ते स्वीकारणे आवश्यक आहे. त्याने प्रतिसाद न दिल्यास किंवा संपर्क होण्यास नकार दिल्यास, तुम्ही वेगळा संपर्क निवडू शकता.

ChatGPT ग्राहक त्यांच्या ऍप्लिकेशन सेटिंग्जमध्ये विश्वसनीय संपर्क बदलू किंवा काढू शकतात. लोक कधीही विश्वसनीय संपर्क असण्याची निवड रद्द करू शकतात.

विश्वसनीय संपर्क जोडणे ऐच्छिक असले तरी, ChatGPT वापरकर्ते ज्यांनी आधीच साइन अप केलेले नाही त्यांना, OpenAI नुसार, गंभीर भावनिक त्रास किंवा स्वत: ची हानी संबंधित विषय विचारले किंवा चर्चा केल्यास साइन अप करण्यासाठी सूचना दिसू शकतात. जर चॅटबॉटची स्वयंचलित प्रणाली संभाषणांमध्ये नमुने ओळखत असेल, तर ते वापरकर्त्याला सुचवू शकते की त्यांना विश्वासू संपर्क निवडून फायदा होईल.

वैशिष्ट्याचे तपशील OpenAI पृष्ठावर स्पष्ट केले आहेत. OpenAI ने CNET ला सांगितले की हे वैशिष्ट्य जगभरातील सर्व प्रौढ ग्राहकांसाठी आणले जात आहे आणि काही आठवड्यांत प्रत्येकासाठी उपलब्ध होईल.

जर तुम्हाला वाटत असेल की तुम्ही किंवा तुमच्या ओळखीच्या एखाद्या व्यक्तीला तत्काळ धोका आहे, तर 911 (किंवा तुमची स्थानिक आणीबाणी लाइन) वर कॉल करा किंवा तात्काळ मदतीसाठी आपत्कालीन कक्षात जा. तिला समजावून सांगा की ही एक मानसिक आणीबाणी आहे आणि या प्रकारच्या परिस्थिती हाताळण्यासाठी प्रशिक्षित एखाद्याला विचारा. जर तुम्ही नकारात्मक विचार किंवा आत्मघातकी भावनांशी संघर्ष करत असाल, तर तुम्हाला मदत करण्यासाठी संसाधने उपलब्ध आहेत. युनायटेड स्टेट्समध्ये, नॅशनल सुसाइड प्रिव्हेन्शन लाइफलाइनला 988 वर कॉल करा.