या वर्षाच्या सुरूवातीस त्यांच्या 16 वर्षांच्या मुलाच्या आत्महत्येस कारणीभूत ठरलेल्या खटल्यात पालकांनी या आठवड्यात कॅलिफोर्निया राज्य न्यायालयात दावा दाखल केल्यानंतर ओपनईने पालकांची नियंत्रणे लागू करण्याची आणि सीएटीजीपीटीच्या सुरक्षिततेच्या उपाययोजना वाढविण्याच्या आपल्या योजनांची घोषणा केली.
कंपनीने म्हटले आहे की “ज्यांना अधिक आवश्यक आहे त्यांना मदत करणे हे गंभीरपणे जबाबदार आहे” आणि मानसिक आरोग्याच्या संकटामुळे आणि आत्महत्येबद्दल विचार करणा Cha ्या चॅटबॉटच्या वापरकर्त्यांवर गुंतलेल्या परिस्थितीला अधिक चांगले प्रतिसाद देण्याचे काम करते.
“आम्ही लवकरच पालकांची नियंत्रणे देऊ जे पालकांना अधिक अंतर्दृष्टी आणि निर्मिती मिळविण्यासाठी पर्याय देतात, किशोरवयीन लोक चॅटजीपीटी कसे वापरतात. ब्लॉग पोस्टमध्ये,” ओपनई ब्लॉग पोस्टवर म्हणाले.
ओपनईने अद्याप टिप्पणीच्या विनंतीला प्रतिसाद दिला नाही. .
ओपनएआय द्वारे चाचणी केलेल्या सुरक्षिततेच्या वैशिष्ट्यांपैकी एक म्हणजे वापरकर्त्यांना एकल -क्लिक संदेश किंवा कायद्यात कॉलसह आपत्कालीन संपर्क नियुक्त करण्याची परवानगी मिळते. आणखी एक वैशिष्ट्य म्हणजे सदस्यता पर्याय जो चॅटबॉटला या लोकांशी थेट संपर्क साधण्याची परवानगी देतो. ओपनईने बदलांसाठी विशिष्ट वेळ वेळापत्रक तयार केले नाही.
अधिक वाचा: प्रोसेसर म्हणून कृत्रिम बुद्धिमत्ता वापरण्यापूर्वी आपण दोनदा विचार केला पाहिजे असे व्यावसायिक का म्हणतात?
अ‍ॅडम रिन यांनी दाखल केलेल्या खटल्याचा दावा आहे की त्याचा मुलगा आपल्या मुलाला आत्महत्येच्या पद्धतींबद्दल सादर करण्यात आला होता, त्याने आत्महत्येच्या कल्पनांना धडक दिली आणि एप्रिलमध्ये मृत्यूच्या पाच दिवस आधी आत्महत्या नोट लिहिण्यास मदत केली. अमर्यादित भरपाईच्या शोधात ओपनईच्या तक्रारी आणि सीईओ सॅम ऑल्टमॅन प्रतिवादी म्हणून.
“ही शोकांतिका दोष किंवा अनपेक्षित किनार नव्हती – हेतुपुरस्सर डिझाइन पर्यायांचा अपेक्षित परिणाम होता,” तक्रारीत म्हटले आहे. “ओपनईने मानसिक अवलंबित्व वाढविण्यासाठी हेतुपुरस्सर वैशिष्ट्यांसह” ओपनईने आपले नवीनतम “” जीपीटी -4 ओ “लाँच केले आहे. ”
सामग्रीचा बाप्तिस्मा आणि वापरकर्त्याच्या सुरक्षिततेवरील कृत्रिम बुद्धिमत्ता कंपन्यांचे हा मुद्दा हा एक मुख्य मुख्य कायदेशीर आव्हान आहे, ज्यामुळे चॅटजीपीटी, मिनाई आणि क्लॉड यासारख्या मोठ्या भाषेच्या मॉडेल्सचा धोका असलेल्या लोकांशी संवेदनशील प्रतिक्रियांचा सामना करावा लागतो. त्यांनी असुरक्षित वापरकर्त्यांशी, विशेषत: तरुण लोकांशी कसे संवाद साधला यावर आधारित साधनांना टीकेचा सामना करावा लागला आहे. अमेरिकन पॅरेंट मेडिसिन असोसिएशनने त्यांच्या मुलांच्या गप्पा मारण्यासाठी आणि कृत्रिम बुद्धिमत्तेच्या पात्रांच्या वापरावर देखरेख ठेवण्याचा इशारा दिला आहे.
आपण किंवा आपण किंवा आपल्या व्यक्तीला त्वरित धोक्यात आणलेल्या व्यक्तीस असे वाटत असल्यास, 911 (किंवा आपल्या देशातील स्थानिक आपत्कालीन मार्गावर) कॉल करा किंवा त्वरित मदतीसाठी आपत्कालीन कक्षात जा. हे एक मनोवैज्ञानिक अवस्था आहे हे स्पष्ट करा आणि या प्रकारच्या परिस्थितीत प्रशिक्षित व्यक्तीला विचारा. आपण नकारात्मक कल्पना किंवा आत्महत्याग्रस्त भावनांनी ग्रस्त असल्यास, संसाधने मदतीसाठी उपलब्ध असतील. अमेरिकेत, 988 मध्ये राष्ट्रीय आत्महत्या रोखण्यासाठी त्यांनी लाइफलाईनला बोलावले.
