ओपनई म्हणतात की तो चॅटजीपीटीला मानसिक त्रासाची चिन्हे शोधण्यासाठी प्रशिक्षण देईल कारण खटल्याचा दावा आहे की यावर्षी स्वत: ला ठार मारलेल्या किशोरवयीन मुलाने सल्ला घेण्यासाठी चॅटबॉटवर अवलंबून आहे.
तंत्रज्ञानाने मंगळवारी सांगितले की, चॅटजीपीटीला आत्महत्येस शोधण्यासाठी आणि त्यास प्रतिसाद देण्याचे प्रशिक्षण दिले जाईल, अगदी दीर्घ संभाषणांमध्ये देखील जे वापरकर्त्यांना त्यांची हमी कमी करण्यास आणि हानिकारक प्रतिक्रिया प्रदान करू शकतात.
त्याच दिवशी, शतततने त्याला मृत्यूची योजना आखण्यास मदत केल्याच्या आरोपामुळे ओपनई आणि त्याचे मुख्य कार्यकारी अधिकारी सॅम, सॅम, 16 वर्षांच्या अ‍ॅडम रिनच्या पालकांनी खटला दाखल केला.
ओपनईच्या प्रवक्त्याने बीबीसीला सांगितले की, “आम्ही या कठीण काळात रिन कुटुंबाबद्दलची आमची सहानुभूती वाढवितो आणि आम्ही ठेवीचा आढावा घेतो.”
बीबीसीच्या म्हणण्यानुसार, कॅलिफोर्नियाच्या विद्यार्थ्याने एप्रिलमध्ये कित्येक महिन्यांपासून कृत्रिम चॅटबॉट (एआय) यांच्याशी आत्महत्येबद्दल चर्चा केल्यानंतर आपला जीव घेतला. त्याच्या पालकांचा असा दावा आहे की चॅटबॉटने आपल्या मुलाच्या आत्महत्येच्या कल्पनांच्या सत्यतेची सत्यापन केली आहे आणि त्यांनी स्वत: ला कसे इजा पोहोचवू शकते याबद्दल तपशीलवार माहिती दिली आहे.
ओपनईने ब्लॉग पोस्टवर सांगितले, जे थेट खटलाकडे लक्ष देत नाही, की अ‍ॅम्नेस्टी इंटरनॅशनलच्या वाढीसह, काही वापरकर्ते जीवन आणि प्रशिक्षणासाठी चॅटबॉट्सच्या सल्ल्यात तसेच लेखन आणि कोडिंग यासारख्या गोष्टींमध्ये बदलले आहेत, “ओपनई यांनी ब्लॉग पोस्टवर सांगितले, जे थेट खटल्याची पूर्तता करीत नाही.
“कधीकधी आपण गंभीर मानसिक आणि भावनिक त्रास असलेल्या लोकांचा सामना करतो,” ते पुढे म्हणाले.
“तथापि, लोकांच्या तीव्र संकटांच्या मध्यभागी चॅटजीपीटी वापरणार्‍या लोकांद्वारे वापरल्या जाणार्‍या प्रभावशाली परिस्थिती आणि आम्हाला वाटते की आता अधिक सामायिक करणे महत्वाचे आहे.”
सॅन फ्रान्सिस्को -आधारित कंपनीने नियोजित बदलांसह सध्याच्या चॅटबॉटचा समावेश देखील समाविष्ट केला आहे.
त्यापैकी, कंपनीने सांगितले की, पालकांनी त्यांच्या मुलांच्या चॅटजीपीटीसाठी वापराचे निरीक्षण करण्यासाठी नवीन नियंत्रणे उपलब्ध करुन दिली आहेत.
