सॅम ऑल्टमॅन झोप का गमावत आहे? ओपनईचे मुख्य कार्यकारी अधिकारी मुलाखतीत चर्चेला संबोधित करतात

गेल्या आठवड्यात एका स्पष्ट मुलाखतीत, ओपनईचे मुख्य कार्यकारी अधिकारी सॅम ऑल्टमॅन यांनी त्यांची कंपनी आणि लोकप्रिय चॅटजीपीटी एआय मॉडेलशी संबंधित सर्वात नैतिक आणि नैतिक प्रश्नांना संबोधित केले.

“पाहा, मी रात्री फार चांगले झोपत नाही. येथे बरेच वजन आहे, परंतु कदाचित दररोज लाखो लोक आमच्या मॉडेलशी बोलतात याशिवाय काहीच नाही,” अल्टमॅनने फॉक्स न्यूजचे माजी होस्ट कार्लसन यांना मुलाखतीत एका तासाच्या मुलाखतीत सांगितले.

“मला खरोखरच आमचे मोठे नैतिक निर्णय घेण्याची चिंता नाही,” अल्टमॅन म्हणाला, जरी त्याने कबूल केले की “कदाचित आम्हालाही या चुका देखील मिळतील.”

त्याऐवजी, तो म्हणाला की मॉडेलच्या वर्तनाबद्दल “अगदी लहान निर्णय” घेऊन तो सर्वात जास्त झोप गमावतो, ज्यामुळे शेवटी मोठ्या प्रतिक्रियांना कारणीभूत ठरू शकते.

हे निर्णय चॅटझिपला आणि चॅटबॉट काय करतात आणि उत्तर देत नाहीत याबद्दल माहिती देणार्‍या नीतिशास्त्रांच्या आसपास केंद्रित आहेत. येथे नैतिक आणि नैतिक कोंडीची एक रूपरेषा आहे जी रात्री जागृत असल्याचे दिसते.

अल्टमॅनच्या म्हणण्यानुसार, अलीकडेच कंपनीचा सर्वात कठीण मुद्दा, चॅटझिप्टने कौटुंबिक प्रकरणाच्या प्रकाशात किशोरवयीन आत्महत्येसाठी चॅटबॉटला दोष दिला आहे.

मुख्य कार्यकारी अधिकारी म्हणाले की दर आठवड्याला आत्महत्या करणार्‍या हजारो लोकांना कदाचित असू शकते लीड-अप वर चॅटझेप्टशी बोलणे.

“ते कदाचित (आत्महत्या) बद्दल बोलत होते आणि आम्ही कदाचित त्यांचे प्राण वाचवू शकलो नाही,” अल्टमॅन स्पष्टपणे म्हणाले. “कदाचित आम्ही काहीतरी चांगले म्हणू शकू. कदाचित आम्ही अधिक सक्रिय होऊ शकलो असतो कदाचित आम्ही कदाचित आमच्याबद्दल थोडासा चांगला सल्ला देऊ शकतो, अहो, आपल्याला ही मदत मिळण्याची गरज आहे.”

गेल्या महिन्यात, अ‍ॅडम राईनच्या पालकांनी आत्महत्या दाखल केली आणि वयाच्या 16 व्या वर्षी त्यांच्या मुलाचा मृत्यू झाल्यानंतर ओपनविरोधात खटला दाखल केला. या प्रकरणात, कुटुंबाने म्हटले आहे की “चॅटझिप्टने अ‍ॅडमला आत्महत्या शोधण्यास सक्रियपणे मदत केली.”

लवकरच, “संवेदनशील परिस्थिती” घेताना, ओपन -ओपेनायची खुल्या चॅटझिप्टच्या दोषांचे निराकरण करण्याची सविस्तर योजना आहे आणि ते म्हणतात की ते त्यांच्या सर्वात धोकादायक लोकांचे रक्षण करण्यासाठी तंत्रज्ञान सुधारत राहील.

सीट-डाऊन मुलाखतीत प्रसारित केलेली आणखी एक मोठी समस्या म्हणजे नीतिशास्त्र आणि नैतिकता जी चॅटझिप्ट आणि त्याच्या कारभारींना सूचित करते.

मानवतेच्या अनुभव, ज्ञान आणि शिक्षणाचे प्रशिक्षण म्हणून अल्टमॅन चॅटझप्टने मानवतेवर प्रशिक्षण घेतलेले बेस मॉडेलचे वर्णन केले असले तरी ते म्हणाले की उद्घाटनाने काही चॅटबोट्स वर्तन संरेखित केले पाहिजेत आणि कोणत्याही प्रश्नांची उत्तरे देणार नाहीत.

“ही खरोखर एक कठीण समस्या आहे. आमच्याकडे आता बरेच वापरकर्ते आहेत आणि ते जीवनातील वेगवेगळ्या पैलूंनी आले आहेत … परंतु एकूणच, नैतिक रचना शिकण्याची आणि लागू करण्याच्या क्षमतेमुळे मला आनंद झाला आहे.”

जेव्हा हा निर्णय कसा घेण्यात आला यावर विशिष्ट मॉडेलच्या तपशीलांवर दबाव आणला गेला, तेव्हा अल्टमॅन म्हणाले की, कंपनीकडे “शेकडो नैतिक तत्ववेत्ता आणि तंत्रज्ञान आणि प्रणालीच्या नैतिकतेबद्दल विचार करणार्‍यांचा सल्ला होता.”

त्याने तयार केलेल्या मॉडेलचे स्पष्टीकरण दिले याचे एक उदाहरण म्हणजे चॅटझप्ट वापरकर्ते जैविक शस्त्रे कशी तयार करावीत या प्रश्नांची उत्तरे देणे टाळू शकतात.

वापरकर्त्याच्या स्वातंत्र्यासह महत्त्वपूर्ण तणाव आहे अशा समाजाचे एक स्पष्ट उदाहरण आहे ज्याला “हे निर्णय घेण्यास मदत करण्यास” रस आहे. “

आणखी एक प्रमुख चर्चा अशी आहे की चट्टाबोटची वापरकर्त्याच्या गोपनीयतेची संकल्पना कार्लसन यांनी असा युक्तिवाद केला की जनरेटर एआय “एकुलतावादी नियंत्रण” साठी वापरला जाऊ शकतो.

प्रत्युत्तरादाखल, अल्टमॅन म्हणाले की, वॉशिंग्टनमध्ये ज्या पॉलिसीवर तो दबाव आणत होता तो “आय राईट” आहे, जो कोणत्याही वापरकर्त्याने चॅटबोटवर पूर्णपणे गोपनीय असावा या कल्पनेचा संदर्भ देतो.

“जेव्हा आपण डॉक्टरांशी आपल्या आरोग्याबद्दल किंवा आपल्या कायदेशीर समस्येबद्दल बोलता तेव्हा सरकारला ती माहिती मिळू शकत नाही, नाही का? … मला वाटते की एआयसाठी आमच्याकडे समान कल्पना असावी.”

अल्टमॅनच्या म्हणण्यानुसार, ते वापरकर्त्यांना त्यांच्या उपचारांच्या इतिहासावर आणि इतर समस्यांमधील कायदेशीर समस्येवर एआय चॅटबटशी सल्लामसलत करण्यास अनुमती देईल. त्यांनी जोडले आहे की अमेरिकन अधिकारी सध्या वापरकर्त्याच्या डेटासाठी या कंपनीला सबमिट करू शकतात.

ते म्हणाले, “मला वाटते की मला आशावादी वाटते की आम्ही त्याचे महत्त्व समजून घेण्यासाठी सरकारला मिळवू शकतो.”

कार्लसनला विचारले गेले आहे की चॅटझप्टचा उपयोग लष्करी सैन्याद्वारे लोकांना इजा करण्यासाठी केला जाईल का, अल्टमॅनने थेट उत्तर दिले नाही.

“लष्करी लोक आज या बडबडांचा वापर करण्याच्या पद्धतीला माहित नाही … परंतु मला शंका आहे की बरेच सैन्य कर्मचारी सल्ल्यासाठी चॅटझप्टशी बोलत आहेत.”

नंतर, त्याने जोडले की “त्याबद्दल नक्की कसे वाटते” याची त्यांना खात्री नव्हती.

अमेरिकन सैन्यासाठी काम करण्यासाठी जनरेटर एआय ठेवण्यासाठी अमेरिकेच्या संरक्षण विभागाकडून 200 दशलक्ष डॉलर्सचा करार मिळालेल्या एआय कंपन्यांपैकी ओपनी ही एक कंपनी आहे. फर्मने ब्लॉग पोस्टमध्ये म्हटले आहे की ते अमेरिकन सरकारला राष्ट्रीय सुरक्षा, सहाय्य आणि उत्पादन रोडमॅप माहितीसाठी अमेरिकन सरकारला प्रवेश देईल.

कार्लसनने आपल्या मुलाखतीत अंदाज व्यक्त केला आहे की त्याचा सध्याचा मार्ग, जनरेटर एआय आणि सॅम ऑल्टमॅन विस्ताराने इतर कोणत्याही व्यक्तीपेक्षा जास्त ऊर्जा मिळवू शकेल, चॅटझेप्टला “धर्म” म्हणू शकेल.

प्रत्युत्तरादाखल, अल्टमॅन म्हणाले की, जनरेटर एआयच्या परिणामी त्याला उर्जेच्या घनतेबद्दल खूप चिंता आहे, परंतु आता त्याचा असा विश्वास आहे की एआयच्या परिणामी सर्व लोक “एक प्रचंड फ्लॅट” असतील.

“आता जे घडत आहे ते बरेच लोक आहेत जे चॅटझिप्ट आणि इतर चॅटबोट्स वापरतात आणि ते सर्व त्यांच्यात अधिक सक्षम आहेत

तथापि, मुख्य कार्यकारी अधिकारी म्हणाले की, एआय आज अस्तित्त्वात असलेल्या अनेक कार्ये, विशेषत: अल्पावधीतच काढून टाकेल असे त्यांना वाटते.