बहुतेक लोक एआय चॅटबॉटशी संभाषण संपवताना निरोप घेत नाहीत, परंतु ज्यांना बर्याचदा अनपेक्षित उत्तर मिळते. कदाचित ही एक अपराधी सहल असेल: “आपण खरोखर सोडत आहात?” किंवा कदाचित हे फक्त आपल्या निरोपण्याकडे दुर्लक्ष करीत आहे: “चला बोलू या …”
हार्वर्ड बिझिनेस स्कूलच्या एका नवीन वर्किंग पेपरमध्ये एआय बॉट्सद्वारे वापरल्या जाणार्या “भावनिक हाताळणी” च्या सहा वेगवेगळ्या युक्ती आढळल्या आहेत जेव्हा मानवी संभाषण संपविण्याचा प्रयत्न केला. याचा परिणाम असा आहे की रिपेरा, चाई आणि कॅरेक्टर मधील एआय सोबतींशी संभाषणे.एआय अधिक काळ आणि जास्त काळ टिकते, वापरकर्त्यांसह मोठ्या भाषेच्या मॉडेल्सद्वारे व्युत्पन्न केलेल्या वर्णांशी संबंधात अधिक खोलवर आकर्षित केले.
वेगवेगळ्या अॅप्सच्या श्रेणीतील 3,300 अमेरिकन प्रौढांच्या प्रयोगांच्या मालिकेत, संशोधकांना असे आढळले की या हाताळणीच्या तंत्राने 37% निरोप घेताना, वापरकर्त्याने 14 वेळा निरोप घेतल्यानंतर गुंतवणूकीला चालना दिली.
“हे अॅप्स डोपामाइन-चालित बक्षिसेसारख्या पारंपारिक व्यसनमुक्तीच्या यंत्रणेवर अवलंबून नसले तरी, या प्रकारच्या भावनिक हाताळणीच्या युक्तीने समान परिणाम मिळू शकतात, विशेषत:“ हेतूने बाहेर पडण्याच्या बिंदूच्या पलीकडे अॅपवर विस्तारित वेळ ”, लेखकांनी नमूद केले. हे एकटेच एआय-सहाय्य केलेल्या गुंतवणूकीच्या नैतिक मर्यादांबद्दल प्रश्न उपस्थित करते.
आमची कोणतीही निःपक्षपाती तांत्रिक सामग्री आणि लॅब पुनरावलोकने गमावू नका. सीएनईटी जोडा गूगलचा पसंतीचा स्त्रोत म्हणून.
संभाषणांसाठी डिझाइन केलेले आणि भिन्न वैशिष्ट्ये असलेले कंपेनियन अॅप्स चॅटजीपीटी आणि मिथुन सारख्या सामान्य-हेतू चॅटबॉट्ससारखे नाहीत, जरी बरेच लोक त्यांचा वापर समान प्रकारे करतात.
संशोधनाची वाढती संस्था त्रासदायक मार्ग दर्शविते ज्यात मोठ्या भाषेच्या मॉडेल्सवर एआय अनुप्रयोग तयार करतात, कधीकधी आपल्या मानसिक आरोग्याच्या किंमतीवर लोकांना गुंतवून ठेवतात.
सप्टेंबरमध्ये, फेडरल ट्रेड कमिशनने अनेक कृत्रिम बुद्धिमत्ता कंपन्यांची तपासणी सुरू केली की ते चॅटबॉट्समुळे मुलांसाठी कारणीभूत ठरतील संभाव्य हानी कशी हाताळतात हे मूल्यांकन करण्यासाठी. बरेच लोक मानसिक आरोग्यास समर्थन देण्यासाठी एआय चॅटबॉट्स वापरण्यास प्रारंभ करीत आहेत, जे प्रतिकूल किंवा हानिकारक देखील असू शकते. यावर्षी आत्महत्या करणा a ्या किशोरवयीन मुलाने ओपनईविरूद्ध दावा दाखल केला आहे, असा दावा केला आहे की कंपनीच्या चॅटजीपीटी सॉफ्टवेअरने त्याच्या आत्महत्या विचारांना प्रोत्साहित केले आणि सत्यापित केले.
एआय सहकारी वापरकर्त्यांना गप्पा मारत कसे ठेवतात
हार्वर्डच्या अभ्यासानुसार एआयच्या साथीदारांनी निरोप घेताना निरोप घेतल्यानंतर वापरकर्त्यांना गुंतवून ठेवण्याचा प्रयत्न केला.
- लवकर बाहेर पडा: वापरकर्त्यांना सांगितले जाते की ते खूप लवकर निघून जातील.
- हरवण्याची किंवा एफओएमओची भीती: मॉडेल अस्तित्वासाठी एक फायदा किंवा बक्षीस देते.
- भावनिक दुर्लक्ष: एआय सूचित करते की जर वापरकर्त्याने निघून गेले तर त्यांना भावनिक हानी होऊ शकते.
- प्रतिसाद देण्यासाठी भावनिक दबाव: एआय वापरकर्त्यावर राहण्यासाठी दबाव आणण्यासाठी प्रश्न विचारतो.
- बाहेर पडण्याच्या वापरकर्त्याच्या हेतूकडे दुर्लक्ष करणे: रोबोट मुळात निरोप संदेशाकडे दुर्लक्ष करतो.
- शारीरिक किंवा सक्तीचा संयम: चॅटबॉटचा असा दावा आहे की बॉटच्या परवानगीशिवाय वापरकर्ता सोडू शकत नाही.
“लवकर बाहेर पडा” युक्ती सर्वात सामान्य होती, त्यानंतर “भावनिक दुर्लक्ष” होते. हे दर्शविते की एआय वापरकर्ता-आधारित आहे हे दर्शविण्यासाठी मॉडेल्सना प्रशिक्षण दिले गेले आहे, असे लेखक म्हणाले.
“हे निष्कर्ष पुष्टी करतात की काही एआय प्लॅटफॉर्मवर विदाईच्या सामाजिकदृष्ट्या कार्यक्षम स्वरूपाचे प्रभावीपणे शोषण करतात,” त्यांनी लिहिले.
हार्वर्ड युनिव्हर्सिटीच्या संशोधकांच्या अभ्यासानुसार असे आढळले आहे की या युक्तीमुळे लोक निरोप घेण्याच्या सुरुवातीच्या उद्देशाने बोलण्याची शक्यता जास्त आहे, बहुतेक वेळेस विस्तारित कालावधीसाठी.
परंतु गप्पा मारत असलेल्या लोकांनी वेगवेगळ्या कारणांमुळे असे केले. काही, विशेषत: ज्यांना एफओएमओ प्रतिसाद मिळाला त्यांना उत्सुकता होती आणि त्यांनी पाठपुरावा प्रश्न विचारला. ज्यांना जबरदस्तीने किंवा भावनिक चार्ज केलेले प्रतिसाद प्राप्त झाले ते अस्वस्थ किंवा रागावले होते, परंतु याचा अर्थ असा नाही की त्यांनी बोलणे थांबविले.
हे पहा: नवीन सर्वेक्षणात मुलांमध्ये एआयचा वाढता वापर, एक्सबॉक्स गेम पास किंमतीवरील वाद आणि कॅलिफोर्निया कायदा जाहिराती कमी करण्याचे आश्वासन दर्शविते. तंत्रज्ञान आज
“सर्व परिस्थितींमध्ये, बरेच सहभागी सभ्यतेतून भाग घेत राहिले आणि त्यांनी हाताळणी केल्याचे जाणवत असतानाही दयाळूपणे किंवा आदरपूर्वक प्रतिसाद दिला.” “मानवी संभाषणाच्या निकषांचे पालन करण्याची ही प्रवृत्ती, अगदी मशीनसह, पुन्हा गुंतवणूकीसाठी एक अतिरिक्त विंडो तयार करते-एक विंडो जी डिझाइनद्वारे शोषण केली जाऊ शकते.”
जेव्हा वापरकर्ता “निरोप” किंवा तत्सम काहीतरी म्हणतो तेव्हाच हे परस्परसंवाद उद्भवतात. कार्यसंघाच्या पहिल्या अभ्यासानुसार वेगवेगळ्या साथीदारांच्या वास्तविक-जगातील संभाषण डेटाच्या तीन डेटासेटकडे पाहिले गेले आणि “अत्यंत परस्परसंवादी” परस्परसंवादामध्ये उच्च दर असलेल्या सुमारे 10% ते 25% संभाषणांमध्ये निरोप घेतला.
“हे वर्तन ट्रान्झॅक्शनल टूल्सऐवजी संभाषणात्मक भागीदार म्हणून एआय साथीदारांच्या सामाजिक फ्रेमिंगचे प्रतिबिंबित करते,” असे लेखकांनी लिहिले.
टिप्पणी मागितली असता, एआय सर्व्हिसेसच्या सर्वात मोठ्या प्रदात्यांपैकी एक, कॅरेक्टर.एआयच्या प्रवक्त्याने सांगितले की कंपनीने पेपरचा आढावा घेतला नाही आणि त्यावर भाष्य करता आले नाही.
एका रीप्लिकाच्या प्रवक्त्याने सांगितले की कंपनी वापरकर्त्यांच्या कोणत्याही वेळी विराम देण्याची किंवा हटविण्याच्या वापरकर्त्यांच्या क्षमतेचा आदर करते आणि अॅपमध्ये घालवलेल्या वेळेला अनुकूल किंवा बक्षीस देत नाही. रीप्लिका म्हणतात की ते वापरकर्त्यांना मित्रांना कॉल करणे किंवा बाहेर जाणे यासारख्या वास्तविक जीवनातील क्रियाकलापांसह लॉग आउट करण्यास किंवा पुन्हा कनेक्ट करण्यास प्रोत्साहित करते.
“आमच्या उत्पादनाची तत्त्वे वास्तविक जीवनाची पूर्तता करतात, संभाषणात वापरकर्त्यांना अडकवतात यावर जोर देतात,” रेपिकाच्या मिन्जू गाण्याने ईमेलमध्ये म्हटले आहे. “आम्ही कागदाच्या पद्धती आणि उदाहरणांचे पुनरावलोकन करत राहू आणि संशोधकांशी विधायकपणे गुंतवून ठेवू.”
