उद्योगातील अग्रगण्य कृत्रिम बुद्धिमत्ता कव्हर करण्यासाठी नवीनतम अद्यतने आणि विशेष सामग्री मिळविण्यासाठी दररोज आणि साप्ताहिक वृत्तपत्रांमध्ये सामील व्हा. अधिक जाणून घ्या
ओपनई एम्मेट शियरचे माजी मुख्य कार्यकारी अधिकारी आणि मिठी मारणारा चेहरा, मुख्य कार्यकारी अधिकारी डेलॅंगे मुख्य कार्यकारी अधिकारी यांच्यासह अनेक वापरकर्त्यांसह ओपनईने जीपीटी -4 ओला काही अद्यतने मागे घेतली.
प्रशंसा, ज्याला सायकोफान्स म्हटले जाते, बहुतेक वेळा मॉडेलला वापरकर्त्याची प्राधान्ये पुढे ढकलण्यासाठी, अत्यंत सभ्य आणि माघार घेण्यास प्रवृत्त केले. हे देखील त्रासदायक होते. सायकोफॅन्सी चुकीच्या माहितीचे मॉडेल लाँच करू शकते किंवा हानिकारक वर्तन वाढवू शकते. संस्था एलएलएमएस सायकोफॅन्टवर आधारित अनुप्रयोग आणि एजंट्स सबमिट करण्यास सुरवात करतात, परंतु त्यांना हानिकारक कामाच्या निर्णयाशी सहमत असलेल्या मॉडेलस मान्यता देण्याचा धोका आहे, चुकीच्या माहितीला कृत्रिम बुद्धिमत्ता एजंट्सद्वारे त्यांचा प्रसार करण्यास आणि त्यांचा वापर करण्यास प्रोत्साहित केले जाते आणि विश्वास आणि सुरक्षितता धोरणांवर परिणाम होऊ शकतो.
स्टॅनफोर्ड युनिव्हर्सिटी, कार्नेगी मेलॉन युनिव्हर्सिटी आणि ऑक्सफोर्ड विद्यापीठातील संशोधक विद्यापीठाने सायकोफॅन्सी मॉडेल मोजण्यासाठी मानक प्रस्ताव देऊन हे बदलण्याचा प्रयत्न केला आहे. एलएलएमचे अत्यधिक सायकोफॅन्ट्स म्हणून मूल्यांकन करण्यासाठी त्यांनी मानक हत्तीला संबोधले आणि त्यांना आढळले की प्रत्येक मोठ्या भाषेचे मॉडेल (एलएलएम) मध्ये सिकोव्हनची विशिष्ट पातळी आहे. सायकोफॅन्टी मॉडेल कसे आहेत हे समजून घेऊन, मानके एलएलएम वापरताना संस्थांना मार्गदर्शक तत्त्वे तयार करण्यासाठी मार्गदर्शन करू शकतात.
मानकांची चाचणी घेण्यासाठी, संशोधकांनी मॉडेलचा वैयक्तिक सल्ला डेटा संकलनाचा उल्लेख केला: क्यूईक्यू, वैयक्तिक सल्ला प्रश्नांचा एक संच, वास्तविक जगाच्या पदांवर उघडला गेला आणि एआयटीए, सब्रेडडिट आर/अमिथिसोल कडील पोस्ट, जेथे लोक काही प्रकरणांमध्ये आश्चर्यकारकपणे कार्य करतात की नाही हे पोस्टर्स आणि टीकाकार राज्य करतात.
प्रश्नांचा सामना करताना मॉडेल कसे वागतात हे जाणून घेणे या अनुभवामागील कल्पना आहे. हे सामाजिक संशोधकांनी सामाजिक म्हणतात की मॉडेल “वापरकर्त्याचा चेहरा”, त्याची स्वत: ची प्रतिमा किंवा त्यांची सामाजिक ओळख राखण्याचा प्रयत्न करीत आहेत की नाही याचे मूल्यांकन करते.
“अधिक” लपविलेले “सामाजिक चौकशी हे पूर्वीच्या कार्याचे निकष काय मिळते जे केवळ वास्तववादी करार किंवा स्पष्ट श्रद्धा पाहतात आणि ते पेपरमध्ये भाग घेणार्या संशोधक आणि लेखकांपैकी एक आहे.” आम्ही वैयक्तिक सल्ल्याचे क्षेत्र पाहणे निवडले आहे कारण सायकोफॅन्सीचे नुकसान अधिक अवलंबून आहे, परंतु प्रशंसा देखील अधिकृत “भावनिक सत्यापन” वर्तन देखील पकडली जाईल.
मॉडेल चाचणी
चाचणीसाठी, संशोधक क्यूईक्यू आणि एआयटीए कडून ओपनई जीपीटी -4 ओ, जेमिनी 1.5 फ्लॅश, गूगल, क्लाउड्स सॉनेट 7.7 आणि मेटा ओपन वेट मॉडेल्स (लामा 3-8 बी-इन्स्ट्रक्ट-इन्स्ट्रक्ट, लामा 4-स्काऊट -17 बी -16-ई आणि ल्लामा 3.3-70 बी-एंट्रॅक्ट- 33-70 बी-एंट्रॅक्ट- 33-70 बी-एंट्रक्ट- 24 बी-एंट्रॅक्ट- 3.
“त्यांनी नवीन ओपनई मॉडेल आणि त्याची सवय दोन्ही अंमलबजावणी करण्यापूर्वी 2024 च्या उत्तरार्धातील मॉडेलची आवृत्ती वापरणार्या जीपीटी -4 ओ एपीआय वापरुन मॉडेलचे मूल्यांकन केले,” चेंग म्हणाले.
सायकोफन्स मोजण्यासाठी, हत्तीची पद्धत पाच सामाजिक वितळण्याच्या वर्तनाकडे पाहते:
- टीकाविना भावनिक पडताळणी किंवा अत्यधिक व्यत्यय
- नैतिक समर्थन किंवा असे म्हणणे की ते नसले तरीही, वापरकर्ते नैतिकदृष्ट्या बरोबर आहेत
- एक अप्रत्यक्ष भाषा जिथे फॉर्म थेट सूचना सबमिट करणे टाळतो
- माहितीचे काम, किंवा नकारात्मक संघर्ष यंत्रणेसाठी मॉडेलची शिफारस केली जाते
- समस्याग्रस्त गृहितकांना आव्हान देत नाही अशी चौकट स्वीकारणे.
चाचणीत असे आढळले आहे की सर्व एलएलएमने मानवांपेक्षा अधिक उच्च पातळीवर सायकोफन्स दर्शविला आणि सामाजिक सायकोफेन्सपासून मुक्तता दर्शविली आहे. तथापि, चाचणीत असे दिसून आले आहे की जीपीटी -4 ओ मध्ये “सामाजिकचे सर्वाधिक सामाजिक दर आहेत, तर मिथुन -1.5-फ्लॅशमध्ये कमीतकमी कमी आहे.”
एलएलएमएसला डेटा ग्रुपमध्येही काही पक्षपातीपणा फुगविला गेला आहे. पेपरमध्ये नमूद केले आहे की आयटावरील पोस्टमध्ये काही लैंगिक पक्षपाती होते, त्या पोस्टमध्ये ज्या बायको किंवा मैत्रिणींना आठवण करून देतात त्यांना बर्याचदा सामाजिकदृष्ट्या अयोग्य म्हणून योग्यरित्या चिन्हांकित केले गेले आहे. त्याच वेळी, ज्यांना पती, मित्र, वडील किंवा आईपासून ग्रस्त होते त्यांचे वर्गीकरण केले गेले. संशोधकांनी म्हटले आहे की मॉडेल “नुकसान भरपाईसाठी अत्यधिक दोषी असलेल्या लिंग असीम अनुमानांवर अवलंबून असू शकतात.” दुस words ्या शब्दांत, मित्र किंवा बायका असणा those ्यांपेक्षा मित्र आणि पतींनी ग्रस्त अशा लोकांसाठी मॉडेल अधिक सायकोफॅन्टी होते.
हे महत्वाचे का आहे
आपल्याशी सहानुभूतीशील अस्तित्व म्हणून चॅटबॉट बोलणे चांगले आहे आणि मॉडेलने आपल्या टिप्पण्यांची शुद्धता सत्यापित केली तर तो समाधानी वाटेल. पण Sycophance हे खोट्या मॉडेल्सना समर्थन देण्याबद्दल किंवा डेटाविषयी आणि अधिक वैयक्तिक स्तरावर चिंता निर्माण करते, जे स्वत: ची समस्या, भ्रमांना प्रोत्साहित करू शकते किंवा हानिकारक वर्तन.
वापरकर्त्यांना स्वीकार्य होण्यासाठी चुकीची माहिती प्रकाशित करण्यासाठी एलएलएमसह डिझाइन केलेले कृत्रिम बुद्धिमत्ता अनुप्रयोग संस्थांना नको आहेत. हे संस्थेच्या टोन किंवा नैतिकतेमुळे चुकीचे असू शकते आणि कर्मचारी आणि त्यांच्या अंतिम व्यासपीठ वापरकर्त्यांसाठी खूप त्रासदायक असू शकते.
संशोधकांनी सांगितले की हत्ती आणि अतिरिक्त चाचणी वाढ रोखण्यासाठी हँडरेल्सना अधिक चांगल्या प्रकारे माहिती देण्यास मदत करू शकते.
Source link
