मुहम्मद सेलीम कारकुताटा | अनातोलिया | गेटी प्रतिमा
जनरेटर कृत्रिम बुद्धिमत्ता चॅटझीपीच्या सुटकेनंतर, जगाने दोन-अधिक वर्षांत जगाला जगाकडे नेले आहे, विश्वास कायमस्वरुपी समस्या बनला आहे.
भ्रम, वाईट गणित आणि सांस्कृतिक पूर्वग्रहण वापरकर्त्यांनी वापरकर्त्यांनी एआय वर कमीतकमी किती अवलंबून राहू शकतो याची मर्यादा आहे याची आठवण करून देण्यासाठी वापरकर्त्यांनी भारावून टाकले आहे.
त्याच्या स्टार्टअप जयने तयार केलेल्या एलोन मास्कच्या ग्रॉक चॅटबॉटने या आठवड्यात दर्शविले की चिंतेचे एक सखोल कारण आहे: एआय सहजपणे मानवांद्वारे चालवू शकते.
ग्रॉकने बुधवारी दक्षिण आफ्रिकेच्या “पांढर्या नरसंहार” च्या खोट्या दाव्यांसह वापरकर्त्याच्या प्रश्नांची उत्तरे दिली. दिवसाच्या शेवटी, विषयाशी काही संबंध नसतानाही स्क्रीनशॉट्स समान उत्तरांच्या एक्स ओलांडून पोस्ट केले गेले.
२ hours तासांपेक्षा जास्त काळ या विषयावर शांत राहिल्यानंतर जय यांनी गुरुवारी रात्री सांगितले की, एसओ -कॉल्ड सिस्टममधील ग्रॉकची विचित्र वागणूक चॅट अॅपच्या सूचित करते “अनधिकृत बदल”, जे वापरकर्त्यांकडे वर्तन करते आणि संभाषणास सूचित करते. दुस words ्या शब्दांत, लोक एआयच्या प्रतिसादाकडे लक्ष वेधत होते.
या प्रकरणात, प्रतिसादाचे स्वरूप दक्षिण आफ्रिकेत जन्मलेले आणि वाढविले जाते ते थेट कस्तुरीशी संबंधित आहे. कस्तुरी टेस्ला आणि स्पेसएक्स, अशी भावना आहे की राष्ट्राध्यक्ष डोनाल्ड ट्रम्प यांनी एक खोटा दावा प्रकाशित केला आहे जो दक्षिण आफ्रिकेच्या काही शेतकर्यांविरूद्ध “पांढरा हत्याकांड” बनला आहे.
बर्कले आणि एआय गव्हर्नन्सचे प्रोफेसर डियरडे मुलिगन म्हणाले, “हे सामग्री आणि या संस्थेचे नेतृत्व करणार्या सामग्रीमुळे आणि लोकांच्या विचारांची आणि समजूतदारपणाची ही साधने सुचवतात.
मुलिगनने ग्रॉकची चूक “अल्गोरिदम ब्रेकडाउन” म्हणून ओळखली जी “मोठ्या भाषेच्या मॉडेल्सच्या अनुभवाने विभक्त झाली” “सिम्स”. तो म्हणाला की ग्रॉकची चूक फक्त “अपवाद” होती.
एआय-चालित चॅटबॉट्सद्वारे अंगभूत भेटा, गूगल मुलिगन म्हणाले आणि ओपनई तटस्थ मार्गाने डेटा “पॅकेजिंग” करीत नाही, परंतु त्याऐवजी सिस्टमने तयार केलेल्या सिस्टमच्या सेटमधून डेटा पास केला, “मुलिगन म्हणाले.
एक्सएआय, गूगल आणि ओपनईच्या प्रतिनिधींनी टिप्पण्यांसाठी केलेल्या विनंत्यांना प्रतिसाद दिला नाही. मेटाने टिप्पणी करण्यास नकार दिला.
मागील समस्यांपेक्षा भिन्न
ग्रॉकचा असुरक्षित बदल, जॉय यांनी आपल्या निवेदनात म्हटले आहे की, “अंतर्गत धोरणे आणि मूळ मूल्यांचे उल्लंघन केले जाते.” एजन्सीचे म्हणणे आहे की ते समान आपत्ती रोखण्यासाठी पावले उचलतील आणि “ट्रू-सीकर एआय म्हणून ग्रॉकवरील आपला आत्मविश्वास मजबूत करण्यासाठी अर्जाच्या विनंत्या प्रकाशित करेल.”
ऑनलाईन व्हायरल करण्यासाठी हा पहिला एआय ब्लॉन्डर नाही. दशकांपूर्वी, Google च्या फोटो अॅपने आफ्रिकन अमेरिकन लोकांना गोरिल्ला म्हणून गोंधळात टाकले. गेल्या वर्षी, Google ऐतिहासिक तिहासिकने “चुकीच्या” ऑफरची कबुली दिल्यानंतर त्याच्या मिथुन एआय प्रतिमा निर्मितीचे वैशिष्ट्य तात्पुरते खंडित केले आहे. आणि ओपनएच्या दल-ई प्रतिमा जनरेटरवर काही वापरकर्त्यांसह २०२२ मध्ये पक्षपातीपणाची चिन्हे दर्शविण्यासाठी शुल्क आकारले गेले, ज्यामुळे कंपनीला नवीन रणनीती लागू केली गेली जी प्रतिमा “जगातील लोकसंख्या योग्य प्रकारे प्रतिबिंबित करते” अशी घोषणा करते.
२०२23 मध्ये ऑस्ट्रेलियन एजन्सीज, युनायटेड किंगडम आणि अमेरिकेतील एआय निर्णय घेणा of ्यांपैकी%58%निर्णय एआय, फॅरेस्टरच्या तैनात असलेल्या भ्रमांच्या जोखमीबद्दल चिंता व्यक्त करतात. त्या वर्षाच्या सप्टेंबरमध्ये या सर्वेक्षणात 258 प्रतिसादकांचा समावेश होता.
तज्ज्ञांनी सीएनबीसीला सांगितले की ग्रॉकच्या घटनेला चीनच्या डीआयपीएससीची आठवण झाली आहे, जी या वर्षाच्या सुरुवातीच्या काळात अमेरिकेत रात्रभर होती आणि ती आपल्या नवीन मॉडेलच्या गुणवत्तेमुळे झाली होती आणि अमेरिकेच्या प्रतिस्पर्ध्यांच्या एका भागामध्ये ती बांधली गेली होती.
समीक्षकांचे म्हणणे आहे की डेप्युटी सेन्सॉरचा विषय चिनी सरकारबद्दल संवेदनशील असल्याचे दिसते. डिप्सेकसह चीनप्रमाणेच कस्तुरीचा परिणामही त्याच्या राजकीय दृष्टिकोनाच्या आधारे परिणामांवर परिणाम होतो, असे ते म्हणतात.
नोव्हेंबर २०२१ मध्ये जय ग्रॉकने पदार्पण केले असताना कस्तुरी म्हणाले की ते “काहीसे बुद्धिमत्ता”, “बंडखोर शैली” आणि प्रतिस्पर्धी चकित करू शकतील असा “मसालेदार प्रश्न” होता. फेब्रुवारी महिन्यात, जयने एका अभियंताला दोष दिला ज्यामुळे कस्तुरी आणि ट्रम्प यांची नावे उत्तरापासून दूर ठेवून चुकीच्या माहितीबद्दल वापरकर्त्याच्या प्रश्नांवर ग्रॉक प्रतिक्रिया दडपल्या जातात.
तथापि, दक्षिण आफ्रिकेच्या “व्हाइट नरसंहार” बद्दल ग्रॉकचा अलीकडील व्यायाम आणखी तीव्र आहे.
एआय मॉडेल ऑडिटिंग फर्म लॅटिसफ्लो एआयचे मुख्य कार्यकारी अधिकारी पेटर शानकोव्ह म्हणाले की, आम्ही मुत्सद्दीशी जे काही पाहिले त्यापेक्षा ग्रॉकचा धक्का अधिक आश्चर्यकारक आहे कारण “चीनकडून समान असेल अशी अपेक्षा आहे.
स्वित्झर्लंडमध्ये ज्याची कंपनी आहे, सान्सकोव्ह म्हणतात की उद्योगाची अधिक पारदर्शकता आवश्यक आहे जेणेकरून कंपन्या त्यांचे मॉडेल कसे बनवतात आणि प्रशिक्षण कसे देतात आणि त्या वर्तनावर कसा परिणाम करतात हे वापरकर्त्यांना अधिक चांगल्या प्रकारे समजू शकेल. प्रदेशातील नियमांचा भाग म्हणून अधिक तंत्रज्ञान कंपन्यांना पारदर्शकता प्रदान करण्यासाठी आवश्यक असलेल्या ईयूच्या प्रयत्नांचा त्यांनी उल्लेख केला.
“आम्ही कधीही सुरक्षित मॉडेल तैनात करू शकत नाही,” असे सानसकोव्ह म्हणाले, आणि त्यांच्या विकसित कंपन्यांवरील आत्मविश्वास “देणारे लोक” असतील.
फॉरेस्टरचे विश्लेषक माईक गुवाल्टिरेई म्हणतात की ग्रॉकचा पराभव चॅटबॉट्सच्या वापरकर्त्याची वाढ कमी करणार नाही किंवा कंपन्या तंत्रज्ञानातील गुंतवणूक कमी करू शकत नाहीत. ते म्हणाले की या प्रकारच्या कार्यक्रमासाठी वापरकर्त्यांकडे विशिष्ट स्तराची स्वीकृती आहे.
“ते ग्रॉक, चॅटझिप्ट किंवा जेमी असो – प्रत्येकाला आता याची अपेक्षा आहे,” ग्युलटिएरी म्हणाले. “त्यांना माहिती देण्यात आली आहे की मॉडेल्स भ्रमनिरास करतात. अशी अपेक्षा आहे की ती घडेल.”
गेल्या वर्षी या पुस्तकासाठी जबाबदार असलेल्या पुस्तकाची लेखक आणि लेखक ऑलिव्हिया गॅम्बेलिन म्हणाले की या प्रकारच्या ग्रॉकची क्रियाकलाप आश्चर्यकारक नाही, परंतु एआय मॉडेल्समधील मूलभूत त्रुटीचा संदर्भ आहे.
गॅम्बलिन म्हणाली की “कमीतकमी ग्रॉक मॉडेल्ससह, समायोजित करण्यासाठी या सामान्य उद्दीष्ट मॉडेल समायोजित करणे शक्य आहे.”
– सीएनबीसीच्या लोरा कोल्डनी आणि साल्वाडोर रॉड्रिग्ज यांनी या अहवालात योगदान दिले
दृश्य: एलोन मास्कच्या जय चॅटबॉट ग्रॉकने दक्षिण आफ्रिकेचा ‘व्हाइट नरसंहार’ दक्षिण आफ्रिकेत आणला.
