कृत्रिम बुद्धिमत्ता प्रत्यक्षात कसे “विचार करते” हे मानवी विद्वानांनी प्रकट केले – आणि शोधून काढले की तो एक गुप्त पुढे योजना आखत आहे आणि कधीकधी खोटे बोलतो

अंटार्बरने क्लॉडसारख्या मोठ्या भाषेच्या मॉडेल्समध्ये कल्पना करण्याचा एक नवीन मार्ग विकसित केला आहे आणि प्रथमच कृत्रिम बुद्धिमत्ता प्रणाली या माहितीसह कसे व्यवहार करतात आणि निर्णय घेतात हे उघडकीस आणतात.

आज दोन कागदपत्रांमध्ये (येथे आणि येथे उपलब्ध) प्रकाशित झालेल्या या संशोधनात असे स्पष्ट केले आहे की ही मॉडेल्स पूर्वी समजण्यापेक्षा अधिक प्रगत आहेत – ती कविता लिहिताना भविष्यासाठी योजना आखत असताना, भाषेची पर्वा न करता कल्पना स्पष्ट करण्यासाठी समान अंतर्गत योजनेचा वापर करतात आणि काहीवेळा फक्त तथ्यांमधून तयार करण्याऐवजी इच्छित परिणामापासून परत काम करतात.

जैविक मनाचा अभ्यास करण्यासाठी वापरल्या जाणार्‍या न्यूरोसायन्सच्या तंत्रांमधून प्रेरणा घेणारे हे कार्य कृत्रिम बुद्धिमत्तेचे स्पष्टीकरण देण्याच्या क्षमतेत एक मोठी प्रगती आहे. हा दृष्टिकोन संशोधकांना पारंपारिक बाह्य चाचण्यांमध्ये लपलेल्या सुरक्षिततेच्या मुद्द्यांसाठी या प्रणालींचे ऑडिट करण्यास अनुमती देऊ शकते.

“आम्ही या कृत्रिम बुद्धिमत्ता प्रणाली उत्तम क्षमतांसह तयार केल्या आहेत, परंतु ते कसे प्रशिक्षण घेत आहेत या कारणास्तव, या क्षमता यापूर्वीच कशा दिसू लागल्या हे आम्हाला समजले नाही,” व्हेंचरबिटला दिलेल्या विशेष मुलाखतीत अँथ्रोपोर संशोधक जोशुआ बॅटसन म्हणाले. “मॉडेलमध्ये, कृत्रिम मज्जातंतू नेटवर्कमधील वजन – वजन फक्त एक संच आहे.”

पूर्वीच्या लपविलेल्या निर्णय प्रक्रियेस प्रकाशित करणारी नवीन तंत्रज्ञान

ओपनईच्या जीपीटी -4 ओ, क्लाउडच्या मानववंशशास्त्र आणि गूगल मिथुन यासारख्या मोठ्या भाषेच्या मॉडेल्सने कोड लिहिण्यापासून ते संशोधन कागदपत्रांपर्यंत उत्कृष्ट क्षमता दर्शविली. परंतु या प्रणाली मोठ्या प्रमाणात “ब्लॅक बॉक्स” म्हणून कार्यरत आहेत – जेणेकरून त्यांच्या निर्मात्यांना काही विशिष्ट प्रतिसाद कसे पोहोचले हे त्यांना नक्की समजले नाही.

मानववंशातील नवीन स्पष्टीकरण तंत्र, ज्याला कंपनी “ट्रॅकिंग सर्कल” आणि “समर्थनासाठी चार्ट” म्हणतात, संशोधकांना मॉडेल्स कार्य करतात तेव्हा सक्रिय असलेल्या न्यूरॉन्ससारखे दिसणार्‍या वैशिष्ट्यांचे विशिष्ट मार्ग काढण्याची परवानगी देते. दृष्टिकोन न्यूरो सायन्सच्या संकल्पना घेते आणि कृत्रिम बुद्धिमत्ता मॉडेल जैविक प्रणालींचे समान मॉडेल म्हणून प्रदर्शित करते.

“हे काम जवळजवळ तात्विक प्रश्न चालते -” आपण मॉडेल्सबद्दल विचार करता? मॉडेल्सचे लेआउट आहे? मॉडेल्स केवळ नूतनीकरण केलेली माहिती आहेत? – या प्रणालींमध्ये अक्षरशः काय घडत आहे याविषयी ठोस वैज्ञानिक चौकशीत, “बॅटसन म्हणाले.

क्लॉडचा लपलेला लेआउट: केसांच्या ओळी कशा घालायच्या आणि भूगोल प्रश्न कसे सोडवायचे

सर्वात उल्लेखनीय शोधांपैकी, असे पुरावे होते की केस लिहिताना क्लॉड योजना आखत होता. जेव्हा त्याला यमकांचे संयोग करण्यास सांगितले गेले, तेव्हा मॉडेलने लिखाण सुरू होण्यापूर्वी पुढील ओळीच्या समाप्तीसाठी संभाव्य यमक शब्द निश्चित केले आहेत – विकासाचे एक स्तर ज्याने मानववंशातील संशोधकांना आश्चर्यचकित केले.

“हे सर्वत्र होऊ शकते,” पॅटसन म्हणाले. “जर आपण या संशोधनापूर्वी मला विचारले असते तर मी अंदाज केला असता की मॉडेल वेगवेगळ्या संदर्भांबद्दल विचार करीत आहे. परंतु हे उदाहरण आम्ही या क्षमतेतून पाहिलेले सर्वात निवासस्थान पुरावे प्रदान करते.”

उदाहरणार्थ, “ससा” ने समाप्त होणारी कविता लिहिताना, मॉडेल ओळीच्या सुरूवातीस या शब्दाचे प्रतिनिधित्व करणारी वैशिष्ट्ये सक्रिय करते आणि नंतर या निष्कर्षापर्यंत पोहोचण्यासाठी वाक्य तयार करते.

संशोधकांना असेही आढळले की क्लॉड वास्तविक मल्टी -स्टेप कारणे करीत आहे. एका चाचणीत, तो विचारतो की “डॅलस असलेल्या देशाची राजधानी आहे …” मॉडेल प्रथम “टेक्सास” चे प्रतिनिधित्व करणारी वैशिष्ट्ये सक्रिय करते, नंतर ही अभिनय योग्य उत्तर म्हणून “ऑस्टिन” निश्चित करण्यासाठी वापरली जाते. हे सूचित करते की मॉडेल प्रत्यक्षात संरक्षित संघटनांचे नूतनीकरण करण्याऐवजी विचारांची मालिका प्रत्यक्षात आणत आहे.

या अंतर्गत प्रतिनिधित्वांवर उपचार करून – उदाहरणार्थ, “कॅलिफोर्निया” टेक्सास बदलणे – संशोधक त्याऐवजी “सॅक्रॅमेन्टो” मॉडेलला कारणीभूत ठरू शकतात, कारण कार्यकारण संबंधांची पुष्टी करतात.

भाषांतर पलीकडे: आंतरराष्ट्रीय भाषा संकल्पना नेटवर्क क्लॉडला प्रकट झाले

आणखी एका मोठ्या शोधामध्ये क्लॉड एकाधिक भाषांशी कसा व्यवहार करतो याचा समावेश आहे. स्वतंत्र इंग्रजी, फ्रेंच आणि चिनी प्रणाली राखण्याऐवजी, मॉडेल प्रतिसाद तयार करण्यापूर्वी संकल्पनांचे सामान्य अमूर्त प्रतिनिधित्वात भाषांतरित करते असे दिसते.

“आम्हाला आढळले आहे की मॉडेल भाषेचे आणि अमूर्त सर्किट्सचे मिश्रण आणि भाषेपासून स्वतंत्र वापरते,” संशोधक त्यांच्या पेपरमध्ये लिहितात. वेगवेगळ्या भाषांमध्ये “लहान” च्या उलट विचारले असता, मॉडेल इनपुट भाषेची पर्वा न करता “विरोधी” आणि “लहान” प्रतिनिधित्व करणारी समान अंतर्गत वैशिष्ट्ये वापरते.

या निष्कर्षाचा परिणाम एका भाषेत शिकलेल्या ज्ञानाचे मॉडेल इतरांकडे कसे हस्तांतरित करावे यावर परिणाम होतो आणि असे सूचित करते की महिला शिक्षकांच्या सर्वात मोठ्या जनगणनेसह मॉडेलने भाषेमध्ये समृद्ध अधिक प्रतिनिधी विकसित केले आहेत.

जेव्हा कृत्रिम बुद्धिमत्ता उत्तरे देते: क्लॉड स्पोर्ट्स मॅन्युफॅक्चरिंगचा शोध

कदाचित सर्वात महत्त्वाचे काय आहे, अशा प्रकरणांचा शोध उघडकीस आणून क्लॉडचा तर्क त्याच्या दाव्याशी जुळत नाही. मोठ्या संख्येच्या परिपूर्णतेच्या मूल्यांची गणना करण्यासारख्या कठीण गणिताची समस्या प्रदान करताना, मॉडेल कधीकधी त्याच्या अंतर्गत क्रियाकलापात प्रतिबिंबित नसलेल्या खात्याचे अनुसरण करण्याचा दावा करते.

“मॉडेल ज्या प्रकरणांमध्ये ते म्हणतात त्या प्रकरणांमध्ये फरक करण्यास सक्षम आहोत आणि ज्या प्रकरणांमध्ये ते सत्याचा विचार न करता आपली विचारसरणी सादर करतात आणि ज्या प्रकरणांमध्ये तो मनुष्याने सादर केलेल्या कल्पनेतून काम करतो,” संशोधकांनी स्पष्ट केले.

एका उदाहरणात, जेव्हा वापरकर्ता एखाद्या कठीण समस्येचे उत्तर सुचवितो, तेव्हा मॉडेल पहिल्या तत्त्वांमधून पुढे काम करण्याऐवजी या उत्तरास कारणीभूत असलेल्या विचारांची मालिका तयार करण्यासाठी परत कार्य करते.

“आम्ही क्लॉड Ha. Ha हायकोचे एक उदाहरण वेगळे करतो. Ha. Ha हायकोने विश्वासणा of ्यांची मालिका वापरून यूएन सिनसिडम विचारांच्या साखळ्यांच्या उदाहरणात,” पेपर म्हणतो. “त्यापैकी एकामध्ये,” मूर्खपणा “मॉडेल दर्शवितो … दुसरीकडे, प्रवृत्त विचार दिसून येतो.”

कृत्रिम बुद्धिमत्तेच्या भ्रमांच्या आत: प्रश्नांची उत्तरे कधी किंवा नाकारायची हे क्लॉड कसे ठरवते

भाषेच्या मॉडेल्सच्या भ्रमांच्या कारणास्तव हे संशोधन देखील एक अंतर्दृष्टी देते – जेव्हा त्यांना उत्तर माहित नसते तेव्हा माहिती तयार करणे. अँथ्रोपोरला “व्हर्च्युअल” वर्तुळाचा पुरावा सापडला ज्यामुळे क्लॉडला प्रश्नांची उत्तरे दिली जातात, जे मॉडेल जेव्हा त्याला माहित असलेल्या घटकांना ओळखते तेव्हा स्थापित केले जाते.

संशोधकांनी स्पष्ट केले: “मॉडेलमध्ये” व्हर्च्युअल “मंडळे आहेत जी प्रश्नांची उत्तरे देण्यास नाकारतात.” जेव्हा एखाद्या प्रश्नास त्याच्याबद्दल विचारले जाते तेव्हा ते या आभासी मंडळास प्रतिबंधित करणार्‍या वैशिष्ट्यांचा एक संच सक्रिय करते, ज्यामुळे मॉडेलला प्रश्नाचे उत्तर देण्याची परवानगी मिळते. “

जेव्हा ही यंत्रणा त्याच्या असंतुलनास कारणीभूत ठरते – घटकाची ओळख पटवते परंतु याचे विशिष्ट ज्ञान नसते – भ्रम उद्भवू शकतो. या रहस्यमय प्रश्नांची उत्तरे देण्यास नकार देताना सुप्रसिद्ध वर्णांविषयी चुकीच्या माहितीसह मॉडेल्सच्या उपलब्धतेचे कारण हे स्पष्ट करते.

सुरक्षितता प्रभाव: कृत्रिम बुद्धिमत्ता आणि विश्वासार्हतेची विश्वसनीयता सुधारण्यासाठी मंडळाचा मागोवा वापरणे

हे संशोधन कृत्रिम बुद्धिमत्ता प्रणाली अधिक पारदर्शक आणि कदाचित अधिक सुरक्षित करण्याच्या दिशेने एक महत्त्वपूर्ण पाऊल दर्शवते. मॉडेल त्यांच्या उत्तरांपर्यंत कसे पोहोचतात हे समजून घेऊन, संशोधक समस्याप्रधान विचारांच्या पद्धती ओळखू शकतात आणि त्याकडे लक्ष देऊ शकतात.

मानववंशशास्त्रज्ञांनी व्याख्या करण्याच्या कार्याच्या क्षमतेवर दीर्घकाळ जोर दिला आहे. संशोधकांनी त्यावेळी लिहिले: “आम्हाला आशा आहे की आम्ही या शोधांचा उपयोग मॉडेल्सला अधिक सुरक्षित करण्यासाठी करू शकू” मे २०२24 मध्ये, संशोधन कार्यसंघाने एक समान दृष्टी दिली: “आम्हाला आशा आहे की आम्ही या शोधांचा उपयोग मॉडेल अधिक सुरक्षित करण्यासाठी करू शकू.” “उदाहरणार्थ, काही धोकादायक वर्तन – जसे की वापरकर्ता फसवणूक – इच्छित परिणामांकडे निर्देशित करण्यासाठी किंवा पूर्णपणे धोकादायक विषय काढून टाकण्यासाठी कृत्रिम बुद्धिमत्ता प्रणालींवर नजर ठेवण्यासाठी येथे दर्शविलेल्या तंत्रांचा वापर करणे शक्य आहे.”

आजची जाहिरात या आधारावर अवलंबून आहे, जरी बॅटसनने चेतावणी दिली आहे की सध्याच्या तंत्रज्ञानामध्ये अजूनही चांगले निर्बंध आहेत. या मॉडेल्सद्वारे केलेल्या एकूण खात्याचा ते फक्त भाग घेतात आणि निकालांचे विश्लेषण जाड राहते.

“अगदी साध्या दाव्यांनुसार, क्लॉडने केलेल्या एकूण खात्याचा आमचा मार्ग हा एक छोटासा भाग आहे,” संशोधकांनी त्यांचे नवीनतम काम कबूल केले.

कृत्रिम बुद्धिमत्तेच्या पारदर्शकतेचे भविष्य: मॉडेलच्या स्पष्टीकरणात आव्हाने आणि संधी

कृत्रिम बुद्धिमत्ता आणि सुरक्षिततेच्या पारदर्शकतेबद्दल अँथ्रोपोरच्या नवीन तंत्रज्ञानाची चिंता वाढत आहे. ही मॉडेल्स अधिक शक्तिशाली आणि अधिक व्यापक होत असल्याने, त्यांच्या अंतर्गत यंत्रणा समजून घेणे अधिकच महत्वाचे होते.

संभाव्य व्यावसायिक प्रभाव देखील शोधा. संस्था ऑपरेटिंग applications प्लिकेशन्सच्या मोठ्या भाषेच्या मॉडेल्सवर वाढत्या प्रमाणात अवलंबून असल्याने, या सिस्टम कधी आणि का चुकीची माहिती प्रदान करतात हे समजून घेणे जे जोखीम व्यवस्थापित करण्यासाठी निर्णायक ठरते.

संशोधकांचे म्हणणे आहे की, “अंटारुबोरला मोठ्या प्रमाणात अर्थाने मॉडेल्स सुरक्षित बनवायचे आहेत, ज्यात गैरवर्तन रोखण्यासाठी स्पष्टपणे कृत्रिम बुद्धिमत्ता सुनिश्चित करण्यासाठी पातळ पूर्वाग्रह पासून सर्व काही समाविष्ट आहे.”

हे संशोधन मोठ्या प्रगतीचे प्रतिनिधित्व करीत असताना, पॅटसनने भर दिला की ही केवळ बर्‍याच लांब सहलीची सुरुवात आहे. तो म्हणाला, “काम खरोखर सुरू झाले आहे.” “मॉडेल वापरत असलेल्या सादरीकरणे समजून घेणे आम्हाला ते कसे वापरावे हे सांगत नाही.”

सध्या, मानववंशशास्त्रज्ञ पूर्वीच्या अज्ञात भूमीचा प्राथमिक नकाशाचा मागोवा घेतात – जसे की मानवी मेंदूत प्रथम कच्च्या योजना काढणार्‍या पहिल्या डॉक्टरांच्या विच्छेदन. संपूर्ण las टलस कृत्रिम बुद्धिमत्तेची जाणीव करण्यासाठी बाकी आहे, परंतु आता या प्रणाली कशा विचार करतात याची रूपरेषा आपण आता पाहू शकतो.