स्वत: ची टीका करण्याच्या आश्चर्यकारक कृतीमध्ये, पॉवर ट्रान्सफॉर्मर तंत्रज्ञानाच्या अभियंत्यांपैकी एक चॅटजीपीटी, क्लॉडप्रत्येक प्रमुख AI शिस्तीने या आठवड्यात उद्योग नेत्यांच्या प्रेक्षकांना सांगितले की AI संशोधन गंभीरपणे मर्यादित झाले आहे — आणि ते शोध लावण्यापासून दूर जात आहे.
लिओन जोन्सज्याने 2017 पेपरचे सह-लेखक केले "लक्ष आपल्याला आवश्यक आहे" आणि नाव देखील तयार केले "अडॅप्टर," मध्ये त्यांनी एक विलक्षण स्पष्ट मूल्यांकन दिले TED कृत्रिम बुद्धिमत्ता परिषद मंगळवारी सॅन फ्रान्सिस्को मध्ये: तरी अभूतपूर्व गुंतवणूक AI मध्ये टॅलेंटचा प्रवाह होताना, हे क्षेत्र एकाच आर्किटेक्चरल पध्दतीच्या आसपास कॅल्सिफाइड बनले आहे, जे पुढील मोठे यश मिळवू पाहणाऱ्यांना रोखू शकते.
"इतके लक्ष, संसाधने, पैसा आणि प्रतिभा कधीच नव्हती हे तथ्य असूनही, यामुळे आमच्या संशोधनाची व्याप्ती कमी झाली आहे," जोन्स यांनी उपस्थितांना सांगितले. तो दोषी असल्याचे सांगितले "प्रचंड प्रमाणात दबाव" परताव्याची मागणी करणाऱ्या गुंतवणूकदारांकडून आणि गर्दीने भरलेल्या क्षेत्रात उभे राहण्यासाठी स्क्रॅम्बल करणारे संशोधक.
कृत्रिम बुद्धिमत्तेच्या इतिहासात जोन्सच्या भूमिकेमुळे चेतावणी विशेष महत्त्व देते. द ट्रान्सफॉर्मर अभियांत्रिकी Google मधील त्याचा विकास शाखा जनरेटिव्ह AI बूमचा पाया बनला, ज्यामुळे लेख लिहिता येईल, प्रतिमा निर्माण करता येईल आणि मानवासारख्या संभाषणात गुंतू शकणाऱ्या प्रणालींना सक्षम केले जाईल. त्याचा पेपर होता हे 100,000 पेक्षा जास्त वेळा उद्धृत केले गेले आहेया शतकातील सर्वात प्रभावशाली संगणक विज्ञान प्रकाशनांपैकी एक बनवणे.
आता, टोकियो-आधारित कंपनीचे सीटीओ आणि सह-संस्थापक म्हणून समनजोन्स स्पष्टपणे त्याच्या निर्मितीचा त्याग करतो. "या वर्षाच्या सुरुवातीला मी वैयक्तिकरित्या निर्णय घेतला की मी ट्रान्सफॉर्मरवर घालवणारा वेळ नाटकीयपणे कमी करणार आहे;" तो म्हणाला. "मी आता पुढील मोठी गोष्ट शोधत आहे आणि स्पष्टपणे शोधत आहे."
ट्रान्सफॉर्मर पायनियरच्या मते, अधिक एआय फंडिंगमुळे कमी नाविन्यपूर्ण संशोधन का झाले आहे
जोन्सने एआय संशोधन समुदायाचे चित्र रेखाटले ज्याला तो विरोधाभास म्हणतो: अधिक संसाधनांमुळे कमी सर्जनशीलता येते. संशोधक ते आहेत की नाही हे सतत तपासत असल्याचे त्यांनी वर्णन केले "स्कूप" समान कल्पनांवर काम करणाऱ्या स्पर्धकांद्वारे, आणि जोखमीच्या, संभाव्यत: परिवर्तनीय प्रकल्पांपेक्षा सुरक्षित, प्रकाशित करण्यायोग्य प्रकल्प निवडणाऱ्या अभ्यासकांनी.
"जर तुम्ही आता प्रमाणित AI संशोधन करत असाल, तर तुम्हाला असे गृहीत धरावे लागेल की कदाचित तीन किंवा चार इतर गट अगदी सारखे काहीतरी करत असतील किंवा कदाचित अगदी समान गोष्ट करत असतील," जोन्स म्हणाला, जेथे वातावरण वर्णन "दुर्दैवाने, हा दबाव विज्ञानासाठी हानिकारक आहे, कारण लोक त्यांच्या पेपरची घाई करतात आणि त्यामुळे सर्जनशीलतेचे प्रमाण कमी होते."
त्याने स्वतः कृत्रिम बुद्धिमत्तेशी एक साधर्म्य रेखाटले – "अन्वेषण विरुद्ध शोषण" अल्गोरिदम उपाय कसे शोधतात हे नियंत्रित करणारे ट्रेड-ऑफ. जेव्हा एखादी प्रणाली खूप शोषण करते आणि खूप कमी एक्सप्लोर करते, तेव्हा तिला उत्कृष्ट पर्याय नसताना मध्यम स्थानिक उपाय सापडतात. "एआय इंडस्ट्रीमध्ये आता आम्ही नक्कीच अशा परिस्थितीत आहोत," जोन्स यांनी युक्तिवाद केला.
परिणाम चिंताजनक आहेत. जोन्सला ट्रान्सफॉर्मर्सच्या अगदी आधीचा काळ आठवतो, जेव्हा संशोधक अतिरिक्त नफा मिळविण्यासाठी वारंवार येणाऱ्या न्यूरल नेटवर्क्स – पूर्वीचे प्रभावी आर्किटेक्चर – सतत बदलत होते. ट्रान्सफॉर्मर आल्यावर अचानक हे सर्व काम अप्रासंगिक वाटू लागले. "तुमच्या मते, या संशोधकांनी आवर्ती न्यूरल नेटवर्क सुधारण्यासाठी किती वेळ घालवला असता जर त्यांना माहित असते की ट्रान्सफॉर्मरसारखे काहीतरी अगदी कोपऱ्यात आहे?" त्याने विचारले.
मैदानात या पॅटर्नची पुनरावृत्ती होत असल्याची त्याला चिंता आहे. "मला काळजी वाटते की आपण आता अशा परिस्थितीत आहोत जिथे आपण फक्त एका आर्किटेक्चरवर लक्ष केंद्रित करत आहोत आणि ते बदलत आहोत आणि वेगवेगळ्या गोष्टींचा प्रयत्न करत आहोत, जेणेकरून कोपर्यात एक प्रगती होऊ शकेल."
हाऊ अटेन्शन इज ऑल यू नीड हे स्वातंत्र्यातून जन्माला आले आहे, दबावातून नाही
त्याच्या मुद्द्यावर जोर देण्यासाठी, जोन्सने अशा परिस्थितीचे वर्णन केले ज्याने ट्रान्सफॉर्मर्सला प्रथम स्थानावर उदयास येऊ दिले, जे आजच्या वातावरणाशी अगदी भिन्न आहे. प्रकल्प असल्याचे त्यांनी सांगितले "अतिशय सेंद्रिय, खालपासून वरपर्यंत," पासून जन्माला आले "लंच दरम्यान बोलणे किंवा ऑफिसमध्ये व्हाईटबोर्डवर यादृच्छिकपणे लिहिणे."
निर्णायकपणे, "प्रत्यक्षात आमच्याकडे चांगली कल्पना नव्हती, आम्हाला आमचा वेळ काढून त्यावर काम करण्याचे स्वातंत्र्य होते आणि मुख्य म्हणजे आमच्यावर व्यवस्थापनाचा कोणताही दबाव नव्हता;" जोन्स यांनी सांगितले. "कोणत्याही विशिष्ट प्रकल्पावर काम करण्याचे कोणतेही दडपण नाही, विशिष्ट पातळी वाढविण्यासाठी अनेक शोधनिबंध प्रकाशित करा."
हे स्वातंत्र्य आज मोठ्या प्रमाणावर अनुपस्थित आहे, जोन्सने नमूद केले. अगदी संशोधकांना खगोलशास्त्रीय पगारासाठी भरती करण्यात आले होते – "शब्दशः एक दशलक्ष डॉलर्स एक वर्ष, काही प्रकरणांमध्ये" – जोखीम घेण्यास त्याला सक्षम वाटत नाही. "तुम्हाला असे वाटते की जेव्हा ते त्यांचे नवीन स्थान सुरू करतात, तेव्हा त्यांना त्यांच्या विचित्र कल्पना आणि अधिक चिंतनशील कल्पनांचा प्रयोग करण्यास सक्षम वाटते किंवा त्यांना त्यांची योग्यता सिद्ध करण्यासाठी आणि पुन्हा एकदा कमी लटकणारे फळ मिळविण्यासाठी जबरदस्त दबाव जाणवतो?" त्याने विचारले.
एआय लॅब संशोधन स्वातंत्र्यामुळे कोट्यवधी डॉलरच्या पगारावर का बाजी मारेल?
जोन्सचा उपाय जाणूनबुजून उत्तेजक आहे: बार वाढवा "डायल एक्सप्लोर करा" आणि स्पर्धात्मक खर्चावरही, परिणाम उघडपणे सामायिक करा. त्याने आपल्या भूमिकेची विडंबना मान्य केली. "ट्रान्सफॉर्मर्सच्या निर्मात्याला स्टेजवर उभे राहून तो त्यांच्यापासून पूर्णपणे आजारी असल्याचे तुम्हाला सांगणे हे थोडे विवादास्पद वाटू शकते, परंतु ते पुरेसे आहे, बरोबर? कदाचित सात लोकांचा अपवाद वगळता मी इतर कोणापेक्षा जास्त काळ त्यावर काम करत आहे."
मध्ये समनजोन्स म्हणाले की, निसर्ग-प्रेरित संशोधन आणि प्रकाशनांचा पाठलाग करण्यासाठी किंवा प्रतिस्पर्ध्यांशी थेट स्पर्धा करण्यासाठी कमीतकमी दबावासह ते पूर्व-परिवर्तन वातावरण पुन्हा तयार करण्याचा प्रयत्न करीत आहे. अभियंता ब्रायन च्युंग यांनी संशोधकांना एक मंत्र दिला: "तुम्हाला फक्त ते संशोधन करायचे आहे जे तुम्ही केले नसते तर झाले नसते."
याचे एक उदाहरण म्हणजे सकना "सतत विचार करणारे यंत्र," जे मेंदूसारखे सिंक्रोनाइझेशन न्यूरल नेटवर्कमध्ये समाकलित करते. ही कल्पना मांडणाऱ्या एका कर्मचाऱ्याने जोन्सला सांगितले की पूर्वीच्या नियोक्ते किंवा शैक्षणिक पदांवर वेळ वाया घालवू नये म्हणून त्याला संशयाचा आणि दबावाचा सामना करावा लागेल. सकाना येथे, जोन्सने त्याला शोधण्यासाठी एक आठवडा दिला. प्रकल्प ठळकपणे यशस्वी झाला नोरेबसएक प्रमुख कृत्रिम बुद्धिमत्ता परिषद.
जोन्सने असेही सुचवले की स्वातंत्र्याने रोजगारामध्ये नुकसान भरपाई दिली. "प्रतिभा मिळविण्याचा हा खरोखर चांगला मार्ग आहे," त्यांनी शोधक वातावरणाबद्दल सांगितले. "याचा विचार करा, प्रतिभावान, हुशार आणि महत्त्वाकांक्षी लोक नैसर्गिकरित्या अशा प्रकारचे वातावरण शोधतील."
ॲडॉप्टरचे यश पुढील AI प्रगतीमध्ये अडथळा ठरू शकते
कदाचित सर्वात प्रक्षोभकपणे, जोन्सने सुचवले की ट्रान्सफॉर्मर्स त्यांच्या स्वत: च्या यशाचे बळी असू शकतात. "सध्याचे तंत्रज्ञान इतके सामर्थ्यवान आणि लवचिक आहे या वस्तुस्थितीमुळे… आम्हाला अधिक चांगले शोधण्यापासून रोखले आहे," तो म्हणाला. "सध्याचे तंत्रज्ञान अधिक वाईट असल्यास, अधिक लोक चांगले शोधतील असे कारण आहे."
त्याने हे स्पष्ट करण्यासाठी सावधगिरी बाळगली की तो चालू असलेल्या ट्रान्सफॉर्मर संशोधनास नाकारत नाही. "सध्याच्या तंत्रज्ञानावर अजून खूप महत्त्वाचं काम करायचं आहे आणि येत्या काही वर्षांत खूप मोलाचं काम करायचं आहे," तो म्हणाला. "मी फक्त असे म्हणत आहे की सध्या आपल्याकडे असलेली प्रतिभा आणि संसाधने पाहता आपण बरेच काही करू शकतो."
स्पर्धेपेक्षा सहकार्य हा त्यांचा अंतिम संदेश होता. "प्रामाणिकपणे, माझ्या दृष्टिकोनातून, ही स्पर्धा नाही;" जोन्स यांनी समारोप केला. "आपल्या सर्वांचे ध्येय एकच आहे. आपल्या सर्वांना ही तांत्रिक प्रगती पहायची आहे जेणेकरून आपल्या सर्वांना त्याचा फायदा होऊ शकेल. म्हणून, जर आपण सर्वांनी एकत्रितपणे डिस्कव्हरी डायल उचलू शकलो आणि नंतर आपल्याला जे सापडले ते उघडपणे सामायिक करू शकलो, तर आपण आपले ध्येय अधिक जलद गाठू शकू."
कृत्रिम बुद्धिमत्ता अन्वेषण समस्या उच्च स्टेक्स
ही विधाने कृत्रिम बुद्धिमत्तेच्या निर्णायक क्षणी येतात. उद्योग फक्त मोठ्या ट्रान्सफॉर्मर मॉडेल्स तयार करत असल्याच्या वाढत्या पुराव्यांशी झगडत आहे तुम्ही कदाचित घटत्या परताव्याच्या जवळ येत आहात. अग्रगण्य संशोधकांनी सध्याच्या मॉडेलला मूलभूत मर्यादा आहेत की नाही यावर सार्वजनिकपणे वादविवाद करण्यास सुरुवात केली आहे, काहींनी असे सुचवले आहे की आर्किटेक्चरल नवकल्पना – केवळ स्केल नव्हे – अधिक सक्षम एआय सिस्टमकडे प्रगती सुरू ठेवण्यासाठी आवश्यक असेल.
जोन्सच्या चेतावणीवरून असे सूचित होते की त्या नवकल्पना शोधण्यासाठी कृत्रिम बुद्धिमत्तेमध्ये अलीकडील भरभराटीस कारणीभूत असलेल्या समान प्रोत्साहन संरचना नष्ट करणे आवश्यक आहे. सह एआय डेव्हलपमेंटमध्ये दरवर्षी कोट्यवधी डॉलर्स ओतले जातात गुप्तता आणि जलद प्रकाशन चक्र चालविणाऱ्या प्रयोगशाळांमधील तीव्र स्पर्धेमुळे, त्यांनी वर्णन केलेले अन्वेषण संशोधन वातावरण अधिक दुर्गम दिसते.
तथापि, त्याच्या अंतर्गत दृश्यात असामान्य वजन आहे. आता या क्षेत्रात वर्चस्व गाजवणारे तंत्रज्ञान तयार करण्यात मदत करणारी व्यक्ती म्हणून, जोन्सला हे समजले आहे की यशस्वी नवकल्पना साध्य करण्यासाठी काय करावे लागेल आणि हा दृष्टिकोन सोडून दिल्याने उद्योगाला काय धोका आहे. ट्रान्सफॉर्मर्सपासून दूर जाण्याचा त्याचा निर्णय – ज्या वास्तूने त्याची प्रतिष्ठा निर्माण केली – अशा संदेशात विश्वासार्हता जोडते जी कदाचित विरोधाभासी भूमिकेसारखे वाटू शकते.
शक्तिशाली एआय खेळाडू कॉलकडे लक्ष देतील की नाही हे अनिश्चित आहे. परंतु जोन्सने काय धोक्यात आहे याचे स्पष्ट स्मरण दिले: पुढील ट्रान्सफॉर्मर-स्तरीय प्रगती अगदी कोपऱ्याच्या आसपास असू शकते, ज्याचा शोध घेण्याच्या स्वातंत्र्यासह संशोधकांनी शोध घेतला. किंवा हजारो संशोधक आर्किटेक्चरमध्ये वाढीव सुधारणा प्रकाशित करण्यासाठी धडपडत असल्याने ते अनपेक्षित राहू शकते, जे जोन्सच्या शब्दात, त्याच्या निर्मात्यांपैकी एक, "पूर्णपणे आजारी."
शेवटी, तो ट्रान्सफॉर्मर्सवर जवळजवळ इतरांपेक्षा जास्त काळ काम करत आहे. त्याला पुढे जाण्याची वेळ आली तेव्हा कळेल.
