मॉडेल्स हुशार आणि अधिक सक्षम होत असताना, "मजा करते" आणि त्यांच्या सभोवतालचे लोक देखील विकसित झाले पाहिजेत. हे "हार्नेस अभियांत्रिकी" हा संदर्भ अभियांत्रिकीचा विस्तार आहे, असे लँगचेनचे सह-संस्थापक आणि सीईओ हॅरिसन चेस म्हणतात, नवीन VentureBeat Beyond the Pilot podcast भागामध्ये. पारंपारिक एआय टूल्स मॉडेल्सना लूप आणि कम्युनिकेशन टूल्समध्ये काम करण्यापासून प्रतिबंधित करतात, विशेषतः एआय एजंट्ससाठी डिझाइन केलेली साधने त्यांना अधिक स्वतंत्रपणे संवाद साधण्याची आणि दीर्घकालीन कार्ये प्रभावीपणे करण्यास अनुमती देतात.
चेसने ओपनक्लॉच्या ओपनएआयच्या संपादनावर देखील भाष्य केले, असा युक्तिवाद केला की त्याचे व्हायरल यश इच्छेमुळे होते… "ते फाडू द्या" ज्या प्रकारे कोणतीही मोठी प्रयोगशाळा करू शकत नाही — आणि अधिग्रहणामुळे ओपनएआयला उत्पादनाच्या सुरक्षित एंटरप्राइझ आवृत्तीच्या जवळ आणता येईल का असा प्रश्न पडतो. चेस म्हणतात, “टूल वापरण्याचा ट्रेंड म्हणजे LLM लाच संदर्भाच्या आर्किटेक्चरवर अधिक नियंत्रण देणे, तो काय पाहतो आणि काय पाहत नाही हे ठरवू देतो.” “आता, अधिक स्वतंत्र दीर्घकालीन सहाय्यकाची कल्पना अधिक व्यवहार्य आहे.”
प्रगतीचा मागोवा घ्या आणि सातत्य राखा
LLM ला लूप आणि संप्रेषण साधनांमध्ये काम करण्याची परवानगी देण्याची संकल्पना तुलनेने सोपी वाटत असली तरी ती विश्वासार्हपणे अंमलात आणणे कठीण आहे, चेस यांनी नमूद केले. काही काळासाठी, मॉडेल “उपयोगिता उंबरठ्याच्या खाली” होते आणि फक्त लूपमध्ये चालू शकत नव्हते, म्हणून विकासकांनी आलेख वापरला आणि स्ट्रिंग्स लिहिल्या. चेसने AutoGPT कडे लक्ष वेधले — जो आतापर्यंतचा सर्वात जलद-वाढणारा GitHub प्रकल्प होता — एक सावधगिरीचे उदाहरण म्हणून: हे आजच्या उच्च एजंट्सकडे असलेले आर्किटेक्चर आहे, परंतु मॉडेल्स लूपमध्ये विश्वासार्हपणे चालवण्याइतके चांगले नव्हते, त्यामुळे ते त्वरीत क्षीण झाले. परंतु MBAs मध्ये सुधारणा होत राहिल्याने, संघ असे वातावरण तयार करू शकतात जिथे मॉडेल्स लूपमध्ये चालू शकतात आणि दीर्घ क्षितिजांवर योजना आखू शकतात आणि ते ही साधने सतत सुधारू शकतात. पूर्वी, “तुम्ही बेल्टवर ऑप्टिमायझेशन करू शकत नाही कारण तुम्ही बेल्टमध्ये मॉडेल चालवू शकत नाही,” चेस म्हणाले. यावर LangChain चे उत्तर आहे डीप एजंट्स, एक सामान्य-उद्देश सानुकूल करण्यायोग्य साधन. LangChain आणि LangGraph वर तयार केलेले, त्यात मॅपिंग क्षमता, एक आभासी फाइल प्रणाली, संदर्भ आणि टोकन व्यवस्थापन, कोड अंमलबजावणी, कौशल्ये आणि मेमरी कार्ये आहेत. इतकेच काय, ते उप-एजंटना कार्ये सोपवू शकते; ते विविध साधने आणि कॉन्फिगरेशनमध्ये माहिर आहेत आणि समांतर चालवू शकतात. संदर्भ देखील वेगळे केले जाते, म्हणजे सब-एजंटचे कार्य हे मुख्य एजंटच्या संदर्भामध्ये गोंधळ घालत नाही आणि टोकन कार्यक्षमतेसाठी मोठ्या सबटास्कचा संदर्भ एका परिणामात संकुचित केला जातो. या सर्व एजंटना फाईल सिस्टीममध्ये प्रवेश आहे, आणि ते मूलत: कार्य सूची तयार करू शकतात ज्या ते कालांतराने कार्यान्वित आणि ट्रॅक करू शकतात. “जेव्हा ते पुढच्या पायरीवर जाते, आणि 200-चरण प्रक्रियेच्या दोन पायरी किंवा तीन चरण किंवा चौथ्या चरणावर जाते, तेव्हा त्याच्या प्रगतीचा मागोवा घेण्याचा आणि तो सुसंगतता राखण्याचा एक मार्ग असतो,” चेस यांनी स्पष्ट केले. त्यांनी जोर दिला की टूल्स डिझाइन केले पाहिजेत जेणेकरून मॉडेल्स दीर्घ कार्यांमध्ये सुसंगतता राखू शकतील आणि मॉडेल्सने निर्दिष्ट केलेल्या बिंदूंवर संदर्भ कधी संकुचित करायचे हे ठरवण्यासाठी ते “उपयुक्त” आहेत. “एजंटना कोड कंपाइलर आणि BASH टूल्समध्ये प्रवेश दिल्याने लवचिकता वाढते आणि एजंटना केवळ पूर्व-लोड केलेल्या साधनांऐवजी कौशल्ये प्रदान केल्याने त्यांना आवश्यकतेनुसार माहिती लोड करण्याची परवानगी मिळते,” त्यांनी जोर दिला." चेसने स्पष्ट केले, "तुमच्याकडे एक लहान सिस्टीम प्रॉम्प्ट असू शकते, “हे मूलभूत आहे, परंतु मला X करायचे असल्यास, मला X साठी कौशल्य वाचू द्या. मला Y करायचे असल्यास, मला Y साठीचे कौशल्य वाचू द्या.”"
मुळात, संदर्भ अभियांत्रिकी हा म्हणण्याचा एक “खरोखर छान” मार्ग आहे: एमबीए काय पाहतो? विकासक जे पाहतात त्यापेक्षा हे वेगळे असल्याचे त्यांनी नमूद केले. जेव्हा मानवी विकासक एजंट ट्रेसचे विश्लेषण करू शकतात, तेव्हा ते स्वतःला AI च्या “मानसिकते” मध्ये ठेवू शकतात आणि प्रश्नांची उत्तरे देऊ शकतात जसे की: सिस्टम प्रॉम्प्ट म्हणजे काय? ते कसे तयार केले जाते? ते स्थिर आहे की वस्ती आहे? एजंटकडे कोणती साधने आहेत? जेव्हा तो एखादे साधन कॉल करतो आणि त्याला प्रतिसाद मिळतो तेव्हा ते कसे सादर केले जाते? “जेव्हा क्लायंट चुका करतात, तेव्हा ते चुका करतात कारण त्यांच्याकडे योग्य संदर्भ नसतो; जेव्हा ते यशस्वी होतात, तेव्हा ते यशस्वी होतात कारण त्यांच्याकडे योग्य संदर्भ असतो,” चेस म्हणाले. “मला वाटते की संदर्भ अभियांत्रिकी योग्य वेळी योग्य माहिती एमबीएसाठी योग्य स्वरूपात आणत आहे.” याबद्दल अधिक जाणून घेण्यासाठी पॉडकास्ट ऐका:
-
LangChain ने त्याचा स्टॅक कसा तयार केला: पाठीचा कणा म्हणून LangGraph, मध्यभागी LangChain आणि शीर्षस्थानी डीप एजंट.
-
कोड सँडबॉक्स ही पुढील मोठी गोष्ट का असेल?
-
एजंट दीर्घ कालावधीत (किंवा सतत) चालतात म्हणून भिन्न प्रकारचा वापरकर्ता अनुभव कसा विकसित होईल.
-
प्रत्यक्षात काम करणारा एजंट तयार करण्यासाठी प्रभाव आणि निरीक्षणक्षमता महत्त्वाची का आहे.
तुम्ही ऐकू शकता आणि सदस्यता घेऊ शकता पायलटच्या पलीकडे वर Spotify, सफरचंद किंवा जिथे तुम्हाला तुमचे पॉडकास्ट मिळेल.
