एआयला एंटरप्राइझमध्ये आणण्याच्या शर्यतीत, एक लहान पण चांगल्या अर्थसहाय्यित स्टार्टअपने एक धाडसी दावा केला आहे: जटिल उद्योगांमध्ये AI दत्तक घेण्यास अडचण आणणारी समस्या स्वतः मॉडेल्सची कधीच नव्हती.
Contextual AI, बेझोस एक्स्पिडिशन्स आणि बेन कॅपिटल व्हेंचर्ससह गुंतवणूकदारांचा पाठिंबा असलेल्या 2-1/2 वर्षीय कंपनीने सोमवारी एजंट कम्पोजरचे अनावरण केले, एरोस्पेस, सेमीकंडक्टर उत्पादन आणि इतर तांत्रिकदृष्ट्या मागणी असलेल्या क्षेत्रात अभियंत्यांना मदत करण्यासाठी डिझाइन केलेले व्यासपीठ कृत्रिम बुद्धिमत्ता तयार करण्यासाठी तयार केले गेले जे ऑटोमॅटिक एजंट्सचे दीर्घकालीन ज्ञान मिळवू शकतात. ऑटोमेशन
ही घोषणा एंटरप्राइझ AI साठी निर्णायक क्षणी आली आहे. ChatGPT ने एंटरप्राइझ AI उपक्रमांची लाट प्रज्वलित केल्यानंतर चार वर्षांनंतर, अनेक संस्था अजूनही पायलट प्रोग्राममध्ये अडकल्या आहेत, पायलट प्रकल्पांना पूर्ण-प्रमाणात उत्पादनात नेण्यासाठी धडपडत आहेत. मुख्य वित्तीय अधिकारी आणि व्यवसाय युनिटचे नेते अंतर्गत प्रयत्नांमुळे अधीर होत होते ज्याने लाखो डॉलर्स खर्च केले परंतु मर्यादित परतावा दिला.
Connectual AI चे CEO Doi Kyila यांचा विश्वास आहे की उद्योगाने चुकीच्या अडथळ्यावर लक्ष केंद्रित केले आहे. "या टप्प्यावर मॉडेल जवळजवळ एक वस्तू बनले आहे," केला यांनी वेंचरबीटला दिलेल्या मुलाखतीत सांगितले. "अडचण संदर्भ आहे – एआय खरोखर तुमची कागदपत्रे, तपशील आणि संस्थात्मक ज्ञान ॲक्सेस करू शकते? ही समस्या आम्ही सोडवतो."
एंटरप्राइझ एआय अयशस्वी का होत आहे आणि कोणत्या वाढीव पुनर्प्राप्ती पिढीचे निराकरण करायचे होते
संदर्भित AI काय प्रयत्न करत आहे हे समजून घेण्यासाठी, आधुनिक AI च्या विकासासाठी मध्यवर्ती बनलेली संकल्पना समजून घेणे उपयुक्त आहे: पुनर्प्राप्ती वाढीव जनरेशन, किंवा RAG.
जेव्हा OpenAI, Google किंवा Anthropic सारख्या मोठ्या भाषेचे मॉडेल प्रतिसाद निर्माण करतात, तेव्हा ते प्रशिक्षणादरम्यान अंतर्भूत केलेल्या ज्ञानावर अवलंबून असतात. परंतु या ज्ञानाची अंतिम मुदत आहे आणि त्यात मालकीचे दस्तऐवज, अभियांत्रिकी तपशील आणि संस्थात्मक ज्ञान समाविष्ट असू शकत नाही जे बहुतेक कंपन्यांचे जीवन आहे.
RAG प्रणाली कंपनीच्या स्वतःच्या डेटाबेसमधून संबंधित कागदपत्रे पुनर्प्राप्त करून आणि वापरकर्त्याच्या प्रश्नासह फॉर्ममध्ये प्रविष्ट करून ही समस्या सोडवण्याचा प्रयत्न करतात. मॉडेल नंतर केवळ त्याच्या प्रशिक्षणावर अवलंबून न राहता कंपनीच्या वास्तविक डेटावर त्याचा प्रतिसाद आधारित करू शकते.
फेसबुक एआय रिसर्चमध्ये संशोधन शास्त्रज्ञ आणि नंतर प्रभावी ओपन सोर्स एआय कंपनी हगिंग फेस येथे संशोधन प्रमुख म्हणून केलेल्या कार्यकाळात Kiela यांनी या दृष्टिकोनाचा मार्ग दाखविण्यास मदत केली. त्याच्याकडे डॉक्टरेटची पदवी आहे. केंब्रिजमधून आणि स्टॅनफोर्ड विद्यापीठात सिम्बॉलिक सिस्टीम्सचे सहाय्यक प्राध्यापक आहेत.
पण सुरुवातीच्या आरएजी प्रणाली, केला कबूल करतो, आदिम होत्या.
"सुरुवातीची RAG खूपच प्राचीन होती – एक पुनर्प्राप्ती उपकरण जाण्यासाठी तयार करा, ते जनरेटरमध्ये प्लग करा, सर्वोत्तमची आशा करा;" तो म्हणाला. "पाइपलाइनद्वारे त्रुटी वाढल्या आहेत. मतिभ्रम सामान्य होते कारण जनरेटर जमिनीवर राहण्यासाठी प्रशिक्षित नव्हता."
जून 2023 मध्ये जेव्हा Kiela ने संदर्भित AI ची स्थापना केली, तेव्हा त्याने या समस्या पद्धतशीरपणे सोडवण्याचा प्रयत्न केला. कंपनीने विकसित केले आहे ज्याला ते म्हणतात a "युनिफाइड संदर्भ स्तर" – साधनांचा एक संच जो कंपनीचा डेटा आणि त्याच्या AI मॉडेलमध्ये बसतो, योग्य माहिती योग्य वेळी योग्य स्वरूपात मॉडेलपर्यंत पोहोचते याची खात्री करून.
या दृष्टिकोनाला मान्यता मिळाली आहे. Google क्लाउड केस स्टडीनुसार, संदर्भित AI ने सातत्यपूर्ण, भ्रम-प्रतिरोधक परिणामांसाठी Google च्या FACTS बेंचमार्कवर सर्वोच्च कामगिरी केली. कंपनीने गुगल क्लाउडच्या व्हर्टेक्स एआय प्लॅटफॉर्मवर लामाच्या ओपन सोर्स मेटा मॉडेल्सना ट्यून केले आहे, विशेषत: एआय सिस्टमची माहिती शोधण्याची प्रवृत्ती कमी करण्यावर लक्ष केंद्रित केले आहे.
एजंट कम्पोझरच्या आत, जटिल अभियांत्रिकी कार्यप्रवाह कामाच्या मिनिटांत बदलण्याचे वचन देणारे व्यासपीठ
एजंट कम्पोजर विद्यमान संदर्भित AI प्लॅटफॉर्म ऑर्केस्ट्रेशन क्षमतांसह विस्तारित करतो – जटिल कार्यप्रवाह पूर्ण करण्यासाठी एकाधिक चरणांमध्ये एकाधिक AI साधनांचे समन्वय साधण्याची क्षमता.
प्लॅटफॉर्म एआय एजंट तयार करण्याचे तीन मार्ग प्रदान करते. वापरकर्ते एजंट्ससह प्रारंभ करू शकतात जे मूळ कारण विश्लेषण किंवा अनुपालन सत्यापन यासारख्या सामान्य तांत्रिक कार्यप्रवाहांसाठी पूर्व-डिझाइन केलेले आहेत. ते नैसर्गिक भाषेत वर्कफ्लोचे वर्णन करू शकतात आणि सिस्टमला वर्क एजंट संरचना स्वयंचलितपणे तयार करू देतात. किंवा ते व्हिज्युअल ड्रॅग-अँड-ड्रॉप इंटरफेस वापरून सुरवातीपासून तयार करू शकतात ज्यासाठी कोडिंगची आवश्यकता नाही.
एजंट कम्पोझरला स्पर्धात्मक पध्दतींव्यतिरिक्त काय सेट करते ते त्याचे हायब्रिड आर्किटेक्चर आहे, कंपनी म्हणते. कार्यसंघ उच्च-जोखीम चरणांसाठी कठोर, निर्धारवादी नियम एकत्र करू शकतात—अनुपालन तपासणी, डेटा प्रमाणीकरण आणि मंजुरी गेट्स—अन्वेषणात्मक विश्लेषणासाठी डायनॅमिक लॉजिकसह.
"अत्यंत गंभीर वर्कफ्लोसाठी, वापरकर्ते एजंटच्या वर्तनावर नियंत्रण ठेवण्यासाठी आणि अनिश्चितता टाळण्यासाठी पूर्णपणे निर्धारवादी पावले निवडू शकतात," किल्ला म्हणाला.
प्लॅटफॉर्ममध्ये कंपनी ज्याला कॉल करते ते देखील समाविष्ट करते… "एक-क्लिक प्रॉक्सी ऑप्टिमायझेशन," जे वापरकर्त्याचा अभिप्राय घेते आणि एजंट कार्यप्रदर्शन आपोआप समायोजित करते. एजंटच्या विचार प्रक्रियेच्या प्रत्येक टप्प्याचे ऑडिट केले जाऊ शकते, आणि उत्तरे वाक्य-स्तरीय उद्धरणांसह येतात ज्यात स्त्रोत दस्तऐवजांमधील माहिती नेमकी कुठून आली हे स्पष्ट करते.
आठ तासांपासून ते 20 मिनिटांपर्यंत: सुरुवातीचे ग्राहक प्लॅटफॉर्मच्या वास्तविक कामगिरीबद्दल काय म्हणतात
संदर्भित AI म्हणते की सुरुवातीच्या ग्राहकांनी लक्षणीय कार्यक्षमतेत वाढ नोंदवली आहे, जरी कंपनी कबूल करते की हे आकडे स्वतंत्र पडताळणीऐवजी ग्राहकांच्या स्व-अहवालातून आले आहेत.
"हे थेट ग्राहकांच्या पुनरावलोकनांमधून येतात आणि वास्तविक-जगातील वर्कफ्लोचे अंदाजे अंदाज आहेत." किल्ला म्हणाला. "आमच्या क्लायंटद्वारे संदर्भित AI दत्तक घेण्याच्या आधी आणि नंतरच्या परिस्थितीचे वर्णन करून संख्या स्वतःच नोंदवली जाते."
तथापि, कथित परिणाम आश्चर्यकारक आहेत. एका प्रगत उत्पादकाने सेन्सर डेटा विश्लेषण आणि लॉग सहसंबंध स्वयंचलित करून मूळ कारण विश्लेषण आठ तासांवरून 20 मिनिटांपर्यंत कमी केले. एका विशेष रसायन कंपनीने पेटंट आणि नियामक डेटाबेस शोधणाऱ्या एजंटचा वापर करून उत्पादन संशोधन तासांपासून मिनिटांपर्यंत कमी केले. चाचणी उपकरणे निर्माते आता दिवसांऐवजी मिनिटांत चाचणी कोड तयार करतात.
कीथ श्वाब, सेमीकंडक्टर चाचणी उपकरण कंपनी ॲडव्हान्टेस्टचे तंत्रज्ञान आणि धोरणाचे उपाध्यक्ष, यांनी आपला पाठिंबा व्यक्त केला. "संदर्भित AI आमच्या AI परिवर्तनाच्या प्रयत्नांचा एक महत्त्वाचा भाग आहे," श्वाब म्हणाले. "हे तंत्रज्ञान ॲडव्हान्टेस्ट आणि निवडक अंतिम ग्राहकांसाठी अनेक संघांसाठी आणले गेले आहे, चाचणी कोड निर्मितीपासून ग्राहक अभियांत्रिकी वर्कफ्लोपर्यंतच्या कार्यांमध्ये अर्थपूर्ण वेळेची बचत करते."
कंपनीच्या इतर क्लायंटमध्ये क्वालकॉम, सेमीकंडक्टर जायंटचा समावेश आहे; ShipBob, एक तंत्रज्ञान-सक्षम लॉजिस्टिक कंपनी जी 60 पट वेगाने समस्या सोडवल्याचा दावा करते; आणि Nvidia, चिप निर्माता ज्याचे ग्राफिक्स प्रोसेसर बहुतेक AI सिस्टमला शक्ती देतात.
चिरंतन एंटरप्राइझ दुविधा: कंपन्यांनी स्वतःची एआय प्रणाली तयार करावी की शेल्फमधून विकत घ्यावी?
कदाचित संदर्भित AI समोरील सर्वात मोठे आव्हान प्रतिस्पर्धी उत्पादने नसून अभियांत्रिकी संस्थांची स्वतःची निराकरणे तयार करण्याची प्रवृत्ती आहे.
"‘आम्ही ते स्वतः बांधू’ हा सर्वात मोठा आक्षेप आहे." किल्ला कबूल केला. "काही संघ प्रयत्न करतात. हे करणे एक रोमांचक गोष्टीसारखे वाटू शकते, परंतु ते मोठ्या प्रमाणावर करणे खूप कठीण आहे. आमच्या अनेक ग्राहकांनी DIY सह सुरुवात केली आणि 12 ते 18 महिन्यांनंतर प्रत्यक्ष समस्या सोडवण्याऐवजी रिकव्हरी लाइन डीबग करत असल्याचे आढळले."
पर्यायी – ऑफ-द-शेल्फ सोल्यूशन्स – स्वतःच्या समस्या मांडतात, कंपनी म्हणते. अशी साधने त्वरीत उपयोजित केली जातात परंतु बऱ्याचदा लवचिक आणि विशिष्ट वापर प्रकरणांमध्ये सानुकूलित करणे कठीण असते.
एजंट कम्पोझर मध्यवर्ती जागा व्यापण्याचा प्रयत्न करतो, एक मूलभूत दृष्टीकोन ऑफर करतो जो विस्तृत सानुकूलन पर्यायांसह पूर्व-निर्मित घटकांना एकत्र करतो. ही प्रणाली OpenAI, Anthropic आणि Google मधील मॉडेल्सचे समर्थन करते, तसेच संदर्भित AI-आधारित भाषा मॉडेलचे समर्थन करते, जे पुनर्प्राप्त केलेल्या सामग्रीवर खरे राहण्यासाठी विशेष प्रशिक्षित आहे.
स्वयं-सेवा वापरासाठी दरमहा $50 पासून किंमत सुरू होते, एंटरप्राइझ किंमत मोठ्या उपयोजनांसाठी आहे.
"CFOs ने दिलेले औचित्य म्हणजे उत्पादकता वाढवणे आणि त्यांना त्यांच्या AI उपक्रमांद्वारे जलद उत्पादन मिळवून देणे." किल्ला म्हणाला. "प्रत्येक तांत्रिक कार्यसंघ उच्च अभियांत्रिकी प्रतिभेची नियुक्ती करण्यासाठी धडपडत आहे, म्हणून त्यांच्या विद्यमान संघांना अधिक उत्पादनक्षम बनवणे या उद्योगांमध्ये एक मोठे प्राधान्य आहे."
पुढील मार्ग: जटिल एआय सिस्टम तयार करण्यासाठी एकाधिक एजंट्स, लेखन प्रक्रिया आणि रेसिंगचे समन्वय साधणे
भविष्याकडे पाहता, Kiela ने आगामी वर्षासाठी तीन प्राधान्यक्रम ओळखले: केवळ वाचन आणि पार्सिंग करण्याऐवजी एंटरप्राइझ सिस्टममध्ये वास्तविक लेखन क्रियांसह वर्कफ्लो स्वयंचलित करणे; एकत्र काम करणाऱ्या एकाधिक विशेष एजंट्समधील उत्तम समन्वय; आणि उत्पादन फीडबॅकमधून स्वयंचलित शिक्षणाद्वारे जलद स्पेशलायझेशन.
"कंपाऊंड प्रभाव येथे महत्वाचा आहे," तो म्हणाला. "तुम्ही अंतर्भूत केलेला प्रत्येक दस्तऐवज, तुम्ही बंद केलेला प्रत्येक फीडबॅक लूप, त्या सुधारणा जमा होतात. आता ही पायाभूत सुविधा निर्माण करणाऱ्या कंपन्यांना पकडणे कठीण होणार आहे."
प्रमुख क्लाउड प्रदाते, स्थापित सॉफ्टवेअर विक्रेते आणि त्याच ग्राहकांचा पाठलाग करत असलेल्या डझनभर स्टार्टअप्सच्या ऑफरसह एंटरप्राइझ एआय मार्केट तीव्रपणे स्पर्धात्मक आहे. मॉडेल्सच्या संदर्भावर संदर्भित AI ची पैज फायद्याची ठरेल की नाही हे कंपन्या Kiela चे मत सामायिक करतात की अंतर्निहित मॉडेल युद्ध त्यांच्या सभोवतालच्या पायाभूत सुविधांपेक्षा कमी महत्वाचे आहेत यावर अवलंबून आहे.
परंतु कंपनीच्या स्थितीत एक विशिष्ट विडंबना आहे. वर्षानुवर्षे, AI उद्योगाने कृत्रिम सामान्य बुद्धिमत्तेच्या शर्यतीत अब्जावधी खर्च करून मोठे, अधिक शक्तिशाली मॉडेल तयार करण्यावर लक्ष केंद्रित केले आहे. संदर्भित AI अधिक विनम्र युक्तिवाद करते: बहुतेक वास्तविक-जगातील व्यवसायांसाठी, जादू मॉडेलमध्ये नाही. कुठे पहायचे हे माहित आहे.
