एआय एजंटना आता वातावरणातील इतर कोणत्याही सॉफ्टवेअरपेक्षा एंटरप्राइझ सिस्टमशी जास्त प्रवेश आणि कनेक्शन आहेत. हे सुरक्षितता संघांना आधी नियंत्रित करावे लागलेल्या कोणत्याही गोष्टीपेक्षा मोठे आक्रमण पृष्ठभाग बनवते आणि उद्योगाकडे अद्याप त्यासाठी फ्रेमवर्क नाही. "हा अटॅक वेक्टर वापरला गेल्यास, यामुळे डेटाचा भंग होऊ शकतो, किंवा वाईट," Spyros Xanthos, Resolve AI चे संस्थापक आणि CEO, अलीकडील VentureBeat AI इम्पॅक्ट सिरीज कार्यक्रमात बोलताना म्हणाले. पारंपारिक सुरक्षा फ्रेमवर्क मानवी परस्परसंवादांभोवती बांधले जातात. AI एजंट्ससाठी अद्याप कोणतीही सहमत संरचना नाही ज्यात व्यक्तिमत्त्व आहे आणि ते स्वायत्तपणे कार्य करू शकतात, त्याच कार्यक्रमात झेंडेस्क येथील उत्पादन आणि CRM ऍप्लिकेशन्सचे वरिष्ठ उपाध्यक्ष जॉन एनयानवू यांनी नमूद केले. एजंट एआय संस्था रेलिंग बांधू शकतील त्यापेक्षा अधिक वेगाने फिरते – आणि मॉडेल कॉन्टेक्स्ट प्रोटोकॉल (MCP), एकत्रीकरणाची जटिलता कमी करताना, समस्या आणखी बिकट करते. Anyanwu आणि इतर एंटरप्राइझ नेत्यांच्या म्हणण्यानुसार एजंट AI त्याच्याभोवती रेलिंग बांधू शकतील त्यापेक्षा वेगाने पुढे जात आहे. जरी मॉडेल कॉन्टेक्स्ट प्रोटोकॉल (MCP) एकीकरणाची जटिलता कमी करत असले तरी त्याचा फायदा होत नाही. “सध्या, ही एक न सुटलेली समस्या आहे, कारण ती वाइल्ड वेस्ट आहे,” अन्यनवू म्हणाले. “आमच्याकडे एक विशिष्ट प्रॉक्सी-टू-एजंट तांत्रिक प्रोटोकॉल देखील नाही ज्यावर सर्व कंपन्या सहमत आहेत. तुमचा प्लॅटफॉर्म सुरक्षित ठेवण्याशी तुम्ही वापरकर्त्यांच्या अपेक्षांचा समतोल कसा साधता?”
MCP अजूनही "अतिशय नम्र"
एंटरप्रायझेस वाढत्या प्रमाणात MCP सर्व्हरशी जोडत आहेत कारण ते एजंट, साधने आणि डेटा यांच्यातील एकीकरण सुलभ करतात. तथापि, ते म्हणाले की MCP सर्व्हर “अत्यंत सौम्य” असतात. त्यांनी असे प्रतिपादन केले की ते “खरेतर कदाचित API पेक्षा वाईट आहे,” कारण एजंटवर लादण्यासाठी API कडे कमीत कमी अधिक नियंत्रणे आहेत. एजंट आज मानवांच्या वतीने स्पष्ट परवानग्यांच्या आधारे कार्य करतात, त्यामुळे मानवी उत्तरदायित्व स्थापित केले जाते. "परंतु तुमच्याकडे डझनभर आणि शेकडो भावी ग्राहक असू शकतात त्यांची स्वतःची ओळख, त्यांचा स्वतःचा प्रवेश," झांथस म्हणाले. "हे एक अतिशय जटिल मॅट्रिक्स बनते."
जरी त्याच्या स्टार्टअपने साइट रिलायबिलिटी इंजिनिअरिंग (SRE) आणि सिस्टम व्यवस्थापनासाठी स्वायत्त एआय एजंट विकसित केले असले तरीही, त्यांनी कबूल केले की उद्योगात स्वायत्त एजंट्ससाठी “पूर्णपणे फ्रेमवर्क नाही”. ते म्हणाले, “आमच्यावर आणि क्लायंट तयार करणाऱ्या प्रत्येकाने त्यांना काय मर्यादा द्यायची हे जाणून घेणे आहे,” तो म्हणाला. ग्राहकांना त्या निर्णयांवर विश्वास ठेवण्यास सक्षम असणे आवश्यक आहे. काही विद्यमान सुरक्षा साधने सूक्ष्म प्रवेश प्रदान करतात — उदाहरणार्थ, स्प्लंकने अंतर्निहित डेटा स्टोअरमध्ये विशिष्ट निर्देशांकांमध्ये प्रवेश प्रदान करण्याचा मार्ग विकसित केला आहे — परंतु बहुतेक व्यापक आणि मानवाभिमुख आहेत. “आम्ही विद्यमान साधनांचा वापर करून ते शोधण्याचा प्रयत्न करत आहोत,” तो म्हणाला. "पण ग्राहकांच्या वयासाठी ते पुरेसे आहे असे मला वाटत नाही.”
जेव्हा AI वापरकर्ता प्रमाणीकरणामध्ये चूक करते तेव्हा कोण जबाबदार असते?
Zendesk आणि इतर CRM प्लॅटफॉर्म प्रदात्यांवर, AI अनेक वापरकर्त्यांच्या परस्परसंवादांमध्ये सामील आहे, Anyanwu ने नमूद केले – खरं तर, ते आता “प्रमाणात आणि स्केलवर आहे ज्याचा आम्ही कधीही कंपनी किंवा समाज म्हणून विचार केला नाही.”
जेव्हा AI मानवी एजंटांना मदत करते तेव्हा ते कठीण होऊ शकते; ऑडिट ट्रेल एक चक्रव्यूह बनू शकते. “म्हणून आता तुमच्याकडे एआयशी बोलत असलेल्या माणसाशी एक माणूस बोलत आहे,” अन्यनवूने नमूद केले. “मनुष्य AI ला कारवाई करायला सांगतो. जर ती कृती चुकीची असेल तर जबाबदार कोण?” जेव्हा “AI चे अनेक भाग आणि एकापेक्षा जास्त मानव असतात तेव्हा ते आणखी क्लिष्ट होते" मिक्स मध्ये. ग्राहकांना ट्रॅकपासून दूर ठेवण्यासाठी, झेंडेस्क पोहोच आणि व्याप्ती याबाबत “खूप कडक” आहे; तथापि, ग्राहक त्यांच्या गरजांनुसार स्वतःचे रेलिंग परिभाषित करू शकतात. बऱ्याच प्रकरणांमध्ये, अन्यनवू म्हणाले, एआयला ज्ञान स्त्रोतांमध्ये प्रवेश आहे, परंतु ते कोड लिहित नाही किंवा सर्व्हरवर कमांड चालवत नाही. एआयने एपीआय कॉल केल्यास, ते “घोषणात्मकपणे डिझाइन केलेले” आणि शिक्षा केली जाते आणि कृती विशेषत: कॉल केल्या जातात. तथापि, ते म्हणाले की ग्राहकांची मागणी या परिस्थितींवर जबरदस्त आहे आणि “आम्ही आत्ता गेट्स दाबून ठेवत आहोत.” उद्योगाने एजंट परस्परसंवादासाठी विशिष्ट मानके विकसित केली पाहिजेत. “आम्ही अशा जगात प्रवेश करत आहोत जिथे, MCP सारख्या गोष्टींसह जे आपोआप साधने शोधू शकतात, हे रोबोट्स कोणत्या साधनांशी संवाद साधू शकतात हे निर्धारित करण्यासाठी आम्हाला सुरक्षिततेसाठी नवीन मार्ग तयार करावे लागतील,” Anyanwu म्हणाले. जेव्हा सुरक्षिततेचा प्रश्न येतो तेव्हा ते म्हणाले, जेव्हा एआय प्रमाणीकरण कार्ये घेते, जसे की वन-टाइम पासवर्ड (ओटीपी), एसएमएस कोड किंवा इतर द्वि-चरण सत्यापन पद्धती पाठवणे आणि त्यावर प्रक्रिया करणे, तेव्हा कंपन्या योग्यरित्या काळजी करतात. AI ने एखाद्याचे चुकीचे प्रमाणीकरण केले किंवा चुकीची ओळख पटवली तर काय होते? हे संवेदनशील डेटा लीक करू शकते किंवा हल्लेखोरांसाठी दार उघडू शकते. “आता एक स्पेक्ट्रम आहे आणि त्या स्पेक्ट्रमचा शेवट आज मानव आहे,” अन्यनवू म्हणाले. तथापि, “उद्या त्या स्पेक्ट्रमचे एक टोक एक विशिष्ट एजंट असू शकते जे समान प्रकारचे आतडे भावना किंवा मानवी-स्तरीय परस्परसंवाद करण्यासाठी डिझाइन केलेले असेल.” ग्राहकांना स्वत: दत्तक आणि सोयीची विस्तृत श्रेणी आहे. Anyanwu ने नमूद केले की काही कंपन्यांमध्ये – विशेषत: आर्थिक सेवा किंवा इतर अत्यंत नियमन केलेल्या वातावरणात – मानवांना अजूनही प्रमाणीकरण प्रक्रियेत सहभागी व्हावे लागते. इतर प्रकरणांमध्ये, लेगसी कंपन्या किंवा जुने गार्ड इतर मानवांची ओळख सत्यापित करण्यासाठी फक्त मानवांवर विश्वास ठेवतात. त्यांनी नमूद केले की Zendesk नवीन एआय एजंट्ससह प्रयोग करत आहे जे “सिस्टमशी अधिक जोडलेले” आहेत आणि रेलिंगच्या आसपासच्या ग्राहकांच्या निवडक गटासह काम करत आहेत.
कायमचा जनादेश येत आहे
भविष्यात, एजंट काही कार्ये करण्यासाठी मानवांपेक्षा अधिक विश्वासार्ह असू शकतात आणि आज मानवांकडे असलेल्या “काहीपेक्षा जास्त” परवानग्या मंजूर केल्या जाऊ शकतात, Xanthos म्हणाले. परंतु आम्ही अद्याप हे साध्य करण्यापासून दूर आहोत आणि बऱ्याचदा, काहीतरी चूक होण्याची भीती कंपन्यांना मागे ठेवते. “एक चांगली भीती काय आहे, बरोबर? मी म्हणत नाही की ही वाईट गोष्ट आहे,” तो म्हणाला. एजंटने वर्कफ्लोचे सर्व टप्पे करणे किंवा संपूर्ण लूप स्वतःच बंद करणे हे बऱ्याच संस्थांना अद्याप सहज वाटत नाही. त्यांना अजूनही मानवी समीक्षा हवी आहे. रिझोल्व्ह एआय एजंटना काही “सामान्यतः सुरक्षित” परिस्थितीत, जसे की प्रोग्रामिंगमध्ये कायमचा परवाना देणार आहे; तेथून, ते अधिक मुक्त परिस्थितींकडे जातील ज्यात कोणताही धोका नसतो, Xanthos यांनी स्पष्ट केले. परंतु त्याने कबूल केले की नेहमीच धोकादायक परिस्थिती असते जेथे एआय त्रुटींमुळे “उत्पादन प्रणालीची स्थिती बदलू शकते,” जसे त्याने सांगितले. शेवटी, तरीही: “मागे वळणे स्पष्टपणे नाही; हे मोबाईल फोन कधीही करू शकत नाही त्यापेक्षा अधिक वेगाने पुढे जात आहे. मग प्रश्न असा आहे की आपण याबद्दल काय करावे?”
सुरक्षा पथके आता काय करू शकतात?
दोन्ही स्पीकर्सने विद्यमान साधनांमध्ये उपलब्ध असलेल्या तात्पुरत्या उपायांचा संदर्भ दिला. Xanthos ने नमूद केले की काही साधने — त्यातील स्प्लंक — आधीच सूक्ष्म-दाणेदार निर्देशांक-स्तरीय प्रवेश नियंत्रणे प्रदान करतात जी प्रॉक्सीवर लागू केली जाऊ शकतात. अनियानोने झेंडेस्कच्या दृष्टिकोनाचे व्यावहारिक प्रारंभिक बिंदू म्हणून वर्णन केले: स्पष्टपणे अवरोधित केलेल्या क्रिया, कठोर व्याप्ती आणि प्रवेश मर्यादा आणि एजंट परवानग्या वाढवण्यापूर्वी मानवी पुनरावलोकनासह घोषणात्मकपणे डिझाइन केलेले API कॉल.
मूलभूत तत्त्व, जसे अन्यानवू म्हणाले: "आम्ही नेहमी ते गेट तपासतो आणि उघडण्याचा विस्तार कसा करू शकतो ते पाहतो" – याचा अर्थ असा की जोपर्यंत तुम्ही प्रत्येक विस्ताराचे प्रमाणीकरण करत नाही तोपर्यंत शाश्वत परवाना दिला जात नाही.
