जोआओ फ्रीटास हे आर्टिफिशियल इंटेलिजन्स आणि ऑटोमेशन इंजिनिअरिंगचे व्यवस्थापकीय संचालक आणि उपाध्यक्ष आहेत. PagerDuty
मोठ्या संस्थांमध्ये AI चा वापर सतत विकसित होत असल्याने, पुढारी पुढील विकास शोधत आहेत जे महत्त्वपूर्ण ROI चालवेल. या चालू प्रवृत्तीची नवीनतम लहर म्हणजे कृत्रिम बुद्धिमत्ता एजंट्सचा अवलंब. तथापि, कोणत्याही नवीन तंत्रज्ञानाप्रमाणे, संघटनांनी खात्री करणे आवश्यक आहे की त्यांनी एआय एजंट्सचा अवलंब एक जबाबदार पद्धतीने केला आहे ज्यामुळे त्यांना वेग आणि सुरक्षितता सुलभ होईल.
अर्ध्याहून अधिक संस्थांनी आधीच काही प्रमाणात एआय एजंट तैनात केले आहेत आणि पुढील दोन वर्षांत आणखी काही संस्थांनी त्यांचे अनुसरण करणे अपेक्षित आहे. परंतु अनेक प्रारंभिक अवलंबकर्ते आता त्यांच्या दृष्टिकोनाचे पुनर्मूल्यांकन करत आहेत. 10 पैकी चार तंत्रज्ञान नेत्यांना सुरुवातीपासूनच मजबूत प्रशासनाचा पाया तयार न केल्याबद्दल खेद वाटतो, ते सुचवतात की त्यांनी AI त्वरीत स्वीकारले, परंतु AI चा जबाबदार, नैतिक आणि कायदेशीर विकास आणि वापर सुनिश्चित करण्यासाठी डिझाइन केलेली धोरणे, नियम आणि सर्वोत्तम पद्धती सुधारण्यासाठी फरकाने.
जसजसे AI दत्तक घेण्याचा वेग वाढतो, तसतसे संस्थांनी त्यांच्या एक्सपोजर जोखमींमध्ये योग्य संतुलन शोधले पाहिजे आणि AI सुरक्षितपणे वापरला जाईल याची खात्री करण्यासाठी रेलिंग लागू करणे आवश्यक आहे.
एआय एजंट संभाव्य जोखीम कोठे निर्माण करतात?
सुरक्षित AI दत्तक घेण्यासाठी तीन मुख्य क्षेत्रे आहेत.
पहिले कृत्रिम सावली आहे, जेव्हा कर्मचारी स्पष्ट परवानगीशिवाय अनधिकृत AI टूल्स वापरतात, मंजूर साधने आणि प्रक्रियांना मागे टाकून. AI सह कार्य करण्याचे अधिक कार्यक्षम मार्ग वितरीत करण्यासाठी IT ने प्रयोग आणि नवोपक्रमासाठी आवश्यक प्रक्रिया तयार करणे आवश्यक आहे. शॅडो एआय जेवढा काळ AI टूल्स स्वतःभोवती आहे तोपर्यंत, AI एजंटची स्वायत्तता अनधिकृत टूल्सना IT च्या बाहेर ऑपरेट करणे सोपे करते, संभाव्यत: नवीन सुरक्षा जोखीम निर्माण करते.
दुसरे, संस्थांनी चुकीच्या घटना किंवा प्रक्रियांसाठी तयार होण्यासाठी AI मालकी आणि उत्तरदायित्वातील अंतर बंद केले पाहिजे. एआय एजंट्सची शक्ती त्यांच्या स्वायत्ततेमध्ये आहे. तथापि, एजंट्स अनपेक्षित पद्धतीने वागले तर, कोणत्याही समस्यांचे निराकरण करण्यासाठी कोण जबाबदार आहे हे निर्धारित करण्यात संघ सक्षम असणे आवश्यक आहे.
तिसरा धोका उद्भवतो जेव्हा एआय एजंट्सने केलेल्या कृतींसाठी स्पष्टीकरणाचा अभाव असतो. एआय एजंट हे ध्येय-केंद्रित असतात, परंतु ते त्यांचे ध्येय कसे साध्य करतात हे अस्पष्ट असू शकते. एआय एजंट्सकडे त्यांच्या कृतींमागे स्पष्टीकरण करण्यायोग्य तर्क असणे आवश्यक आहे जेणेकरुन अभियंते अशा क्रियांचा मागोवा घेऊ शकतात ज्यामुळे विद्यमान सिस्टममध्ये समस्या उद्भवू शकतात आणि आवश्यक असल्यास त्या पूर्ववत करू शकतात.
जरी यापैकी कोणत्याही जोखमीने दत्तक घेण्यास विलंब करू नये, तरीही ते संस्थांना त्यांची सुरक्षा अधिक चांगल्या प्रकारे सुनिश्चित करण्यात मदत करतील.
जबाबदार AI एजंट प्रमाणनासाठी तीन मार्गदर्शक तत्त्वे
संस्थांनी AI एजंट कोणते धोके निर्माण करू शकतात हे ओळखल्यानंतर, सुरक्षित वापर सुनिश्चित करण्यासाठी त्यांनी मार्गदर्शक तत्त्वे आणि रेलिंग लागू करणे आवश्यक आहे. या तीन चरणांचे अनुसरण करून, संस्था हे धोके कमी करू शकतात.
1: मानवी निरीक्षण डीफॉल्ट करा
AI वेगाने विकसित होत आहे. तथापि, जेव्हा AI एजंट्सना कार्य करण्याची, निर्णय घेण्याची आणि मुख्य प्रणालींवर परिणाम करू शकणाऱ्या ध्येयाचा पाठपुरावा करण्याची क्षमता दिली जाते तेव्हा आम्हाला मानवी निरीक्षणाची आवश्यकता असते. माणसाला बाय डीफॉल्ट लूपची जाणीव असावी, विशेषत: व्यवसाय-गंभीर वापर प्रकरणे आणि सिस्टमसाठी. AI वापरणाऱ्या संघांनी ते कोणत्या कृती करू शकतात आणि त्यांना कुठे हस्तक्षेप करावा लागेल हे समजून घेणे आवश्यक आहे. पुराणमतवादीपणे प्रारंभ करा आणि कालांतराने, एआय एजंटना दिलेल्या एजन्सीची पातळी वाढवा.
त्याच वेळी, ऑपरेशन टीम्स, अभियंते आणि सुरक्षा व्यावसायिकांनी एआय एजंट्सच्या कार्यप्रवाहावर देखरेख ठेवण्यासाठी त्यांची भूमिका समजून घेणे आवश्यक आहे. स्पष्टपणे परिभाषित पर्यवेक्षण आणि जबाबदारीसाठी प्रत्येक एजंटला विशिष्ट मानवी मालक नियुक्त करणे आवश्यक आहे. जेव्हा एखाद्या क्रियेचा नकारात्मक परिणाम होतो तेव्हा संस्थांनी कोणत्याही माणसाला एआय एजंटच्या वर्तनाचा अहवाल देण्याची किंवा ओव्हरराइड करण्याची परवानगी दिली पाहिजे.
एआय एजंट्सच्या कार्यांचा विचार करताना, संस्थांनी हे समजून घेतले पाहिजे की परंपरागत ऑटोमेशन हे संरचित डेटा इनपुटसह पुनरावृत्ती, नियम-आधारित प्रक्रिया हाताळण्यासाठी चांगले असले तरी, एआय एजंट अधिक जटिल कार्ये हाताळू शकतात आणि अधिक स्वायत्त पद्धतीने नवीन माहितीशी जुळवून घेऊ शकतात. हे सर्व प्रकारच्या कार्यांसाठी एक आकर्षक समाधान बनवते. परंतु एआय एजंट्स तैनात केल्यामुळे, संस्थांनी एजंट करू शकतील अशा कृतींवर नियंत्रण ठेवले पाहिजे, विशेषत: प्रकल्पाच्या सुरुवातीच्या टप्प्यात. त्यामुळे, एआय एजंट्ससोबत काम करणाऱ्या टीम्सकडे उच्च-प्रभाव कृतींसाठी मंजुरीचे मार्ग असणे आवश्यक आहे जेणेकरून एजंटची व्याप्ती अपेक्षित वापराच्या प्रकरणांच्या पलीकडे वाढू नये, ज्यामुळे व्यापक प्रणालीला धोका कमी होईल.
2: सुरक्षिततेत ब्रेड
नवीन साधनांचा परिचय प्रणालीला नवीन सुरक्षा जोखमींसमोर आणू नये.
संस्थांनी उच्च सुरक्षा मानकांचे पालन करणाऱ्या आणि SOC2, FedRAMP किंवा समतुल्य यांसारख्या एंटरप्राइझ-स्तरीय प्रमाणपत्रांद्वारे प्रमाणित केलेल्या प्रॉक्सी प्लॅटफॉर्मचा विचार केला पाहिजे. शिवाय, एआय एजंटना एंटरप्राइझ सिस्टीम नियंत्रित करण्यासाठी मोकळेपणाने परवानगी दिली जाऊ नये. कमीतकमी, एआय एजंटच्या परवानग्या आणि सुरक्षा व्याप्ती मालकाच्या व्याप्तीशी संरेखित केल्या पाहिजेत आणि एजंटमध्ये जोडलेल्या कोणत्याही साधनांना विस्तारित परवानगी देऊ नये. एआय एजंटच्या भूमिकेवर आधारित सिस्टीममध्ये प्रवेश मर्यादित केल्याने देखील एक सुलभ उपयोजन प्रक्रिया सुनिश्चित होईल. एआय एजंट करत असलेल्या प्रत्येक क्रियेची संपूर्ण नोंद ठेवल्याने अभियंत्यांना एखादी घटना घडल्यास काय झाले हे समजण्यास आणि समस्येचा मागोवा घेण्यास मदत होऊ शकते.
3: आउटपुट व्याख्या करण्यायोग्य बनवा
संस्थेमध्ये AI वापरणे कधीही ब्लॅक बॉक्स असू नये. कृतीमागील कारण स्पष्ट केले जाणे आवश्यक आहे जेणेकरुन कोणताही अभियंता त्यामध्ये प्रवेश करण्याचा प्रयत्न करणाऱ्या एजंटने निर्णय घेताना वापरलेला संदर्भ समजू शकेल आणि त्या क्रियांना कारणीभूत असलेल्या परिणामांपर्यंत पोहोचू शकेल.
आयप्रत्येक क्रियेचे एनपुट आणि आउटपुट रेकॉर्ड आणि प्रवेशयोग्य असणे आवश्यक आहे. हे संस्थांना एआय एजंटच्या कृतींमागील तर्काचे सातत्यपूर्ण विहंगावलोकन तयार करण्यात मदत करेल, काही चूक झाल्यास महत्त्वपूर्ण मूल्य प्रदान करेल.
सुरक्षा एआय एजंट्सचे यश अधोरेखित करते
एआय एजंट संस्थांना त्यांच्या विद्यमान प्रक्रियांना गती देण्यासाठी आणि सुधारण्यासाठी मोठी संधी देतात. तथापि, जर त्यांनी सुरक्षा आणि मजबूत प्रशासनाला प्राधान्य दिले नाही, तर ते स्वतःला नवीन जोखमींसमोर आणू शकतात.
एआय एजंट अधिक सामान्य होत असताना, संस्थांनी हे सुनिश्चित केले पाहिजे की ते कसे कार्य करत आहेत आणि समस्या उद्भवल्यास कारवाई करण्याची क्षमता मोजण्यासाठी त्यांच्याकडे प्रणाली आहेत.
आमच्या वेबसाइटवरून अधिक वाचा पाहुणे लेखक. किंवा तुमची स्वतःची पोस्ट सबमिट करण्याचा विचार करा! आमचे पहा येथे मार्गदर्शक तत्त्वे.
