छाया एआय: सीआयएसओ बर्‍याचदा लपलेल्या सुरक्षेला चुकवते

“आपण त्सुनामी थांबवू शकत नाही, परंतु आपण एक बोट तयार करू शकता,” गोलनने व्हेंचरबीटला सांगितले. “कृत्रिम बुद्धिमत्तेचे रक्षण करणे अस्तित्त्वात नाही जे आपले संरक्षण करीत नाही – यामुळे आपल्याला निषिद्ध आहे.” उदाहरणार्थ, गोलन म्हणतात, न्यूयॉर्कमधील सुरक्षा कंपनीचे प्रमुख असा विश्वास करतात की अ‍ॅम्नेस्टी इंटरनॅशनलची 10 पेक्षा कमी साधने वापरात आहेत. 10 दिवसांच्या पुनरावलोकनात 65 अनधिकृत उपाय उघडकीस आले, त्यापैकी बहुतेक अधिकृत परवाना नसलेले आहेत.

एवायआरएने सहमती दर्शविली: “एकदा कर्मचार्‍यांनी कृत्रिम बुद्धिमत्ता मार्ग आणि स्पष्ट धोरणांना शिक्षा केली की त्यांना असे वाटते की त्यांना लपून बसणे यादृच्छिक साधने वापरण्यास भाग पाडले जाते.” ?

त्यांचे दावे अलीकडील निकाल आहेत त्यास अधिक समर्थन द्या एजी सॉफ्टवेअर पुसणे ते सापडले 75 % ज्ञान कामगारांकडून ते आधीपासूनच कृत्रिम बुद्धिमत्ता साधने वापरतात आणि 46 % मालकाने त्याच्यावर बंदी घातली असली तरीही ते त्यांना सोडणार नाहीत असे सांगत. बहुतेक छाया एआय अॅप्स ओपनई चे Chatgpt आणि गूगल मिथुन?

2023 पासून, CHATGPT वापरकर्त्यांना अनुमती देते काही मिनिटांत समर्पित रोबोट तयार करा? व्हेंचरबीटला हे समजले आहे की मॉडेल मॅनेजर आज चॅटजीपीटीमध्ये विक्री, बाजार आणि किंमतीच्या अंदाजासाठी जबाबदार आहे, सरासरी 22 भिन्न नियुक्त रोबोट.

कृत्रिम बुद्धिमत्ता सावली कशी कोसळते हे समजते 73.8 % चॅटजीपीटी खाती अशी आहेत जी हमी अनुप्रयोगांच्या सुरक्षा आणि गोपनीयता नियंत्रणाची कमतरता दर्शवित नाहीत. गुन्हेगारांसाठी टक्केवारी जास्त आहे (94.4 %). सेल्सफोर्स सर्वेक्षणात, निम्म्याहून अधिक (55 %कृत्रिम बुद्धिमत्ता साधनांच्या वापराची कबुली देणार्‍या सर्वेक्षणात समाविष्ट असलेल्या जागतिक कर्मचार्‍यांपैकी एक कामावर अवलंबून नाही.

“आपण दुरुस्त करू शकता ही एकही झेप नाही,” गोलन स्पष्ट करतात. “त्याच्या देखरेखीपासून सुरू झालेल्या वैशिष्ट्यांची ही वाढती लाट आहे.” कंपनीच्या डेटा आणि कोणत्याही व्यक्तीला किंवा सुरक्षा नकळत कंपनीच्या डेटा आणि गळतीसाठी प्रशिक्षण घेण्यासाठी हजारो कृत्रिम बुद्धिमत्ता वैशिष्ट्ये सुधारित केली जातात.

छाया एआय हळूहळू कंपन्यांच्या परिमितीचे विघटन करते. बर्‍याचजणांना हे लक्षात येत नाही की ते त्यांच्या संस्थांमध्ये छाया एआयच्या ग्राउंडवेलच्या वापराबद्दल आंधळे आहेत.

छाया एआय खूप धोकादायक का आहे

“जर आपण स्त्रोत कोड किंवा आर्थिक डेटा थुंकला तर ते या स्वरूपात प्रभावीपणे जगत आहे,” गोलनने चेतावणी दिली. अरोरा आणि गोलन या कंपन्यांना सामान्य मॉडेलचे प्रशिक्षण शोधतात जे विस्तृत जटिल कार्यांसाठी छाया एआय अनुप्रयोग वापरण्यात अयशस्वी होतात.

एकदा सार्वजनिक डोमेन मॉडेलमधील मालकीचा डेटा, कोणत्याही संस्थेसाठी सर्वात महत्वाची आव्हाने सुरू होतात. त्यांच्याकडे सार्वजनिकपणे ज्या संस्थांच्या मालकीची आहेत आणि त्याकडे बर्‍याचदा एक उत्तम अनुपालन आणि संघटनात्मक असतात हे विशेषतः कठीण आहे. गोलनने आगामी युरोपियन युनियन कायद्याचा उल्लेख केला, ज्याला “दंडातील एकूण देशांतर्गत उत्पादनास बौद्ध केले जाऊ शकते” आणि चेतावणी दिली की जर खासगी डेटा अ‍ॅम्नेस्टी इंटरनॅशनलच्या साधनांपर्यंत पोचला तर अमेरिकेत जोखीम मंजुरीचे नियमन करणारे क्षेत्र.

ऑपरेशन वेळ आणि वेगवान इंजेक्शन हल्ल्यांमध्ये कमकुवतपणाचा धोका देखील आहे जो शोधण्यासाठी आणि थांबविण्यासाठी पारंपारिक डेटा प्रतिबंध आणि डेटा लॉस प्लॅटफॉर्म (डीएलपी) सह डिझाइन केलेला नाही.

छाया प्रकाश

अरोराला संपूर्ण व्यवसाय युनिट्स सापडतात जे रडार अंतर्गत एआयची सास साधने वापरतात. एकाधिक व्यवसाय संघांसाठी स्वतंत्र बजेट कोशिंबीरसह, व्यवसाय युनिट्स कृत्रिम बुद्धिमत्ता जलद आणि बर्‍याचदा नोंदणीशिवाय पसरतात.

“अचानक, आपल्याकडे डझनभर सुप्रसिद्ध एआय अनुप्रयोग आहेत जे एका अनुपालन किंवा जोखमीच्या पुनरावलोकनाशिवाय कंपन्यांवर प्रक्रिया करतात,” अर्राने व्हेंचरबिटला सांगितले.

अरोरा चार्टच्या मुख्य दृश्यांमध्ये पुढील गोष्टींचा समावेश आहे:

• छाया एआय भरभराट झाली आहे कारण विद्यमान माहिती आणि सुरक्षा तंत्रज्ञान पक्ष ते शोधण्यासाठी डिझाइन केलेले नाहीत. अरोरा नमूद करतात की पारंपारिक माहिती तंत्रज्ञान पक्ष कामाचे काम राखण्यासाठी आवश्यक अनुपालन आणि प्रशासन न पाहिल्यामुळे छाया एआयला प्रगती करण्यास परवानगी देतात. “बर्‍याच पारंपारिक माहिती तंत्रज्ञान व्यवस्थापन साधने आणि ऑपरेशन्समध्ये कृत्रिम बुद्धिमत्ता अनुप्रयोगांचे विस्तृत दृष्टी आणि नियंत्रण नसते,” अरोरा नमूद करतात.
• उद्दीष्ट: नियंत्रण गमावल्याशिवाय नाविन्य सक्षम करणे. कर्मचारी हेतुपुरस्सर हरवले नाहीत हे सांगण्यासाठी अर्रा गर्दी करीत आहे. त्यांना फक्त वेळेत तीव्र कमतरता आहे आणि वाढत्या कामाचे ओझे आणि सर्वात काटेकोरपणे घट्ट तारखा. कृत्रिम बुद्धिमत्ता हे सिद्ध करते की हे नाविन्यपूर्णतेसाठी एक अपवादात्मक प्रोत्साहन आहे आणि थेट प्रतिबंधित केले जाऊ नये. “कर्मचार्‍यांना कृत्रिम बुद्धिमत्ता तंत्र प्रभावीपणे वापरण्यास सक्षम करताना संघटनांनी मजबूत सुरक्षा रणनीती निश्चित करणे खूप महत्वाचे आहे,” अर्रा स्पष्ट करतात. “एकूण बंदी बहुतेक वेळा एआय भूमिगत वापरासाठी ढकलली जाते, जी केवळ जोखमीला फुगवते.”
• केंद्रीय बुद्धिमत्ता कारभारावर केस बनवा. “इतर माहिती तंत्रज्ञानाच्या प्रशासनाच्या पद्धतींप्रमाणेच केंद्रीय गुप्तचर प्रशासन, छाया कृत्रिम बुद्धिमत्ता अनुप्रयोगांच्या विस्ताराचे व्यवस्थापन करण्याची गुरुकिल्ली आहे.” त्यांनी पाहिले की व्यवसाय युनिट्सने सास साधने स्वीकारली जी एआय “एक अनुपालन किंवा जोखीम पुनरावलोकन न करता” चालविते. सेन्सॉरशिपचे मानकीकरण अज्ञात अनुप्रयोगांना संवेदनशील डेटा शांतपणे गळती होण्यापासून प्रतिबंधित करते.
• एआय शेड्स सतत शोधा, देखरेख आणि व्यवस्थापित करा. सर्वात मोठे आव्हान म्हणजे लपविलेले अनुप्रयोग शोधणे. अरोरा जोडते की त्याच्या शोधामध्ये नेटवर्क ट्रॅफिक कंट्रोल, डेटा फ्लो विश्लेषण, सॉफ्टवेअर व्यवस्थापन, मागणी आणि अगदी मॅन्युअल ऑडिट समाविष्ट आहेत.
• लवचिकता आणि सुरक्षा शिल्लक सतत. कोणालाही नाविन्यपूर्ण गळा दाबण्याची इच्छा नाही. “कृत्रिम बुद्धिमत्तेचे सुरक्षित पर्याय प्रदान केल्याने हे सुनिश्चित होते की लोक घुसखोरीमुळे मोहात पडत नाहीत. आपण कृत्रिम बुद्धिमत्ता मारू शकत नाही, परंतु आपण त्यास सुरक्षितपणे निर्देशित करू शकता.

छाया कृत्रिम बुद्धिमत्तेसाठी सात -भाग धोरणांचे अनुसरण करा

अरोरा आणि गोलन यांना त्यांच्या ग्राहकांसाठी सल्ला देण्यात आला आहे ज्यांना एआयच्या सावली कारभारासाठी या सात मार्गदर्शक तत्त्वांचे अनुसरण करण्यासाठी त्यांच्या नेटवर्क आणि तळांमधून गुणाकार शेडो एआय अनुप्रयोग सापडतात.

कृत्रिम बुद्धिमत्तेची अधिकृत सावली आयोजित करणे. सर्वसमावेशक कृत्रिम बुद्धिमत्ता छाननीवर अवलंबून मूलभूत ओळ तयार करा. अनधिकृत कृत्रिम बुद्धिमत्तेचा वापर स्पष्ट करण्यासाठी एजंट विश्लेषण, नेटवर्क नियंत्रण आणि साठा वापरा.

जबाबदार कृत्रिम बुद्धिमत्तेचे कार्यालय स्थापित करणे. धोरणाचे केंद्रीय उत्पादन, विक्रेते पुनरावलोकने, माहिती तंत्रज्ञानाद्वारे जोखीम मूल्यांकन, सुरक्षा, कायदेशीर आणि अनुपालन. हा दृष्टिकोन आपल्या ग्राहकांसोबत काम करताना दिसला. हे सूचित करते की या कार्यालयाच्या स्थापनेमध्ये मजबूत कृत्रिम कारभार व्यवस्थापन फ्रेमवर्क आणि कर्मचार्‍यांना संभाव्य डेटा गळतीसाठी प्रशिक्षण देणे आवश्यक आहे. प्री -अ‍ॅडॉप्टेड कृत्रिम बुद्धिमत्ता कॅटलॉग हे सुनिश्चित करेल की मजबूत डेटा सुरक्षित आणि संबंधित उपायांसह कार्य करेल.

एआय-एएआरए वर सुरक्षा नियंत्रणे पसरवणे. पारंपारिक साधने मजकूराचे मजकूर चुकवतात. डीएलपीने कृत्रिम बुद्धिमत्ता, वास्तविक वेळ देखरेख आणि ऑटोमेशनवर लक्ष केंद्रित केले जे संशयास्पद दाव्यांना सूचित करते.

अ‍ॅम्नेस्टी इंटरनॅशनल सेंट्रल ऑर्गनायझेशनचा स्टॉक आणि कॅटलॉग स्थापन करणे. कृत्रिम बुद्धिमत्ता साधनांची एक कमकुवत यादी सानुकूल सेवांचा मोह कमी करते आणि जेव्हा सुरक्षा वारंवार सूची अद्ययावत करण्यासाठी पुढाकार घेते तेव्हा सावली अनुप्रयोग एआय तयार करण्यासाठी प्रेरणा कमी केली जाते. या दृष्टिकोनाची गुरुकिल्ली म्हणजे सतर्क राहणे आणि सेफ एआय टूल्सच्या वापरकर्त्यांच्या गरजा भागविणे.

कर्मचारी प्रशिक्षण प्रतिनिधीमंडळ हे कोणत्याही व्यावसायिक क्रियेस सावलीच्या नुकसानीच्या कारणाची उदाहरणे प्रदान करते. अरुरा म्हणतात, “कर्मचार्‍यांना हे समजत नसेल तर राजकारणाला काहीच महत्त्व नाही. सुरक्षित कृत्रिम बुद्धिमत्ता आणि संभाव्य जोखीम डेटाच्या वापराबद्दल कर्मचार्‍यांना शिक्षित करणे.

शासन, जोखीम, अनुपालन (जीआरसी) आणि जोखीम व्यवस्थापनासह तीव्र. अरोरा आणि गोलन यावर जोर देतात की कृत्रिम बुद्धिमत्ता देखरेखीचा संबंध शासन, जोखीम आणि त्याचे पालन यांच्या व्यवस्थापनाशी जोडला गेला पाहिजे.

मला हे समजले आहे की ब्लँकेटवरील बंदी अपयशी ठरली आहे आणि मी कायदेशीर एआय अनुप्रयोग द्रुतपणे सादर करण्यासाठी नवीन मार्ग शोधत आहे. ब्लँकेटवरील बंदी कधीही कार्यरत नाही आणि छाया एआय अनुप्रयोगाच्या सृष्टीचा सहाव्या क्रमांकावर आणि वापराकडे नेण्यासाठी गोलन गर्दी करीत आहे. अरोराला आपल्या ग्राहकांना जबाबदार वापरासाठी स्पष्ट मार्गदर्शक तत्त्वे (जसे की मायक्रोसॉफ्ट 365 कोपिलॉट, चॅटजीपीटी एंटरप्राइझ) साठी एआयचे सुरक्षित पर्याय प्रदान करण्याची शिफारस केली जाते.

कृत्रिम बुद्धिमत्तेचे फायदे सुरक्षितपणे उघडणे

कृत्रिम बुद्धिमत्ता प्रशासन धोरण, वापरकर्ता प्रशिक्षण आणि पूर्व -मॉनिटरिंग एकत्रित करून, संस्था अनुपालन किंवा सुरक्षिततेचा बळी न देता गेनईच्या क्षमतेचा उपयोग करू शकतात. अंतिम अरोरा वारंवार आहे: “सातत्यपूर्ण धोरणांद्वारे समर्थित एक केंद्रीय व्यवस्थापन सोडवणे खूप महत्वाचे आहे. कॉर्पोरेट डेटाचे संरक्षण करताना आपण नाविन्यपूर्णपणे सक्षम व्हाल – जगातील हे सर्वोत्कृष्ट आहे.” हे रोखण्याऐवजी, प्रगत विचारसरणी नेते सुरक्षित उत्पादकता सक्षम करण्यावर लक्ष केंद्रित करतात जेणेकरून कर्मचारी एआयच्या परिवर्तनीय शक्तीचा त्यांच्या अटींवर फायदा घेऊ शकतील.