कृत्रिम बुद्धिमत्तेपासून तयार केलेल्या कोडचे जोखीम वास्तविक आहेत की संस्था जोखीम कशी व्यवस्थापित करू शकतात

फार पूर्वी नाही, मानवांनी जवळजवळ सर्व अ‍ॅप कोड लिहिला. परंतु यापुढे असे नाहीः कोड लक्षणीय लिहिण्यासाठी कृत्रिम बुद्धिमत्ता साधनांचा वापर वाढविला आहे. मानववंशशास्त्रज्ञ डारिओ अम्युडीचे सीईओ सारख्या काही तज्ञांनी पुढील सहा महिन्यांत कृत्रिम बुद्धिमत्ता 90 % संहिताची अपेक्षा केली आहे.

त्या पार्श्वभूमीवर, संस्थांचा काय परिणाम होतो? पारंपारिकपणे, कोड विकास पद्धतींमध्ये गुणवत्ता, अनुपालन आणि सुरक्षा सुनिश्चित करण्यात मदत करण्यासाठी विविध नियंत्रण, नियंत्रण आणि प्रशासन समाविष्ट होते. कृत्रिम बुद्धिमत्तेच्या प्रतीकासह, संस्थांमध्ये समान आश्वासने आहेत का? आणि सर्वात महत्त्वाचे म्हणजे, कृत्रिम बुद्धिमत्ता प्रतीक जन्मलेल्या मॉडेल्सना संस्थांना माहित असू शकते.

कोड कोठे येतो हे समजून घेणे संस्थांसाठी नवीन आव्हान नाही. येथूनच स्त्रोत सूचना विश्लेषण (एससीए) योग्य आहे. ऐतिहासिकदृष्ट्या, एससीए साधनांनी कृत्रिम बुद्धिमत्तेबद्दल अंतर्दृष्टी प्रदान केली नाही, परंतु आता हे बदलत आहे. यासह अनेक विक्रेते सोनारआणि एंडोर लॅबोरेटरीज आणि सोनाटाइप हे आता विविध प्रकारच्या कल्पना ऑफर करते जे संस्थांना कृत्रिम बुद्धिमत्तेमधून विकसित केलेले प्रतीक मदत करू शकते.

“आम्ही आता बोलत असलेल्या प्रत्येक ग्राहकांना कृत्रिम बुद्धिमत्ता प्रतीक जनरेटर वापरुन जबाबदारीने कसे वापरावे याबद्दल रस आहे,” सोनार तारिक शौकत यांचे व्हेंचरबिटचे मुख्य कार्यकारी अधिकारी म्हणाले.

कृत्रिम बुद्धिमत्तेमुळे विकसित झालेल्या चिन्हामुळे वित्तीय कंपनीला दर आठवड्याला एका व्यत्ययाचा त्रास होतो

कृत्रिम बुद्धिमत्ता साधने अचूक नाहीत. बर्‍याच संस्थांना हे शिकले आहे की सामग्री विकास साधने प्रदान करताना लवकर हा धडा म्हणजे भ्रम म्हणून ओळखला जातो.

हाच मूलभूत धडा विकसित कोडवर लागू होतो. संस्था प्रायोगिक परिस्थितीपासून उत्पादन मोडमध्ये जात असताना, ते अत्यंत प्राण्यांच्या वाहने असलेल्या कोडच्या जागी वाढत गेले आहेत. विकसित कोडमुळे सुरक्षा आणि विश्वासार्हता समस्या देखील उद्भवू शकतात असे शुकत यांनी सूचित केले. तो क्षुल्लक नसल्यामुळे त्याचा परिणाम वास्तविक आहे.

“माझ्याकडे सीटीओ होते, उदाहरणार्थ, सुमारे सहा महिन्यांपूर्वी एका वित्तीय सेवा कंपनीसाठी त्यांनी मला सांगितले की कृत्रिम बुद्धिमत्तेच्या प्रतीकामुळे ते एका आठवड्याच्या व्यत्ययाने ग्रस्त होते,” शुकत म्हणाले.

जेव्हा त्याच्या ग्राहकांनी विचारले की तो प्रतीक आहे की नाही, तेव्हा उत्तर होय होते. तथापि, विकसकांना कोडच्या जवळ कोठेही वाटले नाही आणि त्यांनी पूर्वीप्रमाणे जास्त वेळ आणि अचूकता खर्च केली नाही.

कोड प्राण्यांच्या शेवटी, विशेषत: मोठ्या संस्थांसाठी, व्हेरिएबलच्या प्राण्यांच्या शेवटी असू शकतो. तथापि, सामान्य समस्याग्रस्त समस्यांपैकी एक म्हणजे संस्थांमध्ये बर्‍याचदा मोठे प्रतीक नियम असतात ज्यात कृत्रिम बुद्धिमत्ता इन्स्ट्रुमेंटला माहित नसलेल्या जटिल संरचना असू शकतात. शौकत येथे, कृत्रिम बुद्धिमत्ता चिन्हाचे जनरेटर सर्वात मोठ्या आणि सर्वात प्रगत कोड नियमांच्या जटिलतेशी चांगले व्यवहार करीत नाहीत.

“आमचे सर्वात मोठे ग्राहक सॉफ्टवेअर सूचनांच्या दोन अब्जपेक्षा जास्त वंशाचे विश्लेषण करते,” शुकत म्हणाले. “या कोडच्या या नियमांचा सामना करण्यास सुरवात होते, जे अधिक गुंतागुंतीचे आहे आणि त्यांच्याकडे बरीच तांत्रिक कर्ज आहे आणि त्यांच्याकडे बरेच अवलंबून आहेत.”

एआय कोडची आव्हाने विकसित झाली

सोनाटाइप येथील मुख्य उत्पादन विकास अधिकारी मिशेल जॉन्सनसाठी हे स्पष्ट आहे की येथे जगण्यासाठी हा कोड विकसित केलेला कोड.

प्रोग्राम विकसकांनी भौमितिक राइट कॉल केल्याचे अनुसरण केले पाहिजे. म्हणजेच कोड बेस खराब होत नाही. याचा अर्थ कृत्रिम बुद्धिमत्तेद्वारे तयार केलेल्या कोडच्या प्रत्येक ओळीचे पुनरावलोकन करणे आणि समजून घेणे काटेकोरपणे-विकसकांनी लिखित किंवा मुक्त स्त्रोत कोड स्वहस्ते केले.

जॉन्सनने व्हेंचरबीटला सांगितले: “एआय एक शक्तिशाली साधन आहे, परंतु जेव्हा सुरक्षा, प्रशासन आणि गुणवत्तेचा विचार केला जातो तेव्हा ते मानवी नियमांची जागा घेत नाही,” जॉन्सनने व्हेंचरबिटला सांगितले.

जॉन्सनच्या म्हणण्यानुसार कृत्रिम बुद्धिमत्तेच्या प्रतीकाचा सर्वात मोठा धोकाः

• सुरक्षा जोखीमकृत्रिम बुद्धिमत्ता कमकुवत किंवा हानिकारक चिन्हासह मोठ्या ओपन सोर्स डेटा सेटमध्ये प्रशिक्षण दिले गेले आहे. सत्यापित नसल्यास, ते सॉफ्टवेअर पुरवठा साखळीतील सुरक्षा दोष प्रविष्ट करू शकते.
• आंधळे आत्मविश्वास?
• अनुपालन आणि संदर्भातील अंतरएआयमध्ये व्यवसाय तर्कशास्त्र, सुरक्षा धोरणे आणि कायदेशीर आवश्यकतांबद्दल जागरूकता नसते, जे जोखमीने भरलेल्या कामगिरीचे पालन आणि प्रदर्शन करते.
• प्रशासन आव्हाने: कृत्रिम बुद्धिमत्तेद्वारे तयार केलेले प्रतीक पर्यवेक्षणाशिवाय वाढू शकते. मोठ्या प्रमाणात एआयचे सॉफ्टवेअर ट्रॅक, तपासण्यासाठी आणि सुरक्षित करण्यासाठी संस्थांना स्वयंचलित हँडरेलची आवश्यकता आहे.

“हे जोखीम असूनही, वेग आणि सुरक्षा हे प्राधान्य असू नये,” जॉन्सन म्हणाले.

मॉडेल महत्वाचे: कोडच्या विकासासाठी मुक्त स्त्रोत मॉडेलचे जोखीम निश्चित करा

असे अनेक मॉडेल आहेत जे संस्था प्रतीक तयार करण्यासाठी वापरतात. उदाहरणार्थ, हा एक विशेषतः मजबूत पर्याय आहे. कोड असिस्ट, ओपनईचे ओ 3 आणि जीपीटी -4 ओ मॉडेल देखील व्यवहार्य पर्याय आहेत.

मग एक मुक्त स्त्रोत आहे. मेटा आणि कोडो सारखे विक्रेते ओपन सोर्स मॉडेल्स ऑफर करतात आणि लगिंगफेसवर पर्यायांचा अंतहीन संच उपलब्ध आहे. कार्ल मॅटसन, एंडोर लॅब सिसो यांनी असा इशारा दिला की या मॉडेल्समध्ये सुरक्षा आव्हाने आहेत जी बर्‍याच संस्थांसाठी तयार नाहीत.

“पद्धतशीर जोखीम म्हणजे ओपन सोर्स एलएलएमचा वापर,” मॅटसनने व्हेंचरबीटला सांगितले. “ओपन सोर्स मॉडेल्स वापरणारे विकसक समस्यांचा पूर्णपणे नवीन संच तयार करतात. एक प्रकारचे प्रतिबंधित किंवा प्रतिबंधित मॉडेल्स वापरुन ते त्यांच्या कोड बेसवर सादर केले जातात.”

मानव किंवा ओपनई सारख्या कंपन्यांच्या व्यावसायिक ऑफरच्या विपरीत, जे मॅटसनने “उच्च -गुणवत्तेची सुरक्षा कार्यक्रम आणि प्रशासन” असे वर्णन केले आहे, ओपन सोर्स मॉडेल गुणवत्ता आणि सुरक्षिततेमध्ये मिठी मारण्यासारख्या गोदामांपेक्षा भिन्न असू शकतात. कोड व्युत्पन्न करण्यासाठी ओपन सोर्स मॉडेल्सचा वापर करण्यास मनाई करण्याऐवजी संस्थांनी संभाव्य जोखीम समजून घेणे आणि योग्यरित्या निवडले पाहिजे.

कोड वेअरहाऊसमध्ये ओपन सोर्स एआय मॉडेल्स, विशेषत: मिठीतून, ओपन सोर्स एआय मॉडेल्स वापरताना एंडोर प्रयोगशाळा संस्थांना शोधण्यात मदत करू शकतात. कंपनीचे तंत्रज्ञान जोखीम आधार तयार करण्यासाठी ऑपरेशनल सुरक्षा, मालकी, वापर आणि वारंवारता अद्यतनासह 10 जोखमीद्वारे या मॉडेलचे मूल्यांकन देखील करते.

विशेष शोधण्याची तंत्रे दिसतात

उदयोन्मुख आव्हानांना सामोरे जाण्यासाठी एससीए विक्रेत्यांनी बर्‍याच भिन्न क्षमता सोडल्या.

उदाहरणार्थ, सोनारने कृत्रिम बुद्धिमत्तेच्या प्रतीकाची हमी देण्याची क्षमता विकसित केली आहे जी मशीन व्युत्पन्न करण्यासाठी अद्वितीय कोड नमुने निश्चित करू शकेल. कोडिंग सहाय्यकाशी थेट एकत्रीकरण न करता देखील सिस्टम कोडमध्ये तयार होण्याची शक्यता आहे हे सिस्टम शोधू शकते. त्यानंतर सोनार या विभागांना विशेष ऑडिट लागू करतो आणि ठोस अवलंबन आणि आर्किटेक्चरल समस्यांचा शोध घेतो जे मानवांवर लिहिलेल्या कोडमध्ये दिसणार नाहीत.

एंडोर आणि सोनाटाइप प्रयोगशाळांमध्ये फॉर्मच्या स्त्रोतावर लक्ष केंद्रित करून भिन्न कलात्मक दृष्टिकोनाचे अनुसरण केले जाते. सोनाटाइप प्लॅटफॉर्मचा वापर कृत्रिम बुद्धिमत्ता मॉडेल त्याच्या सॉफ्टवेअर घटकांसह निश्चित करण्यासाठी, ट्रॅक आणि नियंत्रित करण्यासाठी केला जाऊ शकतो. कोड वेअरहाउस आणि संभाव्य जोखीम मूल्यांकनात ओपन सोर्स एआय मॉडेल्स कधी वापरल्या जातात हे एंडोर प्रयोगशाळे देखील निर्धारित करू शकतात.

संस्थांच्या वातावरणात कृत्रिम बुद्धिमत्तेपासून तयार केलेला कोड अंमलात आणताना, जास्तीत जास्त व्याज वाढविताना जोखीम कमी करण्यासाठी संस्थांना संघटित अभ्यासक्रमाची आवश्यकता असते.

कंपन्यांनी विचारात घ्याव्यात अशा बर्‍याच मुख्य सर्वोत्तम पद्धती आहेत, यासह:

• कठोर सत्यापन अंमलात आणत आहे: थ्रोकेशनने संघटनांची शिफारस केली आहे कोडच्या कोडच्या विशिष्ट भागात कोड जनरेटर वापरल्या जाणार्‍या समजूतदारपणाबद्दल एक कठोर प्रक्रिया. तयार केलेल्या सूचनांमध्ये उत्तरदायित्वाची आणि छाननीची योग्य पातळी सुनिश्चित करण्यासाठी हे आवश्यक आहे.
• जटिल कोडबेससह कृत्रिम बुद्धिमत्ता निर्बंधांबद्दल जाणून घ्या: कृत्रिम बुद्धिमत्तेपासून तयार केलेल्या सॉफ्टवेअर सूचना सहजपणे साध्या मजकूर प्रोग्राम्सचा सामना करू शकतात, परंतु जटिल सॉफ्टवेअर सूचनांच्या नियमांचा विचार केला तर त्या काही प्रमाणात मर्यादित असू शकतात ज्यांचे अनेक परिणाम आहेत.
• तयार केलेल्या कोडमधील अद्वितीय समस्या समजून घेणेलक्षात ठेवा की चॉकलेट डब्ल्यूहिल एआय सामान्य वाक्य बांधकाम त्रुटी टाळते, कारण ते भ्रमातून अधिक गंभीर वास्तू समस्या निर्माण करतात. हॉलबौसामध्ये आधीपासून अस्तित्त्वात असलेल्या व्हेरिएबल नाव किंवा लायब्ररीची कोड रचना समाविष्ट असू शकते.
• यासाठी विकसकाची जबाबदारी आवश्यक आहेजॉन्सनने यावर जोर दिला की कृत्रिम बुद्धिमत्तेद्वारे तयार केलेला कोड सुरक्षित नाही. विकसकांनी वचनबद्ध होण्यापूर्वी प्रत्येक ओळीच्या वैधतेचे पुनरावलोकन करणे, समजून घेणे आणि सत्यापित करणे आवश्यक आहे.
• कृत्रिम बुद्धिमत्तेची मंजुरी सुलभ करणेजॉन्सन कृत्रिम बुद्धिमत्ता सावलीच्या धोक्याबद्दल किंवा कृत्रिम बुद्धिमत्ता साधनांचा अनियंत्रित वापर याबद्दल देखील चेतावणी देतो. बर्‍याच संस्था एकतर कृत्रिम बुद्धिमत्तेला थेट प्रतिबंधित करतात (जे कर्मचारी दुर्लक्ष करतात) किंवा अत्यंत जटिल मंजुरी ऑपरेशन्स तयार करतात जेणेकरून कर्मचारी त्यांच्यापेक्षा जास्त असतील. त्याऐवजी, हे सूचित करते की कंपन्या एआयचे मूल्यांकन करण्यासाठी आणि कृत्रिम बुद्धिमत्ता प्रकाशयोजना सुनिश्चित करण्यासाठी एक स्पष्ट आणि प्रभावी चौकट तयार करतात, अनावश्यक रस्त्यांच्या अडथळ्यांशिवाय सुरक्षित दत्तक घेतात.

संस्थांसाठी याचा अर्थ काय आहे?

वास्तविक एआय शेड कोड विकसित होण्याचा धोका.

कृत्रिम बुद्धिमत्तेच्या मदतीने संस्था तयार करू शकणार्‍या कोडची मात्रा वाढत्या प्रमाणात वाढत आहे आणि लवकरच बहुतेक सर्व कोडचा समावेश करू शकतो.

जटिल संस्थांच्या अनुप्रयोगांसाठी जोखीम विशेषत: जास्त आहे, कारण एकाच ठोस अवलंबनामुळे आपत्तीजनक अपयश येऊ शकते. विश्वसनीयता राखताना कृत्रिम बुद्धिमत्ता कोडिंग साधने अवलंबण्याच्या विचारात असलेल्या संस्थांसाठी, विशेष कोड विश्लेषण साधने अंमलात आणल्यास वैकल्पिक ते बेसिककडे द्रुतपणे वळते.

“जर आपण एखाद्या विशेषज्ञांचा शोध न घेता आणि आरोग्याची पडताळणी न करता उत्पादनात कृत्रिम बुद्धिमत्तेची परवानगी दिली तर आपण प्रामुख्याने उड्डाण करत आहात,” मॅटसनने चेतावणी दिली. “आम्ही ज्या अपयशाचे प्रकार पाहतो ते केवळ त्रुटीच नाहीत – ते आर्किटेक्चरल अपयश आहेत जे संपूर्ण सिस्टम टाकू शकतात.”