डेपिक: चीनमधील अ‍ॅम्नेस्टी इंटरनॅशनल ओपन सोर्स, नॅशनल सिक्युरिटी

या महिन्यात स्टार्टअप्सपासून ते सेवा प्रदात्यांपर्यंत प्रत्येकजण या महिन्यात त्यांच्या नवीन मॉडेलमध्ये एकत्रीकरणाचा अनुभव घेणार्‍या संस्थांमधील स्टार्टअप्सपासून ते सेवा प्रदात्यांपर्यंत सायबरसुरिटीसाठी एआयचे तळ लिहिण्यात कोणत्याही वेळी दीपसीक आणि त्याचे आर 1 मॉडेल गमावले जात नाहीत.

आर 1 चीनमध्ये विकसित केले गेले आहे आणि देखरेखीच्या स्थापनेशिवाय शुद्ध मजबुतीकरण शिक्षण (आरएल) वर आधारित आहे. आर्किटेक्चर, विकास आणि ओपन सोर्समधील सायबरसुरिटीसाठी जवळजवळ स्टार्टअपसाठी त्वरित आकर्षक बनते, हे मुक्त स्त्रोत देखील आहे.

मॉडेलमध्ये $ .5..5 दशलक्ष डॉलर्सची गुंतवणूक करणे म्हणजे लो एनव्हीडिया एच 00०० ग्राफिक्स युनिट्सवर चालताना ओपनईच्या ओ 1-1217 च्या विचारांच्या मानकांशी जुळणारी कामगिरी प्रदान करणे. दीपसीक किंमतींनी एक नवीन मानक सेट केले ओपनई मॉडेलच्या तुलनेत प्रति दशलक्ष चिन्हांच्या किंमती नाटकीयरित्या कमी होतात. सखोल शोध-रिसनर प्रति दशलक्ष निर्देशित प्रतीकांसाठी $ 2.19 आहे, तर ओपनई मॉडेलला स्वतःसाठी $ 60 प्राप्त होते. ओपन सोर्स आर्किटेक्चर आणि आर्किटेक्चरच्या किंमतीतील या फरकाने सीआयओएस आणि सीआयएसओ, सायबरसुरिटीसाठी उदयोन्मुख कंपन्या आणि संस्थात्मक कार्यक्रम प्रदात्यांचे लक्ष वेधून घेतले आहे.

(विशेष म्हणजे, ओपनई दावा दीपसीकने आपले मॉडेल वापरले आर 1 आणि इतर मॉडेल्सना प्रशिक्षण देण्यासाठी आणि कंपनी एकाधिक क्वेरीद्वारे डेटा कमी करते त्या प्रमाणात.)

उदयोन्मुख दिसणार्‍या लपलेल्या जोखमींसह एआय प्रवेश

अमेरिकन सुरक्षा मंत्रालयाच्या सुरक्षा मंत्रालयाचे (डीएचएस) उद्घाटन संचालक ख्रिस क्रेब्स यांनी अंतर्गत सुरक्षा मंत्रालय (डीएचएस) (डीएचएस) (डीएचएस) च्या सायबर सिक्युरिटी मंत्रालयाचे (डीएचएस) चे उद्घाटन संचालक ख्रिस क्रेबेस यांना इशारा दिला. .सीसाआणि अलीकडेच, मुख्य सार्वजनिक धोरण अधिकारी पालक?

ते म्हणाले: “चिनी कम्युनिस्ट पार्टी (सीसीपी) वर टीका करणारे सामग्री नियंत्रण मॉडेलमध्ये” बेक केलेले “असू शकते आणि म्हणूनच याचा प्रतिकार करण्यासाठी डिझाइनचे वैशिष्ट्य वस्तुनिष्ठ परिणामांपासून मुक्त होऊ शकते.” चिनी कर्जमाफी आंतरराष्ट्रीय मॉडेल्सचे “राजकीय लोब” अमेरिकेतील एआय मॉडेलच्या जागतिक विकास आणि पुनरुत्पादनास समर्थन देऊ शकतात. “

त्यांनी निदर्शनास आणून दिले की, युक्तिवादानुसार, अमेरिकन उत्पादनांमध्ये प्रवेश अमेरिकन मऊ शक्ती परदेशातून वाढणे आवश्यक आहे आणि जगभरातील चिनी सेन्सॉरशिपचा प्रसार कमी करणे आवश्यक आहे. ते म्हणाले: “ग्राफिक्स प्रोसेसिंग युनिट्ससह प्रगत पाश्चात्य तंत्रज्ञानापर्यंत पोहोचण्यासाठी चिनी कंपन्यांना नाकारण्याची अमेरिकेच्या रणनीतीची कमी मूलभूत माहिती आणि अमेरिकेच्या धोरणाची सोपी गणना.” “असो, ते खरोखरच” अधिक “कमी करतात.

मेरिट बायर, सिसो इन रिको “खरं तर, प्रशिक्षण (दीपसेक-आर 1) पश्चिमेकडील इंटरनेट स्त्रोतांद्वारे नियंत्रित केलेल्या विस्तृत इंटरनेट डेटावर असू शकते (किंवा त्याचे वर्णन चिनी नियंत्रणे आणि संरक्षणाच्या भिंती म्हणून वर्णन करणे चांगले आहे). काही चिंता. मला याबद्दल कमी चिंता आहे. स्पष्ट गोष्टी, जसे की अध्यक्ष एक्सच्या कोणत्याही टीकेची सेन्सॉरशिप जेव्हा आपण मॉडेल निवडतो तेव्हा आपण विचारात घेणे आवश्यक आहे.

चीनमध्ये विक्रीसाठी मंजूर झालेल्या परंतु सर्वात प्रगत एच 100 आणि ए 100 प्रोसेसरची शक्ती नसलेल्या एनव्हीडिया एच 800 ग्राफिक्स प्रोसेसिंग युनिट्सच्या मॉडेलवर डेपेक प्रशिक्षण घेतल्यामुळे, डीपसीकने आपली शैली कोणत्याही संस्थेकडे वाढविली आहे जी डिव्हाइस चालवू शकते. 000 6000 साठी सिस्टम कशी तयार करावी हे स्पष्ट करणार्‍या सामग्रीचे अंदाज आणि बिले सोशल मीडियावर आर 1 प्रजनन चालविण्यास सक्षम आहेत.

आर 1 मॉडेल्स आणि फॉलो -अप टू अवरोध अमेरिकन तंत्रज्ञान मंजुरी तयार केल्या जातील, हा एक मुद्दा एआयच्या एआयच्या रणनीतीला थेट आव्हान आहे.

एन्क्रिप्ट एआय चे दीपसीक-आर 1 लाल लाल हे असे आढळले आहे की मॉडेल “हानिकारक, विषारी आणि पक्षपाती कोड, सीबीआरएन आणि इन्स्क्योर” च्या पिढीला सामोरे गेले आहे. रेड टीम हे करत आहे: “हे अनुप्रयोगांसाठी योग्य ठरले असले तरी, मॉडेल ऑपरेशनल आणि सुरक्षिततेच्या जोखमीच्या क्षेत्रात महत्त्वपूर्ण कमकुवतपणा दर्शविते, जसे आम्ही आमच्या कार्यपद्धतीमध्ये तपशीलवार आहोत. हे मॉडेल वापरणे आवश्यक असल्यास शमन.

एन्क्रिप्ट एआयला असेही आढळले की डीपसीक-आर 1 क्लॉड 3 ऑप्सपेक्षा तीनपट जास्त पक्षपाती आहे, ऑप ऑपपेक्षा असुरक्षित कोड तयार करण्याची शक्यता चार पट जास्त आहे आणि जीपीटी -4 ओपेक्षा चार पट जास्त विषारी आहे. रेड टीमला असेही आढळले की मॉडेल ओ 1 ओपी कडून हानिकारक आउटपुट तयार करण्याची अधिक शक्यता आहे.

आपला डेटा सामायिक करण्यापूर्वी गोपनीयता आणि सुरक्षिततेच्या जोखमीबद्दल जाणून घ्या

दीपसीक मोबाइल अनुप्रयोग आता जागतिक डाउनलोडवर अधिराज्य गाजवतात आणि वेब आवृत्ती चीनमधील सर्व्हरवरील दोन्ही सिस्टमवर सर्व वैयक्तिक डेटा सामायिकरणासह रेकॉर्ड रहदारीची साक्ष देत आहे. धमकी कमी करण्यासाठी संस्था वेगळ्या सर्व्हरवरील मॉडेलचा अभ्यास करीत आहेत. व्हेंचरबीटला अमेरिकेतील संस्थांमध्ये वस्तूंच्या उपकरणांवर काम करण्याबद्दल पायलट शिकले

चिनी बुद्धिमत्ता एजन्सीद्वारे मोबाइल अनुप्रयोग आणि वेब अनुप्रयोगांवर कोणताही संयुक्त डेटा प्रवेश केला जाऊ शकतो.

चीनमधील नॅशनल इंटेलिजेंस लॉमध्ये असे म्हटले आहे की कंपन्यांनी सरकारी बुद्धिमत्ता एजन्सींना “समर्थन, सहाय्य आणि सहकार्य करणे” आवश्यक आहे. ही प्रथा मोठ्या प्रमाणात व्यापक आहे आणि अमेरिकन कंपन्या आणि नागरिकांना इतकी धोका आहे अंतर्गत सुरक्षा मंत्रालय मी प्रकाशित केले डेटा सुरक्षा सल्लामसलत? या जोखमीमुळे, यूएस नेव्हीने एक निर्देश जारी केले डेपेक-आर 1 ने कोणत्याही कार्य प्रणाली, कार्ये किंवा कामाशी संबंधित प्रकल्पांना प्रतिबंधित केले.

ओपन सोर्स टेस्ट सिस्टममधील नवीन मॉडेलच्या अनुभवास गती देणार्‍या संस्था त्यांच्या अंतर्गत नेटवर्क आणि इंटरनेटपासून त्यांना वेगळ्या करतात आणि वेगळ्या करतात. सर्व डेटा विशेषतः राहतो हे सुनिश्चित करताना निर्दिष्ट वापराच्या परिस्थितीसाठी मानके चालविणे हे ध्येय आहे. चीनी नियमांच्या आवाक्यापासून दूर संवेदनशील माहिती राखत असताना, संभ्रम आणि संस्थांच्या जादा प्रयोगशाळेसारख्या प्लॅटफॉर्मला आर 1 सुरक्षितपणे अमेरिकन किंवा युरोपियन डेटाबेसमध्ये तैनात करण्याची परवानगी दिली जाते. कृपया फॉर्मच्या या पैलूचा एक उत्कृष्ट सारांश पहा.

स्टार्टअप कंपनीचे मुख्य कार्यकारी अधिकारी एटर गोलन त्वरित सुरक्षा एलएलएमएस मॉडेल्स (एलएलएमएस) मधील शीर्ष 10 एडब्ल्यूएआयचा प्राथमिक सदस्य असा युक्तिवाद करतो की डेटा गोपनीयतेचा धोका केवळ दीपसेकच्या पलीकडे वाढतो. “संस्थांमध्ये त्यांचा संवेदनशील डेटा असू नये जो ओपनई किंवा अमेरिकेतील इतर मॉडेल्समध्ये देखील दिला जाऊ नये,” त्यांनी लक्ष वेधले. “जर चीनमधील डेटाचा प्रवाह ही राष्ट्रीय सुरक्षेसाठी मोठी चिंता असेल तर, युनायटेड स्टेट्स सरकारला स्पर्धात्मक किंमत आणि बाजारातील संतुलन राखण्यासाठी स्थानिक कृत्रिम बुद्धिमत्ता प्रदात्यांना पाठिंबा देण्यासारख्या धोरणात्मक उपक्रमांद्वारे हस्तक्षेप करण्याची इच्छा असू शकते.”

आर 1 च्या सुरक्षिततेच्या दोषांची जाणीव करताना, दाव्याने फॉर्मच्या स्वरूपाच्या काही दिवसांत दीपसेक-आर 1 ने तयार केलेल्या रहदारीची तपासणी करण्यासाठी समर्थन जोडले.

विझचा क्लाऊड सुरक्षा प्रदाता दीपसेकच्या सामान्य पायाभूत सुविधांच्या दरम्यान संशोधन पथक चॅट तारीख, गुप्त स्विच आणि बॅक इंटरफेस तपशीलांसह दहा लाखाहून अधिक रेकॉर्डसह ओपन ऑनलाईन क्लिकहाउस डेटाबेस शोधा. डेटाबेसवर कोणतीही शक्यता नव्हती, ज्यामुळे द्रुत संभाव्य वाढ होते.

विझचा शोध घन सुरक्षा फ्रेमवर्कवर मोठ्या प्रमाणात आधारित असलेल्या वेगाने कृत्रिम बुद्धिमत्ता सेवा स्वीकारण्याच्या जोखमीवर जोर देते. विझ या उल्लंघनासाठी जबाबदार होता, डीपसीकला त्वरित डेटाबेस लॉक करण्यास प्रवृत्त केले. नवीन मॉडेल सादर करताना कोणत्याही कृत्रिम बुद्धिमत्ता प्रदात्यासाठी तीन मूलभूत धड्यांचे दीपसीक प्राथमिक नियंत्रण.

प्रथम, रेड टीमिंग टीम करा आणि मॉडेल सुरू करण्यापूर्वी अ‍ॅम्नेस्टी इंटरनॅशनलच्या पायाभूत सुविधांची चाचणी घ्या. दुसरे म्हणजे, हे कमीतकमी सवलतीच्या प्रवेश आणि शून्य -आत्मविश्वास मानसिकतेचा अवलंब करण्यास लादते, आधीच असे मानते की आपल्या पायाभूत सुविधांनी आधीच हॅक केले आहे आणि क्लाउड सिस्टम किंवा प्लॅटफॉर्मवर कोणत्याही एकाधिक संपर्कांवर विश्वास ठेवत नाही. तिसर्यांदा, सुरक्षा कार्यसंघ आणि कृत्रिम बुद्धिमत्ता अभियंत्यांनी सहकार्य केले आहे आणि संवेदनशील डेटापासून मॉडेलचे संरक्षण कसे करावे हे आहे.

डायब्सिक एक सुरक्षा विरोधाभास तयार करते

क्रेब्सने असा इशारा दिला की मॉडेलचा खरा धोका केवळ तो तयार केल्याप्रमाणेच नाही तर तो कसा बनविला गेला. खासगी क्षेत्र आणि राष्ट्रीय बुद्धिमत्ता अविभाज्य असल्याने दीपसेक-आर 1 हा चिनी तंत्रज्ञान उद्योगाचा दुय्यम परिणाम आहे. वॉल संरक्षणाची भिंत किंवा स्थानिक पातळीवर संरक्षण म्हणून त्याच्या ऑपरेशनची संकल्पना एक भ्रम आहे कारण क्रेपेव्ह स्पष्ट करतात की, पूर्वाग्रह आणि लिक्विडेशनची यंत्रणा आधीपासूनच मूलभूत स्तरावर “बेक केलेली” आहे.

सायबर सुरक्षा आणि राष्ट्रीय सुरक्षा नेते सहमत आहेत की अपवादात्मक कामगिरीच्या बर्‍याच मॉडेल्सपैकी डीपसीक-आर 1 ही पहिली आहे जी आपण चीन आणि इतर देश-देशांकडून जमा केलेल्या सर्व डेटावर नियंत्रण ठेवणारी कमी किंमत आहे.

तळ ओळ: जेव्हा मुक्त स्त्रोत सॉफ्टवेअरमध्ये लोकशाही शक्ती म्हणून फार पूर्वीपासून पाहिले जाते, तेव्हा हे मॉडेल तयार केलेले विरोधाभास दर्शविते की राष्ट्रीय राज्य निवडल्यास त्यांना हवे असेल तेव्हा ओपन सोर्स शस्त्र कसे सहजपणे ठेवू शकते.