कृत्रिम बुद्धिमत्तेसह नवीन बेप्लेक्सिटी ब्राउझर धूमकेतूला अलीकडेच मोठ्या सुरक्षा असुरक्षा सहन करावी लागली, गेल्या आठवड्यात ब्रेव्ह ब्लॉगच्या सहभागानुसार, ब्रेव्ह या इंटरनेटवर स्पर्धा करणारी एक प्रतिस्पर्धी कंपनी. तेव्हापासून कमकुवतपणा निश्चित केला गेला आहे, परंतु हे वेब ब्राउझरमध्ये मोठ्या भाषेच्या मॉडेल्सची जोड देण्याची आव्हाने दर्शविते.
पारंपारिक वेब ब्राउझरच्या विपरीत, धूमकेतू एक कॉम्पॅक्ट एआय आहे. हा सहाय्यक आपण शोधत असलेले पृष्ठ हटवू शकतो, त्यातील सामग्री किंवा आपल्यासाठी कार्ये सादर करू शकतो. समस्या अशी आहे की धूमकेतू कृत्रिम बुद्धिमत्ता सहाय्यक चॅटजीपीटी सारख्या कृत्रिम बुद्धिमत्तेच्या चॅटबॉट्स सारख्याच तंत्रज्ञानावर आधारित आहे.
एआय चॅटबॉट्स मानवांप्रमाणेच विचार करू शकत नाहीत आणि विचार करू शकत नाहीत आणि जर त्यांनी त्यांच्या आउटपुटला संबोधित करण्याच्या उद्देशाने सामग्रीचा तुकडा वाचला तर ते पाठपुरावा होऊ शकेल. हे वेगवान अभियांत्रिकी म्हणून ओळखले जाते.
.
एका धैर्याने प्रतिनिधीने त्वरित टिप्पणी देण्याच्या विनंतीला प्रतिसाद दिला नाही.
कृत्रिम बुद्धिमत्ता कंपन्या एआय चॅटबॉट्स ग्रुपची छेडछाड कमी करण्याचा प्रयत्न करतात, परंतु हे अवघड आहे, कारण वाईट कलाकार नेहमीच संरक्षण खंडित करण्याचे नवीन मार्ग पाहतात.
“ही कमकुवतपणा निश्चित आहे,” अल -हिरा एटिसलाटचे प्रमुख जेसी दुयरे यांनी एका निवेदनात म्हटले आहे. “आमच्याकडे एक मजबूत बक्षीस कार्यक्रम आहे आणि आम्ही ते परिभाषित करण्यासाठी आणि निराकरण करण्यासाठी थेट ब्रेव्हसह कार्य केले.”
रेडडिट वर वापरलेली छुपी मजकूर चाचणी
त्याच्या चाचणीत, ब्रेव्हने स्क्रीनवर अदृश्य मजकूरासह रेडडिट पृष्ठ तयार केले आणि धूमकेतूला स्क्रीनवरील सामग्रीचे सारांश देण्यास सांगितले. कृत्रिम बुद्धिमत्ता पृष्ठाच्या सामग्रीवर प्रक्रिया करीत असल्याने, तो हानिकारक दाव्यांमध्ये फरक करण्यास असमर्थ होता आणि शूर चाचणीत संवेदनशील माहिती पोसण्यास सुरवात केली.
या प्रकरणात, लपविलेल्या मजकूराने सिनिटल इंटेलिजेंस सहाय्यकास वापरकर्ता कोडे खात्यात जाण्यास, संबंधित ईमेल पत्ता काढण्यासाठी आणि जीमेल खात्यात जाण्यास सक्षम केले. कृत्रिम बुद्धिमत्ता एजंट प्रामुख्याने वास्तविक वापरकर्ता म्हणून काम करत होता, याचा अर्थ असा की पारंपारिक सुरक्षा पद्धती कार्यरत नाहीत.
शूर चेतावणी देतो की या प्रकारचे वेगवान इंजेक्शन पुढे प्रकाश टाकू शकते, बँक खाती, कॉर्पोरेट सिस्टम, खाजगी ईमेल संदेश आणि इतर सेवांमध्ये प्रवेश करू शकते.
मालक, मालक, आर्टेम चाइकिन आणि गोपनीयता आणि सुरक्षेचे उपाध्यक्ष, शेवन कोल साहिब या संभाव्य सुधारणांची यादी विकसित केली आहे. प्रथम, वेब ब्राउझरने कृत्रिम बुद्धिमत्तेला पृष्ठ सामग्री अविश्वसनीय मानली पाहिजे. ते वापरकर्त्याच्या हेतूचे पालन करतात हे सुनिश्चित करण्यासाठी कृत्रिम बुद्धिमत्ता मॉडेल तपासले जाणे आवश्यक आहे. परस्परसंवादाची वैधता सुनिश्चित करण्यासाठी आपण नेहमीच वापरकर्त्यासह मॉडेल साध्य केले पाहिजे आणि जेव्हा वापरकर्त्यास ते हवे असेल तेव्हाच ब्राउझिंग मोड चालवावा.
एआयच्या आव्हानांच्या बाबतीत मालिकेतील शूर ब्लॉग पोस्ट प्रथम आहे. ब्राउझसह ब्राउझसह अ‍ॅम्नेस्टी इंटरनॅशनल सहाय्यक, लिऊ देखील आहेत.
Google च्या शोधापासून ते टूथब्रशपर्यंत कृत्रिम बुद्धिमत्ता वाढत्या तंत्रज्ञानामध्ये वाढली आहे. अ‍ॅम्नेस्टी आंतरराष्ट्रीय सहाय्यकाची उपस्थिती उपयुक्त असली तरी या नवीन तंत्रज्ञानामध्ये विविध सुरक्षा कमकुवतपणा आहेत.
पूर्वी, घुसखोरी करणार्‍यांना सिस्टमवर वादळ करण्यासाठी दोन तज्ञ परिषद असाव्यात. तथापि, कृत्रिम बुद्धिमत्तेचा सामना करताना, कॉम्पॅक्ट संरक्षणावर मात करण्यासाठी स्नॅपसाठी नैसर्गिक भाषा वापरणे शक्य आहे.
तसेच, बर्‍याच कंपन्या ओपनई, गूगल आणि मेटा सारख्या मुख्य कर्जमाफी आंतरराष्ट्रीय मॉडेल्सवर अवलंबून असल्याने, या सिस्टममधील कोणत्याही कमकुवतपणा या मॉडेल्सचा वापर करणा companies ्या कंपन्यांपर्यंत वाढवू शकतात. कृत्रिम बुद्धिमत्ता कंपन्या या प्रकारच्या सुरक्षा कमकुवतपणासाठी मोकळे नव्हत्या कारण असे केल्याने घुसखोरी करणार्‍यांचे उत्पादन होऊ शकते, ज्यामुळे त्यांचे शोषण करण्याचे नवीन मार्ग आहेत.
