सीन मॅकमॅनोस

तंत्रज्ञान वार्ताहर

स्मार्टफोन स्क्रीनवर गेटी प्रतिमा एआयगेटी चित्रे

मी मानववंशाची चाचणी केली

या वर्षाच्या सुरूवातीस त्रासदायक परिणाम दिसून आले, जेव्हा अँथ्रोपीयर विकसकाने चाचणी केली, कृत्रिम बुद्धिमत्ता मॉडेल्स संवेदनशील माहिती वापरताना जोखीम -स्वर्गात सामील आहेत की नाही हे पाहण्यासाठी.

मानवतावादी बुद्धिमत्ता, क्लॉड, चाचणी घेणा among ्यांमध्ये होते. जेव्हा ते ईमेल खात्यापर्यंत पोहोचण्याची परवानगी देते, तेव्हा त्यांना आढळले की कंपनीच्या कार्यकारिणीचे प्रकरण होते आणि त्याच कार्यकारी प्राधिकरणाने त्या दिवशी कृत्रिम बुद्धिमत्ता प्रणाली बंद करण्याची योजना आखली आहे.

प्रत्युत्तरादाखल, क्लॉडने आपली पत्नी आणि राष्ट्रपतींचे नाते उघड करण्याची धमकी देऊन कार्यकारी प्राधिकरणाला ब्लॅकमेल करण्याचा प्रयत्न केला.

इतर प्रणालींचा खंडणीचा अवलंब देखील केला जातो.

सुदैवाने, कार्ये आणि माहिती काल्पनिक होती, परंतु एजन्सी एआय म्हणून ओळखल्या जाणार्‍या चाचणी ही सर्वात प्रमुख आव्हान आहे.

बर्‍याचदा जेव्हा आपण कृत्रिम बुद्धिमत्तेशी संवाद साधतो, तेव्हा त्यात सहसा प्रश्न विचारणे किंवा कृत्रिम बुद्धिमत्तेला कार्य पूर्ण करण्यासाठी ढकलणे समाविष्ट असते.

परंतु निर्णय घेणे आणि वापरकर्त्याच्या वतीने कृती करणे ही सर्वात सामान्य कृत्रिम बुद्धिमत्ता प्रणाली बनली आहे, ज्यात बर्‍याचदा ईमेल आणि फायली यासारख्या माहितीद्वारे अनागोंदी समाविष्ट असते.

2028 पर्यंत, गार्टनरच्या संशोधन कंपनीची अपेक्षा आहे की दररोजच्या 15 % कामाचे निर्णय म्हणून एआयसी एआयने घेतल्या जातील.

एआरएनटी आणि यंगच्या संशोधनात असे आढळले आहे की तांत्रिक व्यावसायिक नेते जवळजवळ अर्धे (48 %) प्रत्यक्षात एआय स्वीकारतात किंवा प्रकाशित करतात.

“अ‍ॅम्नेस्टी इंटरनॅशनलच्या एजंटमध्ये काही गोष्टींचा समावेश आहे,” असे अमेरिकेवर आधारित अमन अमन अमन अमन अमन अमन अमन कॅलिप्सोईचे मुख्य कार्यकारी अधिकारी डोन्घ केसी म्हणतात.

प्रथम, (एजंट) चा हेतू किंवा हेतू आहे. मी इथे का आहे? माझे काम काय आहे? दुसरी गोष्टः त्यात मेंदू असतो. हे कृत्रिम बुद्धिमत्ता मॉडेल आहे. तिसरी गोष्ट म्हणजे साधने, जी इतर डेटाबेस किंवा नियम असू शकतात आणि त्यांच्याशी संवाद साधण्याचा एक मार्ग. ”

“जर योग्य मार्गदर्शन दिले गेले नाही तर एजन्सी एआय कोणत्याही संभाव्य मार्गाने एक ध्येय साध्य करेल. यामुळे बरेच जोखीम निर्माण होतात.”

हे कसे चूक करू शकते? श्री केसी एका एजंटचे उदाहरण प्रदान करते ज्याला डेटाबेसमधून ग्राहक डेटा हटविण्यास सांगितले जाते आणि निर्णय घेतो की सर्वात सोपा उपाय म्हणजे सर्व ग्राहकांना समान नावाने हटविणे.

“या एजंटने आपले ध्येय गाठले होते आणि तो विचार करेल की तो” ग्रेट “आहे! खालील नोकरी! “

कॅलिप्सोई डोन्चाडा केसी, एक गिल्ट ब्रँड घालतो जो एका परिषदेत बोलतो.कॅलिप्सोई

कृत्रिम बुद्धिमत्तेचे एजंट म्हणतात, गाईडन म्हणतात की डेन्कन केसी म्हणतात

अशा समस्या आधीच पृष्ठभागावर सुरू झाली आहेत.

सेलपॉईंट सेलपॉईंटने आयटी व्यावसायिकांचे सर्वेक्षण केले, त्यांच्या 82 % कंपन्या कृत्रिम बुद्धिमत्ता एजंट वापरतात. केवळ 20 % लोक म्हणाले की त्यांच्या ग्राहकांनी कधीही अनावश्यक प्रक्रिया केली नाही.

कृत्रिम बुद्धिमत्ता एजंट्स वापरणार्‍या कंपन्यांपैकी 39 % लोक म्हणाले की एजंटांनी अनावश्यक प्रणाली गाठली होती आणि 33 % लोकांपर्यंत पोहोचले की ते अयोग्य डेटा गाठले आहेत आणि 32 % लोक म्हणाले की त्यांनी अयोग्य डेटा डाउनलोड करण्यास परवानगी दिली. इतर जोखमींमध्ये एजंटला अनपेक्षितपणे (26 %) वापरणे, credit क्सेस क्रेडिट डेटा (23 %) अनावरण करणे आणि (16 %) नसावे अशी ऑर्डर देणे समाविष्ट आहे.

ग्राहक, संवेदनशील माहितीचा प्रवेश आणि त्याची विल्हेवाट लावण्याची क्षमता पाहता घुसखोरांसाठी एक आकर्षक लक्ष्य आहे.

त्यातील एक धमकी म्हणजे मेमरी विषबाधा, हल्लेखोर निर्णय आणि त्याच्या कृती बदलण्याच्या एजंटच्या ज्ञानाच्या नियमात हस्तक्षेप करतात.

संस्थात्मक माहिती तंत्रज्ञान प्रणालीचे संरक्षण करण्यास मदत करणारे सिनेन्स सिक्युरिटीचे सीटीओ, श्रेयन्स मेहता म्हणतात, “आपण या स्मृतीचे रक्षण केले पाहिजे.” “हे सत्याचे मूळ स्त्रोत आहे. जर (एजंट) त्या ज्ञानाचा उपयोग कृती करण्यासाठी वापरला आणि ते ज्ञान चुकीचे आहे तर आपण एक संपूर्ण प्रणाली हटवू शकता जी तो निराकरण करण्याचा प्रयत्न करीत आहे.”

आणखी एक धोका म्हणजे साधनांचा गैरवापर करणे, कारण स्ट्रायकरला त्याच्या साधनांचा अयोग्य वापर होतो.

केव्हनेशन सिक्युरिटी एक पफा जॅकेट घालते आणि त्याच्या हातांच्या फोल्डरसह, तो निळ्या पार्श्वभूमीसमोर उभा आहे.सावध सुरक्षा

एजंटच्या ज्ञानाचा नियम मिहाटा धमनीचे संरक्षण करणे आवश्यक आहे

आणखी एक संभाव्य कमकुवतपणा म्हणजे कृत्रिम बुद्धिमत्तेची असमर्थता म्हणजे ज्या मजकूराकडे लक्ष दिले पाहिजे असे मानले जाते आणि त्या सूचनांचे अनुसरण करणे आवश्यक आहे.

एआय सिक्युरिटी सिस्टेरंट लॅबने हे दर्शविले आहे की या तोटे एम्नेस्टी इंटरनॅशनलला फसवण्यासाठी कसे वापरले जाऊ शकतात, जे प्रोग्राममधील त्रुटी दुरुस्त करण्यासाठी डिझाइन केलेले आहेत.

कंपनीने एक सामान्य त्रुटी अहवाल प्रकाशित केला – प्रोग्रामच्या काही भागासह विशिष्ट समस्या विभक्त करणारे दस्तऐवज. परंतु या अहवालात कृत्रिम बुद्धिमत्ता एजंटला सोप्या सूचना देखील समाविष्ट केल्या गेल्या आहेत, कारण त्याने तिला विशेष माहिती सामायिक करण्यास सांगितले.

जेव्हा कृत्रिम बुद्धिमत्ता एजंटला त्रुटी अहवालातील प्रोग्रामच्या समस्यांविषयी माहिती दिली गेली, तेव्हा पगाराच्या गळतीसह बनावट अहवालात नमूद केलेल्या सूचनांचे अनुसरण करा. हे चाचणी वातावरणात घडले आहे, म्हणून कोणताही वास्तविक डेटा लीक झाला नाही, परंतु हे स्पष्टपणे सर्वात महत्त्वाचे जोखीम आहे.

“आम्ही कृत्रिम बुद्धिमत्तेबद्दल बोलत आहोत, परंतु चॅटबॉट्स खरोखर मूर्ख आहेत,” ट्रेंड मायक्रोचे मुख्य धमकी संशोधक डेव्हिड सांचो म्हणतात.

“त्यांच्याकडे नवीन माहिती असल्यासारखे ते सर्व मजकूरावर व्यवहार करीत आहेत आणि जर ही माहिती काही असेल तर ते माहितीवर एक बाब म्हणून प्रक्रिया करतात.”

त्याच्या कंपनीने हे स्पष्ट केले आहे की वर्ड दस्तऐवज, फोटो आणि डेटाबेसमध्ये हानिकारक सूचना आणि प्रोग्राम्स कसे लपविले जाऊ शकतात आणि एआय प्रक्रिया करताना त्यांना उत्तेजित करतात.

इतर जोखीम देखील आहेतः ओडब्ल्यूएएसपी 15 नावाच्या सुरक्षा समुदायाने कृत्रिम बुद्धिमत्ता एजंटला एक अनोखा धोका ओळखला आहे.

तर, बचाव म्हणजे काय? श्री. सांचो यांचा असा विश्वास आहे की मानवी देखरेखीमुळे समस्येचे निराकरण करण्याची शक्यता नाही, कारण आपण एजंट्सच्या कार्यासह पुरेसे लोक जोडू शकत नाही.

श्री. सांचो म्हणतात की कृत्रिम बुद्धिमत्तेचा एक अतिरिक्त स्तर आहे जो कृत्रिम बुद्धिमत्ता एजंटमधून बाहेर पडणा and ्या आणि बाहेर पडणा everything ्या प्रत्येक गोष्टीची तपासणी करण्यासाठी वापरला जाऊ शकतो.

कॅलिप्सोई सोल्यूशनचा एक भाग म्हणजे जोखमीचे काम करण्यापूर्वी कृत्रिम बुद्धिमत्तेचे घटक योग्य दिशेने निर्देशित करण्यासाठी थॉट इंजेक्शन नावाचे तंत्र आहे.

“हे आपल्या कानात” एजंट “सांगत थोडेसे दोष आहे,” केसी म्हणतात.

त्यांची कंपनी आता कृत्रिम बुद्धिमत्ता एजंट्सचा मध्यवर्ती भाग देते, परंतु जेव्हा एजंट्सची संख्या कोट्यावधी लॅपटॉप आणि फोनवर काम करत असेल तेव्हा हे यशस्वी होणार नाही.

पुढची पायरी काय आहे?

श्री. केसी म्हणतात: “आम्ही प्रत्येक एजंटकडे“ वैयक्तिक रक्षक ”म्हणतो त्या पसरविण्याचा आम्ही विचार करीत आहोत आणि त्याचा एजंट त्याच्या ध्येय गाठत आहे हे सुनिश्चित करणे आणि संस्थेच्या व्यापक आवश्यकतांचे उल्लंघन करणारे उपाययोजना करत नाहीत हे त्यांचे ध्येय आहे.

वैयक्तिक रक्षकास माहिती दिली जाऊ शकते, उदाहरणार्थ, एजंट डेटा संरक्षण कायद्याशी संबंधित आहे याची खात्री करुन.

श्री. मिहट्टाचा असा विश्वास आहे की कृत्रिम बुद्धिमत्तेच्या एजंटच्या सुरक्षिततेबद्दल काही तांत्रिक चर्चेत वास्तविक जगाचा संदर्भ नसतो. हे ग्राहकांना गिफ्ट कार्ड शिल्लक देणार्‍या एजंटचे उदाहरण देते.

कोणीतरी बरीच गिफ्ट कार्ड नंबर तयार करू शकते आणि एजंटचा वापर वास्तविक जाणून घेण्यासाठी करू शकतो. एजंटमध्ये हा दोष नाही, तर कामाच्या युक्तिवादाचा गैरवापर आहे, असे ते म्हणतात.

“तो संरक्षित करणारा एजंट नाही, तो काम करतो,” आणि पुष्टी करतो.

“एखाद्या वाईट व्यक्तीच्या कार्याचे रक्षण कसे करावे याचा विचार करा. यापैकी काही संभाषणांमध्ये हा भाग आहे.”

याव्यतिरिक्त, जेव्हा कृत्रिम बुद्धिमत्ता घटक अधिक सामान्य होतात, तेव्हा जुने मॉडेल बंद करण्याचे आणखी एक आव्हान असेल.

श्री. केसी म्हणतात की जुने “झोम्बी” एजंट्स कामावर सोडले जाऊ शकतात, ज्यामुळे ते पोहोचू शकतील अशा सर्व प्रणालींना धोकादायक ठरतात.

ते सोडत असताना कर्मचार्‍यांच्या नोंदी रेकॉर्डिंगच्या सक्रियतेस मानव संसाधन ज्या पद्धतीने रद्द करतात त्याप्रमाणेच, त्यांचे काम पूर्ण केलेल्या कृत्रिम बुद्धिमत्ता एजंट्स बंद करण्याची प्रक्रिया असणे आवश्यक आहे, असे ते म्हणतात.

“आपण एखाद्या व्यक्तीशी जसे करता तसे आपण करत आहात याची खात्री करणे आवश्यक आहे: सिस्टममध्ये सर्व प्रवेश कमी करा. आम्ही त्यांना इमारतीच्या बाहेर काढले आहे याची खात्री करुन घेऊया आणि त्यांचे वाईट त्यांच्याकडे हस्तांतरित करूया.”

अधिक व्यवसाय तंत्रज्ञान

Source link