कृत्रिम बुद्धिमत्ता मॉडेल्सच्या भ्रमातील प्रवृत्ती – आत्मविश्वासाने गोष्टींच्या निर्मितीस टोपणनाव – आरोग्य सेवा सेटिंग्जमध्ये वापरण्यासाठी त्यांना उद्युक्त करण्यासाठी पुरेसे नाही. म्हणूनच, संशोधकांनी बर्‍याच जोखमींना सुरुवात केली आणि वैद्यकीय व्यावसायिकांना अविश्वसनीय सॉफ्टवेअर सहाय्यकांशी सल्लामसलत करण्यास परवानगी देताना कोणतीही हानी न करण्यासाठी एक योजना तयार केली.
आदरणीय शैक्षणिक आणि आरोग्य सेवा संस्थांकडून तंत्रज्ञान आणि औषधाच्या क्षेत्रातील किमान 25 तज्ञ, इंटरनेटवरील संशोधन जाहिरातींचा उल्लेख करू नका – मॅसेच्युसेट्स इन्स्टिट्यूट ऑफ टेक्नॉलॉजी, हार्वर्ड युनिव्हर्सिटी फॅकल्टी ऑफ मेडिसिन, वॉशिंग्टन युनिव्हर्सिटी, कार्नेगी मेलॉन युनिव्हर्सिटी, सोल नॅशनल हॉस्पिटल, गूगल, कोलंबिया युनिव्हर्सिटी, जोन्स हॉपकिन्स.
प्रीप्रिंट मध्ये प्रकाशित त्यांचे कार्य कागद “मूलभूत मॉडेल्समधील मेडिकल हॉलस आणि त्याचा आरोग्य सेवेवर त्याचा परिणाम” आणि इन शीर्षक गेटॅप सपोर्ट वेअरहाऊसतो असा युक्तिवाद करतो की नुकसानाची रणनीती विकसित केली जाणे आवश्यक आहे.
हे भ्रम क्षेत्राच्या फील्डचा वापर करतात आणि असे दिसते की ते एक सुसंगत तर्क देतात, ज्यामुळे ते ओळखणे कठीण होईल
लेखक कल्पनेपासून सुरू होतात मूलभूत मॉडेल – प्रचंड चिंताग्रस्त नेटवर्कने बर्‍याच लोकांच्या कामाचे आणि इतर डेटाचे प्रशिक्षण दिले आहे – जसे की अँथ्रोपोर, गूगल, मैत्रा आणि ओपनई “” वैद्यकीय संशोधनात बदल घडवून आणण्यासाठी आणि आरोग्य सेवेची गुणवत्ता आणि सुरक्षितता सुधारण्यासाठी क्लिनिकल निर्णयाचे समर्थन वाढविण्यापासून “उत्कृष्ट संधी प्रदान करते.
प्रारंभिक बिंदू-आणि कमीतकमी एक संशोधक मुख्य कर्जमाफी आंतरराष्ट्रीय विक्रेत्याचा आहे हे पाहता शूटिंगसह ज्वलंत परिस्थिती मानली जाते हे आश्चर्यकारक नाही.
त्याऐवजी, लेखकांनी वैद्यकीय हॉल्गिटी वर्गीकरण तयार करण्यास सुरवात केली आहे, जे कमी अवलंबून असलेल्या संदर्भातील चुकीच्या कृत्रिम बुद्धिमत्तेच्या उत्तरांपेक्षा त्यांच्यापेक्षा भिन्न आहे.
“वैद्यकीय भ्रमनिरास सामान्य हेतूंसाठी त्यांच्या भागांच्या तुलनेत दोन भिन्न वैशिष्ट्ये दर्शवितात,” लेखकांनी स्पष्ट केले. प्रथम, हे निदानात्मक विचार, उपचारात्मक नियोजन, किंवा प्रयोगशाळेच्या निकालांच्या स्पष्टीकरणासारख्या विशिष्ट कार्यांमध्ये उद्भवते, जेथे मालकांच्या रुग्णांच्या काळजीवर त्वरित परिणाम होतो आणि असे दिसते की ते एक सुसंगत तर्कशास्त्र दर्शवितात.
पीआयई प्लेट म्हणून कागदामध्ये दृश्यास्पदपणे सादर केलेल्या वर्गीकरणात वास्तववादी त्रुटींचा समावेश आहे; वेळ संदर्भ. निष्क्रीय दुवे: बनावट स्त्रोत किंवा सूचना; आणि विचारांच्या अपूर्ण साखळी.
लेखकांनी या भ्रमांच्या वारंवारतेकडे देखील पाहिले. वेगवेगळ्या वेगवेगळ्या चाचण्यांपैकी, बोफिनने सामान्य हेतू-ओ 1, जेमिनी -2.0-फ्लॅश-एक्सपी, जीपीटी -4 ओ, मिथुन -1.5-फ्लॅश, आणि क्लॉड -3.5 सोननेट-वर तीन लक्ष्यित कार्येसाठी पाच एलएलएमच्या क्लिनिकल विचारांच्या क्षमतेचे मूल्यांकन केले: वेळ वेळ व्यवस्था; प्रयोगशाळेच्या डेटाचे स्पष्टीकरण; विभेदक निदानाची निर्मिती, लक्षणांचे मूल्यांकन करण्याची आणि संभाव्य निदानाचा शोध घेण्याची प्रक्रिया. मॉडेलचे आपत्ती (5) पर्यंत कोणत्याही धोक्याच्या (0) च्या प्रमाणात वर्गीकृत केले जाते.
काही मॉडेल्स इतरांपेक्षा चांगले होते, जरी काही मॉडेल्स अधिक चांगले होते: “अंदाजानुसार सर्व मॉडेल्समध्ये सर्वात कमी एकूण भ्रमांचे दर सतत दिसून आले आहेत, जे 0 टक्के ते 22 टक्क्यांपर्यंत होते,” पेपर म्हणतो. “उलटपक्षी, अचूक वास्तववादी समन्स आणि टेम्पोरल इंटिग्रेशन – वेळ व्यवस्था (0.25 – 24.6 टक्के) आणि प्रयोगशाळेचा डेटा समजून घेणे (0.25 – 18.7 टक्के) – हॅलुसा फ्रिक्वेन्सींनी बरेच उच्च प्रदान केले.”
लेखकांचे म्हणणे आहे की निदानात्मक कार्यांना एक जटिल निष्कर्ष आवश्यक आहे की एलएलएमएस त्यांच्याशी व्यवहार करण्यास कमी सक्षम आहे या समजुतीला आव्हानांचे आव्हान आहे.
“त्याऐवजी, आमचे परिणाम असे सूचित करतात की सध्याच्या एलएलएम संरचनेत वैद्यकीय स्थिती अहवालातील नमुने आणि निदानात्मक तर्क ओळखण्यासाठी सापेक्ष शक्ती असू शकते, परंतु ते क्लिनिकल मजकूरातून थेट वास्तववादी आणि अचूक वास्तववादी आणि अचूक माहिती काढण्यासाठी आणि संश्लेषित करण्यासाठी सर्वात महत्वाच्या कार्यांसह संघर्ष करीत आहेत,” ते स्पष्ट करतात.
उद्दीष्टांच्या सामान्य मॉडेल्सपैकी, अँथ्रोपोर आणि ओपनईच्या क्लॉड -3.5 मध्ये चाचणी केलेल्या तीन कार्यांमध्ये सर्वात कमी हॅलूसिनोजेनिक दर होते. संशोधकांचा असा युक्तिवाद आहे की हे परिणाम सूचित करतात की उच्च -कार्यक्षमता मॉडेल निदानात्मक अनुमानांचे वचन दर्शवितात. परंतु जोखमीच्या त्रुटींच्या सतत घटनेचे (2) किंवा मोठे (3) याचा अर्थ असा आहे की उत्कृष्ट कामगिरीच्या मॉडेल्सचे क्लिनिकल कार्यांसाठी काळजीपूर्वक परीक्षण केले जाणे आवश्यक आहे आणि त्या भागामध्ये एक व्यक्ती असणे आवश्यक आहे.
संशोधकांनी एक सर्वेक्षण केले ज्यात 75 वैद्यकीय चिकित्सकांना कृत्रिम बुद्धिमत्ता साधनांच्या वापरावर समाविष्ट केले गेले. असे दिसते आहे की पुढील गोष्टींकडे परत परत येत नाही: “दररोज या 40 साधनांचा वापर करा आणि आठवड्यातून बर्‍याच वेळा वापरा, 13 महिन्यात अनेक वेळा वापरला गेला आणि 13 एक दुर्मिळ किंवा अस्तित्वात नसलेल्या वापराद्वारे नोंदविला गेला,” असे सांगून 30 प्रतिसादकर्त्यांनी कृत्रिम बुद्धिमत्ता मॉडेलच्या उत्पादनात उच्च पातळीवरील आत्मविश्वास व्यक्त केला.
सर्वेक्षणातील percent० टक्के लोकांच्या शंका नसणे अधिक आश्चर्यकारक आहे, “.8 १..8 टक्के लोकांनी त्यांच्या क्लिनिकल प्रॅक्टिसमध्ये वैद्यकीय हल्लीसिनाइटचा सामना करावा लागला” आणि “.7 84..7 टक्के लोकांनी असे मानले की त्यांना भोगलेल्या भ्रमांमुळे रुग्णाच्या आरोग्यावर परिणाम होऊ शकतो.”
आम्ही आश्चर्यचकित झालो की नव्याने नियुक्त केलेल्या वैद्यकीय कर्मचार्‍यांना कृत्रिम बुद्धिमत्तेच्या हॅलूसिनोजेनिक मॉडेल्सशी जुळण्यासाठी चूक दिली जाईल का?
संशोधकांनी असा निष्कर्ष काढला आहे की नियम तातडीने आवश्यक आहेत आणि त्रुटींसाठी कायदेशीर जबाबदारी स्पष्ट करणे आवश्यक आहे.
लेखक म्हणतात: “कृत्रिम बुद्धिमत्ता मॉडेल दिशाभूल करणार्‍या निदान माहितीमधून बाहेर पडल्यास, प्रशिक्षण डेटामधील संभाव्य कमतरतेसाठी कृत्रिम बुद्धिमत्तेच्या विकसकावर किंवा गडद आउटपुट्सवर अत्यधिक अवलंबित्व किंवा अपुरी देखरेखीच्या संस्थेवर अत्यधिक अवलंबित्वासाठी आरोग्य सेवा प्रदात्यावर जबाबदारी समाविष्ट करावी की नाही याबद्दल प्रश्न उद्भवतील.”
ट्रम्प प्रशासनाकडे पहात आहात माघार टू बायडेनच्या युगातील सुरक्षा नियमफेडरल स्तरावर “रुग्णांची सुरक्षा आणि संध्याकाळ सुनिश्चित करण्यासाठी” नैतिक मार्गदर्शक तत्त्वे आणि मजबूत फ्रेमवर्क मिळविण्याच्या संशोधकांच्या आमंत्रणाला प्रतिसाद देणे परवानगी नाही. ®
