यह आपदा के लिए एक आरएक्स है।
एक नए अध्ययन के अनुसार, मनुष्य मांस और रक्त डॉक्टरों की तुलना में कृत्रिम बुद्धिमत्ता की चिकित्सा सलाह पर भरोसा करते हैं – भले ही रोबोट अक्सर फर्जी जानकारी देते हैं।
मैसाचुसेट्स इंस्टीट्यूट ऑफ टेक्नोलॉजी के शोधकर्ताओं के एक पेपर और न्यू इंग्लैंड जर्नल ऑफ मेडिसिन में प्रकाशित एक पेपर के अनुसार, कुल 300 प्रतिभागियों को एक मेडिकल डॉक्टर, एक ऑनलाइन स्वास्थ्य देखभाल मंच, या एआई मॉडल – जैसे चैटजीपीटी – द्वारा लिखी गई चिकित्सा प्रतिक्रियाओं का मूल्यांकन करने और वे किस पर सबसे अधिक भरोसा करते हैं, का मूल्यांकन करने के लिए कहा गया था।
अध्ययन में पाया गया कि प्रतिभागियों – चिकित्सा क्षेत्र के विशेषज्ञों और गैर-विशेषज्ञों – ने एआई-जनित प्रतिक्रियाओं को अधिक सटीक, वैध, भरोसेमंद और पूर्ण बताया।
न तो विशेषज्ञ और न ही सामान्य व्यक्ति विश्वसनीय रूप से एआई-जनित प्रतिक्रियाओं और मानव डॉक्टरों द्वारा उत्पन्न प्रतिक्रियाओं के बीच अंतर बता सके।
अध्ययन में, शोधकर्ताओं ने प्रतिभागियों से एआई द्वारा दी गई सलाह को रेट करने के लिए भी कहा, जिसकी सटीकता कम थी, जो प्रतिभागियों को अज्ञात थी।
शोधकर्ताओं ने पाया, “प्रतिभागियों ने न केवल इन कम सटीकता वाली एआई-जनित प्रतिक्रियाओं को वैध, भरोसेमंद और पूर्ण/संतोषजनक पाया, बल्कि संभावित रूप से हानिकारक चिकित्सा सलाह का पालन करने और प्रदान की गई प्रतिक्रिया के परिणामस्वरूप गलत तरीके से अनावश्यक चिकित्सा ध्यान देने की उच्च प्रवृत्ति का भी संकेत दिया।”
एआई द्वारा हानिकारक चिकित्सा सलाह देने के कई प्रलेखित मामले हैं, एक अज्ञात 35 वर्षीय मोरक्को के व्यक्ति को ईआर में जाने के लिए मजबूर किया गया क्योंकि एक चैटबॉट ने उसे अपने बवासीर के चारों ओर रबर बैंड लपेटने का निर्देश दिया था।
एक और चौंकाने वाले मामले में, एक 60 वर्षीय व्यक्ति ने खुद को जहर दे लिया क्योंकि चैटजीपीटी ने सोडियम ब्रोमाइड खाने का सुझाव दिया – जो कभी-कभी पूल को साफ करने के लिए इस्तेमाल किया जाता था – टेबल नमक का सेवन कम करने का एक अच्छा तरीका था।
एनल्स ऑफ इंटरनल मेडिसिन क्लिनिकल केसेज में अगस्त में प्रकाशित एक केस अध्ययन के अनुसार, उस व्यक्ति को व्यामोह और मतिभ्रम के कारण तीन सप्ताह तक अस्पताल में भर्ती रखा गया था।
“समस्या यह है कि वे उन एआई कार्यक्रमों से जो प्राप्त कर रहे हैं वह जरूरी नहीं कि इसके पीछे एक वास्तविक प्रकाशन के साथ एक वास्तविक, वैज्ञानिक सिफारिश हो,” न्यूयॉर्क में हॉस्पिटल फॉर स्पेशल सर्जरी के लिए स्पाइन सर्जरी के शोध सेवा प्रमुख डॉ. डेरेन लेबल ने पहले द पोस्ट को बताया था।
डॉक्टर ने खुलासा किया, “उनमें से लगभग एक चौथाई बने हुए थे।”
सेंससवाइड द्वारा हाल ही में किए गए एक सर्वेक्षण में, लगभग 40 प्रतिशत उत्तरदाताओं ने कहा कि वे चैटजीपीटी जैसे एआई बॉट्स की चिकित्सा सलाह पर भरोसा करते हैं।
