दुनिया के अग्रणी आर्थिक अनुसंधान निकायों में से एक के प्रमुख ने कहा है कि लोगों के लिए एआई को तैनात करने से प्रचार में कमी आनी चाहिए ताकि “डैशबोर्ड सफलता” “कल्याण विफलता” न बन जाए, चेतावनी देते हुए कि अप्रमाणित कृत्रिम बुद्धिमत्ता समाधानों को स्केल करने से सक्रिय नुकसान हो सकता है – न कि केवल पैसे की बर्बादी।
नीति निर्माता, शोधकर्ता और तकनीकी नेता मंगलवार को नई दिल्ली में भारत एआई प्रभाव शिखर सम्मेलन के दूसरे दिन “सामाजिक भलाई के लिए एआई” चर्चा के लिए एकत्र हुए, अब्दुल लतीफ जमील पॉवर्टी एक्शन लैब (जे-पीएएल) के वैश्विक कार्यकारी निदेशक इकबाल धालीवाल ने कहा कि ऐप डाउनलोड और चैट लॉग के साथ मौजूदा जुनून अंतिम लक्ष्य को अस्पष्ट करने का खतरा है: मानव जीवन में सुधार। इससे भी बुरी बात यह है कि इससे असमानता बढ़ने, प्रौद्योगिकी में जनता का विश्वास कम होने और महत्वपूर्ण मानवीय निर्णय के विस्थापित होने का जोखिम है।
धालीवाल ने सोमवार को एचटी को बताया, ”सगाई महत्वपूर्ण है… लेकिन वे आवश्यक शर्तें हैं – वे पर्याप्त शर्तें नहीं हैं।” ”पर्याप्त शर्तें नहीं बदली हैं… [it is] प्रभाव.â€
जे-पाल ने मंगलवार को एआई एविडेंस प्लेबुक लॉन्च किया – एआई को जिम्मेदारी से तैनात करने पर सरकारी अधिकारियों का मार्गदर्शन करने के लिए एक मैनुअल। यह संग्रह एआई अपनाने को कठोर साक्ष्य के साथ संरेखित करने के लिए वैश्विक अनुसंधान से सबक देता है।
“सगाई का जाल”।
धालीवाल की सावधानी उस बात में निहित है जिसे वे “सगाई का जाल” कहते हैं – जहां उच्च उपयोग वाले मेट्रिक्स वास्तविक दुनिया के लाभ देने में विफलता को छुपाते हैं। उन्होंने केन्याई उद्यमियों के लिए व्हाट्सएप-आधारित एआई चैटबॉट का हवाला दिया, जिसमें बड़े पैमाने पर जुड़ाव देखा गया, जिसमें 85% उपयोगकर्ताओं ने इसके साथ बातचीत की।
धालीवाल ने कहा, ”शानदार जुड़ाव…लेकिन मुनाफा या राजस्व बढ़ता नहीं दिख रहा।” “यह जानना कि लोग किसी बॉट से चैट कर रहे हैं… वास्तविक दुनिया के परिणामों पर प्रभाव प्रदर्शित नहीं करता है।”
यह मापने के अलावा कि एआई काम करता है या नहीं, धालीवाल ने लागत प्रभावशीलता और वितरण संबंधी प्रभावों का आकलन करने पर जोर दिया। “क्या यह प्रभावी है? नंबर दो, क्या यह लागत प्रभावी है?” उन्होंने पूछा। “आखिरकार हर कोई शुरुआत में इन चीज़ों को मुफ़्त में दे रहा है, लेकिन डेटा और प्रश्नों के लिए पैसे खर्च होंगे और पर्यावरणीय प्रभाव होंगे।”
यह पूछना भी उतना ही महत्वपूर्ण है कि किसे लाभ होता है। “क्या इससे हर किसी को लाभ हो रहा है या औसत प्रभाव कुछ लोगों द्वारा निर्धारित किया जा रहा है?” उन्होंने कहा, परिणाम सबसे जरूरतमंद लोगों के बजाय पहले से ही उच्च प्रदर्शन वाले व्यवसायों द्वारा प्रेरित हो सकते हैं।
विकास क्षेत्र डेजी वू
धालीवाल ने वर्तमान एआई प्रचार को विकास क्षेत्र की निराशाओं के एक परिचित पैटर्न के भीतर तैयार किया। माइक्रोफाइनेंस और “प्रति बच्चा एक लैपटॉप” का हवाला देते हुए उन्होंने कहा, “यह विकास क्षेत्र में हमेशा से एक जाल रहा है।”
उन्होंने याद करते हुए कहा, “माइक्रोफाइनेंस को हमारी सभी समस्याओं का समाधान करना था – महिला को सशक्त बनाना, उसकी आजीविका बढ़ाना, स्वास्थ्य संबंधी झटके कम करना।”
इसी तरह, प्रति बच्चा एक लैपटॉप का उद्देश्य शिक्षा में सुधार करना और बच्चों को सामाजिक लाभ कार्यक्रमों तक पहुंचने में मदद करना था। उन्होंने कहा, “यह सिर्फ इसलिए काम नहीं करता है क्योंकि क्षेत्र में यह कैसे होने वाला है इसके पीछे और आगे के संबंध नहीं होने वाले हैं।”
खतरा सिर्फ पैसे की बर्बादी का नहीं बल्कि सक्रिय नुकसान का है। अप्रभावी समाधानों को स्केल करने से असमानता बढ़ सकती है या महत्वपूर्ण मानवीय निर्णय विस्थापित हो सकते हैं। उन्होंने मानसिक स्वास्थ्य ऐप्स को विशेष रूप से चिंताजनक बताते हुए केवल कमी के कारण परामर्शदाताओं को एल्गोरिदम से बदलने की चेतावनी दी।
“डॉक्टर के बजाय, अब यह एआई और उस मरीज के बीच एक-पर-एक रिश्ता है। यह बहुत तेजी से दक्षिण की ओर जा सकता है,” उन्होंने कहा।
जबकि एम्स में एक शीर्ष डॉक्टर एआई उपकरण से “मतिभ्रम” को फ़िल्टर कर सकता है, बिहार या उत्तर प्रदेश में प्राथमिक स्वास्थ्य केंद्र में एक नर्स “विभाग द्वारा दी गई सलाह” का पालन करने के लिए मजबूर महसूस कर सकती है, अगर एआई गलत है तो संभावित रूप से नुकसान हो सकता है।
प्रौद्योगिकी में जनता का विश्वास कम होने का खतरा बढ़ गया है। धालीवाल ने इसे कृषि विस्तार कार्यकर्ताओं के साथ चित्रित किया – पारंपरिक रूप से दुर्लभ लेकिन मूल्यवान सलाहकार जो खेतों का दौरा करते हैं, उपचार की सिफारिश करते हैं और गंभीर रूप से परिणामों की जांच करने के लिए वापस आते हैं।
“एजी एक्सटेंशन कार्यकर्ता एक सप्ताह के बाद वापस जाएगा और कहेगा, ‘कुछ फर्क पड़ा?’ (क्या इससे कोई फर्क पड़ा?), धालीवाल ने समझाया। “अगर किसान कहता है ‘ये तो और ख़राब हो गया’ (यह और भी बदतर हो गया), तो वह तुरंत इसमें संशोधन करेगा।”
अब एक एआई ऐप की कल्पना करें जो फोटो-आधारित निदान के माध्यम से गलत सलाह दे रहा है। “अगर आप उन्हें ग़लत सलाह देंगे तो क्या होगा [and] कुछ बुरा हुआ? प्रौद्योगिकी में विश्वास के बारे में क्या? क्या वे कभी आपके पास वापस आएंगे या नहीं?”
भारत साक्ष्य राजधानी के रूप में
सावधानी के बावजूद, धालीवाल भारत को इस वैश्विक पहेली को सुलझाने के लिए विशिष्ट स्थिति में देखते हैं। जबकि पश्चिम खंडित विरासत प्रणालियों से जूझ रहा है, भारत के डिजिटल पब्लिक इंफ्रास्ट्रक्चर (डीपीआई) – जिसमें आधार और यूपीआई शामिल हैं – ने इसे “दुनिया की एआई एप्लिकेशन राजधानी” बना दिया है।
धालीवाल ने कहा, ”भारत आने और काम पर डीपीआई स्टैक को देखने बनाम किसी अन्य निम्न और मध्यम आय वाले देश में जाने का अंतर अभूतपूर्व है।” “भारत में उपलब्ध डिजिटलीकरण और डेटा चार्ट से बाहर है।”
यह डिजिटल बैकबोन भारत को तेजी से, कम लागत वाले यादृच्छिक मूल्यांकन (आरसीटी) चलाने की अनुमति देता है ताकि यह परीक्षण किया जा सके कि एआई उपकरण वास्तव में काम करते हैं या नहीं।
गति बनाम कठोरता
धालीवाल ने स्वीकार किया कि कठोर मूल्यांकन और राजनीतिक समयसीमा के बीच तनाव कोई नई बात नहीं है। “J-PAL में मेरे 16 वर्षों में, सामान्य प्रश्न क्या रहा है? ‘इसमें बहुत लंबा समय लगने वाला है। हमें इसे अभी लागू करने की जरूरत है,” उन्होंने कहा।
दबाव कई स्रोतों से आता है: आगामी चुनाव, नौकरशाही स्थानांतरण (अधिकारी अपनी 18 महीने की पोस्टिंग समाप्त होने से पहले परिणाम चाहते हैं), और बजटीय चक्र जिसमें 31 मार्च तक खर्च की आवश्यकता होती है। “और इन सबके पीछे अच्छा करने की इच्छा भी है,” उन्होंने कहा।
उनकी प्रतिक्रिया: “इसे धीमा करो इसलिए नहीं कि हमें गरीबों की परवाह नहीं है, बल्कि इसलिए कि हम गरीबों की परवाह करते हैं और वास्तव में चाहते हैं कि उन्हें परिणाम मिले।”
लेकिन वह इस आधार पर पीछे हट गया। भारत के डिजिटल बुनियादी ढांचे की बदौलत, मूल्यांकन अब “बहुत तेज़” हो गया है। “हम स्वास्थ्य प्रवेश, शैक्षिक परिणामों, किसानों की उत्पादकता के बारे में डेटा को अब डिजिटल रूप से अधिक प्राप्त कर सकते हैं,” जिससे प्रारंभिक परिणाम जल्दी प्राप्त हो सकते हैं।
संवर्द्धन, प्रतिस्थापन नहीं
धालीवाल ने तर्क दिया कि ग्लोबल साउथ में मनुष्यों को कठिन परिश्रम से बचाने के लिए एआई को तैनात करना अनिवार्य है, न कि उन्हें प्रतिस्थापित करने के लिए।
उन्होंने ब्राज़ील में एक एआई ग्रेडिंग टूल “लेट्रस” की ओर इशारा किया, जो मानकीकृत परीक्षणों के लिए वर्तनी और व्याकरण की जाँच जैसे यांत्रिक कार्यों को संभालता है। इसने शिक्षकों को परामर्श पर ध्यान केंद्रित करने के लिए मुक्त कर दिया। “यह मानव ग्रेडर की भूमिका को निरर्थक बना देता है… [freeing] शिक्षक को आपके साथ बैठना होगा… और उस विश्लेषणात्मक तरीके के बारे में सोचना होगा जिससे आपने इस समस्या का सामना किया है,” उन्होंने समझाया।
इसी तरह, एआई कर संग्रह में मानवीय पूर्वाग्रह को ठीक कर सकता है। सेनेगल में – वसंत कुंज जैसे पड़ोस के समान एक संदर्भ – मानव कर निर्धारणकर्ता अक्सर अल्ट्रा-लक्जरी घरों का “कम मूल्यांकन” करते हैं क्योंकि वे उच्च-स्तरीय फिनिश की लागत की कल्पना नहीं कर सकते हैं।
नौकरशाह की चेकलिस्ट
पूर्व आईएएस अधिकारी धालीवाल ने शिखर सम्मेलन में जिला मजिस्ट्रेटों और सचिवों के लिए एक व्यावहारिक “चेकलिस्ट” की पेशकश की। वह किसी भी एआई अनुबंध पर हस्ताक्षर करने से पहले तीन सवालों के जवाब मांगेंगे।
सबसे पहले, परिवर्तन का सिद्धांत: “क्या परिवर्तन का हमारा सिद्धांत यह है कि शिक्षक अनावश्यक है, या… कि शिक्षक ऐसे काम कर रहा है जो बेकार हैं और उन्हें शिक्षण के अधिक विश्लेषणात्मक पक्ष पर ध्यान केंद्रित करने के लिए स्वचालित किया जा सकता है?”
दूसरा, प्रशिक्षण डेटा: “क्या उन्होंने प्रशिक्षण डेटा अमेरिका से डाउनलोड किया है या प्रशिक्षण डेटा भारत से आ रहा है?” क्योंकि यह पूरी तरह से निर्धारित करेगा, विशेष रूप से स्वास्थ्य परिणामों में… हमने कई वर्षों तक कष्ट सहा है क्योंकि इनमें से बहुत सारे परीक्षण पश्चिम में हुए।”
अंत में, क्षेत्र की मजबूती: “यह क्षेत्र में कैसे काम करेगा? मैंने आपको पहले ही मशीनों के उदाहरण बताए हैं जो गिर जाएंगी… इंटरनेट और बिजली जो जाती रहती हैं।”
धालीवाल ने अंत में कहा, ”मैं ये सभी सवाल बहुत सख्ती से पूछूंगा।” “और उसके बाद मैं कहूंगा… ‘आइए इसे तीन, चार, पांच महीनों के लिए प्रयोग करें। आइए इसका पूरा परीक्षण करें… और यदि हां, तो आइए इसके लिए आगे बढ़ें।”
धालीवाल ने स्पष्ट किया कि हर आवेदन के लिए कठोर यादृच्छिक परीक्षणों की आवश्यकता नहीं है। पोस्ट-इंटरैक्शन रेटिंग या कॉलबैक ट्रैकिंग के साथ, बिलिंग प्रश्नों को संभालने वाले ऐप्स के लिए सरल ए/बी परीक्षण काम करता है।
