बैंकों के AI सिस्टम पर RBI की सख़्ती! ड्राफ्ट गाइडलाइंस में ‘किल स्विच’ और इंसानी निगरानी अनिवार्य करने का प्रस्ताव

बैंकिंग और वित्तीय क्षेत्र में आर्टिफिशियल इंटेलिजेंस (AI) और मशीन लर्निंग (ML) टूल्स के बढ़ते उपयोग के बीच, भारतीय रिज़र्व बैंक (RBI) ने इनके संभावित जोखिमों से निपटने के लिए एक बड़ा और कड़ा कदम उठाया है। केंद्रीय बैंक ने बुधवार को नए ‘ड्राफ्ट गाइडलाइंस’ जारी किए हैं, जिसके तहत सभी बैंकों और रेगुलेटेड वित्तीय संस्थाओं के लिए अपने सिस्टम में इस्तेमाल हो रहे AI मॉडल को तुरंत बंद करने के लिए एक ‘किल स्विच’ (Kill Switch) रखना अनिवार्य होगा। यह कदम ऐसे समय में उठाया गया है जब एंथ्रोपिक (Anthropic) के ‘क्लाउड माइथोस’ (Claude Mythos) जैसे आधुनिक AI मॉडल्स ने वित्तीय संस्थानों की साइबर सुरक्षा को लेकर वैश्विक चिंताएं बढ़ा दी हैं।

बुधवार को, RBI ने नए ड्राफ्ट गाइडलाइंस जारी किए। इनमें AI का इस्तेमाल करने वाले बैंकों और अन्य रेगुलेटेड संस्थाओं के लिए एक व्यापक फ्रेमवर्क का प्रस्ताव दिया गया है। अगर इसे अनिवार्य किया जाता है, तो उन्हें किसी भी ऐसे सिस्टम को तुरंत ओवरराइड, सस्पेंड या डीएक्टिवेट करने की क्षमता रखनी होगी, जिसमें ‘किल स्विच’ की व्यवस्था भी शामिल है। यानी, बैंक अपने इस्तेमाल में आने वाले किसी भी या सभी AI सिस्टम को बस एक स्विच दबाकर बंद करने में सक्षम होना चाहिए।

RBI ने कहा कि बैंकों को ओवरराइड, सस्पेंशन और डीएक्टिवेशन मैकेनिज्म बनाने होंगे। इससे यह सुनिश्चित होगा कि कोई भी AI मॉडल बिना इस क्षमता के काम न करे कि अगर वह हानिकारक या गलत आउटपुट देता है, तो उसे तुरंत बंद किया जा सके।

यह कदम ऐसे समय में उठाया गया है जब एंथ्रोपिक (Anthropic) के क्लाउड माइथोस (Claude Mythos) AI मॉडल ने साइबर सुरक्षा को लेकर चिंताएं बढ़ा दी हैं, खासकर वित्तीय संस्थानों के लिए।

इंसानी निगरानी, ​​AI जोखिम के आधार पर कैटेगरी बनाना

लेकिन बात यहीं खत्म नहीं होती। ड्राफ्ट गाइडलाइंस में यह भी कहा गया है कि AI से लिए जाने वाले सभी फैसलों पर इंसानी निगरानी होनी चाहिए। यानी, भले ही AI काम कर रहा हो, लेकिन लिए जा रहे किसी भी फैसले पर किसी इंसान की निगरानी होनी चाहिए। यह ड्राफ्ट फ्रेमवर्क रेगुलेटेड संस्थाओं द्वारा इस्तेमाल किए जाने वाले सभी मॉडल्स पर लागू होगा – साधारण स्प्रेडशीट-आधारित कैलकुलेटर से लेकर जटिल फ्रंटियर AI सिस्टम तक।

बैंक अपने इस्तेमाल में आने वाले किसी भी मॉडल के नतीजों के लिए पूरी तरह ज़िम्मेदार होगा, चाहे वह मॉडल इन-हाउस बनाया गया हो या किसी थर्ड-पार्टी से लिया गया हो। RBI ने बैंकों से कहा है कि वे ऐसे मॉडल्स का इस्तेमाल करने से पहले उचित जांच-पड़ताल (ड्यू डिलिजेंस) करें।

भारतीय रिज़र्व बैंक ने जोखिम-आधारित कैटेगरी बनाने का प्रस्ताव दिया है। इसके तहत संस्थाओं को जोखिम के स्तर के आधार पर मॉडल्स को वर्गीकृत करना होगा और उसी के अनुसार निगरानी, ​​वैलिडेशन और कंट्रोल लागू करने होंगे। गाइडलाइंस के मुताबिक, अगर आंका गया रिस्क बैंक की रिस्क लेने की क्षमता (रिस्क ऐपेटाइट) से ज़्यादा है, तो ऑर्गनाइज़ेशन को तुरंत कदम उठाने होंगे। इसमें बेहतर कंट्रोल, इस्तेमाल पर रोक, मॉडल में सुधार या उसे बंद करना शामिल है, और इसकी रिपोर्ट बोर्ड की रिस्क मैनेजमेंट कमिटी को देनी होगी।

इसे भी पढ़ें: Nirjala Ekadashi 2026: साल की सबसे बड़ी एकादशी आज, एक व्रत से मिलेगा 24 एकादशियों का महापुण्य

मॉडल के रिस्क लेवल की समीक्षा साल में कम से कम एक बार होनी चाहिए। साथ ही, हाई-रिस्क वाले मॉडल को लागू करने से पहले बोर्ड की रिस्क मैनेजमेंट कमिटी से मंज़ूरी लेनी होगी, न कि सिर्फ़ टेक्नोलॉजी या रिस्क टीम से मंज़ूरी लेकर काम चलाना होगा।

सभी AI मॉडल के लिए मॉडल रिस्क मैनेजमेंट फ्रेमवर्क

पहली बार, RBI ने AI और मॉडल गवर्नेंस को सीधे बोर्ड लेवल पर रखा है। हर रेगुलेटेड एंटिटी के पास बोर्ड से मंज़ूर ‘मॉडल रिस्क मैनेजमेंट फ्रेमवर्क’ होना चाहिए जिसमें सभी मॉडल शामिल हों—चाहे वे इन-हाउस डेवलप किए गए हों, वेंडर से लिए गए हों या दोनों के कॉम्बिनेशन से बनाए गए हों।

RBI ने कहा, “मॉडल का इस्तेमाल काफ़ी बढ़ गया है और रेगुलेटेड एंटिटीज़ अलग-अलग बिज़नेस और फ़ैसले लेने की प्रक्रियाओं में तेज़ी से मॉडल का इस्तेमाल कर रही हैं, जिनमें आर्टिफिशियल इंटेलिजेंस/मशीन लर्निंग वाले मॉडल भी शामिल हैं। इनके गवर्नेंस, देखरेख, रिस्क मैनेजमेंट और कंट्रोल में कमियों की वजह से रेगुलेटेड एंटिटीज़ को फ़ाइनेंशियल, ऑपरेशनल, कंप्लायंस और रेप्युटेशनल रिस्क का सामना करना पड़ सकता है।”

इसे भी पढ़ें: Passport यात्रा का दस्तावेज़ है, नागरिकता का नहीं: विदेश मंत्रालय का बड़ा स्पष्टीकरण

इसमें आगे कहा गया, “अगर इन्हें ठीक से मैनेज नहीं किया गया, तो ऐसे रिस्क से गलत नतीजे, गलत फ़ैसले, फ़ाइनेंशियल नुकसान, ऑपरेशनल रुकावटें, कंप्लायंस में नाकामी और एंटिटीज़, कंज्यूमर्स और फ़ाइनेंशियल सिस्टम के लिए दूसरे बुरे नतीजे सामने आ सकते हैं।”

सेंट्रल बैंक ने कुछ ही AI मॉडल प्रोवाइडर्स पर ज़्यादा निर्भरता से पैदा होने वाले सप्लाई चेन रिस्क की ओर भी इशारा किया और कहा कि बैंकों को इस रिस्क को एक्टिवली मैनेज करना चाहिए। साथ ही, बैंकों को यह पक्का करना चाहिए कि AI मॉडल लागू करने से मॉडल में कोई कमज़ोरी (वल्नरेबिलिटी) न आए।

कस्टमर-फेसिंग सिस्टम के बारे में RBI ने कहा कि बैंकों को यह बताना होगा कि कस्टमर कब AI सिस्टम के साथ इंटरैक्ट कर रहा है और उन्हें किसी भी समय इंसान से बात करने का ऑप्शन देना होगा।

ड्राफ़्ट में ‘ऑटोमेशन बायस’ के बारे में भी चेतावनी दी गई है—यानी कर्मचारियों द्वारा अपनी समझ का इस्तेमाल किए बिना AI आउटपुट पर बहुत ज़्यादा निर्भर रहने का रिस्क। कस्टमर्स या बाहरी यूज़र्स के साथ इंटरैक्ट करने वाले जेनरेटिव AI मॉडल के लिए, RBI ने कहा कि अतिरिक्त साइबरसिक्योरिटी कंट्रोल लागू किए जाने चाहिए।

RBI ने ड्राफ़्ट गाइडलाइंस पर 24 जुलाई तक फ़ीडबैक मांगा है।