AI के ‘मिसयूज’ पर लगेगा पूर्ण विराम, डीपफेक को लेकर क्या हैं सख्त नियम?

AI जेनरेटेड अतिसंवेदनशील कंटेंट को लेकर सरकार ने नए और सख्त नियम लागू कर दिए हैं। नए नियम को आर्टिफिशियल इंटेजलिजेंस द्वारा बनाए गए अनुचित डीपफेक कंटेंट के प्रचार-प्रसार को रोकने के लिए लाया गया है। भारत ही नहीं अन्य देशों में भी एआई के जरिए बनाए गए डीपफेक को लेकर सरकारें सख्त हैं। यूरोप में भी एआई इस्तेमाल को लेकर सख्त नियम जारी किए गए हैं।

क्या है AI डीपफेक के नए नियम?

• सरकार ने एआई जेनरेटेड डीपफेक ऑडियो, वीडियो और टेक्स्ट के लिए स्पष्ट लेबलिंग और ट्रेसेबल मेटाडेटा अनिवार्य कर दिया है।
• सोशल मीडिया प्लेटफॉर्म पर शेयर किए गए गैरकानूनी डीपफेक कंटेंट को कोर्ट या सरकार द्वारा हटाए जाने के आदेश को 3 घंटे में पूरा करना होगा। पहले सरकार ने यह समयसीमा 36 घंटों का रखा था।
• संवेदनशील डीपफेक जैसे कि न्यूडिटी/प्रतिरूपण को अब 2 घंटे के अंदर हटाने के नियम जारी किए गए हैं। पहले यह समयसीमा 24 घंटे की निर्धारित की गई थी।
• सोशल मीडिया प्लेटफॉर्म्स को अब पहले के मुकाबले ज्यादा जिम्मेदार बनाने पर जोर दिया गया है। इन प्लेटफॉर्म्स पर अवैध एआई जेनरेटेड कंटेंट की पहचान और उसके प्रसार की रोकथाम के लिए ऑटोमेटेड तकनीक अपनाने के निर्देश जारी किए गए हैं।
• नियमों का पालन न करने पर प्लेटफॉर्म्स को IT एक्ट के तहत मिली ‘सेफ हार्बर’ सुरक्षा को खत्म किया जाएगा। साथ ही, संबंधित प्लेटफॉर्म के खिलाफ कानूनी कार्रवाई भी की जाएगी।

क्या AI डीपफेक पर लगेगा पूर्ण विराम?

सरकार ने नए नियम से सोशल मीडिया प्लेटफॉर्म की जिम्मेदारी को और बढ़ा दिया है। उन्हें अब पहले के मुकाबले 12 गुना तेजी से काम करना होगा। दुनियाभर के यूजर्स एआई जेनरेटेड डीपफेक कंटेंट के गलत इस्तेमाल से परेशान हैं। इस तरह के कंटेंट को फैलने से रोकने के लिए AI का ही सहारा लिया जाएगा। सरकार ने नए निर्देशों में साफ किया है कि सोशल मीडिया प्लेटफॉर्म को ऐसे कंटेंट को फैलने से रोकने के लिए ऑटोमेटेड तकनीकी उपाय करने होंगे।

ऑटोमेटेड तकनीक की मदद से एआई जेनरेटेड डीपफेक को अपलोड करते ही पहचान की जा सकेगी और प्लेटफॉर्म से हटा लिया जाएगा। इसके लिए सोशल मीडिया प्लेटफॉर्म को मेटाडेटा ट्रेसेबिलिटी और स्पष्ट लेबलिंग का सहारा लेना होगा यानी बिना एआई लेबल के ऐसे कंटेंट सोशल मीडिया प्लेटफॉर्म पर अपलोड नहीं किए जा सकेंगे।

सरकार ने नियमों के उल्लंघन के लिए कानूनी प्रावधान भी रखा है, जिसमें अगर सोशल मीडिया प्लेटफॉर्म की तरफ से किसी भी तरह की लापरवाही की जाती है तो उन्हें IT एक्ट की तरफ से मिलने वाले ‘सेफ हार्बर’ की सुरक्षा खत्म कर दी जाएगी। यही नहीं, प्लेटफॉर्म पर नए आईटी एक्ट के तहत कानूनी कार्रवाई भी की जा सकती है।

Image Source : UNSPLASHडीपफेक के नए नियम

क्या है ‘सेफ हार्बर’?

सरकार ने सोशल मीडिया प्लेटफॉर्म को आईटी एक्ट 2000 की धारा 79 के तहत ‘सेफ हार्बर’ की सुरक्षा दी है। इसके तहत प्लेटफॉर्म पर शेयर किए जाने वाले किसी भी कंटेंट के मालिक यूजर को माना जाता है जो उन्हें शेयर करते हैं। सोशल मीडिया प्लेटफॉर्म को इस नियम के तहत केवल इंटरमीडियरी यानी मध्यस्थ माना जाता है।

ऐसे में अगर कोई यूजर सोशल मीडिया प्लेटफॉर्म पर कोई आपत्तिजनक या गलत कंटेंट पब्लिश करता है तो मुकदमा सीधे यूजर पर चलाया जाएगा। सोशल मीडिया प्लेटफॉर्म पर सीधे तौर पर कोई मुकदमा नहीं किया जा सकता है।

डीपफेक वाले मामले में सरकार ने ‘सेफ हार्बर’ की सुरक्षा छीनने की बात कही है क्योंकि अगर इस तरह के कंटेट प्लेटफॉर्म पर तय समयसीमा के अंदर नहीं हटाए गए तो सोशल मीडिया कंपनी को भी जिम्मेदार माना जाएगा और उनपर भी कानूनी कार्रवाई की जा सकती है। सोशल मीडिया प्लेटफॉर्म्स को सरकार द्वारा तय किए गए नियमों के तहत कंटेंट मॉडरेशन की गाइडलाइंस का पालन करना होगा।

यह भी पढ़ें – क्या है Cloud Storage डेटा सेंटर? AI Data Center से कैसे है अलग? क्यों हैं इनकी जरूरत?