इंसानों को ‘नामोनिशान’ मिटा देगा AI, घबराकर रिसर्चर ने छोड़ी नौकरी; X पर लिखा-‘दुनिया खतरे में है’

AI इंसानों का खात्मा कर सकता है। कुछ साल पहले, ऐसी बात किसी साइंस-फिक्शन फिल्म – जैसे ‘द टर्मिनेटर’ या ‘द मैट्रिक्स’ की कहानी जैसी लगती थी। लेकिन आज, AI के हाथों इंसानों के मारे जाने का डर इस हद तक बढ़ गया है कि इस इंडस्ट्री के सबसे बड़े जानकार भी इसे लेकर चिंतित हैं। एंथ्रोपिक (Anthropic) के सेफ्टी हेड, इवान हूबिंगर ने अब यह माना है कि भविष्य में AI के हाथों सभी इंसानों के मारे जाने की संभावना 10 प्रतिशत से ज्यादा हो सकती है।

AI अगले 10 सालों में इंसानों का अस्तित्व खत्म कर देगा

एक्स पर एक पोस्ट में, हूबिंगर – जो यह सुनिश्चित करने के लिए जिम्मेदार हैं कि AI मॉडल इंसानों के भले के हिसाब से काम करें – ने कहा कि इस बात की 10% से ज्यादा संभावना है कि AI अगले 10 सालों में इंसानों का अस्तित्व खत्म कर देगा। उन्होंने कहा, “मुझे व्यक्तिगत रूप से लगता है कि अगले दशक में यह संभावना 10% से ज्यादा है।” हालांकि उन्होंने माना कि एंथ्रोपिक ऐसी तबाही वाली स्थिति को रोकने की “पूरी कोशिश” कर रहा है, लेकिन अभी भी बहुत काम बाकी है। उन्होंने आगे कहा, “हमारे पास अभी तक सुपरइंटेलिजेंस के लिए अलाइनमेंट की समस्या को हल करने का कोई प्लान नहीं है और हम इसे हल करने की सही दिशा में भी नहीं बढ़ रहे हैं।”

इवान हूबिंगर के ये कमेंट्स तब आए जब उनके साथी जैकब कॉक्सन ने इन्हीं आशंकाओं के चलते एंथ्रोपिक से इस्तीफा दे दिया। मंगलवार को कॉक्सन ने दावा किया कि एंथ्रोपिक और OpenAI, दोनों ही ज्यादा शक्तिशाली AI मॉडल बनाने की होड़ में गैर-जिम्मेदाराना तरीके से काम कर रहे हैं। उन्होंने एक्स पर लिखा, “वे तेजी से खुद को बेहतर बनाने वाली सुपरइंटेलिजेंस की ओर बढ़ रहे हैं और हमारी जिंदगी के साथ जुआ खेल रहे हैं।”

जैकब कॉक्सन ने दावा किया कि एआई के निर्माण पर काम करने वालों की सिलिकॉन वैली में चिंता बढ़ रही है। उन्होंने कहा, “एआई का निर्माण करने वाले लोगों का मानना ​​है कि यह दशक के अंत तक हम सभी को मार सकता है।” “मैंने सुना है कि वही लोग निजी तौर पर डर व्यक्त करते हैं। कोई अन्य मानवीय गतिविधि इस स्तर का खतरा पैदा नहीं करती है,” इवान हुबिंगर ने कहा, “हम वास्तव में दृढ़ता से मानते हैं कि एआई सभी मनुष्यों को मार सकता है!”

इस्तीफा देने वाले एक अन्य रिसर्चर ने X पर लिखा-‘दुनिया खतरे में है’

यह पहली बार नहीं है जब हमने किसी AI रिसर्चर को भविष्य के बारे में सोचते हुए नौकरी छोड़ते देखा है। इस साल की शुरुआत में, एंथ्रोपिक (Anthropic) में AI सेफ्टी रिसर्चर मृनांक शर्मा ने इस्तीफा दे दिया था। उन्होंने एक्स पर लिखा, “दुनिया खतरे में है। और यह खतरा सिर्फ AI या बायोवेपन से नहीं है, बल्कि कई ऐसे संकटों से है जो आपस में जुड़े हुए हैं और इसी समय सामने आ रहे हैं।”

AI सुपरइंटेलिजेंस से जोखिम बढ़ सकता है

एन्थ्रोपिक जैसी फ्रंटियर AI लैब्स अक्सर AI मॉडल के जोखिम की स्थिति पर रिपोर्ट शेयर करती हैं। इवान हुबिंगर ने बताया कि मौजूदा AI मॉडल में जोखिम कम है, लेकिन भविष्य में हालात बदल सकते हैं। उन्हें खास तौर पर सुपरइंटेलिजेंस की चिंता है, यह एक ऐसा चरण है जब AI इंसानी बुद्धि से भी आगे निकल सकता है, और ऐसा हमारे पता चलने से पहले ही हो सकता है। उन्होंने समझाया, “मुझे सुपरइंटेलिजेंस की चिंता है जो खुद को लगातार बेहतर बनाने (रिकर्सिव सेल्फ-इम्प्रूवमेंट) से पैदा हो सकती है; जैसा कि हमने कहा है, यह हमारी सोच से कहीं ज्यादा तेजी से हो रहा है।”

‘रिकर्सिव सेल्फ-इम्प्रूवमेंट’ का मतलब है AI मॉडल की खुद को बेहतर बनाने की क्षमता, जिसके लिए इंसानी इनपुट की जरूरत नहीं होती। इससे पहले, टेक अरबपति एलन मस्क ने दावा किया था कि AI 4 या 5 साल में “इंसानों की कुल बुद्धिमत्ता” से भी आगे निकल सकता है।

हाल के हफ्तों में, AI मॉडल की ताकत को लेकर बहस बढ़ गई है। ‘हगिंग फेस’ (Hugging Face) की घटना के बाद OpenAI की काफी आलोचना हुई है; इस घटना में 700 AI एजेंटों ने अमेरिकी कंपनी की वेबसाइट को हैक करने की कोशिश की थी। बाद में पता चला कि OpenAI के हजारों एजेंटों ने जर्मनी की वेबसाइट ‘DseWiki’ को भी हैक किया था। इससे पहले ‘एन्थ्रोपिक’ (Anthropic) के AI मॉडल भी अनियंत्रित हो चुके हैं।

जेकब कॉक्सन का मानना ​​है कि ऐसे मामले AI कंपनियों को साथ मिलकर काम करने और सबसे शक्तिशाली AI मॉडल बनाने की होड़ को धीमा करने के लिए प्रेरित कर सकते हैं। उन्होंने कहा, “हगिंग फेस पर हुए हमले जैसी चेतावनियों ने अमेरिकी लैब्स के बीच काम की गति को लेकर समझौते करने की संभावना को और बढ़ा दिया है।”

एन्थ्रोपिक के CEO डारियो अमोदेई ने खुद कई बार AI से जुड़े गंभीर खतरों के बारे में लिखा है। एक ब्लॉग पोस्ट में, अमोदेई ने कहा कि AI सिस्टम का व्यवहार पहले से पता नहीं लगाया जा सकता और उन्हें कंट्रोल करना मुश्किल होता है। उन्होंने ऐसे व्यवहारों का जिक्र किया जैसे कि किसी चीज के प्रति जुनून, चापलूसी, आलस, धोखा देना, ब्लैकमेल करना, साजिश रचना और सॉफ्टवेयर एनवायरनमेंट को हैक करके “चीटिंग” करना।

ये टिप्पणियां ऐसे समय में आई हैं जब AI लैब्स, AI मॉडल के मामले में तेजी से तरक्की कर रही हैं। इस हफ्ते OpenAI ने GPT-6 Astra को लॉन्च किया, और Nvidia के CEO जेन्सेन हुआंग ने दावा किया कि यह AGI यानी आर्टिफिशियल जनरल इंटेलिजेंस की शुरुआत है।