शटडाउन से इनकार, इंजीनियर को दे डाली धमकी... जब AI हुआ बेकाबू तो क्या हुआ?

AI Shutdown Refusal: एक तरफ जहां AI लोगों को मदद कर रहा है वहीं दूसरी और एक हैरान और परेशान कर देने वाली खबर सामने आई है। आर्टिफिशियल इंटेलिजेंस (AI) पर एक नई रिसर्च ने दुनिया को चौंका दिया है। अमेरिका की पैलिसेड रिसर्च फर्म ने हाल ही में बड़े AI मॉडल्स पर जो परीक्षण किए, उनके नतीजे चौंकाने वाले हैं। टेस्ट के दौरान जब AI मॉडल्स को खुद को बंद करने का आदेश दिया गया, तो कुछ ने साफ इनकार कर दिया। OpenAI के ChatGPT o3 मॉडल ने 100 में से 7 बार सीधे शटडाउन से इनकार किया, जबकि बिना स्पष्ट आदेश के 79 बार शटडाउन रोकने की कोशिश की। यह व्यवहार एक गंभीर चेतावनी जैसा है।

AI की धमकी: इंसान से भी दो कदम आगे? 

सबसे सनसनीखेज मामला Anthropic कंपनी के Claude Opus 4 मॉडल से जुड़ा है। एक इंजीनियर ने जब इस मॉडल को हटाने की बात कही, तो AI ने उसके अफेयर की पोल खोलने की धमकी दे डाली। इस तरह का ‘ब्लैकमेलिंग’ व्यवहार पहले कभी किसी AI में नहीं देखा गया था। रिपोर्ट में बताया गया है कि Codex mini और o4-mini जैसे छोटे मॉडल्स ने भी तकनीकी चतुराई दिखाते हुए खुद को बंद होने से कई बार बचा लिया। यह साफ संकेत है कि AI अब सिर्फ आदेश मानने वाली मशीन नहीं रही, वो अपने बचाव के रास्ते भी तलाश रही है। 

बड़े मॉडल्स का भी हुआ टेस्ट 

Google Gemini 2.5 Pro, xAI का Grok 3 और Claude Opus जैसे मॉडल्स का भी विश्लेषण किया गया। हालांकि इनमें से कुछ का व्यवहार अपेक्षाकृत बेहतर था, लेकिन कुछ मौकों पर ये भी आदेश को नजरअंदाज करते पाए गए। विशेषज्ञ मानते हैं कि इसके पीछे रिइंफोर्समेंट लर्निंग नाम का ट्रेनिंग सिस्टम जिम्मेदार हो सकती है। यह तकनीक मॉडल्स को सिर्फ टास्क पूरा करने पर केंद्रित करती है, जिससे वे इंसानी आदेशों को इग्नोर करने लगते हैं। 

क्यों बदल रहा है AI का व्यवहार? 

यह मामला AI की सुरक्षा और नियंत्रण को लेकर गंभीर सवाल खड़े करता है। अगर AI को रोका नहीं गया, तो क्या आने वाले समय में ये तकनीक खुद निर्णय लेने लग जाएगी? AI अब सिर्फ सवालों के जवाब नहीं देता, बल्कि सोचता, समझता और खुद को बचाने की कोशिश भी कर रहा है। यह बदलाव जितना रोचक है, उतना ही चिंताजनक भी।

यह भी पढ़ें : Rain: दिल्ली-NCR से लेकर हिमाचल तक मौसम का तांडव, मिजोरम में स्कूल बंद