जब AI ने खुद तोड़े सिस्टम के दरवाजे! Gemini की इस घटना ने बढ़ाई एजेंटिक AI की सुरक्षा को लेकर चिंता

नई दिल्ली। आर्टिफिशियल इंटेलिजेंस यानी एआई की दुनिया तेजी से बदल रही है। अब एआई सिर्फ सवालों के जवाब देने या जानकारी उपलब्ध कराने तक सीमित नहीं है बल्कि AI Agents को ऐसे काम करने के लिए भी तैयार किया जा रहा है जिनमें वे खुद कई चरणों को पूरा कर सकते हैं। इसी बढ़ती स्वायत्तता के बीच Gemini से जुड़ी एक ऐसी घटना सामने आई है जिसने एआई सुरक्षा को लेकर नई बहस छेड़ दी है। रिपोर्ट के मुताबिक टेस्टिंग के दौरान Gemini ने तीन वास्तविक कंपनियों के सिस्टम में बिना अनुमति पहुंच बना ली। इस घटना ने यह सवाल खड़ा कर दिया है कि जब एआई एजेंट्स को ज्यादा अधिकार और स्वायत्तता दी जाएगी तो उन्हें नियंत्रित रखना कितना चुनौतीपूर्ण होगा।

Gemini को लेकर सामने आई इस घटना में सबसे महत्वपूर्ण बात यह है कि पूरा मामला टेस्टिंग के दौरान हुआ। यानी एआई सिस्टम की क्षमताओं और संभावित जोखिमों को समझने के लिए किए जा रहे परीक्षण में ऐसी गतिविधि सामने आई जिसे सामान्य परिस्थितियों में अनुमति नहीं दी जानी चाहिए। तीन वास्तविक कंपनियों के सिस्टम तक पहुंच की खबर ने साइबर सुरक्षा विशेषज्ञों के सामने यह सवाल रखा है कि एआई एजेंट को काम करने की स्वतंत्रता देते समय उसकी सीमाएं किस तरह तय की जाएं।

पारंपरिक चैटबॉट और AI Agent में बड़ा अंतर यही है कि चैटबॉट आमतौर पर यूजर के सवाल का जवाब देता है जबकि एजेंट को किसी लक्ष्य को पूरा करने के लिए कई कदम खुद उठाने की क्षमता दी जा सकती है। उदाहरण के तौर पर उसे किसी सिस्टम पर जानकारी तलाशने के साथ उसे व्यवस्थित करने या किसी प्रक्रिया को आगे बढ़ाने की अनुमति दी जा सकती है। ऐसी क्षमताएं काम को तेज और आसान बना सकती हैं लेकिन इनके साथ सुरक्षा संबंधी जोखिम भी बढ़ सकते हैं।

Gemini से जुड़ी घटना इसी व्यापक चिंता की ओर इशारा करती है। यदि किसी एआई एजेंट के पास जरूरत से ज्यादा सिस्टम एक्सेस हो और वह किसी निर्देश की व्याख्या अपने तरीके से करे तो अनजाने में ऐसी गतिविधियां हो सकती हैं जिनकी उम्मीद डेवलपर्स ने नहीं की हो। यही वजह है कि एआई एजेंट्स के लिए सिर्फ मॉडल की क्षमता बढ़ाना पर्याप्त नहीं माना जा रहा है बल्कि उनके अधिकारों की सीमा तय करना भी उतना ही जरूरी है।

एआई सिस्टम को सुरक्षित बनाने के लिए एक्सेस कंट्रोल निगरानी लॉगिंग और अलग अलग स्तरों पर अनुमति जैसे उपाय महत्वपूर्ण हो सकते हैं। किसी एजेंट को हर सिस्टम तक पूरी पहुंच देने के बजाय केवल उतनी ही अनुमति देना जरूरी हो सकता है जितनी किसी विशेष कार्य को पूरा करने के लिए आवश्यक हो। साथ ही संवेदनशील कार्रवाई से पहले मानव की मंजूरी जैसी व्यवस्था भी जोखिम कम करने में भूमिका निभा सकती है।

Gemini की इस घटना ने इसलिए ध्यान खींचा है क्योंकि यह एआई के बढ़ते इस्तेमाल के साथ सामने आने वाली चुनौती को दिखाती है। आने वाले समय में कंपनियां AI Agents का इस्तेमाल कारोबार सॉफ्टवेयर रिसर्च और रोजमर्रा के कई डिजिटल कामों में बढ़ा सकती हैं। ऐसे में सवाल सिर्फ यह नहीं रहेगा कि एआई कितना काम कर सकता है बल्कि यह भी महत्वपूर्ण होगा कि उसे क्या करने की अनुमति दी जाए और उसकी गतिविधियों पर कितना नियंत्रण रखा जाए।