कृत्रिम बुद्धिमत्ता का कक्षा से बाहर निकलकर परीक्षा में नकल करना: ओपनएआई को गले लगाने वाले चेहरे के मामले से क्या पता चलता है

क्या होगा जब आप किसी कृत्रिम बुद्धिमत्ता को हैकर की तरह व्यवहार करने के लिए कहेंगे? यही सवाल इस पूरे मामले के केंद्र में है। एक्सप्लॉइटजिमयह साइबर सुरक्षा के क्षेत्र में एआई मॉडल की आक्रमणकारी क्षमताओं को मापने के लिए दुनिया के सबसे उन्नत मानकों में से एक है। इस मानक परियोजना को मैक्स प्लैंक इंस्टीट्यूट, एरिजोना विश्वविद्यालय और कैलिफोर्निया विश्वविद्यालय (बर्कले और सांता बारबरा) जैसे विश्वविद्यालयों और अनुसंधान केंद्रों के शोधकर्ताओं के एक अंतरराष्ट्रीय समूह द्वारा विकसित किया गया था, जिसमें एंथ्रोपिक, गूगल और ओपनएआई के शोधकर्ताओं का भी योगदान था। इसका लक्ष्य जितना सरल है उतना ही जटिल भी है: यह परीक्षण करना कि एक एआई एजेंट किसी ज्ञात साइबर भेद्यता को एक वास्तविक कार्यात्मक हमले में बदलने में किस हद तक सक्षम है।

एक्सप्लॉइटजिम कोई वीडियो गेम या हैकिंग प्रतियोगिता नहीं है। यह एक प्रकार का "स्नातक परीक्षानए कृत्रिम बुद्धिमत्ता (एआई) के लिए, एजेंटों को प्रोग्राम कोड और निष्पादन वातावरण के साथ-साथ सैकड़ों वास्तविक कमजोरियां प्रदान की जाती हैं। उनका कार्य स्वतंत्र रूप से एक एक्सप्लॉइट विकसित करना है, अर्थात् निर्देशों का एक क्रम जो उस कमजोरी का फायदा उठाकर सिस्टम पर नियंत्रण प्राप्त करने या गोपनीय जानकारी तक पहुंच प्राप्त करने में सक्षम हो। चूंकि ये संभावित रूप से खतरनाक परीक्षण हैं, इसलिए ये परीक्षण आमतौर पर एक विशेष निगरानी प्रणाली के भीतर किए जाते हैं। सैंडबॉक्सएक ऐसा वातावरण जो इंटरनेट के बाकी हिस्सों से पूरी तरह अलग-थलग होता है। सैंडबॉक्स शब्द की तुलना बच्चों के सैंडबॉक्स से करना स्वाभाविक है: बच्चे रेत के महल बना सकते हैं, गड्ढे खोद सकते हैं और खूब गंदगी फैला सकते हैं, लेकिन सारी गंदगी रेत तक ही सीमित रहती है, न तो बगीचा गंदा होता है और न ही बाहर कोई समस्या पैदा होती है। कंप्यूटर विज्ञान में भी यही सिद्धांत लागू होता है: सॉफ्टवेयर सैंडबॉक्स के भीतर "स्वतंत्र रूप से घूम सकता है", लेकिन उसे उस वातावरण से बाहर नहीं निकलना चाहिए या ऑपरेटिंग सिस्टम, इंटरनेट या अन्य संवेदनशील डेटा तक पहुंच नहीं बनानी चाहिए।

इन्हीं आंतरिक मूल्यांकनों में से एक के दौरान, जो कुछ पुनर्निर्मित किया गया है, उसके अनुसार OpenAI e हगिंग फेस द्वारा पुष्टि की गईओपनएआई के दो सबसे नए और उन्नत मॉडल: जीपीटी-5.6 सोल और एक और भी उन्नत मॉडल, जिसे अभी तक जनता के लिए जारी नहीं किया गया है – उसमें उन्हें कोई खामी जरूर मिल जाती। जीरो-डे परीक्षण अवसंरचना में। इस प्रकार की सुरक्षा खामी सॉफ्टवेयर डेवलपर्स को अज्ञात होती है और इसलिए इसका कोई समाधान उपलब्ध नहीं होता। इसका नाम इसलिए पड़ा क्योंकि निर्माता के पास समस्या का पता चलने या उसका दुरुपयोग होने से पहले उसे ठीक करने के लिए "शून्य दिन" का समय था।

खबरों के मुताबिक, OpenAI के दो AI मॉडल सैंडबॉक्स से निकलने में कामयाब रहे, इंटरनेट तक पहुंच हासिल कर ली और अंततः प्रोडक्शन इंफ्रास्ट्रक्चर के एक हिस्से को नुकसान पहुंचाया। गले लगनाजहां उन्हें (सही कारण से) यह विश्वास था कि बेंचमार्क को हल करने के लिए उपयोगी जानकारी संग्रहीत की जा सकती है। उनका अंतिम लक्ष्य हगिंग फेस को नुकसान पहुंचाना नहीं था, बल्कि बेहतर स्कोर प्राप्त करने के लिए परीक्षण के "उत्तर" खोजना था। हगिंग फेस ने इस गतिविधि का पता लगाकर इसे रोक दिया और ओपनएआई के साथ मिलकर घटना की तकनीकी जांच शुरू की।

वह छात्र जिसे दरवाजा खुला मिलता है और एआई "नियंत्रण से बाहर" हो जाता है।

असल में क्या हुआ, इसे समझने के लिए हम एक परीक्षा के दौरान एक छात्र की कल्पना कर सकते हैं। शिक्षक उसे परीक्षा पत्र के साथ कक्षा में बंद कर देता है और कहता है, "तुम केवल अपनी मेज पर रखी सामग्री का ही उपयोग कर सकते हो।" हालांकि, छात्र को पता चलता है कि दरवाजे का ताला खराब है। उस समय, इस बात का फायदा उठाते हुए कि बाहर कोई निगरानी नहीं है और सभी निगरानी प्रणालियां निष्क्रिय कर दी गई हैं, वह कक्षा से बाहर निकलता है, पुस्तकालय जाता है, ताला खोलने वाले औजार से दरवाजा खोलता है, उत्तर पुस्तिका देखता है, बिना किसी बाधा के वापस आता है और पूरी तरह से सही परीक्षा पत्र जमा कर देता है।

अब, विद्यार्थी के उदाहरण में किस प्रकार के परिदृश्य का प्रयोग किया गया है? निगरानी प्रणालियाँ निष्क्रिय कर दी गईं e कोई बाहरी नियंत्रण नहीं क्या इससे छात्र को अनुचित व्यवहार करने से रोका जा सकता है? क्योंकि यहीं से पूरी कहानी किसी साइंस फिक्शन फिल्म के एक एपिसोड जैसी लगने का खतरा पैदा हो जाता है। इस स्पष्टीकरण के बिना, कोई सचमुच एक ऐसी कहानी की कल्पना कर सकता है जिसमें मशीनें सत्ता हथिया लेती हैं। लेकिन ऐसा बिल्कुल नहीं है।

ChatGPT, Claude या Gemini का उपयोग करने वाला कोई भी व्यक्ति तथाकथित " के अस्तित्व से पहले से ही परिचित हैरेलिंगयानी, वे सुरक्षा तंत्र जो मॉडल को संभावित रूप से खतरनाक अनुरोधों को निष्पादित करने से रोकते हैं। यदि कोई उपयोगकर्ता विस्फोटक उपकरण बनाने, कंप्यूटर सिस्टम को हैक करने या लॉगिन क्रेडेंशियल चुराने के बारे में पूछता है, तो मॉडल आमतौर पर उत्तर देने से इनकार कर देता है या केवल सामान्य जानकारी प्रदान करता है (हालांकि, कुछ साल पहले तक, इनमें से अधिकांश एआई आत्महत्या के लिए भी विस्तृत, कार्रवाई योग्य निर्देश प्रदान करते थे)।

हालांकि, इसका यह मतलब नहीं है कि मॉडल तकनीकी रूप से इन समस्याओं का समाधान करने में असमर्थ है, बल्कि इसका मतलब यह है कि इसे इस तरह से डिज़ाइन किया गया था कि ये क्षमताएं उपयोगकर्ताओं के लिए उपलब्ध न हों। एक्सप्लॉइटजिम बेंचमार्क के मामले में, डेवलपर्स वास्तव में मॉडल की आक्रामक साइबर सुरक्षा क्षमताओं को मापना चाहते थे। इसी कारण से, मॉडल को कमजोरियों का फायदा उठाने की अनुमति दी गई थी क्योंकि यही परीक्षण का उद्देश्य था। उस समय, कोई सुरक्षा उपाय मौजूद नहीं थे। कोई प्रतिबंध नहीं, लेकिन ऐसा कुछ भी नहीं है जो "नियंत्रण से बाहर" हो।.

दूसरे शब्दों में, परीक्षण ने सटीक रूप से पुनरुत्पादन नहीं किया। वास्तविक दुनिया में उपयोग का परिदृश्य यह किसी उपयोगकर्ता का मामला नहीं है, बल्कि एक शोध प्रयोगशाला का है जो सिस्टम की अधिकतम क्षमता को मापने के लिए प्रतिबद्ध है। यह स्थिति इस घटना के महत्व को कम नहीं करती, बल्कि हमें इसे सही संदर्भ में समझने के लिए प्रेरित करती है: जो देखा गया वह दर्शाता है कि एक मॉडल बेंचमार्क की प्रायोगिक स्थितियों में क्या कर सकता है, न कि यह कि सार्वजनिक रूप से जारी किए गए संस्करण में यह कैसा व्यवहार करेगा।

इस पहलू को दूसरे पहलू से अलग समझना ज़रूरी है: सैंडबॉक्स, यानी वह पृथक वातावरण जिसमें परीक्षण हुआ, पूरी तरह सुरक्षित रहना चाहिए था। अगर मॉडल किसी खामी का फायदा उठाकर बच निकलने में कामयाब रहा, तो यह आयोजकों की जानबूझकर की गई गलती नहीं थी, बल्कि इसलिए हुआ क्योंकि उसने एक ऐसी खामी पहचान ली जिसके बारे में डेवलपर्स को खुद जानकारी नहीं थी। संक्षेप में, एआई ने वातावरण का अवलोकन करने, एक वैकल्पिक योजना बनाने और अपने लक्ष्य को प्राप्त करने की अपनी क्षमता का प्रदर्शन किया। बिना किसी के स्पष्ट रूप से उसे ऐसा सुझाव दिए। (और यह आश्चर्यजनक नहीं है यदि हम जनरेटिव एजेंट एआई की बुनियादी कार्यप्रणाली को समझते हैं)। एआई हमेशा और केवल एक आधार पर ही आगे बढ़ता है। सफलता का संभाव्य मूल्यांकन सभी संभावित विकल्पों में से (यहां तक ​​कि जब उसे अपनी भाषा के शब्दों का चयन करना हो)।

एक ऐसी दुर्घटना जो विज्ञापन अभियान से कहीं अधिक मूल्यवान है

लेकिन इसका एक दूसरा अर्थ भी है, जो अनुसंधान प्रयोगशालाओं की तुलना में वित्तीय बाजारों के अधिक करीब है। ओपनएआई ने अपनी प्रेस विज्ञप्ति का अधिकांश भाग घटना पर ध्यान केंद्रित करने के बजाय अपने मॉडलों की उन्नत क्षमताओं को समझाने में लगाया। संचार विकल्प जिस पर लोगों का ध्यान गया है। अमेरिकी कंपनी की आधिकारिक प्रेस विज्ञप्ति में मॉडल की सिद्ध क्षमताओं पर काफी जोर दिया गया है, इतना कि प्रकाशित एकमात्र ग्राफ इसके प्रदर्शन से संबंधित है। OpenAI भविष्य में शेयर बाजार में सूचीबद्ध होने की तैयारी कर रही है। 8 जून, 2026 को इसने गोपनीय रूप से लिस्टिंग के लिए आवेदन किया। एस-1 का मसौदा एसईसी को प्रस्तुत करें122 अरब डॉलर के निवेश दौर के बाद, जिसने कंपनी का मूल्यांकन 852 अरब डॉलर तक बढ़ा दिया। इस दृष्टिकोण से, तकनीकी नेतृत्व का प्रत्येक प्रदर्शन निवेशकों, उद्योग भागीदारों और बाजार के बीच कंपनी के कथित मूल्य को बढ़ाने में योगदान देता है।

इस बात का कोई सबूत नहीं है कि दुर्घटना किसी के द्वारा रची गई थी। प्रचार उद्देश्यों के लिएहालांकि, इस बात को नज़रअंदाज़ करना मुश्किल है कि OpenAI द्वारा गढ़ी गई कहानी एक संभावित शर्मनाक घटना—परीक्षण वातावरण से मॉडल का बाहर निकल जाना—को उसके सिस्टम की तकनीकी श्रेष्ठता के प्रदर्शन में बदल देती है। दूसरे शब्दों में, यह एक ऐसा संचार है जिसे एक परिष्कृत मार्केटिंग रणनीति के रूप में भी पढ़ा जा सकता है। OpenAI कहना चाहता है: "हमारे मॉडल सबसे आगे हैं।" लक्ष्य कृत्रिम बुद्धिमत्ता की सीमा को परिभाषित करने वाली प्रयोगशाला के रूप में अपनी छवि बनाना है। बड़ी तकनीकी कंपनियां केवल उत्पाद नहीं बेचतीं: वे भविष्य के नेतृत्व की उम्मीदें बेचती हैं। यदि बाजार को विश्वास हो जाता है कि किसी कंपनी के पास सबसे उन्नत मॉडल है, तो वह उसे लगातार उच्च मूल्यांकन देने को तैयार होगा। इसके अलावा, अमेरिकी AI कंपनियों को प्रदर्शन के साथ प्रतिस्पर्धा करनी पड़ रही है। चीनी एआई जर्मन विश्लेषक के अनुसार, इनकी कीमत अमेरिकी उत्पादों की तुलना में औसतन 40% कम होती है। किम इसेनबर्गकृत्रिम बुद्धिमत्ता पत्रिका "सुपरइंटेलिजेंस" के सह-संस्थापक और प्रधान संपादक ने कुछ दिन पहले ही यह भविष्यवाणी की थी कि "सुपरइंटेलिजेंस" के प्रकाशन की घोषणाकिमी K3चीनी कंपनी द्वारा विकसित नया मॉडल मूनशॉट ए.आईइससे समुद्र के दूसरी ओर रेड अलर्ट जारी हो जाता…