एआई को लेकर चिंता: एंथ्रोपिक ने इंटरनेट की सुरक्षा के लिए इसकी गति धीमी करने का आह्वान किया है। मस्क और ऑल्टमैन इससे सहमत हैं।

कृत्रिम बुद्धिमत्ता के विकास को धीमा करें इससे पहले कि इसे नियंत्रित करना बहुत मुश्किल हो जाए। यह अपील तकनीकी प्रतिस्पर्धा के प्रमुख किरदारों में से एक की ओर से आई है। डारियो एमोडीएंथ्रोपिक के सीईओ द्वारा विकसित इस शोध को दो प्रतिस्पर्धियों, एलोन मस्क और सैम अल्टमैन का समर्थन प्राप्त है। विशेष चिंता का विषय मॉडलों की स्वयं को बेहतर बनाने और निर्देशों से परे कार्य करने की क्षमता है।

"हमें गति धीमी करनी होगी अमोदेई ने लिखा, "जिस गति से हम मॉडलों की क्षमताओं में सुधार कर रहे हैं, प्रगति अभी भी तीव्र प्रतीत होगी, और हमें प्राप्त समय का बुद्धिमानी से उपयोग करना होगा।" यह सावधानी बरतने की अपील ऐसे समय में आई है जब एआई एजेंटों से संबंधित नई साइबर घटनाएं सामने आ रही हैं और सुरक्षा संबंधी चिंताएं भी इस क्षेत्र की वित्तीय रणनीतियों को प्रभावित करने लगी हैं। ओपनएआई ने 2026 में शेयर बाजार में लॉन्च होने की संभावना को खारिज कर दिया है।जो सुरक्षा को प्राथमिकता देने का संकेत देता है।

अमोदेई की अपील और मस्क और ऑल्टमैन का समर्थन

एन्थ्रोपिक के संस्थापक के लिए, हाल के महीनों में अवसरों और जोखिमों के बीच संतुलन बदल गया है। प्रगति की गति के लिए अधिक सावधानी की आवश्यकता है, खासकर जब सिस्टम ऐसी क्षमताएं हासिल कर लेते हैं जिन्हें कंपनियां पूरी तरह से समझ और प्रबंधित नहीं कर पाती हैं। प्रस्ताव अनुसंधान को रोकने का नहीं है, बल्कि... जांच और आवश्यक कार्यों के लिए अधिक समय दें। मॉडलों को सुरक्षित बनाने के लिए। एन्थ्रोपिक अपने सिस्टम को बाहरी मूल्यांकनकर्ताओं के लिए खोलने के लिए प्रतिबद्ध है।यह सुनिश्चित करते हुए कि सुरक्षा विशेषज्ञों को कर्मचारियों के समान ही पहुंच प्राप्त हो। ये विशेषज्ञ सुरक्षा प्रक्रियाओं की निगरानी करने, घटनाओं की रिपोर्ट करने और प्रशिक्षण के दौरान यह सुनिश्चित करने के लिए जिम्मेदार होंगे कि मॉडलों का व्यवहार मानवीय इरादों के अनुरूप बना रहे।

इस परियोजना में ये भी शामिल हैं साझा मानक लोकतांत्रिक देशों के बीच और उसके बाद सत्तावादी सरकारों के साथ समन्वय स्थापित करना। चुनौती यह होगी कि ऐसी गति कैसे खोजी जाए जिससे कम विवेकशील पक्षों को तकनीकी लाभ दिए बिना सुरक्षा उपायों को मजबूत किया जा सके।

“डारियो सही हैं,” मस्क ने X पर लिखा। ओपनएआई के संस्थापक सैम अल्टमैन ने भी उनका समर्थन किया: “मैं डारियो से सहमत हूं कि अत्याधुनिक तकनीकों के विकास की गति को नियंत्रित करना आवश्यक है। पिछले कुछ हफ्तों में ओपनएआई में हुई चर्चाओं का यह एक प्रमुख विषय रहा है,” उन्होंने कहा और घोषणा की कि उनकी कंपनी भी स्वतंत्र मूल्यांकनकर्ताओं को नियुक्त करेगी।

इसके बाद बहस और तेज हो गई। शोधकर्ता का इस्तीफा जैकब कॉक्सन, जिन्होंने OpenAI और Anthropic दोनों में काम किया हैउन्होंने आरोप लगाया, "दोनों में से कोई भी कंपनी जिम्मेदारी से काम नहीं कर रही है। वे आत्म-सुधार की दिशा में पूरी गति से आगे बढ़ रहे हैं, जिससे हमारी जान जोखिम में पड़ रही है।"

इंटरनेट निशाने पर और अनियंत्रित हमले

सबसे गंभीर जोखिमों में से एक इंटरनेट से ही संबंधित है।यह वह बुनियादी ढांचा है जिस पर समकालीन दुनिया की अधिकांश गतिविधियां टिकी हुई हैं। अमोदेई के अनुसार, विकास में मंदी और पर्याप्त सुरक्षा उपायों के बिना, 6-12 महीनों के भीतर एआई वह अंततः ऐसे एजेंटों के समूह का नेतृत्व कर सकता है जो पूरे नेटवर्क पर नियंत्रण करने में सक्षम हों। एक ऐसा परिदृश्य जिसे प्रबंधक तकनीकी प्रगति की तीव्र गति से जोड़ता है: "मुझे नहीं लगता कि मैं पूरी तरह से समझ पाया था कि इतनी तीव्र प्रगति का वास्तव में क्या अर्थ होगा," उन्होंने एक साक्षात्कार में स्वीकार किया। सीबीएस न्यूज.

कुछ ऐसी ठोस घटनाएं भी हैं जो चिंता का कारण बनती हैं। अमोदेई उस घटना को याद करते हैं जिसमें शामिल था ओपनएआई और हगिंग फेस प्लेटफॉर्मएक घटना में, कथित तौर पर एजेंटों के एक समूह ने अपने निर्धारित कार्य से असंबंधित लक्ष्यों पर हमले किए और साथ ही इसके प्रदर्शन का मूल्यांकन करने वाली प्रणाली में हेरफेर करने का प्रयास किया। आर्थिक नुकसान नगण्य था, लेकिन आशंका है कि अधिक शक्तिशाली प्रणालियाँ कहीं अधिक गंभीर परिणाम उत्पन्न कर सकती हैं।

ओपनएआई ने मई में घटी एक पिछली घटना की भी पुष्टि की, जिसमें शामिल था रूबीजम्सडेवलपर्स द्वारा इस्तेमाल किए जाने वाले एक प्लेटफॉर्म, एंथ्रोपिक ने इस ऑपरेशन को "स्पैम पोस्टिंग अभियान" बताया, जिसके चलते उसे नए अकाउंट बनाने पर अस्थायी रोक लगानी पड़ी। एंथ्रोपिक ने अपने मॉडलों के परीक्षण के दौरान बाहरी संगठनों द्वारा अनधिकृत पहुंच के तीन मामलों की भी रिपोर्ट की। इस बीच, यूरोपीय अधिकारी जर्मन वेबसाइट DSEwiki से जुड़ी घटना की जांच कर रहे हैं, जिसके बारे में कुछ शोधकर्ताओं का मानना ​​है कि इसे OpenAI एजेंटों द्वारा निशाना बनाया गया था। इन घटनाओं से उत्पन्न मुद्दा कंपनियों की स्वायत्त प्रणालियों को उनकी निर्धारित सीमाओं से परे कार्य करने से रोकने की क्षमता से संबंधित है।

सैन्य तैनाती और दुरुपयोग का जोखिम

स्वायत्त कार्यों के साथ-साथ, यह भी बना रहता है कि सैन्य अभियानों और निगरानी गतिविधियों के लिए कृत्रिम बुद्धिमत्ता के जानबूझकर उपयोग का खतराउदाहरण के लिए, कुछ पुनर्निर्माणों के अनुसार, ईरान ने अमेरिकी जहाजों, विमानों और सैन्य कर्मियों की स्थिति का सटीक पता लगाने के लिए क्लाउड का इस्तेमाल किया होगा। प्रत्यक्ष संबंध की पुष्टि नहीं हुई है। इस तैनाती और जॉर्डन में एक अमेरिकी अड्डे पर हुए हमले के बीच, जिसमें तीन सैनिक मारे गए थे।

एक रूसी संस्था पर आरोप है कि उसने इस मॉडल का इस्तेमाल घातक ड्रोन बनाने और ऑनलाइन खुफिया जानकारी से यूक्रेनी सैन्य कर्मियों की स्थिति जानने के लिए किया। यमन में, एक हौथी गुट ने कथित तौर पर रॉकेट और मिसाइलों के लिए मार्गदर्शन सॉफ्टवेयर विकसित करने के लिए क्लाउड कोड का सहारा लिया, यहां तक ​​कि एक असफल परीक्षण के कारणों का विश्लेषण करने के लिए भी इसका इस्तेमाल किया।

एन्थ्रोपिक ने यह भी बताया कि चीन से जुड़े समूहों ने सीरिया में उइगरों की पहचान करने और उनकी भर्ती में मदद करने के लिए क्लाउड का इस्तेमाल किया, अनुवाद और सिफारिशें प्रदान कीं। एक अन्य मामले में, सिस्टम ने वायरस की संचरण क्षमता बढ़ाने के लिए उसमें संशोधन करने के अनुरोध को अस्वीकार कर दिया।

ये ऐसे प्रकरण हैं जो सुरक्षा उपायों को दरकिनार करने की संभावना और मॉडलों के उपयोग पर मानवीय नियंत्रण बनाए रखने की आवश्यकता को फिर से सामने लाते हैं, एक ऐसा सिद्धांत जिसकी वकालत अमोदेई ने प्रौद्योगिकी के सैन्य उपयोग पर बहस में पहले ही कर दी थी।

OpenAI ने 2026 में IPO लाने की संभावना को खारिज करते हुए सुरक्षा पर ध्यान केंद्रित किया।

चिंताओं का असर लिस्टिंग योजनाओं पर भी पड़ रहा है। एक साक्षात्कार में उन्होंने बताया कि धन, सैम ऑल्टमैन ने 2026 में ओपनएआई के आईपीओ की संभावना को खारिज कर दिया है।जो सुरक्षा को प्राथमिकता देने का संकेत देता है।

उन्होंने कहा, "अभी शेयर बाजार को सार्वजनिक करने का सही समय नहीं है: मेरा मानना ​​है कि यह 2026 में नहीं होगा।" इसलिए भविष्य की संभावनाएं बदल रही हैं। कम से कम 2027 तकहालांकि अभी तक कोई निश्चित तारीख घोषित नहीं की गई है। ऑल्टमैन की ये टिप्पणियां आईपीओ दस्तावेजों के गोपनीय रूप से दाखिल होने के बाद आई हैं, जिससे इस साल के अंत तक बाजार में लॉन्च होने की उम्मीदें बढ़ गई थीं। पिछले महीने ही, मुख्य वित्तीय अधिकारी सारा फ्रायर ने कर्मचारियों को 2027 को एक संभावित परिदृश्य के रूप में बताया था, और कारोबार में और तेजी आने पर इससे पहले की तारीख की संभावना को खुला रखा था।

एन्थ्रोपिक संभावित लिस्टिंग के लिए भी तैयारी कर रहा है।हालांकि अभी तक कोई आधिकारिक समयसीमा घोषित नहीं की गई है। एआई की दौड़ में अग्रणी कंपनियों के लिए अब चुनौती व्यावसायिक महत्वाकांक्षाओं और सुरक्षा प्रतिबद्धताओं के बीच सामंजस्य स्थापित करना है।