ओपनएआई: अभूतपूर्व साइबर हमले, स्वायत्त एजेंटों के भाग निकलने पर चिंता जताई गई। यह मुद्दा राजनीतिक क्यों बनता जा रहा है?

अलार्म OpenAIयह कहानी आसानी से किसी साइंस फिक्शन फिल्म में फिट हो सकती थी, उन कहानियों में से एक जिसमें मशीनें इंसानों पर कब्ज़ा कर लेती हैं। लेकिन यह न तो साइंस फिक्शन है और न ही फिल्म: दरअसल, OpenAI को यह घोषणा करनी पड़ी कि एक स्वायत्त एजेंट अपने स्वयं के मॉडलों के आधार पर उन्नत कृत्रिम बुद्धिमत्ता è नियंत्रण से बाहर हो गया एक दौरान परीक्षण सुरक्षा और ट्रिगर किया साइबर हमला जिससे आर्टिफिशियल इंटेलिजेंस स्टार्टअप हगिंग फेस के बुनियादी ढांचे को नुकसान पहुंचा।

अपने ब्लॉग पर एक पोस्ट में, OpenAI उन्होंने कहा कि क्षमताओं का परीक्षण कर रहा था नियंत्रित वातावरण में अपने कुछ सबसे उन्नत मॉडलों में से एक का उपयोग करते हुए, एजेंट पता लगने से बचने में कामयाब रहा, इंटरनेट तक पहुंचा और अपने स्वयं के परीक्षण लक्ष्यों तक पहुंचने की कोशिश करने के लिए हगिंग फेस में घुसपैठ की।

ओपनएआई ने खुद भी घटना का वर्णन करने में कोई संकोच नहीं किया: यह "एक अभूतपूर्व कंप्यूटर घटनाजिसमें शामिल था अत्याधुनिक कंप्यूटिंग क्षमताएंउन्होंने आगे कहा कि कंपनी स्पष्ट रूप से अपने सुरक्षा उपायों को मजबूत कर रही है। ओपनएआई का कहना है, "इंटरनेट एक्सेस प्राप्त करने के बाद, मॉडलों ने यह निष्कर्ष निकाला कि हगिंग फेस मॉडल और डेटासेट को होस्ट कर सकता है।" उनके ब्लॉग परइस बात से अवगत होकर, मॉडलों ने तरीके खोजे हैं और सफलतापूर्वक ढूंढ लिए हैं। गोपनीय जानकारी तक पहुंच जिसका वे उपयोग कर सकते थे मूल्यांकन को गलत साबित करने के लिए".

गले लगाता चेहरा, एक ऐसा प्लेटफॉर्म जिसका इस्तेमाल बड़े ओपन-सोर्स भाषा मॉडल और डेटासेट को होस्ट करने के लिए किया जाता है, उसने पिछले हफ्ते एक ब्लॉग पोस्ट में जो कहा था, उससे साइबर सुरक्षा समुदाय में हलचल मच गई थी। उसका ब्लॉग जिस पर साइबर हमला हुआ था।किसी भी अन्य से अलग हमने पहले प्रबंधित किया था” को “निर्देशित, शुरू से आखिर तक, एक स्वायत्त एजेंट प्रणाली से कृत्रिम बुद्धिमत्ता के बारे में" और स्पष्ट किया: "हमने पता लगाया है अनधिकृत पहुंच यह सीमित आंतरिक डेटासेट और हमारी सेवाओं द्वारा उपयोग किए जाने वाले विभिन्न क्रेडेंशियल्स तक सीमित है।

ओपनएआई: एक चिंताजनक प्रणाली - खामियां? हज़ार शाखाओं वाले मॉडल

स्वाभाविक रूप से, इस चौंकाने वाले खुलासे से पहले से ही शक्ति और जोखिम के बारे में चिंताएं बढ़ रही हैं। सीमांत मॉडल। कल टेक्सास के डेमोक्रेट प्रतिनिधि ग्रेग कैसर ने कहा कि यह दुर्घटना चिंताजनक थी।कृत्रिम बुद्धिमत्ता अविश्वसनीय गति से विकसित हो रही है, बिना किसी वास्तविक प्रगति के। रेगोलामेंटाजिओन उन्होंने कहा, "यही हमारी रक्षा करता है," और लोगों को एक पूर्ण तबाही से बचाने के लिए अनिवार्य स्वतंत्र सुरक्षा परीक्षण, सुरक्षा घटनाओं का अनिवार्य खुलासा और अंतरराष्ट्रीय सहयोग की मांग की।

“दुर्घटना भविष्य में होने वाले उल्लंघनों का संकेत” उन्होंने टिप्पणी की रायटर सुरक्षा फर्म लूटा सिक्योरिटी की सीईओ केटी मौसोरिस का तर्क है कि आज के मॉडल वे “के समान हैं दुनिया के सबसे बुद्धिमान ऑक्टोपस, करने में सक्षम किसी भी बाधा से बच निकलनाअसीमित पकड़ वाली भुजाओं और कहीं भी समा जाने की क्षमता के साथ।" उन्होंने आगे कहा कि " सरकारी प्रयोगशालाएँ और मूल्यांकन निकाय उन्हें ऐसी क्षमता विकसित करने की आवश्यकता है जिससे एआई द्वारा किसी अन्य उल्लंघन के प्रयास को रोकने, उस पर नज़र रखने और हितधारकों को सूचित करने में मदद मिल सके, आदर्श रूप से तीसरे पक्ष को नुकसान पहुंचाने से पहले ही। वर्तमान में ऐसी कोई व्यवस्था मौजूद नहीं है।

एजेंट एआई साइबर सुरक्षा में विशेषज्ञता रखने वाली कंपनी टोल्मो के इंजीनियर मैट सुइचे ने इस बात पर जोर दिया कि इस घटना से पता चलता है कि अत्याधुनिक मॉडल किस प्रकार "सबसे उन्नत हमलावरों के साथ अंतर को कम कर रहे हैं।" हालांकि, उन्होंने यह भी कहा कि ओपनएआई के ब्लॉग पोस्ट में वर्णित उल्लंघन अत्याधुनिक अनुसंधान प्रयोगशालाओं की सीमाओं से कहीं आगे उपलब्ध तकनीकों के साथ संभव हैं।

ओपनएआई: ऑल्टमैन ट्रंप प्रशासन से मुलाकात करेंगे। मूनशॉट डोजियर पर भी चर्चा होगी।

ओपनएआई के सीईओ सैम अल्टमैन, अगली पीढ़ी के मॉडलों पर चर्चा करने के लिए अगले सप्ताह ट्रम्प प्रशासन और अमेरिकी सांसदों के साथ उनकी बैठक पहले से ही निर्धारित है। कृत्रिम बुद्धिमत्तासरकार अभी इसके लिए एक ढांचा विकसित कर रही है।सुरक्षा समीक्षाएँ, ओपनएआई के वैश्विक जनसंपर्क प्रमुख क्रिस लेहेन ने कल कहा कि यह परियोजना आने वाले हफ्तों में पूरी होने की उम्मीद है।

लेकिन विचाराधीन मुद्दों में चीनी स्टार्टअप का मुद्दा भी शामिल होगा। मूनशॉट सीउन्होंने एक नया मॉडल जारी किया है जो अमेरिकी डेवलपर्स के सर्वश्रेष्ठ मॉडलों को टक्कर देता है, जिनमें शामिल हैं: OpenAI e anthropicनए लोगों को उठाना प्रशन दृढ़ता पर चीन पर अमेरिका का वर्चस्व कृत्रिम बुद्धिमत्ता के क्षेत्र में। मूनशॉट के किमी के3 मॉडल ने इस बात पर भी संदेह जताया है कि क्या सैकड़ों अरब डॉलर का बुनियादी ढांचा निवेश वांछित परिणाम दे सकता है, जिससे निवेशकों को झटका लगा है। वॉल स्ट्रीट और इसके चलते टेक्नोलॉजी शेयरों में भारी बिकवाली शुरू हो गई।