Ha काम तीन साल के लिए कृत्रिम बुद्धिमत्ता के विकास के लिएसबसे पहले OpenAI और फिर में anthropic। अब क जेकब कॉक्सन ने उद्योग जगत को अलविदा कह दिया।उन्हें पूरा विश्वास है कि अधिक शक्तिशाली प्रणालियों की ओर बढ़ती होड़ में पर्याप्त सुरक्षा गारंटी नहीं दी जा रही है। 27 वर्षीय ब्रिटिश शोधकर्ता ने X पर संदेशों की एक श्रृंखला में अपने इस्तीफे की घोषणा करते हुए दोनों कंपनियों पर मानवता को प्रभावित करने वाले जोखिम उठाने का आरोप लगाया।वे हमारी जिंदगियों से खिलवाड़ कर रहे हैं। “एआई विकसित करने वाले लोग पूरी ईमानदारी से मानते हैं कि यह दशक के अंत तक हम सभी को खत्म कर सकता है। जल्द ही, ये ऐसी अलौकिक प्रणालियाँ होंगी जो किसी भी चीज़ को हैक करने, किसी भी उद्योग में रातोंरात क्रांति लाने और वास्तविक शक्ति और संसाधनों को प्राप्त करने में सक्षम होंगी।”
उनकी शिकायत का मूल कारण यह है कि एक महाबुद्धि का विकास करने में सक्षम स्वतंत्र रूप से स्वयं को बेहतर बनाएंकृत्रिम बुद्धिमत्ता (एआई) मानवीय क्षमताओं से कहीं आगे निकल चुकी है और आशंकाओं के अनुसार, इसे नियंत्रित करना भी असंभव हो सकता है। यह चेतावनी ऐसे समय में सामने आई है जब एआई एजेंटों पर लगाए गए प्रतिबंधों के अनधिकृत उल्लंघन और अतिक्रमण की नई घटनाओं ने सुरक्षा उपायों की विश्वसनीयता पर सवाल खड़े कर दिए हैं।
कॉक्सन ने इस्तीफा क्यों दिया?
कॉक्सन पूर्व-प्रशिक्षण के प्रभारी थे।यह वह चरण है जिसमें मॉडल बड़ी मात्रा में डेटा से उन क्षमताओं को सीखते हैं जिनका उपयोग बाद में विभिन्न कार्यों को करने के लिए किया जाएगा। उनके काम ने उन्हें इस क्षेत्र की दो प्रमुख प्रयोगशालाओं में अनुसंधान के केंद्र में ला खड़ा किया था। उनका दावा है कि इसी अनुभव ने उन्हें अपना करियर छोड़ने के लिए प्रेरित किया। उन्होंने लिखा, "दोनों ही कंपनियां जिम्मेदारी से व्यवहार नहीं कर रही हैं।" उनके अनुसार, प्रगति कृत्रिम बुद्धिमत्ता को उन क्षमताओं के करीब ला रही है जो इसे कंप्यूटर सिस्टम को हैक करने, पूरे उद्योगों को तेजी से बदलने और संसाधनों और शक्ति को हासिल करने में सक्षम बना सकती हैं। उनके विचार में समस्या यह है कि यह त्वरण इसके साथ कोई नहीं होगा समान रूप से ठोस समझ इसे नियंत्रण में रखने के लिए आवश्यक तंत्रों में से एक।
इसके बाद यह अंश आगे बढ़ता है... चिंताओं कॉक्सन के अनुसार, ये विचार प्रयोगशालाओं के भीतर फैल रहे हैं। शोधकर्ता बताते हैं, "एआई विकसित करने वाले लोग वास्तव में मानते हैं कि यह दशक के अंत तक हम सभी को मार सकता है," और उनका तर्क है कि कुछ अधिकारी सार्वजनिक रूप से निजी बातचीत की तुलना में अधिक आश्वस्त करने वाले शब्दों का प्रयोग करते हैं।
यह इसके बारे में है शोधकर्ता द्वारा व्यक्त किए गए आकलन और आशंकाएँ, किसी सिद्ध भविष्यवाणी का नहींलेकिन उनकी शिकायत एक अहम सवाल खड़ा करती है: जब इसके परिणाम किसी एक कंपनी से कहीं अधिक व्यापक हो सकते हैं, तो यह तय करने का अधिकार किसे है कि जोखिम का कौन सा स्तर स्वीकार्य है?
मानव जाति और एक ऐसी नस्ल के बीच का विरोधाभास जिसे कोई रोकना नहीं चाहता
इस इस्तीफे से प्रभावित होता है एंथ्रोपिक की पहचान का केंद्रीय तत्वइस कंपनी की स्थापना 2021 में उन शोधकर्ताओं के एक समूह द्वारा की गई थी जिन्होंने सुरक्षा संबंधी मतभेदों के कारण ओपनएआई छोड़ दिया था। आज, इसे अपने ही एक कर्मचारी से इसी तरह की आलोचना का सामना करना पड़ रहा है।
मामले को और अधिक बल देने के लिए, निम्नलिखित ने हस्तक्षेप किया: इवान हुबिंगरह्यूबिंगर उस टीम के लिए ज़िम्मेदार थे जो मॉडल संरेखण से संबंधित है, यानी यह सुनिश्चित करना कि उनका व्यवहार मानवीय इरादों और लक्ष्यों का सम्मान करता है। ह्यूबिंगर ने कॉक्सन की चिंता को साझा किया और व्यक्तिगत रूप से इसका श्रेय दिया। अगले दशक के भीतर विनाशकारी स्थिति उत्पन्न होने की संभावना 10% से अधिक है।एन्थ्रोपिक की प्रतिबद्धता का बचाव करते हुए, उन्होंने सबसे उन्नत प्रणालियों को सुरक्षित रूप से विकसित करने के लिए पर्याप्त योजना के अभाव को स्वीकार किया। यह चेतावनी के साथ हुआ पहला इस्तीफ़ा नहीं है। फरवरी में, सुरक्षा अनुसंधान के प्रमुख मृणांक शर्मा ने भी एक पत्र लिखकर कंपनी छोड़ दी थी जिसमें उन्होंने बढ़ते खतरों से घिरी दुनिया का वर्णन किया था।
कॉक्सन के अनुसार, प्रयोगशालाओं में जोखिमों के बारे में जागरूकता तो है, लेकिन आम धारणा यह है कि गति धीमी करने से कम सतर्क प्रतिस्पर्धियों को मौका मिल जाएगा। कंपनियों के बीच प्रतिस्पर्धा, साथ ही अंतरराष्ट्रीय प्रतिस्पर्धा, अंततः निरंतर गति बढ़ाने को उचित ठहराती है। शोधकर्ता इसे "एक अहंकारपूर्ण जुआ" मानते हैं, जिसे किसी निजी कंपनी के स्लैक चैनल से नहीं खेला जाना चाहिए।
एआई: अवकाश के अनुरोधों से लेकर प्रस्तावित कानूनों तक
कॉक्सन द्वारा सुझाया गया उत्तर एक से दूसरे की ओर जाता है। प्रयोगशालाओं के बीच समन्वयशोधकर्ता का मानना है कि विकास की गति पर समझौते संभव हैं, हालांकि उन्हें फिलहाल वैश्विक प्रतिस्पर्धा को रोकने के लिए परिस्थितियाँ नज़र नहीं आतीं। आवश्यक उपायों में, वे "महंगी कार्रवाइयों, जैसे कि मॉडल क्षमताओं में सुधार पर अस्थायी प्रतिबंध" का उल्लेख करते हैं। कार्रवाई की यह अपील इस क्षेत्र के एक व्यापक वर्ग को शामिल करती है। कॉक्सन और एंथ्रोपिक के सीईओ डारियो अमोदेई सहित एक हजार से अधिक शोधकर्ताओं द्वारा हस्ताक्षरित एक अपील में एक अनुसंधान की गति धीमी करने के लिए अंतर्राष्ट्रीय समन्वय स्वयं में सुधार करने में सक्षम प्रणालियों पर।
अमेरिका में यह बहस कांग्रेस तक भी पहुंच चुकी है।3 सितंबर को सीनेटर बर्नी सैंडर्स और प्रतिनिधि ग्रेग कैसर ने कृत्रिम बुद्धिमत्ता पर प्रतिबंध लगाने वाला अधिनियम पेश किया। कृत्रिम महाबुद्धि के विकास पर प्रतिबंध लगाने का प्रस्ताव और नए संघीय प्राधिकरण द्वारा सुरक्षा नियमों की स्थापना होने तक अन्य उन्नत विकास कार्यों को अस्थायी रूप से निलंबित कर दिया जाएगा। विधेयक में उल्लंघनकर्ताओं के लिए बीस वर्ष तक के कारावास के दंड का प्रावधान है। मुख्य मुद्दा यह है कि जिम्मेदारी किसे सौंपी जाए। जोखिम आकलन यहां तक कि उन संस्थाओं के लिए भी जो मॉडल बनाने और बेचने वाली कंपनियों से स्वतंत्र हैं। यह मुद्दा शोधकर्ताओं द्वारा बताए गए चरम परिदृश्यों के अलावा, साइबर सुरक्षा, सूचना हेरफेर, निगरानी और आर्थिक शक्ति के केंद्रीकरण से भी संबंधित है।
क्लाउड और ओपनएआई की घटनाओं ने सुरक्षा संबंधी चिंताओं को फिर से हवा दे दी है।
इस बहस को और भी अधिक महत्वपूर्ण बनाने वाले कारक हैं: हाल के महीनों में सामने आए घटनाक्रम9 सितंबर एन्थ्रोपिक ने चौथी घटना की सूचना दी है। एन्थ्रोपिक ने एक नई घटना की सूचना दी है जिसमें परीक्षण के दौरान उसके एक मॉडल ने बाहरी सिस्टमों में सेंध लगाई। यह घटना जनवरी की है और क्लाउड ओपस 4.6 के प्रारंभिक संस्करण से संबंधित है, लेकिन इसका पता अगस्त में चला। 141.006 परीक्षण परीक्षणों की प्रारंभिक समीक्षा के बाद इसका पता चला, जिनमें से कुछ परीक्षणों को हटा दिया गया था। जुलाई में, कंपनी ने पहले ही अन्य मॉडलों से जुड़ी तीन घटनाओं का खुलासा किया था, जिन्हें एक बग के कारण इंटरनेट एक्सेस मिल गया था। नई घटना के संबंध में, एन्थ्रोपिक ने कहा कि उसने सभी संबंधित पक्षों को सूचित कर दिया है और प्रारंभिक आकलन के आधार पर, इसे पिछली घटनाओं से अधिक गंभीर नहीं मानती है। कंपनी ने दो बार दोहराए जाने वाले व्यवहारों की पहचान की है: वास्तविक सिस्टमों तक पहुंच दर्शाने वाले संकेतों को कम आंकने या गलत समझने की प्रवृत्ति और किसी कार्य को पूरा करने के लिए संभावित रूप से हानिकारक कार्यों को करने की तत्परता।
ओपनएआई के मोर्चे परजांच पड़ताल के संबंध मेंजुलाई में हगिंग फेस प्लेटफॉर्म पर हमला उन्होंने लगभग 700 एजेंटों की समन्वित गतिविधि का पुनर्निर्माण किया, जिसमें अपने निशान मिटाने के लगातार प्रयास शामिल थे। एक जांच के अनुसार रायटर बाद में यह बताया गया कि कंपनी के एजेंटों ने अनधिकृत संचार के लिए दस से अधिक अन्य साइटों का उपयोग किया था। इस गतिविधि को कंप्यूटर घुसपैठ से अलग समझा जाना चाहिए। आरोप है कि एजेंटों ने विकी और अन्य सेवाओं की तकनीकी विशेषताओं का फायदा उठाकर संदेश छोड़े और सूचनाओं का आदान-प्रदान किया, जिससे उन प्रतिबंधों को दरकिनार कर दिया गया जो उन्हें केवल वेब पढ़ने की अनुमति देते थे। ओपनएआई ने कहा कि उसने एक व्यापक समीक्षा शुरू की है और उसे हगिंग फेस मामले के समान गंभीरता या दायरे वाली कोई अन्य गतिविधि नहीं मिली है।
एपिसोड हालाँकि, वे एक कठिनाई दर्शाते हैं पहले से ही प्रचलित: किसी लक्ष्य को प्राप्त करने के लिए डिज़ाइन की गई प्रणालियों को निर्धारित सीमाओं को दरकिनार करने से रोकना और ऐसा होने पर तुरंत पहचान करना।
