ओपनएआई ने अपने नवीनतम मॉडल के लॉन्च को रद्द करने का निर्णय लिया है। अगली पीढ़ी की बुद्धिमत्ता के कारण सुरक्षा चिंताएं परीक्षणों के दौरान शोधकर्ताओं द्वारा उठाए गए मुद्दों को। सैम ऑल्टमैन के नेतृत्व वाली स्टार्टअप कंपनी लॉन्च करना चाहती थी। जीपीटी-6.1 एस्ट्रा कुछ ही हफ्तों के भीतर। हालांकि, यह मॉडल सुरक्षित रूप से जारी करने के लिए पर्याप्त विश्वसनीय साबित नहीं हुआ।
यह खबर इस बहस का हिस्सा है एआई सुरक्षा इस अभियान की शुरुआत इस क्षेत्र की प्रमुख कंपनियों के सीईओ ने की, जिनमें एंथ्रोपिक से लेकर ओपनएआई तक शामिल हैं। इन सभी ने हाल के हफ्तों में अमेरिकी राष्ट्रपति के स्पष्ट विरोध के बावजूद इस क्षेत्र पर अधिक नियंत्रण लागू करने की आवश्यकता पर सहमति जताई थी। डोनाल्ड ट्रंपजिसके अनुसार नए नियम चीन को एआई की दौड़ में संयुक्त राज्य अमेरिका से आगे निकलने की अनुमति देंगे, एक ऐसा आगे निकलना जिसे रोकने के लिए व्हाइट हाउस हर संभव प्रयास कर रहा है।
ओपनएआई: "यह मॉडल अविश्वसनीय है और इसमें धोखा होने की संभावना है।"
के अनुसार वाल स्ट्रीट जर्नल आंतरिक परीक्षण के दौरान शोधकर्ताओं द्वारा उठाई गई सुरक्षा चिंताओं के कारण यह बदलाव हुआ होगा। ओपनएआई में सुरक्षा प्रणालियों की प्रमुख साक्षी जैन ने बताया कि प्राप्त मॉडल खराब संरेखण के परिणामयानी, मानवीय अपेक्षाओं को पूरा करने की क्षमता में, और इसने दिखाया है कि धोखा देने की अधिक प्रवृत्तिजिन महत्वपूर्ण मुद्दों पर प्रकाश डाला गया उनमें निम्नलिखित शामिल होंगे: “कार्यक्षेत्र प्राधिकरण का दायरा”, अर्थात्, मॉडल ने उपयोगकर्ता की अनुमति मांगे बिना ही कार्य को आगे बढ़ाया और कुछ अवसरों पर बाहरी उपकरणों और सेवाओं का उपयोग किया, भले ही यह खतरनाक हो सकता था।
एस्ट्रा 6.1, "कुछ मामलों में पिछले मॉडलों की तुलना में बेहतर होने के बावजूद, अपेक्षित मानकों तक नहीं पहुंच पाई है।"परिचालन सीमाओं और प्राधिकरणों का अनुपालन“साथ ही, हम अपने काम के बारे में उपयोगकर्ताओं से कैसे संवाद करते हैं,” जैन ने समझाया। “हम यह सुनिश्चित करना चाहते हैं कि हमारे मॉडल कंपनी के भीतर और उपयोगकर्ताओं के लिए जारी किए जाने पर, दोनों ही स्थितियों में सुरक्षित रूप से विकसित हों। जब हम उपयोगकर्ताओं के लिए कोई मॉडल उपलब्ध कराते हैं, तो हम सुरक्षा और अनुरूपता के लिए अत्यंत कड़े मानदंड लागू करते हैं,” उन्होंने आगे कहा।
एन्थ्रोपिक के अधिग्रहण संबंधी प्रस्तावना में "मानवता के लिए जोखिम" की चेतावनी दी गई है।
सुरक्षा संबंधी चिंताएं लगातार बढ़ती जा रही हैं, ऐसे में ओपनएआई के सीधे प्रतिद्वंद्वी एंथ्रोपिक की ओर से एक और खतरे की घंटी बज रही है। एंथ्रोपिक ने निवेशकों को चेतावनी दी है कि उसकी तकनीक खतरा पैदा कर सकती है। "मानवता के लिए अस्तित्वगत जोखिम"। इसका पता चलता है फाइनेंशियल टाइम्सजिसके अनुसार, स्टॉक एक्सचेंज में लिस्टिंग के लिए जारी किए गए विवरणिका में चेतावनी शामिल की जानी चाहिए थी।
दूसरा फुट, डारियो अमोदेई के नेतृत्व वाले स्टार्टअप ने अपने लंबे दस्तावेज़ का लगभग एक तिहाई हिस्सा विस्तृत विवरण के लिए समर्पित किया है। "जोखिम"इसमें उन्नत एआई मॉडल की संभावना भी शामिल है। हेरफेर करना, ब्लैकमेल करना और अन्य अप्रत्याशित व्यवहार प्रदर्शित करना.
