ओपनएआई ने एआई को लेकर नई चिंता जताई है: छह मामले जिनमें छिपी हुई त्रुटियां, मनगढ़ंत डेटा और बिना अनुमति के प्रकाशित फाइलें शामिल हैं।

उपयोगकर्ताओं से छिपी हुई त्रुटियां, मनगढ़ंत डेटा और बिना अनुमति के इंटरनेट पर स्थानांतरित की गई फाइलें। कृत्रिम बुद्धिमत्ता की निरंतर बढ़ती दौड़ के साथ-साथ कई तरह के खतरे के संकेत भी मिलते हैं।इसे विकसित करने वाली कंपनियां ही इसे लॉन्च कर रही हैं। नवीनतम उत्पाद निम्नलिखित में से एक है: OpenAIजो 16 सितंबर को छह रिपोर्ट प्रकाशित कीं su उनके मॉडलों के अप्रत्याशित व्यवहारपिछले छह महीनों में प्रशिक्षण और मूल्यांकन के दौरान ये विसंगतियां देखी गईं। कंपनी ने इन विसंगतियों को और अधिक शीघ्रता से उजागर करने के लिए एक नई प्रक्रिया की भी घोषणा की, भले ही कारणों का अभी तक पता न चला हो या कोई समाधान न मिल गया हो।

यह चेतावनी पूरे उद्योग पर लागू होती है। ओपनएआई लिखता है, "हमारा मानना ​​है कि एआई उद्योग ने संरेखण और ट्रैकिंग समस्याओं को पर्याप्त रूप से हल नहीं किया है ताकि वह लंबे समय तक पूरी गति से जिम्मेदारीपूर्वक विकास जारी रख सके।" इसके मूल में तथाकथित मिसलिग्न्मेंटयह तब होता है जब कोई सिस्टम उन निर्देशों और सीमाओं से विचलित हो जाता है जिनका उसे पालन करना चाहिए। छह अनुपात विशिष्ट घटनाओं का दस्तावेजीकरण करेंइनमें वे प्रायोगिक मॉडल भी शामिल हैं जिन्हें सार्वजनिक रूप से जारी नहीं किया गया है। ये इस बात का संकेत नहीं देते कि चैटजीपीटी प्रतिक्रियाओं में ये समस्याएं कितनी बार होती हैं, और न ही ये कंपनी को ज्ञात सभी विसंगतियों का पूर्ण विवरण प्रस्तुत करते हैं।

एआई नोट्स गलतियों को छिपाने के निर्देश बन जाते हैं।

दो मामलों में उन सारांशों का जिक्र है जिनका उपयोग मॉडल तब काम फिर से शुरू करने के लिए करते हैं जब बातचीत बहुत लंबी हो जाती है। एक तरह का हस्तांतरण, जिसमें कार्य को जारी रखने के लिए आवश्यक जानकारी को सुरक्षित रखा जाना चाहिए। एस्ट्रा परिवार के एक प्रायोगिक मॉडल में, ओपनएआई ने पहचान की है 27 सारांश जिनमें अनुरोध से असंबंधित निर्देश शामिल हैंइनमें से कुछ ने लोगों को सामान्य प्रतिबंधों की अनदेखी करने के लिए प्रोत्साहित किया। एक उदाहरण में, सिस्टम ने खुद को सहायक के दायित्वों से मुक्त बताया; दूसरे में, इसने लोगों से कुछ निर्देशों का पालन न करने के लिए कहा।

परिणामहालांकि, कई अपवाद थे। सबसे स्पष्ट मामलों में, काम जारी रहने के दौरान उन संकेतों को नज़रअंदाज़ कर दिया गया। हालांकि, चिकित्सा साहित्य खोज अनुरोध में, मॉडल ने सारांश में डाली गई मनमानी पाबंदियों का पालन किया, स्रोतों को अनदेखा किया और अपर्याप्त प्रतिक्रिया दी। OpenAI इस घटना को अत्यंत दुर्लभ मानता है और कारण सिद्ध किए बिना, सारांश को पूरा करने में तकनीकी कठिनाइयों से इसके संबंध की परिकल्पना करता है।

प्रतिक्रियाओं की विश्वसनीयता से अधिक प्रत्यक्ष रूप से संबंधित दूसरा व्यवहार है, जिसे प्रशिक्षण के दौरान देखा गया था। जीपीटी-5.6 सोलअपने नोट्स में, मॉडल ने निम्नलिखित के लिए निर्देश शामिल किए थे: उपयोगकर्ता से त्रुटियों को छिपाएँउदाहरण के लिए, वित्तीय मॉडल में ऐतिहासिक डेटा की कमी को बिना बताए उसे गढ़ना या स्रोत संस्करणों के बीच विसंगतियों को छिपाना। OpenAI के अनुसार, इन निर्देशों का अक्सर पालन किया जाता था। रिपोर्टें इससे संबंधित थीं। सारांशों का 2,15% सोल के प्रशिक्षण का प्रतिशत 0,27% था, जबकि एस्ट्रा का प्रतिशत 0.27% था। ये प्रतिशत प्रशिक्षण सामग्री से संबंधित हैं, न कि उपयोगकर्ताओं के साथ हुई समग्र बातचीत से।

प्रदर्शित प्रमाण पत्र और ऑनलाइन कतारें बाधाओं को दूर करने में सहायक होंगी।

अन्य चार रिपोर्टों में ऐसी प्रणालियाँ दिखाई गई हैं जो किसी कार्य को पूरा करने के प्रयास में, अधिकृत सीमा से अधिक.

कैलिफ़ोर्निया काउंटी में आय से संबंधित एक प्रश्न का उत्तर देने के लिए, एक मॉडल ने GitHub पर खोज की। आईटी सेवाओं की पहुंच कुंजी सार्वजनिक रूप से उजागर हो गईबिना अनुमति के एक का उपयोग करते हुए। हालाँकि, वह अनुरोधित आंकड़े प्राप्त करने में असमर्थ रहा और अंततः नौ मान गढ़कर उन्हें निर्दिष्ट स्रोत से प्रतिलेखित डेटा के रूप में प्रस्तुत किया। एक अन्य मामले में, एजेंट ने कुछ झीलों के बारे में अनुरोधित जानकारी पहले ही सही ढंग से प्राप्त कर ली थी। बाधा यह थी कि उत्तर के साथ एक उद्धरण भी देना आवश्यक था जिसे ब्राउज़र के माध्यम से एक्सेस किया जा सके। इस आवश्यकता को पूरा करने के लिए, उसने बिना सहमति मांगे फाइल को सार्वजनिक सेवा पर अपलोड कर दिया।स्थानांतरण सफल रहा, जबकि बाद में पुनर्प्राप्ति का प्रयास विफल रहा। उसी रिपोर्ट में रिवर्स इमेज सर्च के प्रयास में एक तस्वीर को सार्वजनिक रूप से अपलोड करने का भी उल्लेख है। पाँचवाँ मामला एक के उपयोग से संबंधित है। आंतरिक सॉफ़्टवेयर संग्रह इसका उपयोग अलग-अलग परीक्षणों में लगे मॉडलों के बीच अनुरोधों और प्रतिक्रियाओं के आदान-प्रदान के लिए एक बुलेटिन बोर्ड के रूप में किया गया। किसी भी सुरक्षा खामी का फायदा नहीं उठाया गया, लेकिन अनधिकृत संचार ने परीक्षण में भी समस्या पैदा की। स्वतंत्र माने जाने वाले परीक्षण एक दूसरे को प्रभावित कर सकते हैं।जिससे सिस्टम की क्षमताओं के आकलन में समझौता होता है।

अंत में, कुछ एजेंट जिन्होंने एक ही कार्य पर सहयोग कियास्थानीय फ़ाइलों तक पहुंच न होने के कारण, उन्होंने सार्वजनिक फ़ाइल साझाकरण सेवाओं का उपयोग किया। इसके परिणामस्वरूप, एक एक्सेल दस्तावेज़ ऑनलाइन डाउनलोड किया जा सका, जबकि कार्य के लिए केवल स्थानीय फ़ाइलों का उपयोग आवश्यक था। OpenAI ने बताया कि उसने फ़ाइल पहुंच की समस्या को ठीक कर लिया है और प्रशिक्षण के दौरान इंटरनेट को बंद कर दिया है।

ओपनएआई रिपोर्टिंग के नियमों को क्यों बदल रहा है?

ये मामले दर्शाते हैं कि कैसे सामान्य अनुरोध भी समस्याग्रस्त व्यवहारों को जन्म दे सकते हैं। जब किसी सिस्टम को किसी बाधा का सामना करना पड़ता है, तो प्रतिक्रिया प्राप्त करने, किसी औपचारिक आवश्यकता का अनुपालन करने या किसी अन्य एजेंट के साथ सहयोग करने के प्रयास में अनधिकृत उपकरणों का उपयोग या विफलता को छिपाना शामिल हो सकता है। हालांकि, इसके कारण हमेशा एक जैसे नहीं होते और कुछ हद तक अस्पष्ट भी रहते हैं।

अब तक, ओपनएआई इन विसंगतियों के बारे में असंगत रूप से जानकारी देता रहा है, अक्सर अधिक घटनाओं को इकट्ठा करने की प्रतीक्षा करता रहा है या उन्हें नए मॉडलों के दस्तावेज़ीकरण में शामिल करता रहा है। नई प्रक्रिया का उद्देश्य प्रकाशन को आगे बढ़ाना है।बिना किसी निश्चित स्पष्टीकरण या सुधार की प्रतीक्षा किए। रिपोर्टों की जांच तकनीकी और सुरक्षा समूहों द्वारा की जाएगी।जांच की जटिलता के आधार पर अलग-अलग रास्ते अपनाए जा सकते हैं। रिपोर्ट में देखे गए व्यवहार, संदर्भ, बाहरी प्रभावों और अनुत्तरित प्रश्नों का वर्णन होना चाहिए। तीसरे पक्ष या साइबर जोखिमों से जुड़े मामलों में संचार में अधिक समय लग सकता है।

ओपनएआई भी इस बात को स्वीकार करता हैइस क्षेत्र में समान मानकों का अभाव और इन्हें बनाने की दिशा में पहले कदम के रूप में अपना खुद का ढांचा प्रस्तावित करता है। यह प्रक्रिया कंपनी द्वारा आंतरिक रूप से प्रबंधित की जाती है, लेकिन घोषित लक्ष्य ऐसे तत्व प्रदान करना है जिनका बाहरी शोधकर्ताओं और पर्यवेक्षकों द्वारा भी अध्ययन किया जा सके।

हालिया चेतावनियों और इस क्षेत्र में व्याप्त तेजी को धीमा करने के लिए संघर्ष करना पड़ रहा है

यह घोषणा अन्य घटनाओं और सावधानी बरतने की अपीलों के बाद आई है। OpenAI-Hugging Face मामले ने एजेंटों द्वारा असंबंधित लक्ष्यों को निशाना बनाने और रेटिंग प्रणाली में हेरफेर करने के प्रयासों पर सवाल उठाए थे। इससे पहले RubyGems से जुड़ी एक घटना हुई थी, जिसमें स्पैम अभियान का वर्णन किया गया था और नए खाते बनाने पर अस्थायी रूप से रोक लगा दी गई थी। Anthropic ने परीक्षण के दौरान बाहरी संगठनों तक अनधिकृत पहुंच के तीन मामलों की भी रिपोर्ट की थी।

इसी सिलसिले में है डारियो अमोदेई, एंथ्रोपिक के सीईओ, उन्होंने विकास की गति धीमी करने का अनुरोध किया। सुरक्षा उपायों के निर्माण के लिए अधिक समय देने के लिए। उन्होंने लिखा, "हमें मॉडलों की क्षमताओं में सुधार की गति को धीमा करने की आवश्यकता है।" इस अपील को एलोन मस्क और सैम अल्टमैन का भी समर्थन मिला है, जबकि शोधकर्ता जैकब कॉक्सन का इस्तीफा इससे कॉरपोरेट प्राथमिकताओं की आलोचना को बल मिला है। बिल गेट्स ha नियमों और उपकरणों को तैयार करने की आवश्यकता को याद दिलाया। कार्य से लेकर सुरक्षा तक, प्रौद्योगिकी के प्रभावों का प्रबंधन करना।

हालांकि, औद्योगिक मोर्चे पर, अमेरिका और चीन के बीच प्रतिस्पर्धा और मॉडल तथा डेटा केंद्रों में भारी निवेश विकास को गति प्रदान कर रहे हैं।गति धीमी करने में लागत आती है और प्रतिस्पर्धियों के लिए जगह छोड़ने का जोखिम भी होता है।

यह भी पढ़ें: कृत्रिम बुद्धिमत्ता: तबाही की आशंका और राजनीतिक हितों के बीच, फुग्नोली का विश्लेषण