নিরাপত্তাজনিত উদ্বেগের কারণে ওপেনএআই নতুন এআই মডেলের উন্মোচন আটকে দিয়েছে, অন্যদিকে অ্যানথ্রোপিক 'মানবতার অস্তিত্বের জন্য ঝুঁকি' সম্পর্কে সতর্ক করেছে।

ওপেনএআই তার সর্বশেষ মডেলের উন্মোচন বাতিল করার সিদ্ধান্ত নিয়েছে। পরবর্তী প্রজন্মের বুদ্ধিমত্তার কারণে নিরাপত্তা উদ্বেগ পরীক্ষার সময় গবেষকদের দ্বারা উত্থাপিত। স্যাম অল্টম্যানের নেতৃত্বাধীন স্টার্টআপটি চালু করতে চেয়েছিল। জিপিটি-৬.১ অ্যাস্ট্রা কয়েক সপ্তাহের মধ্যেই। তবে, মডেলটি নিরাপদে প্রকাশের জন্য যথেষ্ট নির্ভরযোগ্য প্রমাণিত হয়নি।  

সংবাদটি বিতর্কের একটি অংশ। এআই নিরাপত্তা এই খাতের প্রধান কোম্পানিগুলোর, অ্যানথ্রোপিক থেকে শুরু করে ওপেনএআই পর্যন্ত, সিইওদের দ্বারা এটি চালু করা হয়েছে, যারা সাম্প্রতিক সপ্তাহগুলোতে বলেছিলেন যে মার্কিন প্রেসিডেন্টের স্পষ্ট বিরোধিতা সত্ত্বেও এই খাতের উপর আরও কঠোর নিয়ন্ত্রণ আরোপের প্রয়োজনীয়তার বিষয়ে তারা একমত। ডোনাল্ড ট্রাম্পযার অনুসারে, নতুন বিধিমালা চীনকে কৃত্রিম বুদ্ধিমত্তার প্রতিযোগিতায় যুক্তরাষ্ট্রকে ছাড়িয়ে যাওয়ার সুযোগ করে দেবে, এবং হোয়াইট হাউস এই ছাড়িয়ে যাওয়া ঠেকানোর জন্য পুরোপুরি বদ্ধপরিকর। 

ওপেনএআই: "মডেলটি অবিশ্বস্ত এবং এতে প্রতারণার সুযোগ রয়েছে।"

অনুযায়ী ওয়াল স্ট্রিট জার্নাল অভ্যন্তরীণ পরীক্ষার সময় গবেষকদের দ্বারা উত্থাপিত নিরাপত্তা উদ্বেগের কারণেই দৃশ্যত এই পিছু হটা হয়েছিল। ওপেনএআই-এর নিরাপত্তা ব্যবস্থা প্রধান সাচি জৈন ব্যাখ্যা করেছেন যে প্রাপ্ত মডেলটি দুর্বল অ্যালাইনমেন্ট ফলাফলঅর্থাৎ, মানুষের প্রত্যাশা পূরণের ক্ষমতায়, এবং দেখিয়েছে একটি প্রতারণা করার অধিক প্রবণতাযেসব গুরুত্বপূর্ণ বিষয় উঠে এসেছে, তার মধ্যে রয়েছে: “কার্যক্রম অনুমোদনের পরিধি”, অর্থাৎ, মডেলটি ব্যবহারকারীর অনুমতি না নিয়েই একটি কাজ শুরু করেছিল এবং কিছু ক্ষেত্রে, বিপজ্জনক হতে পারে এমন বাহ্যিক সরঞ্জাম ও পরিষেবাও ব্যবহার করেছিল।

অ্যাস্ট্রা ৬.১, “কিছু দিক থেকে পূর্ববর্তী মডেলগুলোর তুলনায় উন্নত হলেও, r এর পরিপ্রেক্ষিতে প্রয়োজনীয় মানদণ্ডে পৌঁছাতে পারেনি।”পরিচালন সীমা এবং অনুমোদন মেনে চলা“পাশাপাশি আমরা আমাদের কাজ সম্পর্কে ব্যবহারকারীদের সাথে কীভাবে যোগাযোগ করি,” জৈন ব্যাখ্যা করলেন। “আমরা নিশ্চিত করতে চাই যে আমাদের মডেলগুলো কোম্পানির অভ্যন্তরে এবং ব্যবহারকারীদের কাছে প্রকাশ করার সময়, উভয় ক্ষেত্রেই নিরাপদে তৈরি করা হয়। যখন আমরা ব্যবহারকারীদের জন্য কোনো মডেল উপলব্ধ করি, তখন আমরা নিরাপত্তা এবং সামঞ্জস্যের জন্য অত্যন্ত কঠোর মানদণ্ড প্রয়োগ করি,” তিনি আরও যোগ করলেন।

অ্যানথ্রোপিকের অধিগ্রহণ প্রস্তাবনায় "মানবতার প্রতি ঝুঁকির" বিষয়ে সতর্ক করা হয়েছে।

যেখানে নিরাপত্তা উদ্বেগ দিন দিন বাড়ছে, সেখানে ওপেনএআই-এর সরাসরি প্রতিদ্বন্দ্বীর পক্ষ থেকে আরেকটি সতর্কবার্তা এসেছে। অ্যানথ্রোপিক বিনিয়োগকারীদের সতর্ক করেছে যে তাদের প্রযুক্তি হুমকি হয়ে দাঁড়াতে পারে। মানবজাতির জন্য অস্তিত্বের ঝুঁকি। এটি প্রকাশ করেছেন আর্থিক বারসেই অনুযায়ী, স্টক এক্সচেঞ্জে তালিকাভুক্তির জন্য প্রসপেক্টাসে সতর্কবার্তাটি অন্তর্ভুক্ত করা হতো। 

অনুযায়ী ফুট, দারিও আমোদি-র নেতৃত্বাধীন স্টার্টআপটি তার দীর্ঘ ডকুমেন্টেশনের প্রায় এক-তৃতীয়াংশ উৎসর্গ করেছে বিশদ বিবরণের জন্য। "ঝুঁকির কারণগুলি"ক্রমবর্ধমান উন্নত এআই মডেলের সম্ভাবনা সহ কারসাজি করা, ব্ল্যাকমেল করা এবং অন্যান্য অপ্রত্যাশিত আচরণ প্রদর্শন করা।.