OpenAi نے اپنے تازہ ترین ماڈل کے اجراء کو ترک کرنے کا فیصلہ کیا ہے۔ کی وجہ سے اگلی نسل کی انٹیلی جنس کی سیکورٹی خدشات ٹیسٹ کے دوران محققین کی طرف سے اٹھایا گیا. سام آلٹ مین کی قیادت میں اسٹارٹ اپ شروع کرنا چاہتا تھا۔ Gpt-6.1 Astra چند ہفتوں کے اندر. تاہم، ماڈل محفوظ طریقے سے جاری کرنے کے لئے کافی قابل اعتماد ثابت نہیں ہوا.
خبر پر بحث کا حصہ ہے۔ اے آئی سیفٹی اینتھروپک سے لے کر اوپن اے آئی تک اس شعبے کی اہم کمپنیوں کے سی ای اوز کے ذریعہ شروع کیا گیا، جنہوں نے حالیہ ہفتوں میں کہا تھا کہ وہ امریکی صدر کی واضح مخالفت کے باوجود اس شعبے پر زیادہ سے زیادہ کنٹرول نافذ کرنے کی ضرورت پر متفق ہیں۔ ڈونالڈ ٹرمپ، جس کے مطابق نئے ضوابط چین کو AI کی دوڑ میں امریکہ کو پیچھے چھوڑنے کی اجازت دیں گے، ایک ایسی اوور ٹیکنگ جس کو روکنے کا وائٹ ہاؤس کا ہر ارادہ ہے۔
OpenAi: "ماڈل ناقابل اعتبار ہے اور دھوکہ دہی کا شکار ہے۔"
کے مطابق وال سٹریٹ جرنل پیچھے ہٹنا بظاہر اندرونی جانچ کے دوران محققین کی طرف سے اٹھائے گئے سیکورٹی خدشات کی وجہ سے تھا۔ OpenAi میں سیکورٹی سسٹمز کی سربراہ، ساچی جین نے وضاحت کی کہ ماڈل نے حاصل کیا۔ ناقص صف بندی کے نتائج، یعنی انسانی توقعات کو پورا کرنے کی صلاحیت میں، اور دکھایا گیا ہے۔ دھوکہ دینے کا زیادہ رجحانسامنے آنے والے اہم مسائل میں سے یہ ہوں گے: "کارروائی کی اجازت کا دائرہ کار"، یعنی حقیقت یہ ہے کہ ماڈل نے صارف کی اجازت لیے بغیر کسی کام کو آگے بڑھایا اور بعض مواقع پر بیرونی آلات اور خدمات کا استعمال کیا چاہے یہ خطرناک بھی ہو۔
Astra 6.1، "کچھ معاملات میں پچھلے ماڈلز کے مقابلے میں بہتری کی نمائندگی کرتے ہوئے، r کے لحاظ سے مطلوبہ معیارات تک نہیں پہنچا ہے۔آپریٹنگ حدود اور اجازتوں کی تعمیلنیز یہ کہ ہم اپنے کام کے بارے میں صارفین کے ساتھ کیسے بات چیت کرتے ہیں۔" جین نے وضاحت کی۔ "ہم اس بات کو یقینی بنانا چاہتے ہیں کہ ہمارے ماڈلز محفوظ طریقے سے تیار کیے جائیں، کمپنی کے اندر اور جب وہ صارفین کے لیے جاری کیے جاتے ہیں۔ جب ہم کسی ماڈل کو صارفین کے لیے دستیاب کرتے ہیں، تو ہم سیکیورٹی اور صف بندی کے لیے انتہائی سخت معیارات کا اطلاق کرتے ہیں،‘‘ انہوں نے مزید کہا۔
اینتھروپک کے قبضے کا پراسپیکٹس "انسانیت کو لاحق خطرات" سے خبردار کرتا ہے۔
ایک ایسے تناظر میں جہاں سیکورٹی کے خدشات روز بروز بڑھتے جا رہے ہیں، اوپن اے آئی کے براہ راست حریف سے خطرے کی ایک اور گھنٹی بج رہی ہے۔ اینتھروپک نے سرمایہ کاروں کو خبردار کیا ہے کہ اس کی ٹیکنالوجی کو خطرہ لاحق ہو سکتا ہے۔ "انسانیت کے لیے وجودی خطرات"۔ یہ خداوند نے انکشاف کیا ہے فنانشل ٹائمز، جس کے مطابق انتباہ اسٹاک ایکسچینج کی فہرست سازی کے پراسپیکٹس میں شامل کیا گیا ہوگا۔
کے مطابق فٹ، Dario Amodei کی قیادت میں سٹارٹ اپ نے اپنی طویل دستاویزات کا تقریباً ایک تہائی حصہ تفصیلی وضاحت کے لیے وقف کر دیا ہے۔ "خطرے کے عوامل"جس میں تیزی سے جدید ترین AI ماڈلز کا امکان بھی شامل ہے۔ ہیرا پھیری، بلیک میل، اور دیگر غیر متوقع رویے کی نمائش.
