الارم اوپنائییہ کہانی سائنس فکشن فلم میں آسانی سے فٹ ہو سکتی ہے، ان پلاٹوں میں سے ایک جہاں مشینیں انسانوں پر قبضہ کر لیتی ہیں۔ لیکن یہ نہ تو سائنس فکشن ہے اور نہ ہی کوئی فلم: OpenAI، درحقیقت، یہ اعلان کرنا پڑا کہ a خود مختار ایجنٹ کے اپنے ماڈلز کی بنیاد پر اعلی درجے کی مصنوعی ذہانت è قابو سے باہر ہو گیا کے دوران a ٹیسٹ سیکورٹی اور متحرک a سائبر حملے جس نے مصنوعی ذہانت کے اسٹارٹ اپ Hugging Face کے بنیادی ڈھانچے سے سمجھوتہ کیا۔
اپنے بلاگ پر ایک پوسٹ میں، اوپنائی انہوں نے کہا کہ صلاحیتوں کی جانچ کر رہا تھا۔ کنٹرولڈ ماحول میں اس کے کچھ جدید ترین ماڈلز میں سے، جب ایجنٹ پتہ لگانے سے بچنے میں کامیاب ہو گیا، انٹرنیٹ تک پہنچ گیا اور اپنے ٹیسٹ اہداف تک پہنچنے کی کوشش کرنے کے لیے Hugging Face میں گھس گیا۔
OpenAI بذات خود اس کے الفاظ کو بیان نہیں کرتا کہ کیا ہوا: یہ تھا "کمپیوٹر کا ایک بے مثال واقعہ، جس میں شامل ہے۔ جدید ترین کمپیوٹنگ کی صلاحیتیں" انہوں نے مزید کہا کہ کمپنی واضح طور پر اپنے حفاظتی اقدامات کو مضبوط بنا رہی ہے۔" انٹرنیٹ تک رسائی حاصل کرنے کے بعد، ماڈلز نے اندازہ لگایا کہ Hugging Face ماڈلز، ڈیٹا سیٹس کی میزبانی کر سکتا ہے، OpenAI کا کہنا ہے۔ اس کے بلاگ میں. "اس سے آگاہ، ماڈلز نے تلاش کی اور کامیابی کے ساتھ طریقے تلاش کیے ہیں۔ خفیہ معلومات تک رسائی حاصل کریں۔ کہ وہ استعمال کر سکتے تھے۔ تشخیص کو غلط ثابت کرنا".
گلے ملنے والا چہرہ، ایک ایسا پلیٹ فارم جو بڑے اوپن سورس لینگویج ماڈلز اور ڈیٹا سیٹس کی میزبانی کرتا تھا، جس نے سائبر سیکیورٹی کمیونٹی میں ہلچل مچا دی تھی جب اس نے گزشتہ ہفتے ایک بلاگ پوسٹ میں کہا تھا اس کا بلاگ جو سائبر حملے کا نشانہ بنی تھی"کسی دوسرے سے مختلف ہم نے پہلے" کے طور پر "منظم کیا تھاکارفرماشروع سے آخر تک، ایجنٹوں کے خود مختار نظام سے مصنوعی ذہانت کی" اور وضاحت کی: "ہم نے پتہ لگایا ہے۔ غیر مجاز رسائی داخلی ڈیٹاسیٹس کے ایک محدود سیٹ اور ہماری سروسز کے ذریعے استعمال ہونے والے مختلف اسناد تک۔
اوپن اے آئی: ایک پریشان کن سسٹم کی خامیاں؟ ایک ہزار خیموں کے ساتھ ماڈل
قدرتی طور پر، چونکا دینے والا انکشاف پہلے سے ہی طاقت اور خطرے کے بارے میں خدشات کو جنم دے رہا ہے۔ سرحدی ماڈلز کل، ٹیکساس کے ڈیموکریٹ کے نمائندے گریگ کیسر نے کہا حادثہ خطرناک تھا. "مصنوعی ذہانت ایک ناقابل یقین رفتار سے ترقی کر رہی ہے، بغیر کسی حقیقی کے ضابطہ جو کہ ہماری حفاظت کرتا ہے،" انہوں نے کہا، "لوگوں کو مکمل تباہی سے بچانے کے لیے لازمی آزاد سیکورٹی ٹیسٹنگ، سیکورٹی کے واقعات کا لازمی انکشاف، اور بین الاقوامی تعاون" کا مطالبہ کیا۔
"حادثہ تھا مستقبل کی خلاف ورزیوں کا محرک"اس نے تبصرہ کیا رائٹرز سیکیورٹی فرم لوٹا سیکیورٹی کی سی ای او کیٹی ماؤسورس نے دلیل دی کہ آج کے ماڈل وہ "کی طرح ہیں دنیا کے ذہین ترین آکٹوپسکے قابل کسی بھی رکاوٹ سے بچنالامحدود گرفت کے بازو اور کہیں بھی فٹ ہونے کی صلاحیت کے ساتھ۔ انہوں نے مزید کہا کہ "The سرکاری لیبارٹریز اور تشخیصی ادارے جب کوئی AI دوسری جانب سے خیانت کی کوشش کرتا ہے تو انہیں اس پر قابو پانے، نگرانی کرنے، اور اسٹیک ہولڈرز کو مطلع کرنے کی صلاحیت پر کام کرنے کی ضرورت ہوتی ہے، مثالی طور پر اس سے پہلے کہ یہ تیسرے فریق کو نقصان پہنچائے۔ فی الحال ایسا کچھ نہیں ہے۔"
ایجنٹ AI سائبرسیکیوریٹی میں مہارت رکھنے والی کمپنی Tolmo کے ایک انجینئر Matt Suiche نے اس بات پر زور دیا کہ اس واقعے نے یہ ظاہر کیا کہ کس طرح جدید ترین ماڈلز "جدید ترین حملہ آوروں کے ساتھ خلا کو ختم کر رہے ہیں۔" تاہم، انہوں نے مزید کہا کہ اوپن اے آئی کی بلاگ پوسٹ میں بیان کردہ خلاف ورزیاں جدید تحقیقی لیبز کی حدود سے کہیں زیادہ دستیاب ٹیکنالوجیز سے ممکن ہیں۔
OpenAI: Altman ٹرمپ انتظامیہ سے ملاقات کریں گے۔ مون شاٹ ڈوزئیر بھی میز پر ہوگا۔
OpenAI کے سی ای او، سیم آلٹمین، وہ پہلے ہی اگلے ہفتے ٹرمپ انتظامیہ اور امریکی قانون سازوں سے ماڈلز کی اگلی نسل سے ملاقات کرنے والے ہیں۔ مصنوعی ذہانتحکومت صرف آر کے لیے ایک فریم ورک تیار کر رہی ہے۔سیکورٹی کے جائزے، جس کے آنے والے ہفتوں میں مکمل ہونے کی امید ہے، اوپن اے آئی کے عالمی عوامی امور کے سربراہ کرس لیہانے نے کل کہا۔
لیکن میز پر موجود مسائل میں چینی اسٹارٹ اپ کا معاملہ بھی ہوگا۔ مون شاٹ سیاس نے ایک نیا ماڈل جاری کیا ہے جو امریکی ڈویلپرز کی بہترین پیشکشوں کا مقابلہ کرتا ہے، بشمول اوپنائی e بشری، نیا اٹھانا سوالات کی یکجہتی پر چین پر امریکہ کی برتری مصنوعی ذہانت میں مون شاٹ کے Kimi K3 ماڈل نے اس بات پر بھی شکوک و شبہات کا اظہار کیا ہے کہ آیا سیکڑوں بلین ڈالر کی انفراسٹرکچر سرمایہ کاری مطلوبہ نتائج دے سکتی ہے، جس سے سرمایہ کاروں کو جھٹکا لگا ہے۔ وال سٹریٹ اور ٹیکنالوجی اسٹاکس میں فروخت کو متحرک کرنا۔
