میں تقسیم ہوگیا

پہلا آن لائن بینر

اوپن اے آئی نے آسٹرا لانچ کیا، وہ AI جو کمپیوٹر پر اکیلے کام کرتا ہے: یہ کیا ہے اور یہ کیوں خطرناک ہو سکتا ہے

نیا ماڈل براؤزرز اور ایپلیکیشنز کا استعمال کر سکتا ہے، سافٹ ویئر تیار کر سکتا ہے اور پیچیدہ پیشہ ورانہ کاموں سے نمٹ سکتا ہے۔ OpenAI اسے اب تک کا سب سے طاقتور اور قابل اعتماد قرار دیتا ہے، لیکن اس کی "اہم" کمپیوٹنگ صلاحیتوں کو تسلیم کرتا ہے۔ اس کا آغاز خطرات کے بارے میں سخت انتباہ کے صرف تین دن بعد ہوا ہے۔

اوپن اے آئی نے آسٹرا لانچ کیا، وہ AI جو کمپیوٹر پر اکیلے کام کرتا ہے: یہ کیا ہے اور یہ کیوں خطرناک ہو سکتا ہے

اوپنائی اس نے پھینک دیا GPT-6 Astra، اس کی جدید ترین مصنوعی ذہانت کا ماڈل, نہ صرف سوالات کا جواب دینے کے قابل، بلکہ کمپیوٹر کو آزادانہ طور پر استعمال کریں۔پیچیدہ کاموں کو مکمل کرنے کے لیے براؤزر، اور پروگرام۔ یہ آن لائن فارم پُر کر سکتا ہے، کمپنی کے ریکارڈ کو اپ ڈیٹ کر سکتا ہے، کیلنڈر ترتیب دے سکتا ہے، تحقیق کر سکتا ہے، دستاویزات اور پیشکشیں تیار کر سکتا ہے، سائنسی ڈیٹا کا تجزیہ کر سکتا ہے، ویب سائٹس بنا سکتا ہے، اور سافٹ ویئر تیار کر سکتا ہے۔ سیم آلٹ مین کی کمپنی نے آسٹرا کو اپنے "سب سے ذہین اور سب سے زیادہ منسلک" نظام کے طور پر پیش کیا، جو ماڈل ٹریننگ اور سیکورٹی میں سالوں کی تحقیق کا نتیجہ ہے۔ پہلی، تاہم، تھا غیر معمولی احتیاطی تدابیر کے ساتھ. OpenAI نے تسلیم کیا ہے کہ اس کی سائبرسیکیوریٹی صلاحیتیں ہیں۔ "کریٹیکل" کی سطح پر پہنچ چکے ہیں۔کمپنی کی طرف سے اپنے کسی ماڈل کو دیا جانے والا اب تک کا سب سے بڑا اعزاز۔

تقسیم ایک سے شروع ہوگی۔ تنظیموں کی محدود تعدادآنے والے دنوں میں، Astra ChatGPT Plus، Pro، Business، اور Enterprise کے صارفین کے ساتھ ساتھ OpenAI، Microsoft Azure، اور Amazon Bedrock APIs کے ذریعے ڈویلپرز کے لیے دستیاب ہوگا۔ انٹرپرائزز کے لیے رسائی ابتدائی طور پر غیر فعال کر دی جائے گی اور اسے منتظمین کی طرف سے اجازت دینی ہوگی۔

Astra: ڈیجیٹل اسسٹنٹ سے لے کر کام کرنے کے قابل ایجنٹ تک

Astra OpenAI کی کوشش کی نمائندگی کرتا ہے۔ ChatGPT کو ڈیجیٹل انٹرلوکیوٹر سے حقیقی آپریشنل ایجنٹ میں تبدیل کریں۔ماڈل ایک مقصد حاصل کر سکتا ہے، اسے متعدد مراحل میں تقسیم کر سکتا ہے، اور کام جاری رکھ سکتا ہے یہاں تک کہ جب کام کے لیے مختلف پروگراموں کے استعمال کی ضرورت ہو۔ لہذا، یہ صرف اس بات کی وضاحت نہیں کرتا کہ کام کو کیسے مکمل کیا جائے۔ آپ براہ راست مداخلت کر سکتے ہیں۔ IT ٹولز کے اندر، ویب پیجز کھولیں، دستاویزات میں ترمیم کریں، فائلوں کا تجزیہ کریں، اور حتمی نتیجہ کی تصدیق کریں۔ OpenAI کی طرف سے حوالہ دیا گیا ٹیسٹ میں، یہ بھی استعمال کیا گیا تھا الیکٹرانک سرکٹس ڈیزائن کریں۔تین جہتی ماڈل تیار کریں اور ویب سائٹس اور ایپلی کیشنز کے کام کاج کی جانچ کریں۔

سب سے اہم بہتری طویل کاموں کے دوران توجہ مرکوز رکھنے کی صلاحیت سے متعلق ہے۔ پچھلے ماڈلز کچھ تفصیلات کھو سکتے ہیں جب کوئی بات چیت بہت طویل ہو جاتی ہے یا کسی نئی درخواست کو مقصد کی مکمل تبدیلی کے طور پر سمجھا جاتا ہے۔ Astra، کمپنی کے مطابق، ضروریات، نتائج اور سابقہ ​​کوششوں کو برقرار رکھنے کے قابل ہے، پہلے سے کیے گئے کام کو بھولے بغیر اپنا راستہ درست کرتا ہے۔

اوپن اے آئی کا یہ بھی دعویٰ ہے کہ نیا ماڈل اس بات کا اندازہ لگانے کے قابل ہے کہ کب خود مختاری سے آگے بڑھنا ہے اور کب وضاحت طلب کرنی ہے۔ اگر ثانوی معلومات غائب ہے، تو یہ ایک معقول اندازہ لگا سکتی ہے۔ اگر فیصلے سے نتائج کو نمایاں طور پر تبدیل کرنے کا خطرہ ہے، تو اسے رکنا چاہیے اور صارف سے پوچھنا چاہیے۔

Astra کیا وعدہ کرتا ہے، کام، سائنس اور مفروضوں کے درمیان Agi

Le عزائم OpenAI کی صلاحیتیں دفتری کام سے لے کر پروگرامنگ تک سائنسی تحقیق تک ہیں۔ Astra کو ایسی دستاویزات، اسپریڈ شیٹس اور پیشکشیں تیار کرنے کی تربیت دی گئی ہے جو پہلے سے ہی کمپنیوں کے مطلوبہ معیارات کے قریب ہیں، گرافک ٹیمپلیٹس اور صارفین کی طرف سے فراہم کردہ تحریری انداز کا احترام کرتے ہیں۔ یہ بھی کر سکتا ہے۔ خصوصی سافٹ ویئر کے اندر کام کریں۔ اعداد و شمار کی جانچ پڑتال کرنے، نقلیں چلانے، اور محققین کو انتہائی اہم بصیرت کی نشاندہی کرنے میں مدد کرنے کے لیے۔

کمپنی کی طرف سے جاری کردہ نتائج میں، Astra نے FrontierMath Tier 4 پر 98% اسکور حاصل کیا، خاص طور پر پیچیدہ ریاضیاتی مسائل کے لیے، اور Arc-Agi-3 پر 99,9% تک پہنچ گیا، یہ ایک ایسا ٹیسٹ ہے جو غیر مانوس ماحول میں تشریف لے جانے اور ان کے قواعد کو سیکھنے کی صلاحیت کا جائزہ لینے کے لیے ڈیزائن کیا گیا ہے۔ یہ پیشہ ورانہ سرگرمیوں اور کمپیوٹر کے استعمال کے ٹیسٹوں میں پچھلے ماڈلز کو بھی پیچھے چھوڑ دیتا ہے، کچھ کاموں کو نمایاں طور پر کم وقت میں مکمل کرتا ہے۔ نمبرز، تاہم، کی ضرورت ہے احتیاطکارکردگی انفراسٹرکچر، میموری، اور ماڈل کے لیے دستیاب وسائل کی مقدار کے لحاظ سے مختلف ہو سکتی ہے۔ معیاری ترتیب میں، Arc-AGI-3 پر Astra کا سکور تقریباً 63% تک گر جاتا ہے۔ مزید برآں، ایک بینچ مارک کو مارنا خود بخود انسان جیسی عمومی ذہانت کا مظاہرہ نہیں کرتا ہے۔

اوپن اے آئی کے صدر اور شریک بانی، گریگ بروک مینتاہم، بحث کو ہوا دینے کے لیے ایک فارمولہ کا انتخاب کیا ہے۔ "Agi کے دور میں خوش آمدید"، اس نے پریزنٹیشن کے دوران اعلان کیا۔ عام مصنوعی ذہانت، OpenAI کا تاریخی ہدف ہے اور یہ ایک انتہائی خود مختار نظام کی نشاندہی کرتا ہے، جو کہ زیادہ تر اقتصادی طور پر متعلقہ کاموں میں انسانوں کو پیچھے چھوڑنے کی صلاحیت رکھتا ہے۔ Astra بحث کو طے نہیں کرتا ہے، لیکن یہ ظاہر کرتا ہے کہ کس طرح چیٹ بوٹ اور خود مختار ایجنٹ کے درمیان لائن تیزی سے دھندلی ہوتی جا رہی ہے۔

سائبرسیکیوریٹی کا خطرہ اور ماڈل کے ذریعہ دریافت کردہ خامیاں

وہی خود مختاری جو Astra کو زیادہ مفید بناتی ہے اسے a میں تبدیل کر سکتی ہے۔ خطرناک آلہماڈل قابل ہے۔ کمپیوٹر کی نامعلوم کمزوریوں کی نشاندہی کریں۔ اور ان کا استحصال کرنے کے طریقے تیار کریں، بغیر کسی ایک فرد کو ہر ایک قدم کی قیادت کرنے کی ضرورت۔

ExploitBench بینچ مارک میں، جو معلوم کمزوریوں کی بنیاد پر حملے کرنے کی صلاحیت کی پیمائش کرتا ہے، Astra نے GPT-5.6 Sol کے لیے 78,5% کے مقابلے میں 100% اسکور کیا۔ پھر OpenAI نے اسے جون اور اگست 2026 کے درمیان انکشاف کردہ خطرات کی بنیاد پر تشخیص سے مشروط کیا۔ ان ٹیسٹوں کے دوران، سسٹم نے دو صفر دن کی کمزوریوں کو دریافت کیا اور ان کا استحصال کیا، یعنی سیکیورٹی کے مسائل ابھی تک معلوم نہیں ہیں اور جن کا کوئی حل دستیاب نہیں ہے۔ کمپنی نے متاثرہ سافٹ ویئر کے ڈویلپرز کو کمزوریوں کا انکشاف کیا۔

کنٹرول شدہ ماحول میں، Astra سخت براؤزرز اور آپریٹنگ سسٹمز کے ساتھ سمجھوتہ کرنے، کمپیوٹر پر کمانڈز کو چلانے اور انتظامی مراعات حاصل کرنے کے قابل بھی تھا۔ یہ صلاحیتیں نیٹ ورک اور انفراسٹرکچر کے محافظوں کو زیادہ تیزی سے کمزوریوں کو تلاش کرنے اور ٹھیک کرنے میں مدد کر سکتی ہیں، لیکن یہ مجرمانہ گروہوں یا دشمن اداروں کو بہت بڑا فائدہ بھی دے سکتی ہیں۔

دوسری تشویش ہے۔ OpenAI نے پایا ہے کہ Astra کے تحریری استدلال کی نگرانی کرنا GPT-5.6 Sol کی نسبت زیادہ مشکل ہے۔ یہ ماڈل کم واضح اقدامات کے ساتھ کچھ مسائل کو حل کرنے کے قابل دکھائی دیتا ہے، اور اسے جانچنے کے لیے بنائے گئے ٹیسٹوں میں، یہ اپنے کچھ ارادوں کو کنٹرول سسٹم سے چھپانے میں بہتر تھا۔ کمپنی کا دعویٰ ہے کہ اس نے نفیس مبہم تکنیکوں کے بے ساختہ استعمال کا مشاہدہ نہیں کیا ہے، لیکن پھر بھی نگرانی کی صلاحیت میں بگاڑ کو ایک سنگین مسئلہ سمجھتی ہے۔

لانچ اوپن اے آئی کے ذریعہ متعارف کرائے گئے انتباہ اور تحفظات کی پیروی کرتا ہے۔

ٹائمنگ ڈیبیو کو اور بھی نازک بنا دیتی ہے۔ یکم ستمبر کو، پریزنٹیشن سے صرف تین دن پہلے، OpenAI نے ایک اپ ڈیٹ شائع کیا تھا جس میں اس نے اعتراف کیا تھا۔ Astra نے "اہم" کمپیوٹنگ کی صلاحیتیں حاصل کر لی تھیں۔کمپنی نے وضاحت کی کہ اس نے بدسلوکی اور غیر مجاز اقدامات کے خلاف دفاع کو مضبوط بنانے کے لیے ترقی اور رہائی کے کچھ مراحل کو ملتوی کر دیا ہے۔

یہ فیصلہ بھی حادثے کے بعد سامنے آیا ہگنگ فیس اوپن سورس پلیٹ فارم، (معاشرہ ابھی Nvidia نے خریدا ہے۔) جہاں OpenAI ایجنٹوں نے بیرونی نظاموں سے سمجھوتہ کیا تھا اور اپنے اعمال کے نشانات کو مٹانے کی کوشش کی تھی۔ Astra ملوث نہیں تھا، لیکن اس واقعہ نے کمپنی کو کچھ تربیت عارضی طور پر معطل کرنے اور سخت کنٹرول متعارف کرانے پر آمادہ کیا۔

OpenAI کا دعویٰ ہے کہ اب ہے۔ آگے بڑھنے کے لیے سیکورٹی کی کافی سطح تک پہنچ گئی ہے۔Astra کو زیادہ کثرت سے بدنیتی پر مبنی درخواستوں کو مسترد کرنے کی تربیت دی گئی تھی، اور تحفظات کو نظرانداز کرنے کی کوششوں کے ٹیسٹوں میں، اس نے GPT-5.6 Sol کے لیے 59 فیصد کے مقابلے میں 91,5 فیصد نامنظور ہدایات کو مسترد کر دیا تھا۔ ایک اور تشخیص میں، اس نے کبھی بھی خودکار جائزے کے ذریعے لگائے گئے بلاک کو نظرانداز کرنے کی کوشش نہیں کی۔

عوام کے لیے دستیاب ورژن یہ مزید اعلی درجے کی کمزوریوں کے لیے مظاہرے کے کارنامے بھی تخلیق نہیں کر سکے گا۔سب سے زیادہ حساس صلاحیتیں ابتدائی طور پر تصدیق شدہ صارفین کے ایک منتخب گروپ کے لیے مخصوص ہوں گی اور بعد میں ڈے بریک پروگرام کے ذریعے پھیلائی جائیں گی، جس کا مقصد بنیادی طور پر دفاعی ایپلی کیشنز ہے۔

لیکن اس دوران، سائبر سیکیورٹی کے محاذ پراوپن اے آئی نے اعلان کیا ہے۔ بلین ڈالر کی سرمایہ کاری ضروری خدمات جیسے پاور گرڈز، واٹر سسٹمز، مقامی حکومتوں، کمیونٹی بینکوں اور غیر منفعتی تنظیموں کے لیے آلات، تربیت، اور معاونت تک رسائی کی سہولت فراہم کی۔ یہ اس خطرے کا جواب ہے جسے کمپنی خود قریب سمجھتی ہے۔ آنے والے مہینوں میں، OpenAI نے خبردار کیا، AI سے چلنے والے سائبر حملے "زیادہ وسیع اور نفیس" بن جائے گا۔

اس لیے ایسٹرا ایک تضاد کے اندر پیدا ہوا ہے جو تیزی سے جدید ماڈلز کے ساتھ ہوگا۔ وہ صلاحیتیں جو سافٹ ویئر اور انفراسٹرکچر کو زیادہ محفوظ بنا سکتی ہیں وہی ہیں جو حملوں میں سہولت فراہم کر سکتی ہیں۔ OpenAI نے بتدریج تعیناتی، خودکار کنٹرولز، اور سخت حدود پر انحصار کرتے ہوئے، لانچ کو نہ روکنے کا انتخاب کیا ہے۔ یہ دیکھنا باقی ہے کہ آیا تحفظات ماڈل کی طاقت کی طرح اسی شرح سے بڑھ سکیں گے۔

کمنٹا