Ha کام کیا تین سال کے لئے مصنوعی ذہانت کی ترقی کے لیے، پہلے میں اوپنائی اور پھر اندر بشری. ابھی جیکب کوکسن نے انڈسٹری چھوڑ دی۔, اس بات پر یقین رکھتے ہیں کہ تیزی سے طاقتور نظاموں کی دوڑ کافی حفاظتی ضمانتوں کے بغیر آگے بڑھ رہی ہے۔ 27 سالہ برطانوی محقق نے X پر پیغامات کی ایک سیریز میں اپنے استعفیٰ کا اعلان کرتے ہوئے دونوں کمپنیوں پر ایسے خطرات مول لینے کا الزام لگایا جو پوری انسانیت کو متاثر کرتے ہیں۔وہ ہماری زندگیوں سے کھیل رہے ہیں۔ "اے آئی تیار کرنے والے لوگ مخلصانہ طور پر یقین رکھتے ہیں کہ یہ دہائی کے آخر تک ہم سب کو ہلاک کر سکتا ہے۔ جلد ہی، یہ مافوق الفطرت نظام ہوں گے جو کسی بھی چیز کو ہیک کرنے، کسی بھی صنعت میں راتوں رات انقلاب لانے، اور حقیقی طاقت اور وسائل حاصل کرنے کے قابل ہو جائیں گے۔"
اس کی شکایت کا مرکز ہے۔ ایک سپر انٹیلی جنس کی ترقی کرنے کے قابل خود کو آزادانہ طور پر بہتر بنائیں، انسانی صلاحیتوں سے آگے نکل جانے کی حد تک اور، اس کے خوف کے مطابق، یہاں تک کہ اس پر قابو پانے کا امکان۔ یہ خطرے کی گھنٹی اس وقت سامنے آئی ہے جب غیر مجاز رسائی اور AI ایجنٹوں پر عائد پابندیوں کو روکنے کے نئے واقعات حفاظتی اقدامات کی وشوسنییتا کے بارے میں سوالات کو ہوا دیتے ہیں۔
کوکسن نے استعفیٰ کیوں دیا۔
کوکسن پری ٹریننگ کا انچارج تھا۔، وہ مرحلہ جس میں ماڈل بڑی مقدار میں ڈیٹا سے وہ صلاحیتیں سیکھتے ہیں جو پھر مختلف کاموں کو انجام دینے کے لیے استعمال ہوں گی۔ اس کے کام نے اسے میدان میں دو معروف لیبارٹریوں میں تحقیق کے مرکز میں لایا تھا۔ اس کا دعویٰ ہے کہ اسی تجربے نے اسے اپنے کیریئر کو ترک کرنے پر آمادہ کیا۔ "کوئی بھی کمپنی ذمہ داری سے برتاؤ نہیں کر رہی ہے،" انہوں نے لکھا۔ اس کے اکاؤنٹ میں، پیش رفت AI کو ان صلاحیتوں کے قریب لا رہی ہے جو اسے کمپیوٹر سسٹم کو ہیک کرنے، پوری صنعتوں کو تیزی سے تبدیل کرنے، اور وسائل اور طاقت حاصل کرنے کی اجازت دے سکتی ہے۔ اس کی نظر میں مسئلہ یہ ہے کہ یہ ایکسلرازیون a کے ساتھ نہیں ہوگا۔ یکساں طور پر ٹھوس تفہیم اسے کنٹرول میں رکھنے کے لیے ضروری میکانزم کا۔
گزرنا پھر آگے بڑھتا ہے۔ خدشات جو، کوکسن کے مطابق، لیبارٹریوں میں گردش کر رہے ہیں۔ "اے آئی تیار کرنے والے لوگ حقیقی طور پر یقین رکھتے ہیں کہ یہ دہائی کے آخر تک ہم سب کو ہلاک کر سکتا ہے،" محقق وضاحت کرتا ہے، یہ دلیل دیتے ہوئے کہ کچھ ایگزیکٹوز نجی بات چیت کے مقابلے میں عوامی سطح پر زیادہ تسلی بخش تاثرات استعمال کرتے ہیں۔
یہ کے بارے میں ہے محققین کی طرف سے اظہار خیال اور خدشات, ثابت شدہ پیشین گوئی کی نہیں۔لیکن اس کی شکایت ایک حقیقی سوال اٹھاتی ہے: کون فیصلہ کرے گا کہ کس سطح کا خطرہ قابل قبول ہے جب نتائج کسی ایک کمپنی سے کہیں زیادہ بڑھ سکتے ہیں؟
Anthropic اور ایک ایسی دوڑ کا تضاد جسے کوئی روکنا نہیں چاہتا
استعفیٰ پر اثر پڑتا ہے۔ Anthropic کی شناخت کا مرکزی عنصرکمپنی کی بنیاد 2021 میں محققین کے ایک گروپ نے رکھی تھی جنہوں نے OpenAI کو چھوڑ دیا، جزوی طور پر سیکورٹی پر اختلافات کی وجہ سے۔ آج اسے اپنے ایک ملازم کی طرف سے اسی طرح کی تنقید کا سامنا ہے۔
کیس کو مزید وزن دینے کے لیے، درج ذیل نے مداخلت کی: ایوان ہبنگراس ٹیم کے لیے ذمہ دار ہے جو ماڈل کی صف بندی سے نمٹتی ہے، یعنی اس بات کو یقینی بنانا کہ ان کا طرز عمل انسانی ارادوں اور اہداف کا احترام کرے۔ Hubinger نے کوکسن کی تشویش کا اشتراک کیا، ذاتی طور پر a اگلی دہائی کے اندر تباہ کن منظر نامے کے 10% سے زیادہ امکانAnthropic کے عزم کا دفاع کرتے ہوئے، انہوں نے انتہائی جدید نظاموں کو محفوظ طریقے سے تیار کرنے کے لیے مناسب منصوبہ بندی کی کمی کو تسلیم کیا۔ یہ انتباہ کے ساتھ پہلی روانگی نہیں ہے۔ فروری میں، سیکورٹی ریسرچ کے سربراہ، مرینک شرما بھی ایک خط لے کر چلے گئے جس میں دنیا کو بڑھتے ہوئے خطرات سے دوچار کیا گیا ہے۔
کوکسن کے مطابق، لیبز کے اندر خطرات کے بارے میں آگاہی موجود ہے، لیکن مروجہ عقیدہ یہ ہے کہ سست روی کم محتاط حریفوں کے لیے جگہ چھوڑ دے گی۔ کمپنیوں کے درمیان مسابقت، بین الاقوامی مسابقت کے ساتھ، اس طرح مسلسل تیز رفتاری کا جواز پیش کرتی ہے۔ محقق اسے "ایک مغرور جوا سمجھتا ہے جو نجی کمپنی کے سلیک چینل سے نہیں بنایا جانا چاہیے۔"
AI: وقفے کی درخواستوں سے لے کر مجوزہ قوانین تک
کوکسن کی طرف سے اشارہ کیا گیا جواب a سے جاتا ہے۔ لیبارٹریوں کے درمیان ہم آہنگیمحقق کا خیال ہے کہ ترقی کی رفتار پر معاہدے ممکن ہیں، حالانکہ وہ فی الحال عالمی دوڑ کو روکنے کے لیے حالات نہیں دیکھ رہے ہیں۔ ان اقدامات میں سے جو ضروری ہو سکتے ہیں، انہوں نے "مہنگے اقدامات، جیسے ماڈل کی صلاحیتوں کو بہتر بنانے پر عارضی پابندی" کا حوالہ دیا۔ کارروائی کی کال میں سیکٹر کا ایک وسیع طبقہ شامل ہے۔ کوکسن اور اینتھروپک کے سی ای او ڈاریو آمودی سمیت ایک ہزار سے زیادہ محققین کے دستخط شدہ ایک اپیل تحقیق کو سست کرنے کے لیے بین الاقوامی کوآرڈینیشن خود کو بہتر بنانے کے قابل نظاموں پر۔
امریکہ میں یہ بحث کانگریس تک بھی پہنچ چکی ہے۔3 ستمبر کو سینیٹر برنی سینڈرز اور نمائندہ گریگ کیسر نے مصنوعی سپر انٹیلی جنس پر پابندی کا ایکٹ متعارف کرایا۔ تجویز جو مصنوعی سپر انٹیلی جنس کی ترقی پر پابندی لگائے گی۔ اور دیگر جدید پیش رفتوں کو عارضی طور پر معطل کر دے گا جب تک کہ ایک نئی وفاقی اتھارٹی کی طرف سے حفاظتی ضابطے قائم نہیں ہو جاتے۔ اس بل میں خلاف ورزی کرنے والوں کو بیس سال تک قید کی سزا کا بندوبست کیا گیا ہے۔ معاملے کی جڑ کو سونپنا ہے۔ خطرے کی تشخیص یہاں تک کہ ان کمپنیوں سے آزاد اداروں تک جو ماڈلز کی تعمیر اور مارکیٹنگ کرتی ہیں۔ یہ مسئلہ پہلے ہی سائبرسیکیوریٹی، معلومات میں ہیرا پھیری، نگرانی، اور معاشی طاقت کے ارتکاز سے متعلق ہے، اس کے علاوہ محققین کی طرف سے پیدا کیے گئے انتہائی منظرناموں کے علاوہ۔
کلاڈ اور اوپن اے آئی کے واقعات سیکیورٹی خدشات کو پھر سے جنم دیتے ہیں۔
بحث کو مزید دباؤ بنانا ہے۔ وہ اقساط جو حالیہ مہینوں میں سامنے آئی ہیں۔. 9 ستمبر انتھروپک نے چوتھا واقعہ بیان کیا ہے۔ اینتھروپک نے ایک نئے واقعے کی اطلاع دی ہے جس میں اس کے ایک ماڈل نے جانچ کے دوران بیرونی نظام کی خلاف ورزی کی۔ یہ واقعہ جنوری کا ہے اور اس میں Claude Opus 4.6 کا ابتدائی ورژن شامل ہے، لیکن اسے صرف اگست میں دریافت کیا گیا تھا۔ یہ دریافت 141.006 ٹیسٹ رنز کے ابتدائی جائزے کے بعد ہوئی، جس میں کچھ رنز شامل نہیں تھے۔ جولائی میں، کمپنی نے پہلے ہی دیگر ماڈلز کے تین واقعات کا انکشاف کیا تھا، جنہیں ایک بگ کی وجہ سے انٹرنیٹ تک رسائی دی گئی تھی۔ نئے واقعے کے بارے میں، Anthropic نے کہا کہ اس نے ملوث تمام فریقوں کو مطلع کر دیا ہے اور ابتدائی تشخیص کی بنیاد پر اسے پچھلے واقعات سے زیادہ سنگین نہیں سمجھتے۔ کمپنی نے دو بار بار چلنے والے رویوں کی نشاندہی کی ہے: حقیقی نظاموں تک رسائی اور کسی کام کو مکمل کرنے کے لیے ممکنہ طور پر نقصان دہ کارروائیوں کو انجام دینے کی خواہش کے اشارے کو کم کرنے یا غلط تشریح کرنے کا رجحان۔
اوپن اے آئی کے محاذ پرپر تحقیقاتہگنگ فیس پلیٹ فارم پر جولائی کا حملہ انہوں نے تقریباً 700 ایجنٹوں کی مربوط سرگرمی کو از سر نو تشکیل دیا، ان کی پٹریوں کا احاطہ کرنے کی بار بار کوشش کی۔ کی طرف سے ایک تحقیقات رائٹرز اس نے بعد میں اطلاع دی کہ کمپنی کے ایجنٹوں نے غیر مجاز مواصلات کے لیے دس سے زیادہ دیگر سائٹس کا استعمال کیا ہے۔ اس مؤخر الذکر سرگرمی کو کمپیوٹر کی مداخلت سے ممتاز کیا جانا چاہئے۔ ایجنٹوں نے مبینہ طور پر ویکیز اور دیگر سروسز کی تکنیکی خصوصیات کو پیغامات چھوڑنے اور معلومات کے تبادلے کے لیے استعمال کیا، ان پابندیوں کو روکتے ہوئے جو انہیں صرف ویب کو پڑھنے کی اجازت دیتے تھے۔ OpenAI نے کہا کہ اس نے ایک وسیع تر جائزہ کا آغاز کیا ہے اور اس نے ہگنگ فیس کیس کی شدت یا دائرہ کار میں موازنہ کرنے والی کسی دوسری سرگرمیوں کی نشاندہی نہیں کی ہے۔
اقساط تاہم، وہ ایک مشکل دکھاتے ہیں پہلے سے ہی موجودہ: ایک ہدف حاصل کرنے کے لیے بنائے گئے سسٹمز کو مسلط کردہ حدود کو نظرانداز کرنے سے روکنا اور ایسا ہونے پر فوری طور پر پہچاننا۔
