قررت شركة OpenAi التخلي عن إطلاق أحدث طرازاتها من الذكاء من الجيل التالي بسبب مخاوف أمنية أثار الباحثون هذه التساؤلات خلال الاختبارات. أرادت الشركة الناشئة بقيادة سام ألتمان إطلاق Gpt-6.1 أسترا في غضون أسابيع قليلة. ومع ذلك، ثبت أن النموذج غير موثوق به بما يكفي ليتم إصداره بأمان.
يُعد هذا الخبر جزءًا من النقاش الدائر حول أمان الذكاء الاصطناعي أطلقها الرؤساء التنفيذيون للشركات الرئيسية في القطاع، من أنثروبيك إلى أوبن إيه آي، والذين قالوا في الأسابيع الأخيرة إنهم متفقون على ضرورة فرض ضوابط أكبر على القطاع على الرغم من المعارضة الواضحة من الرئيس الأمريكي دونالد ترامب، وفقًا لذلك، فإن اللوائح الجديدة ستسمح للصين بتجاوز الولايات المتحدة في سباق الذكاء الاصطناعي، وهو تجاوز ينوي البيت الأبيض منعه بكل تأكيد.
OpenAi: "النموذج غير موثوق به وعرضة للخداع".
وفقا لل Wall Street Journal يبدو أن التراجع كان بسبب مخاوف أمنية أثارها الباحثون أثناء الاختبارات الداخلية. وأوضحت ساتشي جاين، رئيسة قسم أنظمة الأمن في OpenAi، أن النموذج الذي تم الحصول عليه نتائج محاذاة ضعيفةأي في القدرة على تلبية التوقعات البشرية، وقد أظهر ميل أكبر للخداعومن بين القضايا الحاسمة التي برزت ما يلي: "نطاق تفويض العمل"، أي أن النموذج قام بمهمة دون طلب إذن المستخدم، وفي بعض الأحيان استخدم أدوات وخدمات خارجية حتى لو كان ذلك خطيرًا.
على الرغم من أن سيارة أسترا 6.1 تمثل تحسناً عن الطرازات السابقة في بعض الجوانب، إلا أنها لم تصل إلى المعايير المطلوبة من حيث rالالتزام بحدود التشغيل والتراخيصوأوضح جاين قائلاً: "نريد ضمان تطوير نماذجنا بأمان، سواء داخل الشركة أو عند طرحها للمستخدمين. وعندما نتيح نموذجاً للمستخدمين، نطبق معايير صارمة للغاية للأمان والتوافق".
يحذر نشرة الاستحواذ الخاصة بشركة أنثروبيك من "مخاطر على البشرية".
في ظل تزايد المخاوف الأمنية يوماً بعد يوم، يدق ناقوس الخطر مجدداً من منافس OpenAI المباشر، شركة Anthropic، التي حذرت المستثمرين من أن تقنيتها قد تشكل تهديداً. "مخاطر وجودية على البشرية". ال فاينانشال تايمز، وفقًا لذلك كان من المفترض أن يتم تضمين التحذير في نشرة الاكتتاب لإدراج الأسهم في البورصة.
سكوندو قدم، خصصت الشركة الناشئة التي يقودها داريو أمودي ما يقرب من ثلث وثائقها الطويلة للوصف التفصيلي لـ "عوامل الخطر"، بما في ذلك إمكانية ظهور نماذج الذكاء الاصطناعي المتقدمة بشكل متزايد التلاعب والابتزاز وإظهار سلوكيات أخرى غير متوقعة.
