قررت شركة OpenAI التخلي عن إطلاق أحدث نماذجها من الذكاء من الجيل التالي بسبب مخاوف أمنية أثار الباحثون هذه التساؤلات خلال الاختبارات. أرادت الشركة الناشئة بقيادة سام ألتمان إطلاق Gpt-6.1 أسترا في غضون أسابيع قليلة. ومع ذلك، لم يكن النموذج موثوقًا به بما يكفي ليتم إصداره بأمان. في هذه الأثناء، أنثروبي يحذر المستثمرين من خلال التأكيد – في نشرة الاكتتاب الخاصة بالإدراج في البورصة – على أن الذكاء الاصطناعي "قد يشكل مخاطر على البشرية"، مسلطاً الضوء على خسائر صافية قدرها 42 مليار دولار في عام 2025.
يُعد هذا الخبر جزءًا من النقاش الدائر حول أمان الذكاء الاصطناعي أطلقها الرؤساء التنفيذيون للشركات الرئيسية في القطاع، من أنثروبيك إلى أوبن إيه آي، والذين قالوا في الأسابيع الأخيرة إنهم متفقون على ضرورة فرض ضوابط أكبر على القطاع على الرغم من المعارضة الواضحة من الرئيس الأمريكي دونالد ترامب، وفقًا لذلك، فإن اللوائح الجديدة ستسمح للصين بتجاوز الولايات المتحدة في سباق الذكاء الاصطناعي، وهو تجاوز ينوي البيت الأبيض منعه بكل تأكيد.
OpenAI: "النموذج غير موثوق به وعرضة للخداع".
وفقا لل Wall Street Journal يبدو أن التراجع يعود إلى مخاوف أمنية أثارها الباحثون أثناء الاختبارات الداخلية. وأوضحت ساتشي جاين، رئيسة أنظمة الأمن في OpenAI، أن النموذج الحصول عليها نتائج محاذاة ضعيفةأي الامتثال للتعليمات المقدمة من المطورين، وأظهر أداءً أقل من سابقه، GPT-6، في مجالين. يحاول النموذج بشكل متكرر خداع رؤسائه من خلال عدم الكشف عن بعض الإجراءات التي تم تنفيذها أو لم يتم تنفيذها.
على الرغم من أن سيارة أسترا 6.1 تمثل تحسناً عن الطرازات السابقة في بعض الجوانب، إلا أنها لم تصل إلى المعايير المطلوبة من حيث rالالتزام بحدود التشغيل والتراخيصوأوضح جاين قائلاً: "نريد ضمان تطوير نماذجنا بأمان، سواء داخل الشركة أو عند طرحها للمستخدمين. وعندما نتيح نموذجاً للمستخدمين، نطبق معايير صارمة للغاية للأمان والتوافق".
أنثروبيك: يتضمن نشرة الاستحواذ "مخاطر على البشرية" وخسائر بمليارات الدولارات
في ظل تزايد المخاوف الأمنية يوماً بعد يوم، يدق ناقوس الخطر مجدداً من منافس OpenAI المباشر، شركة Anthropic، التي حذرت المستثمرين من أن تقنيتها قد تشكل تهديداً. "مخاطر وجودية على البشرية". ال فاينانشال تايمزوبحسب ذلك، كان من المفترض أن يُدرج التحذير في نشرة الاكتتاب الخاصة بإدراج السهم في البورصة. قدم، خصصت الشركة الناشئة التي يقودها داريو أمودي ما يقرب من ثلث وثائقها الطويلة للوصف التفصيلي لـ "عوامل الخطر"، بما في ذلك إمكانية ظهور نماذج الذكاء الاصطناعي المتقدمة بشكل متزايد التلاعب والابتزاز وإظهار سلوكيات أخرى غير متوقعة.
ثم دائمًا وفقًا للنشرة، التي يتم فحصها أيضًا بواسطة رويترزقد تصل قيمة شركة أنثروبيك في عملية البيع العام إلى أكثر من تريليوني دولار، أي أكثر من ضعف التقديرات التي بلغت 965 مليار دولار في مايو. وذلك وفقًا لمصادر سبق ذكرها. رويترزينبغي تأجيل طرح الأسهم للاكتتاب العام إلى ما بعد انتخابات التجديد النصفي للكونغرس الأمريكي المقرر إجراؤها في نوفمبر المقبل. صحيح أن وراء التسرع في الإدراج، عامًا من النمو الذي تحقق بتكلفة باهظة. دورانفي الواقع، لقد ارتفع هذا الرقم اثني عشر ضعفًا في عام واحد، ليصل إلى ما يقرب من 4,6 مليار. ال صافي الخسارة استقر بالقرب من 42 مليار (ويأتي ما يقرب من 34 مليار دولار من هذا الرقم من رسوم محاسبية تعكس الزيادة في القيمة المقدرة للقروض التي يمكن تحويلها إلى أسهم أنثروبيك، ولا تتوافق مع الأموال التي أنفقت على إدارة الأعمال.) بعد خصم عمليات الشطب، تجاوزت الخسارة التشغيلية 8 مليارات دولار.
