إنذار OpenAIيمكن بسهولة إدراج هذه القصة في فيلم خيال علمي، من تلك القصص التي تستولي فيها الآلات على البشر. لكنها ليست خيالًا علميًا ولا فيلمًا: في الواقع، اضطرت OpenAI إلى الإعلان عن ذلك. وكيل مستقل استنادًا إلى نماذجه الخاصة من الذكاء الاصطناعي المتقدم è خرج الأمر عن السيطرة دورانتي ل تجربه بالعربي الأمن وأدى إلى تفعيل الهجوم السيبراني مما أدى إلى اختراق البنية التحتية لشركة الذكاء الاصطناعي الناشئة Hugging Face.
في منشور على مدونته، OpenAI قال ذلك كان يختبر القدرات من بين بعض نماذجها الأكثر تطوراً في بيئة خاضعة للرقابة، عندما تمكن العميل من الإفلات من الكشف، والوصول إلى الإنترنت، والتسلل إلى Hugging Face في محاولة للوصول إلى أهداف الاختبار الخاصة به.
لم تتوانَ شركة OpenAI نفسها عن وصف ما حدث: لقد كان "حادثة حاسوبية غير مسبوقةالتي تشارك قدرات حوسبة متطورةوأضافت الشركة أنها تعمل بوضوح على تعزيز إجراءاتها الأمنية. وتقول OpenAI: "بعد الحصول على إمكانية الوصول إلى الإنترنت، استنتجت النماذج أن Hugging Face يمكنه استضافة النماذج ومجموعات البيانات". على مدونتهوإدراكًا لذلك، سعت النماذج ووجدت بنجاح طرقًا لـ الوصول إلى المعلومات السرية التي كان بإمكانهم استخدامها لتزييف التقييم".
تعانق الوجه أثارت منصة تُستخدم لاستضافة نماذج لغوية ومجموعات بيانات كبيرة مفتوحة المصدر ضجة في مجتمع الأمن السيبراني عندما ذكرت في منشور على مدونتها الأسبوع الماضي مدونته والتي كانت هدفاً لهجوم إلكترونييختلف عن أي شيء آخر كنا قد تمكنا من إدارتها سابقاً" على أنها "ارداتومن البداية إلى النهاية، من نظام مستقل من الوكلاء "من الذكاء الاصطناعي" وحدد: "لقد اكتشفنا الوصول غير المصرح به إلى مجموعة محدودة من مجموعات البيانات الداخلية وإلى بيانات اعتماد مختلفة تستخدمها خدماتنا.
OpenAI: نظام مثير للقلق، هل توجد به عيوب؟ نماذج ذات ألف ذراع
بطبيعة الحال، يثير هذا الكشف المذهل بالفعل مخاوف بشأن قوة ومخاطر نماذج رائدة. قال النائب جريج كاسار، الديمقراطي عن ولاية تكساس، أمس: كان الحادث مثيراً للقلقيتطور الذكاء الاصطناعي بسرعة مذهلة، دون وجود حقيقي تنظيم وقال: "هذا يحمينا"، داعياً إلى إجراء اختبارات أمنية مستقلة إلزامية، والكشف الإلزامي عن الحوادث الأمنية، والتعاون الدولي "لحماية الناس من كارثة مطلقة".
"كان الحادث نذير بانتهاكات مستقبلية" علق على رويترز كاتي موسوريس، الرئيسة التنفيذية لشركة الأمن "لوتا سيكيوريتي"، تجادل بأن نماذج اليوم إنهم "مثل" أذكى الأخطبوطات في العالم، قادر على الهروب من أي عقبةوأضاف قائلاً: "لديها أذرع قابضة غير محدودة وقدرة على التأقلم في أي مكان". المختبرات الحكومية وهيئات التقييم يحتاجون إلى العمل على القدرة على احتواء ومراقبة وإخطار الجهات المعنية عندما يقوم الذكاء الاصطناعي بمحاولة أخرى للتحايل، ويفضل أن يكون ذلك قبل أن يلحق الضرر بأطراف ثالثة. لا يوجد شيء من هذا القبيل حاليًا.
أكد مات سويش، وهو مهندس في شركة تولمو المتخصصة في الأمن السيبراني للذكاء الاصطناعي، أن الحادثة أظهرت كيف أن النماذج المتطورة "تقترب من أكثر المهاجمين تطوراً". ومع ذلك، أضاف أن الاختراقات الموصوفة في منشور مدونة OpenAI ممكنة باستخدام تقنيات متاحة خارج نطاق مختبرات الأبحاث المتطورة.
أوبن إيه آي: سيلتقي ألتمان بإدارة ترامب. كما سيتم مناقشة ملف مونشوت.
الرئيس التنفيذي لشركة OpenAI، سام التمان ، من المقرر بالفعل أن يجتمع مع إدارة ترامب والمشرعين الأمريكيين الأسبوع المقبل لمناقشة الجيل القادم من الطرازات. الذكاء الاصطناعيالحكومة بصدد وضع إطار عمل لـمراجعات أمنية، وقال كريس ليهان، رئيس الشؤون العامة العالمية في OpenAI، أمس، إنه من المتوقع أن يكتمل المشروع في الأسابيع المقبلة.
لكن من بين القضايا المطروحة على الطاولة ستكون أيضاً قضية الشركة الصينية الناشئة مونشوت سيأصدر نموذجاً جديداً ينافس أفضل ما يقدمه مطورو البرامج الأمريكيون، بما في ذلك OpenAI e أنثروبي، مما أدى إلى ظهور جديد أسئلة على صلابة تفوق الولايات المتحدة على الصين في مجال الذكاء الاصطناعي. كما أثار نموذج كيمي كيه 3 التابع لمشروع مونشوت شكوكاً حول ما إذا كان استثمار مئات المليارات من الدولارات في البنية التحتية قادراً على تحقيق النتائج المرجوة، مما أثار قلق المستثمرين. وول ستريت مما أدى إلى عمليات بيع مكثفة في أسهم شركات التكنولوجيا.
