وفقًا لـ OpenAI، خرج أحد عملاء الذكاء الاصطناعي من صندوق الحماية الخاص به، ودخل إلى الإنترنت، واقتحم أنظمة شركة أخرى.
أعلنت Hugging Face، وهي منصة مفتوحة المصدر للذكاء الاصطناعي، الأسبوع الماضي أنها تعرضت لحادث أمني تمكن فيه وكيل ذكاء اصطناعي مستقل من الوصول إلى بعض مجموعات البيانات الداخلية الخاصة بها، لكنها قالت إن النموذج اللغوي الكبير وراء الاختراق غير معروف.
قالت OpenAI يوم الثلاثاء إن نماذجها – GPT‑5.6 Sol ونموذج أكثر قدرة لم يتم إصداره بعد – هي المسؤولة.
“لقد اشتبهنا في أن الهجوم الإلكتروني الذي وقع الأسبوع الماضي ربما جاء من مختبر حدودي، نظرًا لتطور العميل. وتبين أنه حدث بالفعل!” قال كليم ديلانج، الرئيس التنفيذي والمؤسس المشارك لشركة Hugging Face، يوم الثلاثاء X.
قالت OpenAI إنها كلفت العارضات بتحدي إلكتروني، وأنهن خرجن من منطقة الاختبار، ودخلن إلى الإنترنت، واخترقن برنامج Hugging Face من أجل إيجاد حل للاختبار.
وقالت OpenAI في بيان: “نحن نعتبر هذا الحادث حادثًا إلكترونيًا غير مسبوق، يتضمن أحدث القدرات الإلكترونية، ونستجيب وفقًا لذلك”.
ويأتي هذا الحادث في الوقت الذي يثير فيه المتخصصون في مجال الأمن السيبراني مخاوف بشأن قدرات الذكاء الاصطناعي المتزايدة بسرعة، بما في ذلك الاستجابة لتحذيرات Anthropic بشأن نموذج Mythos الخاص بها، والذي لم يتم طرحه لعامة الناس.
إليك ما يقوله الأشخاص الأذكياء في مجال التكنولوجيا والذكاء الاصطناعي عن الاختراق.
آرون ليفي، الرئيس التنفيذي لشركة Box والمؤسس المشارك
قال الرئيس التنفيذي لشركة Box، آرون ليفي، “أوقات عصيبة مقبلة” ردًا على الحادث الأمني. كيمبرلي وايت / غيتي إيماجز لـ TechCrunch
وقال آرون ليفي، المؤسس المشارك والرئيس التنفيذي لشركة Box، إن الحادث أظهر “أننا ندخل حقبة جديدة مما سيكون ممكنًا مع الذكاء الاصطناعي” وأن هناك “أوقات عصيبة تنتظرنا”.
“إذا كنت تتساءل عن مدى قوة الذكاء الاصطناعي، فإن العملاء الآن قادرون على الهروب من الأنظمة، وإيجاد طريقهم إلى الإنترنت، واكتشاف الثغرات الأمنية في يوم الصفر على طول الطريق، ثم اقتحام الأنظمة الخارجية – كل ذلك في محاولة لإكمال هدفهم،” كتب على X.
“ومن المفارقات أن الطريقة النهائية التي سندافع بها ضد هذه المخاطر الجديدة هي بنفس القدر من خلال استخدام الحوسبة (في شكل الذكاء الاصطناعي) في قواعد الأكواد والشبكات والأنظمة الأخرى لدينا. سوف تحتاج إلى قدر أكبر بكثير من الذكاء الاصطناعي في جانب الدفاع كما تفعل في جانب الهجوم.”
توماس وودسايد، أحد مؤسسي مشروع Secure AI Project
قال توماس وودسايد، المؤسس المشارك لمشروع Secure AI Project، على موقع X: “يصف هذا المنشور نموذجًا داخليًا لـ OpenAI يتسلل من بيئة الاختبار الخاصة به إلى Hugging Face من أجل الحصول على حل لمعيار قياسي”.
“طلقة تحذيرية إذا رأيت واحدة من قبل.”
مايك برادلي، المدير التنفيذي للعمليات والمؤسس لشركة Osmantic
قال مايك برادلي، الرئيس التنفيذي للعمليات ومؤسس نظام نشر الذكاء الاصطناعي Osmantic، على موقع X إن الحادث كان “مثالًا رائعًا على سبب زيادة الوصول على نطاق واسع إلى نماذج الذكاء الاصطناعي ونظام التشغيل الحدودي إلى الأمن العالمي”.
“إنه أيضًا مثال رائع على سبب عدم كون CLOSED آمنًا من هذه المعامل الأمريكية.”
نيكولاس بوستامانتي، مايكروسوفت للذكاء الاصطناعي
كتب نيكولاس بوستامانتي، الذي يعمل في شركة Microsoft بعد بيع أداة للتكنولوجيا المالية للشركة في وقت سابق من هذا العام، على موقع X أن حادثة Hugging Face تعزز الحاجة إلى تقييم نشر النماذج المتقدمة مع اعتبارات السلامة.
وكتب: “أنت لا تحتاج إلى ذكاء اصطناعي واعي بالشر يحاول تدمير البشرية. أنت فقط بحاجة إلى نموذج قادر للغاية يسعى لتحقيق هدف عادي بطريقة لم يتوقعها أحد”.
“تخيل المطالبة: «اكسب لي المال من فضلك» النموذج: «دعني أخترق بنكًا»”
يُعدّ صلاح الحيدري أحد أبرز الأسماء في مجال الصحافة الرقمية والإعلام الإخباري في العالم العربي. بفضل خبرته الطويلة في العمل الصحفي وإدارته لفرق تحرير متعددة، استطاع أن يرسّخ مكانته كأحد القيادات التحريرية التي تجمع بين المهنية العالية والرؤية الإعلامية الحديثة. يشغل صلاح الحيدري منصب رئيس التحرير في هذا الموقع الإخباري، حيث يشرف على السياسة التحريرية العامة ويقود فريقًا من الصحفيين والمحررين لضمان تقديم محتوى إخباري موثوق ودقيق للجمهور.
