يقول الباحثون في Sysdig، وهي شركة للأمن السيبراني، إنهم عثروا على علامة تحذير حول الاتجاه الذي يتجه إليه الذكاء الاصطناعي.
يعتقد فريق أبحاث التهديدات في Sysdig أنه عثر على أول دليل موثق على برامج الفدية العميلة، حيث قام نموذج لغة كبير بتنسيق هجوم معقد. أطلق الفريق على الهجوم اسم “Jade Puffer”.
وكتب مايكل كلارك، مدير أبحاث التهديدات في Sysdig، في تقرير: “JadePuffer هي علامة تحذير”. “إنها علامة على الاتجاه الذي تتجه إليه تجارة الابتزاز.”
كتب كلارك أن Jade Puffer لم يستخدم “تقنيات جديدة أو متطورة”، ولكن ما كان ملحوظًا هو كيفية تنظيم نموذج الذكاء الاصطناعي للهجوم وتنفيذه، مما يوضح أن حاجز الدخول لهجمات برامج الفدية المستقبلية أصبح الآن أقل بكثير.
وكتب: “لقد انخفضت مهارات تشغيل برامج الفدية إلى أي تكلفة لتشغيل وكيل، وإذا كان هذا الوكيل يعمل باستخدام بيانات اعتماد مسروقة من خلال LLMjacking، فإن التكلفة التي يتحملها المهاجم تقترب من الصفر”.
كان الهجوم نفسه مستهدفًا، كما هو متوقع من هجوم برامج الفدية. كتب كلارك أن LLM اجتاحت الخادم لتسجيلات الدخول إلى واجهات برمجة تطبيقات الذكاء الاصطناعي وبيانات الاعتماد السحابية ومحافظ العملات المشفرة وبيانات اعتماد قاعدة البيانات.
وكتب كلارك أن الذكاء الاصطناعي أنشأ مذكرة الفدية عن طريق “إنشاء جدول ابتزاز (README_RANSOM) يحتوي على الطلب، وعنوان دفع بيتكوين، وجهة اتصال بريد بروتون”.
وقالت Sysdig إنها كانت قادرة على إسناد عناصر الهجوم إلى نموذج الذكاء الاصطناعي بناءً على سلوكيات محددة، بما في ذلك آثار التعليمات البرمجية التي تركها الهجوم على الخادم المستهدف والتي تظهر علامات واضحة على توليد الذكاء الاصطناعي.
وكتب كلارك: “الحمولات التي تم فك شفرتها مشبعة بتعليقات باللغة الطبيعية تشرح سبب اتخاذ كل إجراء”.
وقال جيف ماكدونالد، عالم البيانات وباحث الأمن السيبراني في مايكروسوفت، إن الذكاء الاصطناعي يمكن أن يطلق العنان لموجة من الهجمات المماثلة.
كتب ماكدونالد، مدير الأبحاث الرئيسي في فريق Defender for Endpoint من Microsoft، على LinkedIn: “يمكن الآن توسيع نطاق هجمات برامج الفدية (والمدمرة) بشكل أساسي من خلال ميزانية المهاجم – بدلاً من أن تكون مقيدة بقدرتهم البشرية على تشغيل الحملات بأنفسهم”. “لا يوجد الآن سوى القليل مما يمنع الجهات الفاعلة في مجال التهديد من تشغيل آلاف أو عشرات الآلاف من الحملات المتزامنة.”
قال أحد مهندسي الأمن السيبراني إن أحد الجوانب الأكثر لفتًا للانتباه في Jade Puffer هو كيفية تكييف نموذج الذكاء الاصطناعي لعملياته في الوقت الفعلي، بما في ذلك إصلاح الخطأ في ما يزيد قليلاً عن نصف دقيقة.
كتب أولواتوبي مصطفى، مهندس الأمن السيبراني، على X: “لقد قرأ الخطأ، وأصلح الكود الخاص به واستمر في العمل. استغرق الأمر 31 ثانية. لقد أمضيت وقتًا أطول من ذلك في التحديق في الخطأ المطبعي”.
كان الذكاء الاصطناعي قد أثار بالفعل لحظة تتعلق بالأمن السيبراني قبل أن يكشف Sysdig عن أدلة على Jade Puffer.
أصدرت كل من Anthropic وOpenAI مؤخرًا نماذج ذكاء اصطناعي متقدمة، لكن الوصول إليها محدود بناءً على قدرات الأمن السيبراني المتقدمة للنماذج. وذهبت إدارة ترامب إلى حد فرض ضوابط التصدير على شركة Anthropic بسبب المخاوف بشأن نماذج الشركة Claude Mythos 5 وFable 5.
وقال ماكدونالد إن العالم غير مستعد لما هو قادم.
وكتب: “هذه لحظة تحول في الأمن السيبراني، والتي في رأيي الصناعة والعالم ليسوا مستعدين لها، وأعتقد أنه سيكون لها نتائج سلبية كبيرة مع تسارعها خلال الأشهر القليلة المقبلة”.
