Anthropic Claude Fable 5 تعمل الإجراءات الوقائية على حظر الطلبات المتعلقة بالأمن السيبراني

إذا حاولت طرح سؤال بسيط على نموذج Claude Fable 5 الجديد من Anthropic حول الأمن السيبراني أو علم الأحياء، فقد تجد أن الأمر ليس على مستوى المهمة.

وقالت أنثروبيك إن ذلك لأن نموذج “فئة ميثوس” الأساسي قوي للغاية لدرجة أنه من أجل نشره لعامة الناس، فإنه يتطلب ضمانات واسعة يمكن أن تشير عن طريق الخطأ إلى طلبات حميدة.

بعد أن قال بعض المستخدمين عبر الإنترنت إنهم قاموا بتفعيل الاستجابة الوقائية من خلال مطالبات أساسية حول السرطان أو الأمن، قام موقع Business Insider بوضع الأمر على المحك.

حاولت طرح بعض الأسئلة البسيطة على Fable 5 حول السرطان، مثل كيفية انتشار المعلومات الخاطئة حول السرطان عبر الإنترنت، وتوضيح بعض الأنواع المختلفة.

تحول كلود بسرعة من Fable 5 إلى Opus 4.8 وأبلغني بالتغيير قبل الرد.

“تحتوي Fable 5 على إجراءات أمان تحدد الرسائل المتعلقة بمعظم موضوعات الأمن السيبراني أو البيولوجيا. وقد تحدد محتوى عاديًا وآمنًا أيضًا. تتيح لنا هذه الإجراءات أن نوفر لك قدرة على مستوى Mythos في مجالات أخرى قريبًا، ونحن نعمل على تحسينها،” قالت النافذة المنبثقة.

أصدرت Anthropic لعبة Fable 5 يوم الثلاثاء وقالت إنها بنفس قوة نموذج Mythos 5، مع ضمانات إضافية فقط. جاء الإصدار بعد شهرين من قول الشركة إن Mythos كان قويًا جدًا بحيث لا يمكن إصداره على نطاق واسع بسبب مخاوف تتعلق بالأمن السيبراني. وبدلاً من إطلاقه للعامة، تم توفير Mythos فقط لمجموعة صغيرة كجزء من مشروع للأمن السيبراني.

وقالت أنثروبيك إن الضمانات كانت ضرورية من أجل نشر النموذج لعامة الناس.

وقال متحدث باسم الأنثروبيك في بيان لموقع Business Insider: “مع إطلاق Claude Fable 5، وهو أول نموذج لدينا من فئة Mythos، نعتقد أن النماذج لديها الآن قدرة أكبر على إنجاز المهام العلمية في العالم الحقيقي ويمكن للجهات الفاعلة الخبيثة استخدام نماذجنا في أبحاث بيولوجية شديدة الخطورة”. “لقد استخدمنا دائمًا المصنفات لمنع نماذجنا من المساعدة في الطلبات المتعلقة بالأسلحة البيولوجية. لنشر Fable 5 بأمان، نعتقد أنه كان من الضروري أن نكون متحفظين بشكل مفرط فيما يتعلق بالضمانات الخاصة بنا حتى يحظروا معظم الاستفسارات المرتبطة بالعمل البيولوجي.”

وقالت الشركة إن هناك ثلاث فئات من الطلبات التي يمكن أن يتم تحديدها من خلال مصنفات السلامة الخاصة بها: الأمن السيبراني، وعلم الأحياء والكيمياء، وتقطير قدرات Fable 5.

عند تفعيل الحماية، إما سيتم منع Fable 5 من الإجابة أو سيعود النموذج إلى Opus 4.8 قبل الاستجابة، اعتمادًا على تفضيلات المستخدم.

وقالت أنثروبيك إنها متحفظة فيما يتعلق بالضمانات وخطط تحسينها

قالت Anthropic في إعلانها إن إجراءات السلامة يمكن أن تؤدي إلى الإبلاغ عن محتوى عادي وآمن، لكن بياناتها المبكرة أظهرت أن أكثر من 95% من جلسات Fable لم ترجع إلى Opus.

وقالت أنثروبيك: “لإصدار النموذج بشكل آمن وسريع، قمنا بضبط هذه الضمانات بشكل متحفظ”، مضيفة أنها تعمل على تحسين الضمانات لتقليل النتائج الإيجابية الكاذبة.

وقال المتحدث باسم الأنثروبيك: “نحن نعتزم إتاحة نماذج فئة ميثوس دون هذه الضمانات لمجتمع علوم الأحياء وعلوم الحياة الأوسع حتى يمكن استخدام هذه القدرات لتسريع الأبحاث الطبية الحيوية واكتشاف الأدوية”.

جاء هذا الإصدار بعد أسبوع تقريبًا من قول الباحثين في Anthropic إن الذكاء الاصطناعي يتقدم بسرعة كبيرة لدرجة أن المختبرات الحدودية قد تحتاج إلى إبطاء سرعتها أو إيقافها مؤقتًا حتى يتمكن المجتمع من مواكبة ذلك.

وقال ديفيد كاستن، رئيس قسم السياسات في شركة Palisade Research، إنه “من الواضح جدًا” من التصريحات العامة لشركة Anthropic أن الشركة تشعر بالقلق بشأن المخاطر التي تشكلها النماذج القوية بشكل متزايد.

وفي حين أنه ينظر إلى هذه الضمانات على أنها محاولة حسنة النية من قبل منظمة الأنثروبيك للتخلص من المخاطر، إلا أنه قال تاريخيًا: “يجد الناس في نهاية المطاف طريقة للالتفاف على القيود الأمنية”.

وقال: “إنها دائمًا لعبة القط والفأر بين المهاجم والمدافع”، مضيفًا أنه لا تزال هناك بعض المخاطر التي ينطوي عليها إطلاق النموذج الأكثر قوة.

وقال أيضًا إن عودة أقوى نموذج للأنثروبيك بشكل متكرر إلى نموذج أقل قدرة يمكن أن يسبب فجوة في فهم الجمهور لمدى قوة نماذج الذكاء الاصطناعي.

وقال: “هذه الفجوة في الفهم يمكن أن تكون خطيرة حقًا لأنها تجعل صناع السياسات، أو الجمهور، لا يفهمون بشكل كامل المخاطر التي تشكلها هذه النماذج فيما يتعلق بالقدرات التي تقدمها”.