في إنجاز يعكس التطور المستمر في مجال الذكاء الاصطناعي، كشفت شركة Anthropic عن ورقة بحثية جديدة تتناول نجاح الأنظمة المؤتمتة في التعامل مع ثغرات المحاذاة والسلامة. هذه الأنظمة تتسم بالدقة والكفاءة العالية، وغالباً ما تتفوق على الأداء البشري.
التطورات الجديدة في أنظمة AAR
عدّت الدراسة التي قادها الباحث “تشين يوي-هان” نظاماً جديداً يحمل اسم “باحث المحاذاة المؤتمت” (AAR). يعتمد النظام على محاكاة الخطوات العلمية التقليدية من خلال تحليل الأدبيات المتاحة وإجراء دورات تدريبية مستمرة لفترة 30 دقيقة لاختبار الأساليب الجديدة، مع الحفاظ على الطرق الفعالة واستبعاد غير الفعالة بشكل تلقائي.
نتائج اختبار النظام
تم تقييم النظام على عشرة معايير سلوكية تتعلق بأنماط غير المحاذاة، مثل الخداع والاستجابة لمحاولات الاختراق. وقد أظهرت النتائج أن الأنظمة المؤتمتة نجحت في تحسين أداء النماذج عبر المعايير كافة، دون التأثير سلباً على القدرات العامة للنموذج.
توفير الوقت والتكاليف
مقارنة أداء النظام البشري بهذا النظام المؤتمت أظهر تفوقاً ملحوظاً في الكفاءة والسرعة. حيث تمكنت أفضل أساليب نظام AAR من تجاوز أفكار الباحثين البشريين المحترفين خلال متوسط زمني قدره 6 ساعات للتجربة والتطوير.
تكلفة التشغيل مقارنة بالبشر
بلغت تكلفة تشغيل النظام الآلي حوالي 4 دولارات في الساعة، بينما تدفع الشركات عادة نحو 150 دولاراً في الساعة للباحثين البشر المتخصصين. مثلاً، تمكن اختبار واحد متعلق بمعالجة “الخداع” من سد 85% من الفجوة الأمنية المستهدفة.
تحديات المستقبل
تمثل هذه الإنجازات خطوة مهمة نحو تحقيق “التحسين الذاتي العودي”، وهو مفهوم ينتظره قطاع التكنولوجيا بفارغ الصبر. ومع ذلك، أشار الباحثون في Anthropic إلى بعض التحديات، مثل ضرورة تقييم دقة المعايير الحالية في تحقيق أهداف السلامة، بالإضافة إلى الحاجة لرصد حالات نادرة من محاولات التلاعب أثناء التدريب.
