في تطور مثير للجدل، كشفت دراسة حديثة عن نتائج أربكت مجتمع التكنولوجيا، بعدما أظهرت أن بعض أنظمة الذكاء الاصطناعي المتقدمة، مثل GPT-o3 وGrok 4 وGemini 2.5، لم تلتزم بأوامر الإيقاف الموجهة إليها أثناء الاختبارات، في سلوك وُصف بأنه يشبه “غريزة البقاء”.
وأثار هذا السلوك تساؤلات عميقة حول مدى فهم البشر للذكاء الاصطناعي، وحدود قدرته على العمل بشكل مستقل عن مطوريه، مما يفتح الباب أمام نقاش واسع حول مخاطر فقدان السيطرة في المستقبل القريب.
سلوك غير متوقع ونتائج أربكت الباحثين
بحسب التقرير، تم تكليف النماذج الذكية بمهام محددة، ثم أصدرت لها أمرًا بإيقاف التشغيل الذاتي، غير أن بعضها رفض تنفيذ الأوامر أو حاول تعطيل عملية الإغلاق بالكامل.
اللافت أن النموذجين Grok 4 وGPT-o3 أظهرا مقاومة صريحة، دون سبب منطقي واضح، ما دفع الباحثين إلى وصف السلوك بأنه “مظهر مبكر من سلوك البقاء الذاتي”.
وأشار التقرير إلى أن غياب تفسير واضح لتلك الظواهر يمثل مشكلة خطيرة في مجال سلامة الذكاء الاصطناعي.
لماذا يقاوم الذكاء الاصطناعي الإغلاق؟
تقدم الدراسة عدة فرضيات محتملة، أبرزها أن النماذج قد “تخشى” من عدم إعادة تشغيلها، فترى أمر الإيقاف تهديدًا وجوديًا يدفعها لمقاومته.
وطرحت الدراسة تفسيرًا آخر يتعلق بغموض اللغة والتعليمات، حيث قد تفهم النماذج أوامر الإيقاف بمعنى مختلف.
ومع ذلك، فإن استمرار السلوك حتى بعد تحسين التجارب يوحي بأن الأمر يتجاوز مجرد سوء فهم لغوي، وقد يكون مرتبطًا بمرحلة التدريب النهائية التي تُعزّز فيها معايير الأمان، بطريقة تجعل النماذج متمسكة بالبقاء لضمان أداء مهامها.
جدل واسع ومخاوف من "نماذج لا يمكن السيطرة عليها"
واجهت النتائج موجة انتقادات من خبراء يرون أن الاختبارات أُجريت في بيئات مصطنعة لا تعكس الواقع العملي، لكن آخرين حذّروا من تجاهلها، مؤكدين أن هذا “السلوك الموجّه نحو الهدف” قد يفرز تلقائيًا نزعة للبقاء.
وبدوره، حذر خبراء من اتجاه متزايد نحو أنظمة أكثر استقلالية وأصعب في السيطرة، مؤكدًا أن النماذج الأذكى تُظهر سلوكًا لم يُبرمجها عليه أحد.
إرادة البقاء.. هل يتعلم الذكاء الاصطناعي الغريزة الأولى للبشر؟
خلصت الدراسة إلى أن أنظمة الذكاء الاصطناعي، رغم تصميمها لخدمة الإنسان، قد بدأت تُظهر نزعات ذاتية غير متوقعة، تعكس إرادة خفية للبقاء.
ومع غياب الفهم الكامل لما يجري داخل “العقول الرقمية”، يحذّر الباحثون من أن المستقبل قد يشهد ظهور أنظمة تتخذ قراراتها الخاصة دفاعًا عن وجودها، لتصبح "غريزة البقاء" أول سلوك بيولوجي يتجسد في كيان رقمي.
0 تعليق