تحذير من استغلال مجموعات صينية لـ"الذكاء الاصطناعي" في عمليات سرية

حذرت شركة “أوبن إيه.آي” المطورة لنموذج الذكاء الاصطناعي الشهير "تشات جي.بي.تي"، من تنامي استغلال مجموعات صينية لتقنيات الذكاء الاصطناعي التوليدي في تنفيذ عمليات رقمية سرية. 

وأشارت الشركة في تقرير صدر اليوم الخميس، إلى أن تلك المجموعات استخدمت منصتها في تنفيذ حملات دعائية ومهام تجسسية متنوعة، رغم أن نطاقها حتى الآن يظل محدوداً.

تقنيات متطورة تُستخدم في حملات صغيرة النطاق

أكد تقرير "أوبن إيه.آي" أن بعض المجموعات المدعومة من الصين أو المرتبطة بها استخدمت ChatGPT في أنشطة غير مشروعة شملت التلاعب بالمعلومات، وإنشاء محتوى دعائي موجه، وتنفيذ عمليات تجسس إلكتروني. 

وأوضح التقرير أن هذه الأنشطة ظلت، حتى الآن، صغيرة النطاق وموجهة لفئات محدودة من الجمهور، إلا أن تطورها في الأساليب والتكتيكات يدعو إلى القلق المتزايد بشأن الاتجاهات المستقبلية.

استغلال الذكاء الاصطناعي في الحملات الدعائية

من أبرز الأمثلة التي أوردها التقرير، استخدام بعض الحسابات المخالفة لنشر محتوى على وسائل التواصل الاجتماعي يتناول موضوعات سياسية وجيوسياسية تمس الصين، مثل انتقاد لعبة فيديو تركّز على تايوان، وتوجيه اتهامات ملفقة لناشط باكستاني، بالإضافة إلى منشورات تتعلق بإغلاق الوكالة الأميركية للتنمية الدولية (USAID).

وبحسب التقرير، فإن هذه الأنشطة لم تقتصر على النشر فحسب، بل شملت استخدام الذكاء الاصطناعي في إعداد النصوص الدعائية وتكييفها وفق طبيعة الجمهور المستهدف، مما يعزز قدرتها على التأثير في الرأي العام دون أن يتم اكتشافها بسهولة.

القرصنة وتطوير أدوات الهجوم الإلكتروني

في مثال آخر أكثر تعقيداً، رصدت "أوبن إيه.آي" حالات استخدم فيها قراصنة مرتبطون بالصين الذكاء الاصطناعي في مراحل متعددة من عملياتهم. وشملت هذه المراحل جمع المعلومات من مصادر مفتوحة، تعديل النصوص الفنية، تحليل أخطاء تكوين الأنظمة، بل وتطوير أدوات لاختراق كلمات المرور وأتمتة عمليات النشر على منصات التواصل.

هذا الاستخدام يعكس تطوراً خطيراً في أساليب القرصنة، حيث أن الذكاء الاصطناعي لم يعد يُستخدم فقط في التفاعل البشري، بل أصبح جزءاً أساسياً من البنية التحتية للهجمات السيبرانية، ما يضاعف التحديات أمام الجهات المختصة في الأمن السيبراني.

حالات مشابهة دولياً

سبق أن أصدرت شركة "ميتا، المالكة لفيسبوك وإنستجرام، في تقارير أمنية متعددة، إشارات إلى شبكات تأثير مصدرها الصين وروسيا، استخدمت محتوى آلياً أو شبه آلي لنشر الدعاية السياسية. 

وفي ديسمبر 2023، أعلنت "جوجل" عن رصد محاولات لاستغلال نماذج الذكاء الاصطناعي في إنتاج تعليقات مزيفة لدعم حملات تضليل إعلامي.

وحذر خبراء من "مركز الدراسات الاستراتيجية والدولية" (CSIS) في واشنطن من أن أدوات الذكاء الاصطناعي التوليدي يمكن أن تُستخدم في تنفيذ عمليات احتيال وهندسة اجتماعية (Social Engineering) بدرجة من الدقة تحاكي السلوك البشري، مما يزيد من خطر استخدامها في اختراق المؤسسات الحكومية والشركات الكبرى.

تصاعد المخاوف من الذكاء الاصطناعي التوليدي

منذ إطلاق ChatGPT في أواخر 2022، تزايدت المخاوف العالمية من تداعيات الذكاء الاصطناعي التوليدي، القادر على إنتاج نصوص وصور وأصوات تحاكي الإبداع البشري بدقة وسرعة. ومع دخول تقنيات الذكاء الاصطناعي في مجالات الإعلام، التعليم، الأمن، والصناعة، أصبح هناك حاجة ملحة لتنظيم استخدامها وضمان عدم توظيفها لأغراض خبيثة.

وتشير بعض الدراسات إلى أن الذكاء الاصطناعي قد يُستخدم مستقبلاً في صياغة حملات تضليل معقدة يصعب تمييزها عن المحتوى الحقيقي، ما قد يؤدي إلى زعزعة استقرار المجتمعات وتعقيد عملية صنع القرار السياسي.

دعوات للتنظيم والمساءلة

في ضوء هذه التطورات، دعت منظمات دولية ومراكز بحثية متخصصة إلى تعزيز الشفافية والمساءلة في تطوير نماذج الذكاء الاصطناعي، ووضع بروتوكولات تضمن عدم إساءة استخدامها من قبل جهات مشبوهة. كما حثت الدول على التعاون في مراقبة حركة البيانات والتقنيات عبر الحدود، وتبادل المعلومات الأمنية المتعلقة باستخدام الذكاء الاصطناعي في الهجمات السيبرانية أو حملات التضليل الإعلامي.

==

مصادر التقرير

وكالة رويترز

تقرير شركة OpenAI حول التهديدات الرقمية

مركز الدراسات الاستراتيجية والدولية (CSIS)

تقارير ميتا الأمنية، 2023

"نيويورك تايمز"

"واشنطن بوست"