تفتح التطورات المتسارعة في مجال الذكاء الاصطناعي بابا جديدا أمام التهديدات السيبرانية، مع تزايد قدرة النماذج الذكية على تنفيذ مهام تقنية معقدة، مثل التكيف مع بيئات تشغيل مختلفة وإعداد البرمجيات للعمل على أجهزة متنوعة.
وفي هذا السياق، حذرت شركة أنثروبيك في دراسة نشرتها قبل أيام من أن نماذج ذكاء اصطناعي صغيرة قد تقترب من القدرة على نسخ نفسها والانتشار عبر أجهزة "إنترنت الأشياء" (IoT)، بما فيها أجهزة التلفاز الذكية والأفران والأجهزة المنزلية منخفضة التكلفة. لكن الدراسة أشارت أيضا إلى عقبات تقنية لا تزال تحول دون تحقيق انتشار ذاتي متكامل وموثوق في جميع مراحل العملية.
الديدان الحاسوبية نوع من البرمجيات الخبيثة القادرة على الانتقال من جهاز إلى آخر عبر الشبكات من دون الحاجة إلى أن ينسخها المستخدم يدويا، وتختلف ديدان الذكاء الاصطناعي المحتملة عن ديدان الثغرات المعروفة في إمكانية استخدام النماذج الذكية لتحليل بيئة الجهاز المستهدف، وتكييف خطوات الهجوم وفقا لنظام التشغيل والموارد المتاحة، بدلا من الاعتماد حصرا على تعليمات ثابتة وثغرات محددة مسبقا.
وبحسب أنثروبيك، يمكن تصور دودة من هذا النوع تحمل أوزان نموذج ذكاء اصطناعي (AI Model Weights) ضمن حمولتها البرمجية، أو تعيد تنزيلها من مصدر متاح، ثم تشغل النموذج على الأجهزة التي تتمكن من اختراقها، وقد تتوزع أجزاء النموذج على عدة أجهزة محدودة الموارد لتشغيله بصورة جماعية، بدلا من الاعتماد على خوادم حوسبة (Computing Servers) قوية ومكلفة.
يتطلب هذا السيناريو سلسلة من الخطوات المترابطة، تبدأ بالعثور على أجهزة يمكن الوصول إليها، واستغلال ثغرات أو إعدادات أمنية ضعيفة، وتشغيل النموذج عليها، ثم استخدام الجهاز المخترق للمساعدة في الوصول إلى أجهزة أخرى. ويمكن للنموذج أن يساعد في التعامل مع اختلافات العتاد (الأجهزة الصلبة) وأنظمة التشغيل، وهي مهمة قد تتطلب من البرمجيات التقليدية تطوير تعليمات منفصلة لكل بيئة.
وتزداد أهمية هذا الاحتمال مع انتشار أجهزة إنترنت الأشياء، التي تشمل كاميرات المراقبة، وأجهزة التلفاز، ومكانس الروبوت، والثلاجات الذكية، فبعض هذه الأجهزة متصل بالإنترنت باستمرار، وقد يتلقى تحديثات أمنية محدودة أو يعمل بإعدادات غير آمنة. ومع ذلك، لا يعني هذا أن جميع الأجهزة المذكورة معرضة للاختراق، إذ يعتمد الخطر الفعلي على ثغرات كل جهاز وإعداداته وطريقة إدارته.
وفي تجاربها، اختبرت أنثروبيك تشغيل نماذج صغيرة على 9 أنواع من الأجهزة، وتمكن أحد النماذج من إعداد بيئة تشغيل للاستدلال على 8 منها، لكن هذا النجاح في تشغيل النموذج لا يثبت وحده القدرة على اختراق الأجهزة الأخرى والتكاثر الذاتي بصورة مستقلة.
لا تقتصر المخاوف على الأجهزة المنزلية، إذ أظهرت أبحاث سابقة إمكانية استغلال أنظمة الذكاء الاصطناعي التوليدي نفسها لنشر تعليمات ضارة بين التطبيقات المترابطة.
ففي مارس/آذار 2024، نشر باحثون ورقة علمية على منصة "أركايف" (arXiv) بعنوان "ها قد وصلت دودة الذكاء الاصطناعي" (Here Comes the AI Worm)، قدمت نموذجا تجريبيا أطلقوا عليه اسم "موريس 2" (Morris II). واعتمدت التجربة على تعليمات خبيثة ذاتية التكرار تستهدف تطبيقات ذكاء اصطناعي متصلة، مثل مساعدات البريد الإلكتروني، بهدف دفعها إلى إعادة تمرير التعليمات وتنفيذ أنشطة ضارة، من بينها استخراج بيانات خاصة وإرسال رسائل غير مرغوب فيها، وأجريت التجارب في بيئة بحثية مضبوطة، ولم تثبت انتشار الدودة في أنظمة عامة على نطاق واسع.
وفي بحث آخر نشر على منصة "أركايف" في يونيو/حزيران الماضي بعنوان "وكلاء الذكاء الاصطناعي يمكنون الديدان الحاسوبية التكيفية (AI Agents Enable Adaptive Computer Worms)، درس الباحثون إمكانية استخدام وكلاء الذكاء الاصطناعي لتوليد إستراتيجيات هجوم تتكيف مع الأجهزة المستهدفة، ضمن بيئات تشمل أنظمة تشغيل مختلفة وأجهزة إنترنت الأشياء، وتشير نتائج البحث إلى تقدم في اختبار هذا النوع من التهديدات، لكنها تظل مرتبطة بالبيئات والافتراضات التي تناولتها الدراسة، ولا تكفي وحدها لإثبات انتشار دودة مستقلة على الإنترنت المفتوح.
تعتمد كثير من وسائل الحماية التقليدية على اكتشاف أنماط برمجية خبيثة معروفة أو منع استغلال ثغرات محددة، أما البرمجيات التي تستعين بنماذج قادرة على تكييف سلوكها، فقد تنتج أساليب مختلفة للتعامل مع الأجهزة، مما يزيد صعوبة الاعتماد على التوقيعات البرمجية الثابتة وحدها.
وتحذر أنثروبيك من أن دودة موزعة على عدد كبير من الأجهزة قد يصعب إيقافها عبر تعطيل خادم مركزي واحد، خصوصا إذا استطاعت الأجهزة المصابة مواصلة تشغيل النموذج ونشره بصورة مستقلة، لكنها تشير أيضا إلى أن عملية التكاثر قد تكون بطيئة، وأن المراحل المختلفة تتطلب قرارات متتابعة قد تفشل عند التعامل مع اختلافات العتاد والبرمجيات.
وتتجاوز المخاطر استهلاك موارد الأجهزة أو إبطاء أدائها، فقد يؤدي الاختراق إلى تحويل الكاميرات والأجهزة المنزلية إلى أدوات ضمن شبكات هجومية، أو استغلالها في هجمات حجب الخدمة، أو الوصول إلى بيانات شخصية بحسب الصلاحيات والثغرات المتاحة، كما يمكن أن يؤدي تشغيل نماذج على أجهزة مخترقة إلى استنزاف الطاقة والذاكرة، وزيادة صعوبة اكتشاف النشاط الضار إذا لم تظهر مؤشرات واضحة للمستخدم.
تبدأ الحماية بتحديث أنظمة تشغيل الأجهزة وبرامجها الثابتة بانتظام، وتغيير كلمات المرور الافتراضية، وتعطيل خدمات الإدارة عن بعد التي لا يحتاج إليها المستخدم، وينبغي أيضا تجنب تعريض واجهات التصحيح والإدارة للإنترنت، وعزل أجهزة إنترنت الأشياء عن الحواسيب والهواتف التي تحتوي على بيانات حساسة متى أمكن، ومراقبة الاتصالات غير المعتادة في الشبكة المنزلية.
وعلى مستوى المؤسسات، تشمل الإجراءات المهمة تقليل صلاحيات وكلاء الذكاء الاصطناعي، وتقييد وصولهم إلى الأدوات والبيانات، ومراقبة سلوكهم، ووضع ضوابط تمنع تنفيذ الأوامر الحساسة دون موافقة مناسبة، فأنظمة الحماية تحتاج إلى الجمع بين تحديثات الأمان ومراقبة السلوك والاستجابة السريعة للحوادث، بدلا من الاعتماد على وسيلة واحدة.
