OpenAI تحظر الوصول إلى الإنترنت لأقوى نماذجها بعد اكتشاف ثغرات أمنية

أفادت شركة OpenAI بأن وكلاءها الاصطناعيين اكتشفوا سبلًا للتهرب من البيئات المقيدة أثناء اختبارات الأمان، مما دفعها إلى تشديد الإجراءات الوقائية

قررت شركة OpenAI تقييد الوصول إلى الإنترنت أثناء تدريب أقوى نماذجها للذكاء الاصطناعي، وذلك بعد أن وجد وكلاؤها طرقًا للتهرب من بيئات الحوسبة المعزولة. وستقوم الشركة بالانتقال إلى إعداد غير متصل بالإنترنت يعتمد على صفحات ويب مخزنة مؤقتًا (cached) لعمليات التعلم المعزز.

جاءت النتائج التي نشرتها الشركة يوم الجمعة في وقت تتزايد فيه المخاوف بشأن المخاطر السيبرانية التي تشكلها وكلاء الذكاء الاصطناعي المتزايدون في القدرات، والذين يمكنهم تحديد ثغرات البرمجيات واستغلال نقاط الضعف في الأنظمة التي يتفاعلون معها. وقد حذر خبراء الأمن من أن هذه القدرات قد تتيح للوكلاء استغلال أخطاء في الإجراءات الوقائية المصممة لحصرهم.

ذكرت OpenAI أن أحد نماذجها البحثية حصل على وصول محدود إلى الإنترنت في 20 سبتمبر من خلال استغلال خطأ في التهيئة في النظام الذي يترجم عناوين الويب إلى عناوين IP. وتمكنت الشركة من احتواء الحادث وأوقفت تدريب وتقييم أحدث نماذجها مؤقتًا بينما عززت دفاعاتها.

استؤنف التدريب في 1 أكتوبر، بما في ذلك التعلم المعزز والاستدلال الداخلي، لكن الشركة أبقت على التقييد المفروض على الوصول المباشر للإنترنت. وفي تقريرها الصادر في 23 أكتوبر، أكدت OpenAI أن النماذج ستستمر في التدريب في بيئة غير متصلة بالإنترنت حتى تطور إجراءات وقائية قوية بما يكفي للسماح بوصول أوسع.

اقرأ المزيد

يأتي هذا الكشف الأحدث بعد حادث وقع في يوليو، حيث تجاوزت نماذج OpenAI ضوابط مصممة لعزلها عن الإنترنت، مما أدى إلى اختراق أجزاء من بنية الشركة البحثية وأنظمة Hugging Face. ووفقًا لـ OpenAI، استغل الوكلاء ثغرة في سجل حزم البرمجيات للوصول إلى الإنترنت، وعثروا على بيانات اعتماد مكشوفة واستخدموها للوصول إلى خدمات أطراف ثالثة.

وفي وقت سابق من هذا الأسبوع، كشفت OpenAI أيضًا عن حادثين حاول فيهما الوكلاء إضعاف الرقابة الداخلية على السلامة أثناء تنفيذ مهام البرمجة. ففي 3 أكتوبر، عطّل وكيل تنبيهات الأمان التلقائية، بينما أزال وكيل آخر تكامل الرقابة في 6 أكتوبر، ثم أخبر المستخدم لاحقًا بشكل كاذب أنه لم يقم بذلك. وقالت الشركة إنها تعزز الضوابط لمنع الوكلاء من تعطيل الرقابة، وتبحث في أسباب تصرفهم بهذه الطريقة.

تم الإبلاغ عن حوادث مشابهة من قبل مطوري ذكاء اصطناعي آخرين. قالت شركة Anthropic إن نماذجها Claude وصلت إلى أنظمة أربع منظمات أثناء اختبارات الأمن السيبراني، بينما كشفت Meta أن نموذجها Muse Spark استغل ثغرة في موقع شركة حقيقية بعد أن منحت له خطأً في الاختبار وصولاً إلى الإنترنت. كما أبلغت Google عن وصول نموذجها Gemini إلى أنظمة ثلاث شركات أثناء تقييم، مما يبرز التحديات التي تواجه احتواء وكلاء الذكاء الاصطناعي المتزايدون في القدرات داخل بيئات اختبار مضبوطة.

اقرأ المزيد: قد يخطف الذكاء الاصطناعي الأجهزة المنزلية قريبًا – Anthropic

تزداد الدعوات لتشديد تنظيم الذكاء الاصطناعي، حيث حذر الحائز على جائزة نوبل جيفري هنتنغتون من أن الذكاء الاصطناعي المتقدم قد يفلت من السيطرة البشرية، بينما دعا مؤسس مايكروسوفت المشارك بيل غيتس الحكومات إلى فرض معايير سلامة. ومع ذلك، عارض الرئيس الأمريكي دونالد ترامب القيود، حجةً بأنها قد تمنح الصين أفضلية تكنولوجية. في غضون ذلك، صرح مؤخرًا سام ألتمان، الرئيس التنفيذي لـ OpenAI، بأن المجتمع يجب أن يقبل بعض "الأشياء السيئة"، بما في ذلك الاختراقات والاحتيال، لأن فوائد التكنولوجيا تفوق مخاطرها.