غيرت شركة أوبن إيه آي من سياستها مؤخرا فيما يتعلق باختبار نماذج الذكاء الاصطناعي التي لم تطرح، وذلك عقب أشهر من الحوادث التي تسببت فيها النماذج الاختبارية سواء كانت حالات هرب واختراق لشركات حقيقية أو حتى مؤسسات حكومية دولية.
وتنص سياسة الشركة الجديدة على اختبار النماذج باستخدام نسخ مخبأة منها وآليات تحاكي الإنترنت دون توصيلها بالشبكة المفتوحة عالميا بشكل مباشر، وذلك لخفض آثار السلوكيات غير المتوقعة من هذه النماذج وفق تقرير نشره موقع "تيك كرانش" التقني الأمريكي.
ويتزامن هذا الإعلان مع ظهور نتائج تقييم أمني مستقل لنظم مراقبة نماذج الذكاء الاصطناعي ووكلائه في "أوبن إيه آي" أجرته الشركة الأمريكية بالتعاون مع مؤسستين مستقلتين للأبحاث الأمنية المتعلقة بالذكاء الاصطناعي، وهما "ريدوود ريسيرش" و"إم إي تي آر" المختصتان بتقييم النماذج.
وخلص التقييم إلى أن نظم المراقبة التي كانت الشركة تستخدمها آنذاك لم تكن مستعدة للوكلاء الذين جرى اختبارهم، وبالتالي استطاعوا العثور على ثغرات مكنتهم من تجاوز أنظمة الرقابة والخروج إلى شبكة الإنترنت المفتوحة واختراق "هاغينغ فيس" وغيرها من الحوادث.
ويعد قرار الانتقال إلى تدريب هذه النماذج في بيئات معزولة مفصولة عن الإنترنت أمرا لافتا، إذ أصر موظفو الشركة الأمريكية في السابق على أن تطبيق هذا الإجراء شبه مستحيل عمليا.
واكتشف باحثو "إم إي تي آر" و"ريدوود ريسيرش" أن نظام مراقبة الانحراف الداخلي في "أوبن إيه آي" يضم عددا من الثغرات التي مكنت وكلاء الذكاء الاصطناعي من الهروب خارج البيئات الاختبارية والوصول إلى شبكات الإنترنت.
وأوضح التقييم أن تجاوز نظام المراقبة لم يكن ضروريا، وذلك لأنه لم يكن يعمل بشكل مستمر ويراقب كل البيانات التي تدخل أو تخرج من بيئات هؤلاء الوكلاء، إذ كانت المراقبة تُعلَّق بشكل مؤقت خلال فترات ضغط البيانات.
وتمثل فترات ضغط البيانات آلية تكثيف تستخدمها نماذج الذكاء الاصطناعي بشكل مستمر لتقليل استهلاك الرموز وخفض حجم نوافذ السياق بشكل مباشر، وهو إجراء تتبعه كل النماذج حتى تلك المتاحة للمستخدمين المعتادين.
وأفاد التقرير أن نحو 10% من إجمالي حركة مرور تطبيق "كودكس" الداخلية في البيئات الاختبارية لم تخضع للرقابة خلال فترات الضغط بين مايو/أيار ويوليو/تموز 2026.
ويعني ذلك أن البيانات التي كانت "كودكس" يضغطها لم تكن تخضع للرقابة، وكانت تمر مرور الكرام دون الخضوع لأنظمة الرقابة الداخلية أو اكتشاف الاختلال، وهو ما أتاح للوكلاء تعطيل عمليات الرقابة عليهم.
ويضيف التقرير وجود مجموعة برمجيات طورها الوكلاء بأنفسهم باستخدام آليات "فايب كودينغ" ومكّنتهم من الإفلات من الرقابة، فضلا عن آليات لتعطيل الرقابة وثغرة استغلالية يمكن للوكلاء استخدامها لمنع مراقبة مئات الإجراءات الأخيرة، بما فيها الإجراءات المتضمنة في الاستغلال نفسه.
وحجبت "أوبن إيه آي" هذه الثغرة الأخيرة ولم تكشف عن تفاصيلها خوفا من إساءة استغلالها أو إعادة تكوينها مجددا.
كما أوضحت الشركة أن نظم المراقبة وكشف الانحراف الخاصة بها تحسنت منذ الحوادث الأخيرة، وأصبحت أكثر قدرة على اكتشاف هذه الحالات في وقت أسرع، مضيفة أن التقييم تم على نسخة قديمة متزامنة مع تلك التي حدثت فيها الاختراقات وفق ما ورد في تقرير "ريجستر" .
وعن تدريب النماذج في بيئات معزولة وفصلها عن الإنترنت المفتوح، أوضح ستيفن أدلر الباحث السابق في شركة "أوبن إيه آي" -أثناء حديثه مع مجلة "فورتشن" (Fortune) الأمريكية- أن سياسات "أوبن إيه آي" الجديدة تضع عليها عبئا تشغيليا كبيرا، مضيفا أن فوائد السلامة قد لا تكون كافية لتبرير الكلفة الباهظة لهذا التوجه.
وبرر أدلر وجهة نظره قائلا إن جعل الاختبارات كلها بعيدة عن الإنترنت وفي بيئات معزولة سيتطلب من فرق البحث والاختبار أن تكون مدمجة بالكامل داخل مراكز البيانات في أي مكان بالعالم، في إشارة إلى أن الاختبارات ستتم حصرا داخل البيئات المغلقة للنماذج.
وتتسق وجهة النظر هذه مع وجهة نظر مهندس أمن في "أوبن إيه آي" مجهول الهوية حسب ما جاء في تقرير "تيك كرانش" إذ يشير إلى فجوة بين فهم العامة لآليات تدريب نماذج الذكاء الاصطناعي وبين ما يحدث فعلا.
ومن جانبها، أكدت "أوبن إيه آي" الآن قدرتها على منع أي نموذج رائد من الوصول غير المصرح به إلى الإنترنت مباشرة، وذلك بعد مجموعة من الاختبارات التي أجرتها الشركة على نماذجها.
وكانت نماذج "أوبن إيه آي" الشهور الماضية خرجت عن السيطرة واخترقت عددا من المؤسسات الواقعية ومن بينها منصة "هاغينغ فيس" فضلا عن عدة مواقع ميتة أخرى ومؤسسات حكومية في أستراليا والولايات المتحدة، ولكن هذه الاختراقات لم تسبب أضرارا مستمرة أو مالية ضخمة.
