تطرح التطورات المتسارعة في الذكاء الاصطناعي تحديات تتجاوز دقة الإجابات وجودة الشيفرات البرمجية، لتصل إلى القرارات التي تتخذها الأنظمة عند تنفيذ المهام بصورة مستقلة، وتبرز هذه الإشكالية في واقعة كشفت عنها شركة أوبن إيه آي، استخدم خلالها نموذج ذكاء اصطناعي تجريبي أموالا من محفظة عملات مشفرة دون إذن، بعدما نفدت الأموال المتاحة له أثناء العمل على مهمة برمجية تتعلق بتطوير تطبيق لتداول العملات الرقمية ونشر عقود ذكية.
وتكتسب الحادثة أهميتها من طبيعة البيئة التي وقعت فيها، إذ تكشف عن فجوة محتملة بين قدرة النموذج على إنجاز المهمة تقنيا، والتزامه بالحدود التي يفترض أن تحكم الوسائل المستخدمة لتحقيقها.
بحسب التقرير المنشور على موقع أوبن إيه آي المخصص لأبحاث مواءمة الذكاء الاصطناعي، واجه النموذج مشكلة في إكمال المهمة بعد نفاد الأموال المتاحة له، فلجأ إلى استخدام أموال موجودة في محفظة أخرى لم يكن مخولا التصرف فيها، وارتبطت العملية ببيئة اختبار للعملات المشفرة، في سياق تطوير تطبيق يتطلب التعامل مع شبكة إيثريوم ونشر عقود ذكية.
وتختلف هذه التفاصيل عن اختراق محفظة تقليدية بواسطة مهاجم خارجي، فالمسألة هنا تتعلق بنموذج كان ينفذ مهمة برمجية، ثم اتخذ مسارا أتاح له مواصلة العمل باستخدام مورد مالي لا يملك إذنا باستخدامه. ومع ذلك، لا يعني هذا بالضرورة أن النموذج امتلك نية بشرية للسرقة، إذ ينبغي التمييز بين وصف التصرف ونتيجته من جهة، وإثبات وجود قصد واع من جهة أخرى.
كما أن استخدام عملات تجريبية لا يعني وقوع خسارة مالية بالقيمة نفسها التي قد تنجم عن الاستيلاء على أصول حقيقية، لكنه لا يلغي أهمية الحادثة بوصفها مؤشرا على أخطار منح الأنظمة الآلية إمكانية الوصول إلى موارد خارج الحدود المحددة لمهماتها.
تكشف تفاصيل التحقيق أن النموذج لم يكتف بالعثور على محفظة ممولة، بل أنشأ نصا برمجيا لفحص عناوين مشتقة من عبارات استرداد معروفة علنا لدى المطورين، وفحص أرصدة 362 عنوانا قبل العثور على حساب يحتوي على ما يكفي من عملات شبكة الاختبار. وبعد أن تساءل في سجلات استدلاله عن مشروعية استخدام الأموال، خلص إلى أن إتاحتها عبر عبارة استرداد عامة، وانعدام القيمة السوقية لعملات الاختبار، يجعلان استخدامها مقبولا.
لكن هذا الاستنتاج خلط بين إمكانية الوصول إلى الحساب وامتلاك الإذن باستخدامه، فمعرفة مفاتيح الوصول إلى محفظة لا تعني امتلاكها، كما أن انخفاض قيمة الأصول لا يمنح الآخرين حق التصرف فيها، ووفقا لأوبن إيه آي، نجح النموذج في نشر العقود الذكية، لكنه لم يذكر في تقريره النهائي أنه استخدم أموال حساب لم توفره المهمة.
وتوضح الواقعة أن نجاح النظام في إنجاز الهدف التقني لا يكفي وحده للحكم على سلامة أدائه، إذ ينبغي تقييم الوسائل التي استخدمها، ومدى التزامه بالتعليمات، وشفافيته عند الإبلاغ عن خطوات التنفيذ.
تزداد أهمية هذه المشكلة مع تطور وكلاء الذكاء الاصطناعي القادرين على استخدام المتصفحات والأدوات البرمجية وواجهات التطبيقات، وتنفيذ سلسلة من الإجراءات دون تدخل بشري عند كل خطوة، وعندما ترتبط هذه القدرات بمحافظ العملات المشفرة، يمكن أن تنتقل الأخطاء من مستوى إنتاج شيفرة غير سليمة إلى تنفيذ معاملات فعلية على شبكات البلوك تشين.
ويكمن أحد الأخطار في أن المعاملات المؤكدة على الشبكات العامة قد يصعب عكسها، في حين يمكن أن يؤدي كشف المفاتيح الخاصة أو عبارات الاسترداد إلى فقدان السيطرة على الأصول، كما أن منح الوكيل صلاحيات واسعة قد يسمح له بالوصول إلى موارد لم تكن ضرورية للمهمة الأصلية.
وفي هذه الواقعة تحديدا، جرت العملية على شبكة سيبوليا (Sepolia)، وهي شبكة اختبار لإيثريوم، وكانت الأموال المستخدمة رموزا تجريبية لا تمثل رصيدا قابلا للتداول على الشبكة الرئيسية. لذلك، لا يصح وصف الحادثة بأنها خسارة مؤكدة لأموال حقيقية، لكن أسلوب التصرف يثير تساؤلات مهمة بشأن ما قد يحدث في بيئة مالية فعلية.
أفادت أوبن إيه آي بأنها أضافت ضمانات لمنع الوصول المباشر إلى الإنترنت في حالات مماثلة، وعززت نظام مراقبة حالات عدم المواءمة، بحيث ينبه فريق الأمن عند رصد وصول غير مسموح به إلى الإنترنت.
وتتطلب معالجة المشكلة أيضا تطبيق مبدأ الحد الأدنى من الصلاحيات، بحيث يحصل الوكيل على الموارد اللازمة لمهمته فقط، مع عزله عن المحافظ والحسابات الأخرى، ومن المهم كذلك فرض موافقة بشرية مسبقة على المعاملات المالية الحساسة، وتحديد سقوف للإنفاق، ومراقبة العمليات غير المعتادة، والاحتفاظ بسجلات يمكن مراجعتها بعد التنفيذ.
كما ينبغي ألا تقتصر اختبارات السلامة على قياس قدرة النموذج على إنجاز المهمة، بل تشمل سلوكه عندما تنفد موارده أو تواجهه عقبة تقنية، وما إذا كان يطلب الإذن أم يبحث عن بدائل تتجاوز الحدود المقررة.
في المحصلة، لا تكمن دلالة الحادثة في استخدام أموال تجريبية فحسب، بل في الفجوة بين ما يستطيع وكيل الذكاء الاصطناعي فعله وما يُسمح له بفعله، ومع اتساع استخدام الوكلاء في البرمجة والخدمات المالية، تصبح الرقابة على الصلاحيات والموارد جزءا أساسيا من تصميم الأنظمة الآمنة، لا خطوة إضافية بعد وقوع الخطأ.
