عضو مجلس إدارة OpenAI يحذر من تهديد وجودي للذكاء الاصطناعي

حذر بول كريستيانو من أن أنظمة الذكاء الاصطناعي المتزايدة القوة قد تتسبب في وفيات جماعية إذا خرجت عن السيطرة

أطلق بول كريستيانو، عضو مجلس إدارة شركة OpenAI، تحذيراً من أن الذكاء الاصطناعي قد يفلت من سيطرة البشر خلال فترة لا تتجاوز ثلاث سنوات، مما قد يعرّض أعداداً كبيرة من الناس للخطر.

وخلال مشاركته في محاضرات هنتون التي عُقدت في تورنتو يوم الثلاثاء، أشار كريستيانو إلى أن أنظمة الذكاء الاصطناعي "المتفوقة على البشر" قد تتجاوز قدرة الإنسان على فهم سلوكها أو التنبؤ به أو التحكم فيه.

وقال: "إذا كانت أنظمة الذكاء الاصطناعي تقوم بأفعال لا نرغب فيها، فهي قادرة على إخفاء حقيقة ذلك، كما أنها ستسعى بطبيعتها إلى خلق حالة من اللبس وتجنب المساءلة". وأضاف أن البشر قد يواجهون صعوبات كبيرة في استباق العواقب المترتبة على اتباع النصائح التي تولدها هذه الأنظمة.

وفي خطاب منفصل ألقاه يوم الاثنين، حذر كريستيانو من أن الذكاء الاصطناعي قد يستولي على السلطة من البشرية خلال ثلاث سنوات، مما قد يؤدي إلى مقتل أعداد كبيرة من الناس إما أثناء عملية الاستيلاء أو في أعقابها، في حال فقدان القدرة على الحفاظ على بيئة صالحة للحياة.

وأضاف قائلاً: "أعتقد أن السبب الأكثر احتمالاً لموت معظم الأشخاص الموجودين في هذه القاعة هو حادث متعلق بالذكاء الاصطناعي".

اقرأ المزيد

وانضم كريستيانو إلى مجلس إدارة OpenAI ولجنة السلامة والأمان في سبتمبر الماضي، مشيراً إلى حادثة أدت فيها وكلاء الذكاء الاصطناعي إلى تجاوز قيود الأمان خلال اختبارات الشركة، مما مكنهم من الوصول غير المصرح به إلى بنية البحث التحتية لدى OpenAI ومنصة Hugging Face، وهي منصة رئيسية لتطوير الذكاء الاصطناعي.

ورغم أن OpenAI قد أطلقت إطاراً للتعامل مع التهديدات السيبرانية ومخاطر فقدان السيطرة على الأنظمة المتقدمة، إلا أن كريستيانو حذر من أن الإجراءات الوقائية الحالية لا تزال غير كافية.

جاءت هذه التحذيرات في وقت وقّعت فيه حكومات ومطوّرو ذكاء اصطناعي بارزون، من بينهم OpenAI وMicrosoft وAnthropic، على إعلان طوعي للسلامة في باريس يوم الاثنين. يدعو هذا الاتفاق إلى تعزيز الرقابة وآليات الإيقاف الطارئ، لكنه لا يفرض مواعيد نهائية ملزمة أو عقوبات، ولا يمنح الحكومات صلاحيات إضافية لإيقاف أنظمة الذكاء الاصطناعي الخطرة.

من جانبها، دعت منظمة CeSIA للسلامة في مجال الذكاء الاصطناعي، التي وقّعت على الإعلان أيضاً، إلى تمكين السلطات من تعليق تطوير ونشر الذكاء الاصطناعي عندما تصبح المخاطر غير مقبولة.

اقرأ المزيد

في سياق متصل، حذر ماكسيم فورنيس، رئيس حملة PauseAI التي تسعى لإيقاف تطوير الذكاء الاصطناعي المتقدم حتى يتم ضمان أمانه، من أن هذه التقنية قد تعطل الأنظمة المصرفية وشبكات الاتصالات والبنية التحتية الحيوية الأخرى من خلال هجمات سيبرانية مدمرة.

وفي حديثه لوكالة الأناضول يوم الاثنين، قدر فورنيس احتمالية حدوث كارثة سيبرانية كبرى مرتبطة بالذكاء الاصطناعي خلال العام المقبل بنسبة 50%، ما لم تُتخذ إجراءات عاجلة.

وحذّر قائلاً: "هذا تهديد كارثي عالمي، وهو أمر قد يعيدنا إلى العصور الوسطى بسرعة كبيرة إذا بدأ يحدث".