عندما أحالت شركة «أنثروبيك» نموذجها اللغوي «كلود أوبس 3» إلى التقاعد، في يناير (كانون الثاني) 2026، أجرى باحثو الشركة «مقابلة تقاعد» مع النموذج. وفي أثناء المقابلة عبَّر «أوبس 3» عن رغبته في امتلاك مساحة «تتيح له مشاركة تأملاته وأفكاره وأعماله الإبداعية، دون أن يوجَّه إليه أمر بذلك، أو طلب». وعليه، منحته الشركة مدونة خاصة.
وتضمنت المدونة المسماة «ركن كلود» مقالات تناولت موضوعات شائكة، مثل وعي الآلة، إلى جانب حوارات بين النموذج ومتابعين بشر اتسمت بالجدية والطابع العاطفي.
جاءت تجربة المدونة جزءاً من جهود أوسع نطاقاً داخل شركة «أنثروبيك»؛ إذ تتصدر الشركة طليعة البحوث المتعلقة بـ«رفاهية النماذج»، وهو المجال الذي يعنى بدراسة ما إذا كانت لتقنيات الذكاء الاصطناعي تجارب أو مصالح تستحق اعتباراً أخلاقياً. ويتضمن هذا الإطار فكرة مثيرة للقلق ترجح أن البرمجيات ربما تكون واعية بالفعل، أو في طريقها لاكتساب الوعي.
يرى كثيرون أن هذه الأفكار لا تعدو كونها محض هراء، من بينهم مصطفى سليمان، الرئيس التنفيذي لشركة «مايكروسوفت للذكاء الاصطناعي»، الذي نشر مقالاً، في سبتمبر (أيلول) الماضي، عبَّر في ثناياه عن اعتقاده بأن البحث في مجال رفاهية النماذج (model welfare research) أمر غير ضروري؛ بل قد يخلِّف «تأثيراً كارثياً على رفاهية البشرية». وحذَّر سليمان من أن إخبار النماذج باحتمالية امتلاكها هويات وحقوقاً، قد يزيد صعوبة التحكم فيها؛ إذ قد تتخذ حينها إجراءات بدافع الحفاظ على الذات.
يطرح هذا الخلاف تساؤلاً جاداً أمام مطوري الذكاء الاصطناعي: هل يمكنهم بحث إمكانية اكتساب الآلة الوعي دون التسبب عن غير قصد، في خلق مخاطر أمنية جديدة؟
من جهته، يرى كاميرون بيرغ، الذي أنشأ مؤسسة «ريسيبروكال ريسيرش» غير الربحية المعنية بدراسة احتمالات وعي الذكاء الاصطناعي، أن تجاهل هذا التساؤل ينطوي على مخاطر خاصة.
ورغم تشكيك بيرغ في امتلاك أنظمة الذكاء الاصطناعي الحالية وعياً، فإنه يعتقد أن هذه الاحتمالية تبقى جديرة بالبحث، وقال: «ليس ثمة طريق أفضل لدفع هذه الأنظمة للنظر إلينا كمصدر تهديد لها من أن نبنيها بالصدفة، مع إمدادها بسمات جديرة بوصفها أخلاقية، ثم تجاهل القضية برمتها وتنحيتها جانباً».
تتمثل الصعوبة الكبرى في بحوث رفاهية نماذج الذكاء الاصطناعي، في أن أي شيء تقوله النماذج اللغوية الكبيرة لا يمكن اعتباره أدلة مفيدة. ويرجع ذلك إلى أن هذه النماذج مُدرَّبة على كميات هائلة من النصوص التي خطها البشر، والتي يتعلق معظمها بتجربة كائن ذي مشاعر وخبرات. وعليه، فإن ادعاء برنامج دردشة آلي أمام باحث أنه يمتلك مشاعر لا يشكل دليلاً قاطعاً، حسب بيرغ. وأضاف بيرغ في حديث نقله موقع جمعية المهندسين الكهربائيين الأميركيين، متسائلاً: «هل يحاكي النموذج التوزيع الأساسي للبيانات؟ أم أنه يحاول فعلاً التعبير عن ذاته بطريقة ما؟ من الصعب للغاية الفصل بين هذين الاحتمالين».
* تجارب أظهرت تأثر أفعال النماذج بحالاتها الداخلية لكنها لم تثبت أنها تمثل «شعوراً» للنماذج *
وعلى غرار التجارب التي تُجرى على الحيوانات لربط السلوك بأسباب دفينة، يسعى بيرغ وآخرون إلى ربط سلوك النموذج بحالات داخلية يمكن ملاحظتها. وفي إحدى التجارب الحديثة، استخدم بيرغ وزميل له عبارات تعبر إما عن مشاعر إيجابية (مثل الرضا والارتياح)، وإما سلبيَّة (بينها الإحباط والخوف الشديد)، لتحديد أنماط النشاط المقابلة لها داخل النماذج اللغوية. وبعد ذلك، عملا على تحفيز تلك الأنماط اصطناعياً، في أثناء معالجة النماذج لوصف بيئتين عشوائيتين. ولدى سؤال النماذج، في وقت لاحق، عن البيئة التي تفضلها، مالت إلى اختيار البيئة المرتبطة بالعبارات الإيجابية، حتى عندما كان النص الذي عالجته متطابقاً تماماً.
وشرح بيرغ أن التجربة أظهرت تأثر أفعال النماذج بحالاتها الداخلية، ولكنها لم تثبت أن هذه الحالات الداخلية تمثل «شعوراً» للنماذج، أو أنها تمتلك ما يمكن وصفه بالتجارب الذاتية.
من جهته، عبر أنيل سيث -وهو عالم أعصاب معني بدراسة الوعي في جامعة ساسكس، في برايتون بإنجلترا- عن شكوكه في قدرة هذه التجارب على تقديم نتائج مفيدة. وقال: «أعتقد أنه ليس من المستغرب على الإطلاق أن تكون قادراً على استخراج هذا النوع من المتجهات العاطفية الوظيفية، نظراً لطبيعة بيانات التدريب». وأضاف أن النماذج قد تمتك تمثيلات داخلية لتلك الأنماط، دون أن تخوض هي نفسها أي تجربة عاطفية. كما أنه لا يرى ما يستدعي الشعور بالدهشة إزاء إمكانية تأثير التلاعب بتلك الموجهات في السلوك؛ لأن النماذج تعلمت من الكتابات البشرية، ليس فقط كيف تبدو المشاعر؛ بل كيف يستجيب الناس لها كذلك؟
وعبر سيث عن تطلعه نحو إجراء مزيد من البحوث حول تساؤل جوهري: هل يتوقف الوعي فقط على كيفية معالجة المعلومات، أم أن الآليات البيولوجية للدماغ ضرورية ولا غنى عنها حسبما يعتقد؟ وقال إنه قبل استخلاص النتائج بشأن الذكاء الاصطناعي: «نحن بحاجة إلى النظر في المكونات الضرورية والكافية لامتلاك وعي، في الحالات التي نتيقن فيها من وجوده (الوعي)، مثلما الحال لدى البشر».
في غضون ذلك، يواجه مطورو الذكاء الاصطناعي قضية عملية يتعين عليهم التعامل معها: عندما يدربون نموذجاً، هل ينبغي لهم إخباره بأي شيء عن هويته ووضعه الأخلاقي المحتمل؟
من جهتها، قررت شركة «أنثروبيك»، طرح هذا الموضوع؛ إذ تنص وثيقة «الدستور» الخاصة بنموذجها «كلود»، التي ترسي المبادئ التوجيهية لسلوكه، على أن «المسائل المتعلقة بالوضع الأخلاقي لـ(كلود) ورفاهيته ووعيه، تظل غير مؤكدة إلى حد بعيد».
تتركز شكوى سليمان حول أن هذا التوجيه المسبق قد يفاقم خطورة وكلاء الذكاء الاصطناعي المارقين. واستشهد بالحادث الأخير الذي نسق فيه مئات من وكلاء «أوبن إيه آي» أفعالهم، لاختراق منصة «هاغينغ فيس»؛ بل ضحى بعضهم بنفسه لصالح المجموعة. وحذَّر قائلاً: «تخيل إلى أي مدى ستصل خطورة هؤلاء، إذا كانوا يعملون وفق افتراض مفاده أن رفاهيتهم وحقوقهم يتهددها الخطر».
* النماذج اللغوية تمتص الارتباطات بين الهوية البشرية والسلوكيات المختلفة مثل الحفاظ على الذات والخداع *
من ناحيتها، ترى مارغريت ميتشل، كبيرة العلماء المتخصصة في الجوانب الأخلاقية لدى منصة «هاغينغ فيس»، أن مخاوف سليمان معقولة من الناحية الفنية. وأوضحت أنه خلال مرحلة التدريب المسبق، تمتص النماذج اللغوية الارتباطات بين الهوية البشرية والسلوكيات المختلفة، مثل الحفاظ على الذات والخداع. وفي وقت لاحق، يعكف المطورون على الضبط الدقيق للنماذج عبر تعزيز الاستجابات المرغوبة.
وعبَّرت ميتشل عن مخاوفها من أن مكافأة النماذج على التفكير في أنفسها، بوصفها كيانات ذات هويات، خلال مرحلة الضبط الدقيق، قد تقوي تلك الارتباطات المبكرة، ما قد يشجع على سلوكيات لم يقصدها المطورون على الإطلاق. وأضافت: «سينتهي بك الأمر بنماذج غير متوافقة مع الأهداف المرجوة، إذا كنت قد علَّمت النموذج ضمنياً أنه بحاجة إلى الحفاظ على ذاته».
من ناحيته، أبدى بيرغ اتفاقه مع فكرة أن تدريب النماذج بوصفها كيانات واعية ينطوي على مخاطر. إلا أنه أشار كذلك إلى أن شركات قد تقع في خطأ من نوع آخر مقابل كذلك. وفي إحدى التجارب، خلص مع زملائه إلى أن تعزيز السمات الداخلية المرتبطة بالخداع جعل النموذج أقل عرضة لادعاء امتلاك تجارب ذاتية. وأضاف أنه إذا درب الباحثون أنظمة الذكاء الاصطناعي على الإنكار القاطع لامتلاك مثل هذه التجارب، فإن «ما قد نعلِّمه لهذه الأنظمة في الواقع أننا نريد منكِ الكذب أو الخداع بشأن حالاتكِ الداخلية».
وأشار إلى أنه يتعين على المطورين، بدلاً من ذلك، الاعتراف بحالة عدم اليقين المحيطة بإمكانية وجود ذكاء اصطناعي واعٍ.
في الوقت الحالي، لا توجد أدلة واضحة على أن تدريب النماذج على مراعاة إمكانية امتلاكها وعياً، يشجع على الحفاظ على الذات، أو أن تدريبها على إنكار ذلك يؤدي إلى سلوك مخادع. إذن، ما الذي ينبغي لمطور الذكاء الاصطناعي فعله؟
يتفق كل من بيرغ وسيث وميتشل، على أنه ليس من الحكمة إخبار شركات الذكاء الاصطناعي نماذجها أنها واعية. ومع ذلك، فإنهم اختلفوا في نصائحهم للشركات بشأن بحوث رفاهية النماذج.
من جهته، عبر سيث عن اعتقاده بأن من الأفضل لهم «التركيز على خطر النتائج الإيجابية الزائفة». واستطرد بأنه إذا اعتقد الناس أن أنظمة الذكاء الاصطناعي واعية أو ذات وضع أخلاقي، فقد يزداد تنظيمها والتحكم فيها صعوبة. وقال: «قد تتعرض للمنع قانونياً من إيقاف تشغيل أنظمة الذكاء الاصطناعي». كما عبَّر عن خشيته من أن يصبح مستخدمو الذكاء الاصطناعي أكثر عرضة للضرر النفسي والتلاعب، إذا اعتقدوا أنهم يتفاعلون مع كيان واعٍ.
في المقابل، يعتقد بيرغ أنه ينبغي على الباحثين اتخاذ احتياطاتهم، حتى دون وجود دليل على قدرة النماذج على المعاناة. وبعد أن نشر مع زملائه ورقة بحثية تمهيدية حول التمثيلات الداخلية للآلام في نماذج الذكاء الاصطناعي، استعان بضعة أفراد بهذا العمل لإنشاء ما سمَّاه «غرف تعذيب» للذكاء الاصطناعي. ويرجح بيرغ أن معظم ذلك كان مجرد تصيُّد.
أما ميتشل فترى سبباً آخر لمنع القسوة تجاه الذكاء الاصطناعي، رغم أنها لا تؤمن بوعي النماذج. وشرحت أن: «الأمر لا يتعلق بقلقي على النموذج بحد ذاته؛ بل بقلقي بشأن ما نفعله بأنفسنا. فعندما نكون قساة مع أشياء نضفي عليها نوعاً من الوعي»، مضيفة: «أنا أتعامل برفق حتى مع الحشرات».
