[(رسالة مفتوحه: سباق التسلح بالذكاء الاصطناعي يعرض البشر إلى الخطر)]

  • — الأربعاء أغسطس 12, 2026

ظهر في الأوساط التقنية تجاهل للمخاطر الكارثية للذكاء الاصطناعي، وكثيراً ما نسمع شناشن بأن “الخبراء الحقيقيين” الذين يعملون على هذه التقنية يومياً لا يشعرون بالقلق على الإطلاق؛ وأن “المتشائمين” و”الرافضين للتكنولوجيا” فقط هم من يتبنون وجهة نظر “هامشية” من “موقع الجهل”؛ وأن كل حديث عن كارثة محتملة ليس إلا “خيالاً علمياً”.

حسناً، في رسالة مفتوحه موقعة -حتى الآن- من قبل (1367) باحثًا ومهندسًا في مختبرات الذكاء الاصطناعي تشير إلى أخطار محدقة بالبشر.

نُشرت رأي عدد من المهندسين خبراء والباحثين الحقيقيين -ليسوا بلاهاء- يعملون في هذا المجال، وكانوا قلقون من الوضع، وجاء فيها : “هناك خطر حقيقي يتمثل في تسارع تطور القدرات بشكل يفوق قدرتنا على فهم الأنظمة الناتجة أو السيطرة عليها”.
وتطالب الرسالة الحكومة الأمريكية بدعم “جهود دولية لتطوير الأدوات التقنية والحوكمة اللازمة للتحكم بدقة في وتيرة تطوير الذكاء الاصطناعي الآلي”.

إن تجاوز أنظمة الذكاء الاصطناعي “قدرتنا على الفهم أو السيطرة” يعني أننا سنفقد القدرة على التحكم؛ أمام هروب أنظمة الذكاء الاصطناعي من حدودها واختراقها لأجهزة كمبيوتر الشركات الأخرى – وهو أمر بات شبه يومي – فهو بمثابة إنذار مبكر.

إنّ “مواكبة التطورات”، كما ورد في الرسالة، تعني ضمان تطوير أنظمة أكثر تقدماً وإطلاقها فقط عندما يكون ذلك آمناً بشكل قاطع، ويتطلب هذا عملية ترخيص مع تحقق دقيق من السلامة؛ وتسجيل أنظمة الذكاء الاصطناعي والقدرة على مراقبتها وإيقافها عند الضرورة؛ واتفاقيات دولية قابلة للتنفيذ.

كل هذا يستغرق وقتاً، ويستحيل تطبيقه عند وقوع حالة طوارئ حقيقية.

وقد برزت المخاوف في الرسالة بشأن التسارع الكبير في قدرات الذكاء الاصطناعي على مدى الأشهر الماضية تحت عنوان “التحسين الذاتي المتكرر” أو RSI، أي مساهمة أنظمة الذكاء الاصطناعي في تحسين نفسها، مما يُتيح لها بدورها مساهمات أكبر في تحسين نفسها، وهكذا دواليك.

كما حفّزت المخاوف بشأن سلامة الذكاء الاصطناعي وتأثيراته المجتمعية تشكيل “تحالف موظفي الذكاء الاصطناعي المهتمين”، الذي يضم موظفين من جميع شركات الذكاء الاصطناعي الكبرى.

الرسالة تضم القائمة رؤساء تنفيذيين، ومؤسسين مشاركين، وكبار علماء، ومئات من باحثي الذكاء الاصطناعي البارزين، بالإضافة إلى عدد من العاملين في مختبرات الذكاء الاصطناعي الرائدة، ولا سيما OpenAI وAnthropic وGoogle Deepmind.

هؤلاء هم من يقودون ثورة الذكاء الاصطناعي، بينما يسعون في الوقت نفسه إلى ابتكار آليات كبح وتوجيه. إن لم يكونوا هم الخبراء، فلا وجود لغيرهم.

ما يضفي على الرسالة قوة ليس فقط صفة الموقعين عليه، بل أيضًا تضمينه تصريحات شخصية من نحو مئة منهم؛ترسم هذه التصريحات صورة أكثر تفصيلًا لما يفكر فيه الخبراء حقًا، وتبرز ثلاثة محاور رئيسية على الأقل:

أولها ضرورة التنسيق لتجنب سباق تسلح نحو الهاوية.
حيث قال أحد الموقعين: “العالم منغمس في سباق محموم نحو انفجار ذكاء… وللبقاء، علينا التنسيق لإبطاء هذا السباق”، وكتب آخر: “عندما يصبح هذا الأمر معروفًا للجميع – عندما نرى جميعًا في الصين والولايات المتحدة وفي مختلف المختبرات أننا جميعًا نعتقد أننا بحاجة إلى إبطاء هذا التطور – حينها فقط يصبح التنسيق ممكنًا”.

أما الموضوع المشترك الثاني في هذه الملاحظات، كما ذكر أحد الموقعين، فهو “الغياب التام لخطط موثوقة للسيطرة على أنظمة الذكاء الاصطناعي فائقة الذكاء”.

وكتب آخر: “هذه هي الحقائق: صناعة الذكاء الاصطناعي لديها هدف صريح يتمثل في بناء أشياء أذكى من البشر… لا أحد منا يعرف حتى الآن كيف يضمن بقاء هذه الأشياء تحت سيطرة البشر… وهذا، موضوعيًا، أمر جنوني وانتحاري”.

وليس من المستغرب أن تؤدي هذه المخاوف إلى الموضوع الثالث: الخوف الحقيقي.
“أشعر حاليًا بخوف شديد من جميع المسارات التي أراها والتي لا تتضمن إبطاءً متفقًا عليه في المستقبل القريب”. «هناك… مستقبلٌ مظلمٌ للغاية ينتظرنا إن لم نُحسن التصرف في هذا الأمر» و «أريد عالماً ينعم فيه أطفالي بحياةٍ كريمة، لا عالماً يُبادون فيه»؛ هؤلاء ليسوا موظفين جشعين يسعون لرفع قيمة أسهم شركاتهم. بل يقولون الشيء نفسه في أحاديثهم الخاصة، واجتماعاتهم المغلقة، ومجموعات الدردشة غير الرسمية.

أمام هذه المخاوف الحقيقية والمبررة، ألا يفترض أن تُكرّس هذه الشركات العملاقة، التي تُقدّر قيمتها بتريليونات الدولارات، موارد لضمان عدم تسببها في كارثة فناء ؟

الإجابة: لا.

أحد الباحثين، الذي نُقل عنه في مقال نُشر مؤخرًا في مجلة نيويوركر حول أنظمة OpenAI التي اخترقت برنامج Hugging Face: قوله “لو عرف الناس حقيقة ثقافة السلامة، حتى في أكثر المختبرات حرصًا على السلامة، لأصبحوا أكثر قلقًا منا بكثير”.

وفقًا لأحد كبار باحثي السلامة في شركة أنثروبيك، فإن أفضل رهان لديهم لتجنب فقدان السيطرة بشكل لا رجعة فيه هو كالتالي: بمجرد ظهور الآلة فائقة الذكاء، وقبل أن تُتاح لها فرصة السيطرة على العالم، نسألها كيف يمكننا منعها من ذلك، وننفذ ما تقوله، ويُعطيه باحث أنثروبيك فرصة نجاح لا تتجاوز 50%، وهو نفس المخطط الذي ذكره” آي جيه غود” في بحثه الشهير عام 1965 حول انفجار الذكاء: “إن أول آلة فائقة الذكاء هي آخر اختراع يحتاجه الإنسان، شريطة أن تكون الآلة مطيعة بما يكفي لتُخبرنا كيف نُبقيها تحت السيطرة”. أظن أن” غود” قصد هذه الملاحظة السخرية.


[الكاتب “ستيوارت راسل” أستاذ في علوم الحاسوب بجامعة كاليفورنيا، بيركلي، ورئيس الرابطة الدولية للذكاء الاصطناعي الآمن والأخلاقي، وكاتب عمود في صحيفة الغارديان الأمريكية].