قيّم عدد من خبراء متخصصون ممارسات السلامة في شركات الذكاء الاصطناعي الرائدة بمختلف المجالات الحيوية؛ كشف مؤشر سلامة الذكاء الاصطناعي (يوليو 2025) الصادر عن معهد مستقبل الحياة (FLI FUTURE OF LIFE INSTITUTE) [1] تقدم متواضع جداُ حققته بعض الشركات في مجالات معينة، وأظهر نقصًا واضحًا في الالتزام بالعديد من جوانب السلامة، وأبرزها مخاطر فقدان السيطرة!!!
المنهجية
يُقيّم مؤشر سلامة الذكاء الاصطناعي لعام 2025 التابع لمعهد مستقبل الحياة ممارسات السلامة لسبع شركات رائدة في مجال الذكاء الاصطناعي للأغراض العامة (GPAI) – Anthropic وOpenAI وGoogle DeepMind وx.AI وMeta وZhipu AI وDeepseek – عبر ستة مجالات حيوية، لتعزيز الشفافية، وتعزيز ممارسات السلامة الفعّالة، وتسليط الضوء على مجالات التحسين، وتمكين الجمهور من التمييز بين تدابير السلامة الحقيقية والالتزامات الفارغة.
• لا تزال هناك تفاوتات كبيرة في ممارسات إدارة المخاطر: فقد وسّعت بعض الشركات أطر السلامة الخاصة بها بطرق واعدة، وأجرت جهودًا جادة لتقييم المخاطر، لكن شركات أخرى لا تزال تفشل في تطبيق حتى أبسط الاحتياطات. لا تملك أي منها خططًا قوية وموثوقة لضمان سلامة الجمهور من منتجاتها.
• لا تزال مشكلة التحكم دون حل: على الرغم من طموحاتها الصريحة لتطوير ذكاء اصطناعي عام (AGI) قادر على منافسة الذكاء البشري أو تجاوزه، واستبداله، فقد وجدت لجنة المراجعة مجددًا أن الإستراتيجيات الحالية لجميع الشركات غير كافية لضمان بقاء هذه الأنظمة آمنة وتحت السيطرة البشرية، مع بذل جهود ضئيلة فقط لحل هذه المشكلة.
• الرقابة الخارجية ضرورية: أظهر التقرير كيف تخلت الشركات عن التزاماتها الطوعية السابقة، مما يُبرز الحاجة إلى مصادقة طرف ثالث على تقييمات المخاطر، والرقابة الملزمة قانونًا من خلال آليات الإنفاذ.
السياق العام
يمكن للضغوط التنافسية أن تُحفز سباقًا نحو القاع يُعطي الأولوية للأرباح على حساب السلامة؛ ولتحسين الحوافز، فإن تدابير السلامة الفعالة للذكاء الاصطناعي تمنح المجتمع الثقة للابتكار وتبني الذكاء الاصطناعي، مع توجه شركات التكنولوجيا نحو الذكاء الاصطناعي العام (AGI) وما بعده!
لجنة مراجعة مستقلة
يعقد معهد مستقبل الحياة بشكل دوري لجنة مستقلة من خبراء الذكاء الاصطناعي البارزين لإجراء مراجعة شاملة للسلامة لشركات التكنولوجيا الرائدة؛ تطوّعت لجنة مراجعة مستقلة، تضمّ خبراء بارزين في الجوانب التقنية والحوكمة للذكاء الاصطناعي للأغراض العامة، لتقييم أداء الشركات عبر 34 مؤشرًا للسلوك المسؤول، مع تقديم درجات حرفية، وتبريرات موجزة، وتوصيات للتحسين. واستُند التقييم إلى قاعدة أدلة شاملة، ومعلومات خاصة بالشركة مستمدة من:
1) مواد متاحة للجمهور، بما في ذلك أوراق بحثية ذات صلة، ووثائق سياسات، ومقالات إخبارية، وتقارير قطاعية، 2) استبيان قطاعي مُصمّم خصيصًا للشركات، يُمكنها استخدامه لزيادة الشفافية حول الممارسات والعمليات والهياكل المتعلقة بالسلامة.
والقائمة الكاملة للمؤشرات والأدلة المُجمّعة توجد في التقرير الكامل (هنا).
- معهد مستقبل الحياة (FLI FUTURE OF LIFE INSTITUTE) منظمة مستقلة غير ربحية تهدف إلى الحد من الأخطار الواسعة النطاق، وتوجيه التقنيات التحويلية بما يعود بالنفع على البشرية، مع التركيز بشكل خاص على الذكاء الاصطناعي. ↩︎