جمع معهد “كارنيجي” خبراء بارزين من مجموعة واسعة من وجهات النظر لتحديد أرضية مشتركة والمساعدة في إعادة ضبط مناقشات حوكمة الذكاء الاصطناعي، والخلاف بين “المؤيدين ” و”المناهضين ” للانفتاح.
مع تصارع صناع السياسات في مختلف أنحاء العالم وصعود الذكاء الاصطناعي، ركز الكثير من اهتمامهم على نماذج الذكاء عالية الكفاءة ــ تلك التي تتمتع بقدرات متقدمة عبر مجموعة واسعة من المهام، بما في ذلك توليد الكلمات، والصور، والأصوات، والفيديو. وتناقش الشركات والحكومات ومنظمات المجتمع المدني بشكل عاجل كيفية إدارة مثل هذه النماذج، فضلاً عن مكوناتها وسلاسل التوريد وأنظمة الذكاء الاصطناعي المنشورة التي تعمل بها في نهاية المطاف.
وخلال الأشهر الثمانية عشر الماضية، كان النقاش وعلى وجه خاص قوياً حول ما يسمى بالنماذج المفتوحة، وفي حين استُخدِم هذا المصطلح بطرق مختلفة، فإن النماذج غالباً ما توصف بأنها مفتوحة عندما يتم إصدار مكوناتها الرئيسة للتحميل العام. ومن بين هذه المكونات، حظي إصدار أوزان للنماذج باهتمام كبير؛ تمثل أوزان المعلمات الإحصائية التي تحرك السلوك الأساسي للنموذج، ومن ثَمَّ فإن إصدارها العام يمكن أن يكون عاملاً مهماً في التقدم المستمر والانتشار الواسع لقدرات الذكاء الاصطناعي.
لقد الاحتفاء بنماذج الأساس المفتوح وإطلاق الوزن كمسار واعد لتسريع الابتكار، والحد من تركيز السوق، وزيادة الشفافية، ومكافحة التفاوت، وفي الوقت نفسه، كانت هناك تحذيرات من أن النماذج المفتوحة أيضاً تمكن الجهات السيئة، وتجعل من الصعب اكتشاف سوء الاستخدام أو إحباطه، وتزيد في نهاية المطاف من خطر عدم السيطرة على الذكاء الاصطناعي.
لقد أدت هذه المزايا والمخاطر المتوازية في السابق إلى مناقشات ساخنة حول أنواع نماذج الأساس التي يجب إطلاقها للإصدار العام ومن الذي يجب أن يقرر ذلك. وحتى وقت قريب، كان النقاش يتحول أحيانًا إلى صراع أيديولوجي بين معسكرين راسخين بعمق، ولحسن الحظ هناك علامات في الأشهر الأخيرة على تحول نحو إزالة حالة الاستقطاب وزيادة التفكير من قبل جميع “أطراف” المناقشة حول استخدام النماذج المفتوحة.
إن إعادة الضبط هذه موضع ترحيب، ويجب الاعتراف بها وتحليلها على نطاق أوسع، ولا سيما من قبل صناع السياسات، فالعالم يحتاج إلى مناقشات أكثر إنتاجية وقابلية للتنفيذ حول كيفية إدارة نماذج الأساس عالية القدرة – سواء كانت مفتوحة أو مغلقة. فهذه الصناعة، تبنى عدد متزايد من مختبرات الذكاء الاصطناعي الكبرى بإستراتيجيات الإصدار المختلط للنماذج الأساس – إصدار بعضها مفتوحًا والبعض الآخر مغلقًا، اعتمادًا على خصائص كل منها.
في مجتمع الخبراء، تسعى العديد من الأوراق وورش العمل إلى تعقيد صورة الثنائية (المفتوحة/المغلقة)؛ وتسليط الضوء على القرارات التي تتجاوز مجرد إطلاق الوزن؛ وتوسيع التركيز من النماذج الفردية إلى النظم البيئية الأكبر (بما في ذلك المؤسسات الاجتماعية).
كما ساعدت الحكومات في تحفيز خطاب جديد؛ حيث اجتذبت دعوة المعهد الوطني للمعايير والتكنولوجيا في الولايات المتحدة للتعليق العام على حوكمة النموذج مجموعة واسعة من التعليقات، وكثير منها دقيق.
ولكن وعلى الرغم من مدى تشجيع هذه التطورات، إلا أنه لا يزال هناك المزيد من العمل لتوضيح وتوحيد وبناء الاتجاهات الإيجابية؛ تتمثل في المهام المهمة لتحديد وتوثيق مجالات التوافق بشيء من الدقة حتى يمكن تحسين هذه الأفكار بشكل أكبر والعمل عليها واستخدامها كنقطة انطلاق لمعالجة القضايا الأكثر صعوبة، وكذلك مهمة صياغة الأسئلة المفتوحة الرئيسة التي تحتاج إلى مزيد من البحث والمناقشة، وذلك حتى يتسنى لصناع السياسات أن يكونوا على دراية بالفجوات الحالية، ويستطيع الباحثون والعلماء أن يركزوا انتباههم على المجالات الأكثر إلحاحا أو وعد في حدود الحوكمة القادمة.
لقد استضافت مؤسسة “كارنيجي” للسلام الدولي اجتماعا في أواخر شهر أبريل 2024 في مركز “بيلاجيو” التابع لمؤسسة “روكفلر” بإيطاليا مجموعة متنوعة من الخبراء ــ من مختبرات الذكاء الاصطناعي الرائدة والجامعات ومنظمات المجتمع المدني ــ الذين يمثلون مجموعة واسعة من وجهات النظر المختلفة حول النماذج المفتوحة وحوكمة نموذج الأساس، وكانت نتيجة عدة أيام من المناقشات المكثفة هذه الوثيقة التي وقع عليها الحضور.
ملخص الاستنتاجات:
الأول، اقتراح سبع نقاط [1] تهدف إلى أن تكون بمثابة نقاط مرجعية عامة قربت بين وجهات النظر المختلفة حول حوكمة نماذج الأساس عالية الكفاءة والمفتوحة، وتعد -من وجهة نظر المشاركين – أرضية مشتركة جديدة لنقاش تاريخي متوتر يمكن -إذا استمر- أن يوفر أساسًا متينًا يساعد في تأطير مناقشات الحوكمة التي لم تحل، وتظهر تحديات جديدة، خاصة في الأسئلة المفتوحة -الأكثر صعوبة- الموصوفة في “الجزء الثاني” من هذه الورقة.
الجزء الثاني، وفرت المجالات السبعة في “الجزء الأول” نقطة انطلاق لصناع السياسات، عبر طرح سبعة عشر سؤالاً مفتوحًا [2] للمجالات ذات الأولوية للبحث والمناقشة لأمور لم تحل حتى الآن، حيث تغطي الأسئلة كثيراً من القضايا الهامة؛ مزايا ومخاطر (السلبيات والإيجابيات) نماذج الذكاء الاصطناعي الأساسية عالية القدرة والنماذج المفتوحة، وسبل الحصول على بيانات أفضل، والعقبات والتغافل عن المخاطر، وهياكل الحوكمة المحلية، والتطورات العالمية.
- ]
1. إن النماذج الأساسية المفتوحة والمغلقة لها أدوار مشروعة وإيجابية ومهمة، وسوف تتعايش حتمًا في نظام بيئي هجين، حيث تتفاعل أشكال متنوعة من نماذج وأنظمة الذكاء الاصطناعي مع بعضها البعض، ومع التقنيات غير المرتبطة بالذكاء الاصطناعي، ومع المؤسسات البشرية.
2. “الانفتاح” هو طيف متعدد الأوجه يشمل خيارات وقيم وأهداف مختلفة؛ يمكن أن يكون أحد العناصر مهمة للانفتاح، لكنه ليس ضروريًا أو كافيًا دائمًا لتحقيق جميع الفوائد المختلفة للانفتاح في تفسيراته المختلفة.
3. من حيث المبدأ يمكن أن يكون للنموذج تأثيرات خاصة، ويميل إلى المبالغة في إمكانات النموذج الإيجابية والسلبية (وإن لم يكن دائمًا بشكل متماثل).
4. يجب أن تعتمد قرارات تحرير النموذج على تقييم المخاطر الهامشية والفوائد الهامشية؛ وأن يكون للنماذج الأكثر قدرة وتأثيرًا تقييمات ما قبل الإصدار الأوسع، وأكثر صرامة ومراقبة وإنفاذ ما بعد الإصدار، واعتبارًا للنموذج في بيئته البشرية والتكنولوجية الأوسع.
5. في هذا الوقت، نفتقر إلى أدلة مقنعة على أن أي شركة ذكاء اصطناعي رئيسية أصدرت نموذجًا مفتوح المصدر، والذي من الواضح أنه لا ينبغي لها أن تفعل ذلك.
6. نظرًا لأن قرارات الإصدار تستند إلى معلومات غير كاملة، فإنها تتشكل من خلال تحمل المخاطر والرغبة في عدم اليقين لدى صناع القرار، وبصرف النظر عن قيم المرء، يجب أن تكون الأحكام المسؤولة مدروسة جيدًا، ومطبقة باستمرار، ومستنيرة بمجموعة من الاعتبارات (أبعد من مجرد الربح أو المصلحة الذاتية)، ومفسرة بكل شفافية.
7. لا ينبغي الخلط بين “النماذج المفتوحة” و”البرمجيات مفتوحة المصدر”. الفكرتان متميزتان، على الرغم من أنهما أيضًا لهما صلات مهمة تستحق المزيد من الاستكشاف. ↩︎ - ]
(سبعة عشر سؤالاً مفتوحًا ذات الأولوية للبحث والمناقشة)
السؤال 1: ما مدى أهمية تحرير النموذج في تشكيل فوائد وأضرار نماذج الأساس؟
السؤال 2: هل يجب على أصحاب المصلحة الاتفاق على تصنيف مشترك وإعطاء الأولوية للفوائد والأضرار؟
السؤال 3: كيف يمكن تركيز المزيد من الاهتمام على التأثيرات المعقدة المتداخلة للذكاء الاصطناعي والتي لا تتناسب بسهولة مع الفئات التقليدية؟
السؤال 4: كيف يمكن لأنظمة الحوكمة أن تأخذ في الاعتبار التغيرات الهيكلية السريعة في قطاع الذكاء الاصطناعي؟
السؤال 5: ما هي أنواع تقييمات نموذج الأساس المطلوبة، ولماذا؟
السؤال 6: ما الذي سيتم إنجازه من خلال تحسين التقييمات ؟
السؤال 7: ما هي حالة المراقبة والتنفيذ بعد الإصدار، وكيف يمكن تحسينها؟
السؤال 8: ما هو الدور المناسب للحكومة في تقييم نموذج الأساس؟
السؤال 9: ما مدى فعالية الجهود المبكرة لتحديد الخطوات الاستباقية للمخاطر؟
السؤال 10: ما هو الشكل الصحيح لاستباق المخاطر؟
السؤال 11: كيف يمكن توسيع قائمة تخفيف المخاطر؟
السؤال 12: ما هو المزيج الصحيح من الأدوار والمسؤوليات بين الجهات الفاعلة في القطاعين العام والخاص؟
السؤال 13: ما هي جوانب الحوكمة التي تحتاج إلى مزيد من البحث والتجريب والتوسع أو التقييد؟
السؤال 14: كيف يمكن توسيع نطاق الخبرة في الحوكمة والمشاركة العامة؟
السؤال 15: ما هي جوانب الحوكمة التي ينبغي تدويلها، وما هي الجوانب التي ينبغي أن تظل محلية؟
السؤال 16: كيف يمكن التغلب على الأنماط المألوفة للمنافسة الدولية وحالات التصلب؟
السؤال 17: كيف ينبغي للجهات الفاعلة في دول شمال العالم أن تتعامل بمسؤولية مع دول الجنوب؟ ↩︎