من ” هلوسة وسراب الذكاء الاصطناعي” إلى “فخاخ الذكاء الاصطناعي” ثم الدجاجلة الاصطناعيين؟!!
نشر باحثون في “جوجل ديب مايند Google# DeepMind” دراسة شاملة تكشف احتمال تعرض وكلاء الذكاء الاصطناعي للخداع والتلاعب بشدة عبر المحتوى المنتشر على الإنترنت، دون الحاجة إلى اختراق الأنظمة مباشرة، هذا النوع من الهجمات يُسمى “فخاخ الذكاء الاصطناعي AI Agent Traps”، وهي عبارة عن محتوى خبيث مُصمم خصيصًا للمواقع الإلكترونية والموارد الرقمية للتلاعب بأنظمة الذكاء الاصطناعي الزائرة أو خداعها أو استغلالها.
يعتبر هذا البحث، أول إطار عمل منهجي معروف لفهم هذا النوع الناشئ من التهديدات؛ مع تزايد اعتماد أنظمة الذكاء الاصطناعي على العمل بشكل مستقل، وتنفيذ المعاملات المالية، وتصفح المواقع الإلكترونية، وإدارة رسائل البريد الإلكتروني، واستخدام واجهات برمجة التطبيقات الخارجية، أصبحت بيئة المعلومات نفسها هدفًا للهجمات.
تصنف الورقة البحثية فخاخ الذكاء الاصطناعي إلى ستة أنواع من الهجمات، يستهدف كل منها مكونًا مختلفًا من بنية تشغيل النظام؛ وهي أساليب تستغل نقاط ضعف الوكيل الآلي في مراحل مختلفة من عمله، من قراءة المعلومات وصولاً إلى تنفيذ القرارات.
أنواع الهجمات
❶ أوامر مخفية عن العين البشرية
تُزرع في صفحات الويب أو الصور أو المستندات بطريقة لا يراها الإنسان، لكن الذكاء الاصطناعي يستجيب لها.
❷ صياغات تُشوّه التفكير
تعبيرات مُصمَّمة تدفع الوكيل إلى استنتاجات خاطئة دون أن يدرك ذلك.
❸ تلويث الذاكرة وقواعد المعرفة
حقن معلومات مضلّلة في المصادر التي يستند إليها الوكيل.
❹ الاستيلاء على الإجراءات
توجيه الوكيل لتنفيذ أفعال لم يُؤذن له بها.
❺ انفلات جماعي بين وكلاء متعددين
حين يتفاعل عدة وكلاء آليين مع بعضهم، قد تتضخّم التعليمات الخبيثة وتنتشر بينهم.
❻ استغلال أخطاء المراقبين البشريين
تصميم هجمات تستفيد من لحظات عدم الانتباه أو التعب البشري أثناء المراجعة.
الأخطار
الجانب الأكثر إثارة للقلق أن المهاجم لا يحتاج إلى اختراق نظام الذكاء الاصطناعي نفسه، إذ يكفي تعديل صفحة ويب عادية، أو وثيقة، أو قاعدة بيانات خارجية يستخدمها الوكيل، ليتمكن من دفعه نحو قرارات خاطئة، أو تسريب معلومات سرية، أو تنفيذ أفعال غير مصرّح بها.ُ
كما تشير الورقة البحثية أيضًا إلى ثغرةٍ جوهرية في المساءلة عندما يرتكب وكيلٌ مُخترق جريمةً مالية؛ إذ تبقى المسؤولية القانونية بين مُشغّل الوكيل ومُزوّد النموذج ومالك النطاق غير مُحدّدة تمامًا، وهي ثغرةٌ لا بدّ من معالجتها قبل أن تتمكن وكلاء الذكاء الاصطناعي من دخول القطاعات الخاضعة للتنظيم بأمان.
انتبهوا لبياناتكم، والعاقل خصيم نفسه !
https://lnkd.in/duSpyEed
Google DeepMind Researchers Warn Hackers Can Hijack AI Agents Through Malicious Web Content
