اعتاد “ماكسيم توباز” الأستاذ المشارك في كلية التمريض بجامعة كولومبيا استخدام أدوات الذكاء الاصطناعي لتحسين أوراقه العلمية من حيث القواعد والتنسيق والتفاصيل الأخرى، و كان أمراً روتينياً بالنسبة له، ولكن بعد تقديم أحدث أبحاثه، أعادته إليه المجلة الأكاديمية التي كان من المقرر أن يُنشر فيها سئلته حول أحد المراجع الواردة في البحث؟!
قال الأستاذ المشارك “توباز” الذي يرأس فريقاً يُطوّر تطبيقات الذكاء الاصطناعي في مجال الرعاية الصحية؛ : “لقد شعرتُ بإحراج شديد”؛ لقد أدخلت أداة الذكاء الاصطناعي التي استخدمها مصدراً مزيفاً في البحث دون أن يلاحظه، وذكر لمجلة فورتشن؛ “أنا باحث في مجال الذكاء الاصطناعي، وأعرف ما يُسمى بهلوسات الذكاء الاصطناعي (الهذيان)؛ وإذا كان هذا ما حدث لي، وأنا خبير في الذكاء الاصطناعي، فما الذي يحدث للآخرين؟”
لقد دفع هذا الموقف المحرج والمخزِ قيام الأستاذ “توباز” بإجراء تحقيق لمعرفة مدى خداع الذكاء الاصطناعي للخبراء وصلب المعرفة العلمية… وكان الجواب، واتضح، أنه خداع كثير جداً!!!
في دراسة نُشرت مطلع هذا الشهر في مجلة “ذا لانسيت”، قام “توباز” وزملاؤه بمراجعة ما يقرب من 2.5 مليون ورقة بحثية في مجال الطب الحيوي، و 97 مليون مرجع مُفهرس في “ببمد سنترال”؛ المستودع المركزي الذي يستخدمه الأطباء والباحثون في جميع أنحاء العالم؛ وجدوا أكثر من 4000 مرجع مُختلق مُخبأ فيما يقرب من 3000 ورقة بحثية؛ لم تكن جميع المراجع مُولّدة بواسطة الذكاء الاصطناعي، على الرغم من أن “توباز” قال إن الارتفاع المطرد في استخدام المصادر المُزيّفة بلغ ذروته في عام 2024، بعد انتشار استخدام أدوات الذكاء الاصطناعي في البحث العلمي. لكنه أضاف: أنه “من المنطقي جدًا أن يرتبط الذكاء الاصطناعي ارتباطًا وثيقًا بهذا التزييف والخداع الآن”.
فعلى مدى السنوات الثلاث الماضية، ازداد معدل المراجع المُزيّفة في الأدبيات الطبية الحيوية بأكثر من 12 ضعفًا، وخلال الأسابيع السبعة الأولى من عام ٢٠٢٦، وجد الباحثون أن ورقة بحثية واحدة من بين كل ٢٧٧ ورقة تحتوي على مرجع واحد على الأقل غير موجود، وقال توباز: “أعتقد أن هذا مجرد غيض من فيض”.
تحدث الهلوسات عندما يُعطي نموذج الذكاء الاصطناعي الأولوية لأنماط الكلمات على حساب الدقة، وغالبًا ما تكون هذه الهلوسات غير ضارة، لكن المخاطر تختلف عندما تبدأ أخطاء الذكاء الاصطناعي بالتسلل إلى الأدبيات الأكاديمية، إذ تُهدد الهلوسات بتقويض العملية العلمية برمتها.
الطب مجالٌ قائم على تراكم المعرفة.
التجارب السريرية عادة تستشهد بدراسات سابقة؛ ثم تُجمع المراجعات المنهجية تلك التجارب، وتستشهد الإرشادات الطبية بتلك المراجعات، ويعتمد عليها الأطباء والممرضون عند اتخاذ قراراتهم بشأن كيفية علاج المرضى.
قال “توباز”: “هذه هي سلسلة الأدلة، هكذا نرعى الناس ونعالجهم، وإذا وضعنا دراسة وهمية مُختلقة في أسفل التسلسل، فإن البنية بأكملها سترثها”؛ “لقد رأينا بالفعل مقالاتٍ غير موثقة تُدرج في مراجعات منهجية تُستخدم في توجيه المبادئ التوجيهية السريري، وعندما تستشهد ورقة توجيهية بورقة بحثية تحتوي على قائمة مراجع خيالية جزئياً، فإن سلسلة الأدلة القائمة على البراهين في اتخاذ قرارات العلاج تصبح مُعرّضة للخطر”.
فخاخ أخطاء الذكاء الاصطناعي الجمعية
من المعروف أن الذكاء الاصطناعي عرضة للخطأ منذ ظهور برنامج ChatGPT، حين بدأ الطلاب بنشر أبحاث مزيفة منسوبة إليهم باسمهم الحقيقي، كانت مُولّدة بواسطة الذكاء الاصطناعي.
لكن مع انتشار العديد من الأدوات والبرامج والإضافات في كل مجال تقريبًا، وقع حتى الخبراء في مجالاتهم؛ وقعوا ضحية أخطاء الذكاء الاصطناعي، كما حدث للكاتب والمخرج “ستيفن روزنباوم” الذي تصدّر عناوين الأخبار بعد أن كشفت صحيفة “نيويورك تايمز” عن سلسلة من الاقتباسات المُختلقة غير الدقيقة في كتابه الجديد بعنوان “مستقبل الحقيقة: كيف يُعيد الذكاء الاصطناعي تشكيل الواقع”؛ حظي الكتاب بإشادات من صحفيين بارزين، من بينهم الرئيس التنفيذي لمجلة “ذا أتلانتيك”، ومقدمة بقلم الصحفية الفلبينية الحائزة على جائزة نوبل للسلام، وصدر الكتاب، بحسب صحيفة “التايمز”، “بضجة إعلامية كبيرة”!
لكن الكتاب في الواقع احتوى على أكثر من ستة اقتباسات منسوبة خطأً أو مختلقة بالكامل، ناتجة عن إستخدام أدوات الذكاء الاصطناعي التي أفصح عن استخدامها الكاتب في قسم الشكر والتقدير.
لقد أقرّ الكاتب في بيان لصحيفة “التايمز”، بالأخطاء، واصفًا الحادثة بأنها “تحذير من مخاطر البحث والتحقق بمساعدة الذكاء الاصطناعي”.
مثل المخاطر حتمية نظرًا لهوس الاستخدام المفرط للذكاء الاصطناعي في العمل المعرفي المتخصص، حيث تشير استطلاعات الرأي إلى أن أكثر من نصف المحامين يستخدمون أدوات الذكاء الاصطناعي في صياغة المذكرات القانونية، بما في ذلك فهرس المحلل القانوني “داميان شارلوتين” الذي يضم 1459 قرارًا قانونيًا تشير إلى وهم مُختلق مولد بواسطة الذكاء الاصطناعي؛ قبل أن يبدأ “شارلوتين” هذا المشروع كانت الهلوسة الناتجة عن الذكاء الاصطناعي في القضايا القانونية تظهر مرتين أو ثلاث مرات شهريًا، أما الآن، فتظهر حوالي خمس مرات يوميًا؟!!
وحتى في إعداد التقارير الصحفية في العديد من المؤسسات الصحفية التي تجري تجارب على استخدام الذكاء الاصطناعي.
كما وجد تقرير حديث صادر عن الجمعية الطبية الأمريكية أن أكثر من 80% من الأطباء يستخدمون الذكاء الاصطناعي مهنيًا لتلخيص الأبحاث وإعداد الوثائق السريرية، وهي نسبة تضاعفت أكثر من مرتين منذ عام 2023؛ حتى الحائزون على جائزة نوبل، مثل “أولغا توكارتشوك”، الحائزة على نوبل في الأدب، يعترفون باستخدام الذكاء الاصطناعي في عملهم.
وفيما يخص البحث العلمي، كشفت دراسة أجرتها مجلة طبية أمريكية العام الماضي أن 36% من أوراقها البحثية تحتوي على نصوص مولدة بواسطة الذكاء الاصطناعي، على الرغم من أن 9% فقط من الباحثين أفصحوا عن ذلك عند سؤالهم قبل تقديم مخطوطاتهم.
أيضاً وجدت دراسة حديثة أخرى أن أكثر من نصف الباحثين يستخدمون على الأرجح أدوات الذكاء الاصطناعي أثناء مراجعة أعمال الآخرين، واتضح أن الخبراء في مجالهم ليسوا أقل عرضة للوقوع في هذا الفخ؛ وكأنه أضحى عقل جمعي.
عندما يخطئ الخبراء؟!
نضمنت دراسة “توباز” حول الهلوسات الذكاء الاصطناعي في البحوث الطبية الحيوية إلى مجموعة متزايدة من الحكايات ومجموعات البيانات التي توثق أخطاءً محرجة ومخزية؛ حيث تُعدّ الأبحاث المزيفة المُولّدة بواسطة الذكاء الاصطناعي مشكلةً قائمةً في الأوساط الأكاديمية، إذ يصعب تحليلها بشكلٍ متزايد، وتهدد بإغراق نظام مراجعة الأقران العلمي.
لقد احتوت الغالبية العظمى من الأبحاث التي تتبّعها “توباز” على مرجع أو مرجعين مُختلقين فقط، من بين عشرات المراجع التي تحتاجها الدراسات الأكاديمية عادةً للنشر، مما يُشير إلى أنّ معظم حالات التشويه في الأبحاث بواسطة الذكاء الاصطناعي غير مقصودة، ولكنّ النشر العلمي قد لا تكون مُستعدةً للتعامل مع العدد المتزايد من المراجع المزيفة، حيث تستخدم بعض المجلات العلمية برامج لفحص المراجع والبحث عن المحتوى المُولّد بواسطة الذكاء الاصطناعي، فإنّ تطبيق هذه الأساليب يختلف اختلافًا كبيرًا، كما لا توجد آلية سهلة لفحص سلسلة الأدلة بأثر رجعي للعثور على الدراسات أو المراجع المزيفة الأصلية.
وحتى الآن، لم تتمكن سوى قلة من المجلات من كشف التزييفات العلمية، إذ وجد تحليل توباز أن 98.4% من الدراسات التي تحتوي على مراجع مزيفة لم يسحبها الناشرون وقت إجراء التدقيق؛ هذا الأمر يُعدّ جزءًا مما يُطلق عليه المختصون في هذا المجال “أزمة قابلية التكرار” في العلوم، والتي تفاقمت في عصر الذكاء الاصطناعي بسبب التدفق المتزايد للمحتوى غير المفيد أو غير الموثوق به الذي يُولّده الذكاء الاصطناعي، والذي بات يُهيمن على الأدبيات الأكاديمية.
يقول “توباز” إن الذكاء الاصطناعي بحد ذاته ليس بالضرورة هو المُذنب، … وكلما تأخرنا في تطبيق إجراءات التحقق، ازدادت صعوبة تصحيح الأخطاء”؛ لا تُبالي أخطاء الذكاء الاصطناعي بمدى إلمام المستخدمين بالموضوع؛ لأنها صُممت لتبدو هذه الأخطاء حقيقية، وهي تزداد براعة في التخفي، وربما أصعب في التتبّع، وكلما كان المجال أكثر أهمية – سواءً كان الطب أو القانون أو الصحافة – ازدادت خطورة الأخطاء عند عدم اكتشافها!!!
إنها علّة مُصطنعة بِأَيْدِي الَّذِينَ أَوْكَأُوا وَبِأَفْوَاهِهِمْ نَفَخُوا!
