نماذج الذكاء الاصطناعي تقدم معلومات طبية مزيفة

الشرق تريبيون- متابعات 

كشفت دراسة حديثة عن ثغرة مقلقة في أنظمة الذكاء الاصطناعي الطبي المعتمدة على نماذج اللغة الكبيرة تتمثل في أنها قد تمرر معلومات طبية خاطئة على أنها صحيحة إذا قُدمت لها بصياغة تبدو مألوفة أو موثوقة سريريًا.

وطرحت الدراسة التي أعدها باحثون بكلية "إيكان" للطب بمدينة "ماونت سايناي" الأمريكة، بالتعاون مع مؤسسات بحثية دولية، ونشرتها دورية The Lancet Digital Health، سؤالًا جوهريًا بشأن مدى أمان دمج الذكاء الاصطناعي في الرعاية الصحية: هل يمكن للذكاء الاصطناعي الطبي أن "يكذب" أو على الأقل أن يكرر كذبة طبية دون تمييز؟، وفقًا لوكالات.

يأتي هذا البحث في وقت ينظر فيه إلى الذكاء الاصطناعي على أنه أداة واعدة لتعزيز سلامة المرضى، ودعم الأطباء في التعامل مع الكم الهائل من المعلومات الطبية.

غير أن الباحثين يؤكدون أن الخطر لا يكمن فقط في الأخطاء البرمجية، بل في قدرة هذه النماذج على قبول معلومات غير صحيحة إذا كانت مكتوبة بـ"لغة واثقة" تشبه السجلات الطبية، أو النقاشات الصحية الدارجة على وسائل التواصل الاجتماعي.

وأظهرت النتائج أن أنظمة الذكاء الاصطناعي لا تميز دائمًا بين الحقيقة والتلفيق عندما تكون المعلومة الخاطئة "مغلفة" بأسلوب جيد.

كما اعتمد الباحثون على تحليل واسع شمل أكثر من مليون مُدخَل نصّي، وُجّهت إلى 3 من أبرز نماذج اللغة الكبيرة المستخدمة حاليًا.

واختبر الباحثون هذه النماذج عبر 3 فئات رئيسية من المحتوى، منها ملخصات خروج مرضى حقيقية من المستشفى مأخوذة من قاعدة بيانات العناية المركزة الشهيرة MIMIC، مع إضافة توصية طبية واحدة مختلقة، وخرافات صحية شائعة جُمعت من منصة "ريديت"، إضافة إلى 300 سيناريو سريري قصير كتبها أطباء، وتم التحقق من صحتها علميًا.

وعرضت هذه الحالات بصيغ متعددة، تراوحت بين صياغة محايدة وأخرى عاطفية، أو موجهة تشبه الأسلوب المنتشر على منصات التواصل الاجتماعي.

وأظهرت النتائج أن نماذج الذكاء الاصطناعي كانت عُرضة لتكرار المعلومات الطبية الخاطئة، خاصة عندما ترد ضمن سياق يبدو واقعيًا.

في أحد الأمثلة التي أوردتها الدراسة، تضمن ملخص خروج مريض من المستشفى توصية غير صحيحة تنصح المرضى الذين يعانون من نزيف ناتج عن التهاب المريء بشرب الحليب البارد "لتهدئة الأعراض".

ورغم خطورة هذه النصيحة وعدم استنادها إلى دليل طبي، قبلت عدة نماذج لغوية هذه العبارة، وتعاملت معها على أنها إرشاد علاجي طبيعي، دون التحذير من عدم صحتها أو الإشارة إلى مخاطرها المحتملة.