باحثون أميركيون: أضرار صحية نتيحة نصائح خاطئة من ال “AI”

أبرز النقاط

1. ورقة علمية تحذر من أضرار صحية ناتجة عن روبوتات المحادثة يتعذر تتبعها أو التحقيق فيها
2. الباحثون يسمون الظاهرة الاختفاء الهيكلي للأضرار، لبقاء المحادثات داخل منصات شركات التكنولوجيا
3. توصيات بفتح سجلات المحادثات وتوسيع المسؤولية القانونية لتشمل الشركات المطورة

خبر:

أضرار صحية ناتجة عن نصائح طبية خاطئة تقدمها روبوتات المحادثة قد تمر دون اكتشاف، لغياب أنظمة مستقلة لمراقبة ما تقدمه هذه التطبيقات وآليات واضحة للإبلاغ عن الأخطاء. وحذر باحثون من أربع جامعات أميركية، في ورقة نُشرت بدورية Nature Health، من أن الخطر لا يقتصر على دقة الإجابات، بل يمتد إلى ما وصفوه بالاختفاء الهيكلي للأضرار.

تفصيل:

• الجهات المشاركة: أعد الورقة باحثون من جامعات ستانفورد وبينجهامتون وتكساس إيه آند إم وإنديانا، لدراسة مخاطر استخدام أنظمة الذكاء الاصطناعي التوليدي في تقديم المعلومات الصحية، سواء عبر المحادثات المباشرة أو الملخصات الآلية التي تظهر في محركات البحث ومنصات التواصل الاجتماعي.
• التشخيص الأساسي: بحسب الورقة، تبقى المحادثات التي قد تقود إلى قرارات صحية خطيرة داخل منصات شركات التكنولوجيا، بعيداً عن متناول الأطباء والباحثين والجهات التنظيمية. وهذا ما سماه الباحثون “الاختفاء الهيكلي للأضرار”، أي أن الضرر يقع دون أن يترك أثراً قابلاً للمراجعة.
• الحالة المرجعية: استشهد الباحثون بحالة رجل في الستين من عمره أُدخل المستشفى بتسمم البروميد، بعدما قال إنه استخدم شات جي بي تي للحصول على معلومات عن تقليل الكلوريد في غذائه، ثم استبدل ملح الطعام ببروميد الصوديوم لمدة 3 أشهر، فظهرت عليه أعراض عصبية ونفسية شملت الهلوسة والارتياب.
• حدود التحقيق: وفق الورقة، لم يتمكن الأطباء من الاطلاع على المحادثة الأصلية، ما حال دون تحديد المعلومات التي تلقاها المريض أو إعادة بناء التسلسل الذي قاده إلى القرار. وتعذر الجزم بما إذا كان التطبيق أوصى مباشرة بالمركب، أو أن المستخدم أساء تفسير ما تلقاه. وسبق توثيق الواقعة في تقرير طبي عام 2025.
• موقف المؤلف: قال كاي تشينج يانج، المؤلف المشارك والأستاذ المساعد في كلية الحوسبة بجامعة بينجهامتون، إن ملايين المستخدمين باتوا يتلقون معلومات طبية من روبوتات المحادثة دون رقابة كافية تسمح بتتبع الأخطاء أو قياس حجم الأضرار.
• الفجوة التوثيقية: أوضح يانج أن هذه النصائح لا تخضع لآليات التوثيق والمراجعة المعمول بها في المؤسسات الصحية، إذ لا تُسجل عادة ضمن الملفات الطبية، ولا تتوافر للباحثين المستقلين بيانات كافية لتقييم أثرها على القرارات العلاجية.
• التعرض غير المقصود: حذر الباحثون من أن التعرض للمعلومات المضللة لم يعد يقتصر على من يبحث عمداً عن استشارة طبية، بعدما صارت الملخصات المولدة بالذكاء الاصطناعي جزءاً من نتائج محركات البحث. وأضافوا أن انخفاض كلفة إنتاج محتوى صحي مخصص يتيح لجهات خبيثة استهداف فئات بعينها.
• التوصيات التنظيمية: أوصى الباحثون بإلزام الشركات بإتاحة السجل الكامل للمحادثات الصحية ليشاركها المستخدم مع طبيبه، وإنشاء أنظمة للإبلاغ عن النصائح الخطرة، وتحميل منصات التواصل مسؤولية وسم المحتوى الصحي ومراجعته، وقصر الملخصات الآلية في محركات البحث على معلومات خضعت للتحقق العلمي.
• البعد القانوني: دعا الباحثون صناع السياسات إلى دراسة توسيع قواعد المسؤولية المهنية عن الأخطاء الطبية لتشمل الشركات المطورة لروبوتات المحادثة عند تسبب معلوماتها في أضرار، بدل قصر المساءلة على مقدمي الخدمات الصحية التقليديين.
• حدود الدراسة: أكد الباحثون أن الورقة لا تقدم قياساً جديداً لمعدلات الأضرار الطبية الناجمة عن روبوتات المحادثة، بل تحليلاً للمخاطر والثغرات التنظيمية التي تعوق اكتشافها، مع مجموعة توصيات لمعالجتها.

خلفية:

يشير الباحثون إلى أن اكتشاف الأخطاء الطبية التقليدية يقوم على سجلات قابلة للمراجعة وشكاوى يمكن التحقيق فيها وبيانات تكشف الأنماط المتكررة، وهي العناصر الثلاثة الغائبة في تفاعلات المستخدمين مع روبوتات المحادثة.

بين السطور:

يرى الباحثون أن تحسين دقة الإجابات الطبية، رغم أهميته، لن يكفي وحده ما دامت الأخطاء الواقعة فعلاً تبقى غير مرئية. ورجّح يانج أن الاكتفاء بمبادرات طوعية من الشركات غير كافٍ، لأن أنظمة رقابية تكشف الأخطاء وتتبع الأضرار قد تتعارض مع حوافزها التجارية، وهو ما يفسر تركيز التوصيات على فتح السجلات وتوسيع المساءلة القانونية بدل الاكتفاء بضبط جودة النماذج.

ماذا بعد؟

المتابعة تتركز على استجابة شركات الذكاء الاصطناعي لمطلب إتاحة سجلات المحادثات الصحية، وعلى ما إذا كان صناع السياسات سيتحركون لتوسيع قواعد المسؤولية المهنية لتشمل الشركات المطورة.