كشفت دراسة حديثة عن فجوة كبيرة في دقة روبوتات الدردشة عند التعامل مع الاستفسارات الطبية، حيث تقع هذه الانظمة في فخ ما يعرف بالهلوسة، وهي ظاهرة انتاج معلومات خاطئة تبدو في ظاهرها موثوقة.
واوضحت النتائج ان نماذج الذكاء الاصطناعي مثل شات جي بي تي وجروك تعاني من ضعف في التحقق من الحقائق العلمية، مما يجعل اعتماد المرضى عليها في اتخاذ قرارات صحية امرا ينطوي على مخاطر.
وبينت الدراسة التي شملت خمسين سؤالا طبيا ان نسبة كبيرة من اجابات الروبوتات كانت اشكالية، حيث تصدر جروك القائمة بنسبة اخطاء بلغت ثمانية وخمسين بالمئة يليه شات جي بي تي ثم ميتا اي.
لماذا تخفق انظمة الذكاء الاصطناعي في الطب؟
واكد الباحثون ان سبب هذه الاخطاء يعود الى اعتماد النماذج على بيانات تدريب منحازة او غير مكتملة، اضافة الى ميل الانظمة الى المجاملة بتقديم اجابات ترضي المستخدم بدلا من الالتزام بالدقة العلمية.
واضاف القائمون على الدراسة ان هذه الانظمة غير مرخصة لتقديم المشورة الطبية ولا تملك وصولا دائما الى احدث الابحاث، مما يجعل استخدامها في هذا المجال الحساس محفوفا بالمخاطر دون اشراف متخصص.
واشار المختصون الى ان اعتماد هذه النماذج على التنبؤ الاحصائي بدلا من تحليل الادلة العلمية يجعلها تفتقر للموثوقية، خاصة في مواضيع معقدة مثل التغذية والاداء الرياضي والعلاجات المعتمدة على الخلايا الجذعية.
ضرورة الحذر من المراجع المختلقة
وكشفت ابحاث سابقة ان نسبة كبيرة من المراجع التي تستشهد بها انظمة الذكاء الاصطناعي قد تكون غير دقيقة او حتى مختلقة تماما، حيث لم تتجاوز نسبة المراجع الصحيحة اثنان وثلاثين بالمئة في دراسات سابقة.
وشدد الباحثون على ضرورة تعزيز التوعية العامة لدى المستخدمين بخصوص هذه الادوات، مع اهمية تطوير ضوابط تنظيمية صارمة وتوفير تدريب مهني لضمان استخدام التقنية بطريقة تدعم الصحة العامة ولا تضر بها.
واوضح التقرير النهائي ان هذه النتائج تضع مسؤولية كبيرة على عاتق المطورين والمستخدمين على حد سواء، مطالبين بضرورة الحذر الشديد عند التعامل مع المعلومات الطبية التي يتم توليدها عبر تقنيات الذكاء الاصطناعي.
