حذرت مجلة طبية أميركية من استخدام أداة “شات جي بي تي” للحصول على المعلومات الصحية عقب إصابة رجل بمرض نادر بعد استخدامه نصائح الأداة الطبية، وفق تقرير نشرته صحيفة غارديان البريطانية.
وتشير المجلة إلى أن “شات جي بي تي” نصح الرجل البالغ من العمر 60 عاما بإزالة الملح تماما من حميته الغذائية اليومية واستبداله بالبروميد، وهو ما تسبب في إصابته بتسمم البروميد الذي كان منتشرا في مطلع القرن العشرين بشكل واسع.
ويعود السبب في إصابة الرجل بهذا المرض النادر هو إزالته كلوريد الصوديوم أو ملح الطعام من حميته الغذائية اليومية واستبداله بمركب بروميد الصوديوم لمدة 3 أشهر، وذلك بعد أن أقر “شات جي بي تي” أن بروميد الصوديوم يمكن استخدامه بدلا من ملح الطعام المعتاد إلى جانب عدد من الاستخدامات الأخرى.
وتوضح المجلة أنها لم تستطع الوصول إلى سجل محادثات الرجل مع “شات جي بي تي” لذلك لم يكونوا قادرين على الوصول إلى النصيحة الحقيقية التي قدمها النموذج للرجل، وتؤكد هذه الحادثة مخاطر استخدام الذكاء الاصطناعي للحصول على المعلومات الطبية.
وعندما حاول محرر المجلة تكرار التجربة وقياس النتيجة النهائية، فوجئ بأن “شات جي بي تي” نصحه باستخدام البروميد كبديل للكلوريد كملح للطعام من دون تقديم أي تحذير طبي مصاحب لاستخدام البروميد.
ويذكر أن هذا التقرير نشر قبل طرح نموذج “شات جي بي تي 5″، لذلك يرجح أن المستخدم اعتمد على نسخة سابقة للأداة قبل التحديثات الصحية للنموذج التي تحذر المستخدمين من هذه المعلومات.
ووضحت “أوبن إيه آي” أن مثل هذه المحادثة إذا جرت مع “شات جي بي تي 5” فإن المستخدم يستقبل تحذيرا عن جودة المعلومات الصحية الواردة من النموذج.
ودفعت الحادثة المجلة إلى توجيه الأطباء لفحص مصادر المعلومات التي يأتي بها المرضى خاصة إن كانت تعتمد على الذكاء الاصطناعي بشكل رئيسي كمصدر للمعلومات.