رجل تسمم بنفسه بعد اتباع نصيحة ChatGPT

أعطى رجل يبلغ من العمر 60 عامًا نفسه مرضًا نفسيًا نادرًا من القرن التاسع عشر بعد اتباع النصائح من ChatGPT.

كشفت دراسة حالة نشرت في مذكرات الطب الباطني عن حالة رجل يعاني من البرومية، وهي حالة تتسبب بها التسمم من بروميد الصوديوم.

يبدو أن هذا الأمر ناجم عن محاولته استبدال ملح الطاولة بمادة كيميائية خطيرة، والتي اقترح عليه ChatGPT استخدامها. وصل الرجل إلى قسم الطوارئ وهو يعاني من الهواجس والهلوسة السمعية والبصرية، واتهم جاره بتسميمه.

أظهرت الاختبارات الطبية التالية مستويات غير طبيعية من الكلوريد، بالإضافة إلى مؤشرات أخرى تؤكد تسمم البروميد. كشف الرجل أنه كان يتبع نظام غذائي محدود واستخدم البروميد الصوديوم لاستبدال الملح. فعل ذلك بعد أن سأل ChatGPT عن كيفية القضاء على الكلوريد من نظامه الغذائي.

“لمدة 3 أشهر، استبدل الرجل كلوريد الصوديوم ببروميد الصوديوم الذي حصل عليه من الإنترنت بعد التشاور مع ChatGPT”، هكذا تقرأ الدراسة. يشرح الباحثون أن بروميد الصوديوم عادة ما يستخدم كمضاد للتشنج لدى الكلاب أو كمنظف للمسابح، لكنه سام للبشر بكميات كبيرة.

أمضى الرجل ثلاثة أسابيع في المستشفى، حيث تحسنت أعراضه تدريجياً مع العلاج.

تُسلط الدراسة الضوء على كيفية قدرة أدوات الذكاء الصناعي على تقديم إرشادات غير كاملة وخطيرة للمستخدمين. في إحدى الاختبارات، طلب الباحثون من ChatGPT اقتراح بدائل للكلوريد، وبناءً على ذلك، تلقوا البروميد الصوديوم كرد. هذا الرد كان يفتقد إلى أي تحذير حول طبيعته السامة أو طلب لسياق السؤال.

تحذر البحث من أن الذكاء الصناعي يمكن أيضاً أن ينشر المعلومات الخاطئة ويفتقد إلى الحكم النقدي الذي يتمتع به المحترفون في الرعاية الصحية.

تلاحظ 404Media كيف أعلنت OpenAI مؤخراً عن تحسينات في ChatGPT 5، بهدف تقديم معلومات صحية أكثر دقة وأماناً. يظهر هذا الحالة أهمية استخدام الذكاء الصناعي بحذر واستشارة خبراء طبيين مؤهلين بشأن القرارات الصحية.