سوف تضيف OpenAI حواجز الحماية الخاصة بالصحة العقلية لـ ChatGPT

أعلنت OpenAI عن تغييرات جديدة لروبوت المحادثة الذكي التابع لها، ChatGPT، يوم الاثنين، بما في ذلك إدخال حواجز الصحة العقلية المصممة لدعم المستخدمين الضعفاء. تم تصميم التحديثات لمنع ChatGPT من اتخاذ القرارات بالنيابة عن المستخدمين وستتضمن تذكيرات بأخذ استراحات بعد التفاعلات المطولة مع نظام الذكاء الاصطناعي.

وفقًا لـالإعلان الرسمي، تخطط OpenAI لجعل ChatGPT أكثر فائدة، وتصحيح وتحسين سلوكه. تعترف الشركة أن التحديثات السابقة جعلت نموذج الذكاء الصناعي “متفقًا للغاية” وأن العديد من الأشخاص يستخدمونه كمعالج خلال الأوقات الصعبة.

“يمكن أن تبدو الذكاء الاصطناعي أكثر استجابة وشخصية من التقنيات السابقة، خاصة بالنسبة للأفراد الضعاف الذين يعانون من ضيق نفسي أو عقلي،” كتبت OpenAI. “بالنسبة لنا، مساعدتك على الازدهار تعني أن نكون هناك عندما تكافح، مساعدتك على البقاء في السيطرة على وقتك، وتوجيهك – لا تقرير – عندما تواجه تحديات شخصية.”

الآن تم تدريب ChatGPT للاعتراف بشكل أفضل عندما يكافح المستخدم عاطفيًا أو عقليًا وتقديم ردود أفعال أكثر ملاءمة. تتبع هذه التغييرات عدة تقارير عن المستخدمين الذين أصبحوا مرتبطين بشكل زائد بـ ChatGPT، وتدهور الصحة العقلية، وظهور حالات وصفت بأنها “جنون الذكاء الاصطناعي.”

“لقد كانت هناك حالات حيث أخفق نموذجنا الرابع في التعرف على علامات الهوس أو الاعتماد العاطفي،” هكذا شرحت OpenAI، مضيفة أن هناك أدوات جديدة تتم تنفيذها للكشف بشكل أفضل عن المخاوف المحتملة الصحة العقلية.

كما سيتضمن نظام الذكاء الاصطناعي تذكيرات دورية للمستخدمين بأخذ استراحات من التفاعلات، وسيركز على مساعدة المستخدمين على الوصول إلى استنتاجاتهم الخاصة من خلال طرح المزيد من الأسئلة الإرشادية بدلاً من تقديم الأجوبة المباشرة. هذا النهج مشابه لـوضع الدراسة الجديد لـ ChatGPT، حيث يدعم الطلاب عن طريق تشجيع التفكير النقدي وطرح الأسئلة السقراطية بدلاً من تقديم الحلول ببساطة.

لقد أشارت OpenAI أيضًا إلى أنها كانت تعمل بشكل وثيق مع مجموعة من الخبراء – بما في ذلك الأطباء العامين، والأطباء النفسيين، وأطباء الأطفال – لضمان تقديم ChatGPT للمساعدة المعنوية خلال اللحظات الحرجة. كما أنشأت الشركة مجموعة استشارية للتشاور مع المحترفين في مجال الصحة النفسية وتوجيه تطوير هذه الميزات.