تأخير OpenAI لنظام العلامات المائية ChatGPT بسبب الخلافات الداخلية

وفقًا لـ صحيفة وول ستريت جورنال، يجري النقاش في OpenAI حول ما إذا كان سيتم إصدار نظام للعلامات المائية مصمم لكشف النصوص التي تم إنشاؤها بواسطة نظام الذكاء الصناعي الخاص بهم، ChatGPT. ورغم أن هذه التقنية جاهزة منذ حوالي عام، فإن الخلافات الداخلية أدت إلى تأخير إطلاقها.

في منشورهم المحدث مؤخرًا، توضح OpenAI أن طريقة العلامات المائية الخاصة بهم للنصوص دقيقة ضد التلاعب المحلي. ومع ذلك، فإنها تعرض للتلاعب العالمي. ويشمل ذلك الطرق مثل استخدام أنظمة الترجمة، أو إعادة صياغة النص باستخدام نموذج توليد آخر، أو إدراج ومن ثم إزالة حرف خاص بين كل كلمة.

تعتبر قضية أخرى رئيسية تثير قلق OpenAI هو أن أبحاثهم تشير إلى أن طريقة الوضع النصي قد تؤثر على بعض المجموعات أكثر من غيرها. على سبيل المثال، قد يؤدي ذلك إلى تشويه سمعة استخدام الذكاء الاصطناعي كأداة للكتابة لغير الناطقين بالإنجليزية بطلاقة.

قد أولت OpenAI الأولوية لإطلاق حلول أصل المحتوى السمعي البصري بسبب مستويات الخطر العالية المرتبطة بالنماذج الحالية للذكاء الاصطناعي، خاصة خلال سنة الانتخابات الأمريكية، كما ذكرت صحيفة وول ستريت جورنال. وقد أجرت الشركة بحثًا شاملًا حول أصل النص، واستكشفت حلولًا مثل المصنفات، والعلامات المائية، والبيانات الوصفية.

أخبر المتحدث باسم OpenAI TechCrunch، “الأسلوب الذي نعمل على تطويره لوضع علامات مائية على النصوص يبدو واعداً تقنياً، لكنه يحمل مخاطر هامة نقوم بدراستها بينما نبحث عن بدائل، بما في ذلك القابلية للتجاوز من قبل الأشخاص السيئين والقدرة على التأثير بشكل غير متناسب على مجموعات مثل الذين لا يتحدثون الإنجليزية.”

كما أفادت TechCrunch أن علامات OpenAI المائية على النصوص ستستهدف خصيصا النصوص التي تم إنشاؤها بواسطة ChatGPT، بدلاً من المحتوى الناتج عن نماذج أخرى. يتضمن ذلك إجراء تعديلات خفية في كيفية اختيار ChatGPT للكلمات، مما يخلق علامة مائية غير مرئية يمكن اكتشافها بواسطة أداة منفصلة.

أفادت استطلاع للشركة، نقلته صحيفة وول ستريت جورنال، بأن ما يقرب من ثلث مستخدمي ChatGPT المخلصين سيشعرون بالاحباط بسبب تكنولوجيا مكافحة الغش. هذا يضع OpenAI في موقف صعب. يتناقض الموظفون بين الحفاظ على الشفافية ورغبتهم في جذب والاحتفاظ بالمستخدمين.

في مدونة OpenAI، يؤكدون أنه مع استمرار توسع حجم النصوص المولدة، يصبح أهمية طرق المصدر الموثوق للمحتوى النصي أكثر أهمية بشكل متزايد.