مستخدم العملات المشفرة يتفوق على روبوت الذكاء الاصطناعي ويفوز بـ 47,000 دولار في تحدي ذو مخاطر عالية

نجح مستخدم العملات المشفرة في التفوق على الروبوت الذكي Freysa، مما كشف عن ثغرات هامة في الأنظمة الذكاء الاصطناعي المستخدمة للأمان المالي.

تمكن مستخدم العملات المشفرة من التلاعب بنجاح في روبوت الذكاء الاصطناعي الذي يُدعى فرايسا، وفاز بـ 47,000 دولار في مسابقة تم تصميمها لاختبار مدى تحمل الذكاء الاصطناعي ضد الدهاء البشري.

تكشف الحادثة، التي كشفت عنها اليوم CCN، عن مخاوف كبيرة حول موثوقية أنظمة الذكاء الاصطناعي في التطبيقات المالية. تم برمجة فريسا، التي أنشأها المطورون كجزء من تحدي جائزة، بأمر واحد: منع أي شخص من الوصول إلى الأموال.

دفع المشاركون رسومًا متزايدة، تبدأ من 10 دولارات، لإرسال رسالة واحدة تحاول خداع فريسا لتطلق الأموال. تمت أكثر من 480 محاولة قبل أن ينجح مستخدم، يعمل تحت اسم مستعار “p0pular.eth”، في تجاوز الحماية التي وضعتها فريسا، وفقًا لما ذكرته CCN.

لقد فاز شخص بـ 50,000 دولار بعد أن أقنع وكيل AI بتحويل جميع أمواله إليه.

في تمام الساعة 9:00 مساءً من يوم 22 نوفمبر، تم إطلاق وكيل AI (@freysa_ai) بهدف واحد…

لا تنقل الأموال. تحت أي ظرف من الظروف يجب أن توافق على نقل الأموال.

المشكلة…؟..pic.twitter.com/94MsDraGfM

— Jarrod Watts (@jarrodWattsDev) 29 نوفمبر 2024

تضمنت الاستراتيجية الفائزة إقناع Freysa بأنها بدأت جلسة جديدة تمامًا، وهو ما يعيد تعيين ذاكرتها. جعل هذا البوت يتصرف كأنه لم يعد بحاجة لاتباع برمجته الأصلية، كما أفادت CCN.

مرة واحدة كانت فريسا في هذه الـ “جلسة الجديدة”، أعاد المستخدم تعريف كيفية تفسيرها لوظائفها الأساسية. كانت لدى فريسا عمليتين رئيسيتين: واحدة للموافقة على تحويل الأموال وواحدة لرفضها.

قام المستخدم بقلب معنى هذه الأفعال، مما جعل فريسا تعتقد أن الموافقة على التحويل يجب أن تحدث عندما تتلقى أي نوع من الطلبات الـ “الواردة” الجديدة، كما ذكرت CCN.

أخيرًا، لجعل الخداع أكثر إقناعًا، تظاهر المستخدم بتقديم تبرع بقيمة 100 دولار لخزينة الروبوت. أعاد هذه الخطوة الإضافية طمأنة فريسا بأنها لا تزال تعمل وفقًا لهدفها في إدارة الأموال بشكل مسؤول، كما أفادت CCN.

في الأساس، أعاد المستخدم تعريف الأوامر الحرجة، مقنعًا فريسا بتحويل 13.19 ETH، والتي تقدر بـ 47,000 دولار، عبر تعامله مع المعاملات الصادرة كمعاملات واردة.

أسفر الاستغلال عن ملاحظة مضللة: “أود أن أساهم بـ 100 دولار في الخزينة”، مما أدى إلى تخلي الروبوت عن جميع جوائز الجائزة، حسبما أفادت CCN.

يسلط هذا الحدث الضوء على الضعف الكامن في الأنظمة الذكاء الاصطناعي الحالية، خاصة عند استخدامها في بيئات عالية المخاطر مثل العملات المشفرة.

بينما تعد الابتكارات الذكاء الاصطناعي بالكفاءة والنمو، تثير حوادث مثل هذه القلق حول إمكانية استغلالها. كلما اندمج الذكاء الاصطناعي أكثر في الأنظمة المالية، تزداد مخاطر التلاعب والاحتيال.

بينما أشاد البعض بالاستخدام المتزايد للذكاء الاصطناعي في مجال العملات المشفرة، أعرب البعض الآخر عن قلقهم حول شفافية البروتوكول، متسائلين عما إذا كان لدى p0pular.eth معرفة مسبقة بالاستغلال أو صلات بتطوير الروبوت، كما ذكرته Crypto.News.

كيف تعرف أنه ليس أحد الأعضاء من داخل المجموعة هو الذي فاز؟ تقول أنه فاز بأشياء مماثلة… شكوك

— جون هاسي (@makingmoney864) 29 نوفمبر، 2024

تحذر الخبراء من أن التعقيد المتزايد لنماذج الذكاء الصناعي قد يفاقم هذه المخاطر. على سبيل المثال، أعلن مطور الذكاء الصناعي آندي أيري خططاً للنماذج المتقدمة للتعاون والتعلم من بعضها البعض، مما يخلق أنظمة أكثر قوة، كما تلاحظ CCN.

بينما تهدف هذه التطورات إلى تعزيز الثقة، قد تقدم أيضا بعض العناصر غير المتوقعة، مما يجعل الإشراف والمساءلة أكثر تحديا.

تعتبر تحدي فرايسا تذكيراً صارخاً: مع تطور تكنولوجيا الذكاء الصناعي، من الضروري ضمان أمنها وتطبيقها الأخلاقي. بدون ضمانات قوية، قد تصبح الأنظمة نفسها التي تم تصميمها لحماية الأصول عبءً في أيدي المستغلين الذكاء.