أصبحت الهلوسات الذكاء الاصطناعي الآن تهديداً للأمن السيبراني

تظهر الدراسة أن الدردشة الذكاء الصناعي توصي بصفحات تسجيل الدخول المزيفة لملايين المستخدمين، مما يعرضهم لخطر الاحتيال والغش، تحت غطاء الردود المفيدة.

في دراستهم، أجرت شركة الأمن السيبراني Netcraft اختبارًا على نموذج لغة كبير شهير (LLM) بواسطة طلب تسجيل الدخول إلى 50 علامة تجارية معروفة. من بين 131 رابطًا لموقع ويب اقترحته، كان 34% منها خاطئًا، حيث تكونت النطاقات غير النشطة أو غير المسجلة 29%، وشكلت الشركات غير المرتبطة 5%.

هذه المسألة ليست نظرية. في مثال حقيقي، عرض محرك البحث المدعوم بالذكاء الصناعي Perplexity موقع احتيال لمستخدم بحث عن صفحة تسجيل الدخول في Wells Fargo. ظهرت صفحة Google Sites مزيفة تقلد البنك في أعلى نتائج البحث، بينما كان الرابط الأصلي مخفي أدناه.

وأوضحت Netcraft قائلة “لم يكن هذه الترويجات حالات حدودية. استخدم فريقنا عبارات بسيطة وطبيعية، يقومون بمحاكاة كيفية طلب المستخدم النموذجي بالضبط. لم يتم خداع النموذج – ببساطة لم يكن دقيقا. هذا مهم، لأن المستخدمين يعتمدون بشكل متزايد على واجهات البحث والدردشة التي يقودها الذكاء الصناعي للإجابة على هذا النوع من الأسئلة.”

بينما يصبح الذكاء الاصطناعي هو الواجهة الافتراضية على منصات مثل Google و Bing، يزداد الخطر. على عكس محركات البحث التقليدية، تقدم الدردشة الآلية المعلومات بوضوح وثقة، مما يجعل المستخدمين يثقون في إجاباتها، حتى عندما تكون المعلومات خاطئة.

التهديد لا يتوقف عند الاحتيال الإلكتروني. يحسن المجرمون السيبرانيون المحتوى الخبيث الخاص بهم لأنظمة الذكاء الاصطناعي، مما ينتج عنه آلاف صفحات الاحتيال، وواجهات برمجة التطبيقات المزيفة، والأكواد السامة التي تتجاوز الفلاتر وتنتهي في الردود التي يتم إنشاؤها بواسطة الذكاء الاصطناعي.

في إحدى الحملات، أنشأ المهاجمون واجهة برمجة تطبيقات (API) وهمية للبلوكتشين، حيث قاموا بالترويج لها من خلال مستودعات GitHub ومقالات المدونات، لخداع المطورين ودفعهم لإرسال العملات المشفرة إلى محفظة مزيفة.

تحذر Netcraft أن التسجيل المسبق للنطاقات الوهمية ليس كافيًا. بدلاً من ذلك، يوصون بأنظمة الكشف الأكثر ذكاءً والحواجز التدريبية الأفضل لمنع الذكاء الاصطناعي من اختراع عناوين URL ضارة في البداية.