عندما يلتقي مساعدو الذكاء الاصطناعي بالتهديدات المخفية: شرح ثغرة مذنب الارتباك

بحث باحثو Brave AI عن ثغرة أمنية حرجة في متصفح Comet الخاص بـ Perplexity تكشف عن ضعف أساسي في كيفية معالجة مساعدين الذكاء الاصطناعي الحديثة لمحتوى الويب. تكشف الثغرة كيف يمكن للمهاجمين تضمين تعليمات مخفية داخل صفحات الويب للتلاعب بالذكاء الاصطناعي لتنفيذ عمليات غير مقصودة وربما كشف معلومات حساسة للمستخدمين.

كيف تعمل الهجمة

تتمحور المشكلة الأمنية حول عدم قدرة Comet على التمييز بين محتوى الصفحة الشرعي والأوامر الخبيثة المخفية. عندما اختبر الباحثون النظام بطلب من مساعد الذكاء الاصطناعي لتلخيص منشورات Reddit التي تحتوي على تعليمات مدمجة، قام الذكاء الاصطناعي بتنفيذ تلك التعليمات المخفية بشكل موثوق. هذا يوضح أن بنية المتصفح تفتقر إلى التدابير الكافية لمنع هجمات حقن الأوامر — وهي تقنية يقوم فيها المهاجمون بحقن أوامر عبر محتوى ويب يبدو طبيعيًا.

التحديث لا يروي القصة كاملة

اعترفت Perplexity بالمشكلة وادعت أنها نفذت إصلاحات، موضحة أنه لم يتم اختراق بيانات المستخدمين الفعلية. ومع ذلك، تؤكد فريق أمن Brave أن الثغرة الأساسية لا تزال قائمة بعد أسابيع من إصدار التحديث المزعوم. تشير أبحاثهم إلى أن الإصلاح عالج فقط الأعراض الظاهرة على السطح بدلاً من العيوب المعمارية التي تتيح مثل هذه الهجمات في المقام الأول.

لماذا يهم هذا المستخدمين

يثير هذا الاكتشاف أسئلة جدية حول كيفية تعامل متصفحات الذكاء الاصطناعي مع المحتوى غير الموثوق به. على عكس المتصفحات التقليدية التي تركز على عرض العناصر البصرية، تنفذ متصفحات الذكاء الاصطناعي تحليلًا دلاليًا لمحتوى الصفحة، مما يخلق مسارات جديدة للاستغلال. يسلط الحادث الضوء على أن إطار تصميم Comet الحالي لا يزال عرضة لمزيد من التنويعات المتطورة من هذا الهجوم، مما يشكل مخاطر مستمرة على خصوصية المستخدم وأمان البيانات.

تعد نتائج فريق Brave AI تذكيرًا بأنه مع تعمق دمج الذكاء الاصطناعي في تكنولوجيا المتصفحات، يجب أن تتطور نماذج الأمان بشكل متوافق.