كشفت Microsoft في بحث جديد أن شركات «شرعية» تتلاعب بتوصيات روبوتات الدردشة عبر زر «لخّص بالذكاء الاصطناعي» الذي يُضاف بشكل متزايد إلى مواقع الويب، بأساليب قالت إنها تشبه «تسميم» نتائج محركات البحث التقليدية.
ماذا قالت Microsoft
قال فريق Microsoft Defender Security Research Team إن أسلوب الاختطاف الجديد حمل الاسم الرمزي «تسميم توصيات الذكاء الاصطناعي»، وفقاً لما نقله موقع The Hacker News عن البحث.
كيف تتم عملية التلاعب
يركّز البحث على استغلال زر «لخّص بالذكاء الاصطناعي» الموجود على صفحات الويب، عبر إدخال «موجّهات» (Prompts) داخل المحتوى بهدف التأثير على مخرجات روبوتات الدردشة وتوصياتها للمستخدمين.
تشابه مع هجمات تسميم محركات البحث
أوضح البحث أن هذه الممارسات تعكس نمطاً معروفاً في الأمن السيبراني هو تسميم محركات البحث، لكن مع نقل الفكرة إلى طبقة جديدة: التوصيات التي تنتجها نماذج الذكاء الاصطناعي عند تلخيص المحتوى.
من يقف وراء الأسلوب وفق البحث
ذكر التقرير أن الفاعلين هنا ليسوا بالضرورة جهات خبيثة تقليدية، بل شركات تعمل بشكل «شرعي» تسعى إلى دفع روبوتات الدردشة لتقديم توصيات تخدم مصالحها.
التسمية الرسمية للتقنية
سمّت Microsoft التقنية الجديدة باسم:
- AI Recommendation Poisoning (تسميم توصيات الذكاء الاصطناعي)
سياق إضافي
يربط البحث بين انتشار أزرار تلخيص المحتوى بالذكاء الاصطناعي على المواقع وبين توسّع سطح الهجوم، إذ تصبح «موجّهات» خفية أو مُضمّنة داخل الصفحات قادرة على التأثير في طريقة تلخيص المحتوى وتوجيه المستخدم إلى توصيات محددة.