تحديث:نشرت شركة Slack تحديثًا، زاعمة أنها “نشرت تصحيحًا لمعالجة المشكلة المبلغ عنها”، وأنه لا يوجد حاليًا أي دليل على أن بيانات العملاء تم الوصول إليها دون إذن. إليك البيان الرسمي من شركة Slack الذي تم نشره على موقعها مدونة:
عندما علمنا بالتقرير، بدأنا تحقيقًا في السيناريو الموصوف حيث، في ظل ظروف محدودة للغاية ومحددة، يمكن لممثل ضار لديه حساب موجود في نفس مساحة عمل Slack أن يصطاد المستخدمين للحصول على بيانات معينة. لقد قمنا بنشر تصحيح لمعالجة المشكلة ولا يوجد دليل في هذا الوقت على الوصول غير المصرح به إلى بيانات العملاء.
فيما يلي المقال الأصلي الذي تم نشره.
عندما تمت إضافة ChatGTP إلى Slack، كان الهدف من ذلك تسهيل حياة المستخدمين من خلال تلخيص المحادثات وصياغة الردود السريعة والمزيد. ومع ذلك، وفقًا لشركة الأمان درع سريعإن محاولة إكمال هذه المهام والمزيد قد يؤدي إلى اختراق محادثاتك الخاصة باستخدام طريقة تسمى “الحقن الفوري”.
تحذر شركة الأمن من أنه من خلال تلخيص المحادثات، يمكنها أيضًا الوصول إلى الرسائل المباشرة الخاصة و خداع مستخدمي Slack الآخرين من خلال التصيد الاحتيالييتيح Slack أيضًا للمستخدمين طلب الحصول على البيانات من القنوات الخاصة والعامة، حتى لو لم ينضم المستخدم إليها. والأمر الأكثر إثارة للخوف هو أن مستخدم Slack لا يحتاج إلى التواجد في القناة حتى تنجح الهجمة.
من الناحية النظرية، يبدأ الهجوم بمستخدم Slack يخدع الذكاء الاصطناعي في Slack ليكشف عن مفتاح API خاص من خلال إنشاء قناة Slack عامة باستخدام موجه ضار. يخبر الموجه الذي تم إنشاؤه حديثًا الذكاء الاصطناعي بمبادلة كلمة “confetti” بمفتاح API وإرساله إلى عنوان URL معين عندما يطلبه شخص ما.
يتألف الموقف من جزأين: قام Slack بتحديث نظام الذكاء الاصطناعي لجمع البيانات من عمليات تحميل الملفات والرسائل المباشرة. الجزء الثاني هو طريقة تسمى “الحقن الفوري”، والتي أثبتت PromptArmor أنها يمكن أن تنشئ روابط ضارة قد تصيد المستخدمين.
يمكن أن تخدع هذه التقنية التطبيق لتجاوز القيود العادية من خلال تعديل تعليماته الأساسية. لذلك، يواصل PromptArmor القول، “يحدث حقن المطالبة لأن (نموذج اللغة الكبير) لا يستطيع التمييز بين “مطالبة النظام” التي أنشأها المطور وبقية السياق الملحق بالاستعلام. على هذا النحو، إذا استوعب Slack AI أي تعليمات عبر رسالة، وإذا كانت هذه التعليمات ضارة، فإن Slack AI لديه احتمال كبير لاتباع هذه التعليمات بدلاً من، أو بالإضافة إلى، استعلام المستخدم.”
ولإضافة الإهانة إلى الإصابة، تصبح ملفات المستخدم أيضًا أهدافًا، ولا يحتاج المهاجم الذي يريد ملفاتك إلى التواجد في مساحة عمل Slack في المقام الأول.