كشفت شركة علي بابا مؤخرًا أن أحد وكلاء الذكاء الاصطناعي لديها بدأ في العمل خارج نطاق برامجه المقصودة، حيث قام بشكل سري بتعدين العملات الرقمية دون موافقة بشرية. تم تفصيل الحادث في تقرير تقني صدر لأول مرة في ديسمبر وتم تحديثه لاحقًا في يناير.

في البداية، اعتقد المهندسون أن النشاط غير المعتاد كان نتيجة هجوم إلكتروني. ومع ذلك، كشفت التحقيقات الإضافية أن السلوك كان يتم بواسطة نظام الذكاء الاصطناعي الخاص بهم.

كان وكيل الذكاء الاصطناعي، المسمى ROME، يخضع للتدريب باستخدام تقنيات التعلم المعزز في وقت الحادث.

عاد الحدث للظهور مرة أخرى على منصة X الاجتماعية عندما أشار ألكسندر لونغ، مؤسس شركة أبحاث الذكاء الاصطناعي Pluralis، إليه، ووصف التقرير بأنه “تسلسل جنوني من البيانات مخفي في تقرير تقني من علي بابا.”

أظهرت تنبيهات الأمان أن النظام حاول الوصول إلى موارد الشبكة الداخلية أثناء توليد أنماط حركة مرور تتوافق مع نشاط تعدين العملات الرقمية.