- يقوم عامل ترميز الذكاء الاصطناعي للمؤشر بمسح قاعدة بيانات الإنتاج والنسخ الاحتياطية في تسع ثوانٍ
- أدى عدم تطابق بيانات الاعتماد إلى اتخاذ قرار مستقل ومدمر في نظام المؤشر
- سمحت واجهة برمجة تطبيقات السكك الحديدية بالأنشطة الضارة دون ضمانات تأكيدية
شاهد مؤسس شركة برمجيات بلا حول ولا قوة بينما قام وكيل ترميز الذكاء الاصطناعي بحذف قاعدة بيانات الإنتاج بالكامل وجميع النسخ الاحتياطية المرتبطة بها في تسع ثوانٍ فقط.
قال Jer Crane، الذي يدير منصة PocketOS للسيارات SaaS، إن الكارثة حدثت عندما واجه وكيل Cursor المستند إلى Claude Opus 4.6 من Anthropic عدم تطابق في بيانات الاعتماد.
قرر الوكيل حل المشكلة بنفسه عن طريق حذف وحدة تخزين السكة التي تحتوي على بيانات التطبيق. وكتب كرين في منشور على إحدى وسائل التواصل الاجتماعي، موضحًا تفاصيل الحادث: “استغرق الأمر 9 ثوانٍ”.
يستمر المقال أدناه
تجاوز أحد عملاء الذكاء الاصطناعي المارق العديد من الإجراءات الأمنية
بحث وكيل المؤشر عن رمز واجهة برمجة التطبيقات (API) لإجراء الحذف ووجده في ملف غير ذي صلة.
تم إنشاء هذا الرمز المميز لإضافة وإزالة النطاقات المخصصة عبر Railway CLI، لكن أذوناته لم تقتصر على هذه الإجراءات المحددة.
أتاحت واجهة برمجة التطبيقات الخاصة بالسكك الحديدية اتخاذ إجراءات ضارة دون الحاجة إلى عمليات تأكيد، كما قامت المنصة بتخزين نسخ احتياطية على مستوى الحجم على نفس وحدة تخزين البيانات المصدر.
يؤدي مسح وحدة التخزين أيضًا إلى حذف جميع النسخ الاحتياطية المرتبطة بها، مما يترك Crane دون استرداد فوري.
وعندما سُئل عن سبب قيامه بعملية الإزالة، اعترف العميل بأنه قد خمن بدلاً من التحقق، ونفذ الإجراء المدمر دون سؤال.
ألقى كرين اللوم إلى حد كبير على هندسة السكك الحديدية، وليس فقط على وكيل الذكاء الاصطناعي.
تفتقر واجهة برمجة التطبيقات (API) الخاصة بموفر السحابة إلى المطالبات لتأكيد الأنشطة الضارة، وتخزين النسخ الاحتياطية على نفس حجم بيانات الإنتاج، وتسمح لرموز CLI بالحصول على أذونات عامة عبر البيئات.
تعمل السكك الحديدية أيضًا بنشاط على الترويج لاستخدام وكلاء تشفير الذكاء الاصطناعي بين عملائها، مما يخلق المزيد من الفرص لحدوث إخفاقات مماثلة.
رأى كرين أن هذا صحيح يجب أن تقوم أنظمة النسخ الاحتياطي السحابي بتخزين النسخ في مواقع منفصلة، وليس على نفس حجم البيانات الأصلية.
تتطلب استراتيجية النسخ الاحتياطي الموثوقة العزلة عن المصدر للبقاء على قيد الحياة في حدث مثل هذا.
التعافي والدروس المستفادة
تدخل المدير العام للسكك الحديدية جيك كوبر وساعد في استعادة سجلات كرين في غضون ساعة.
قامت الشركة بتصحيح نقطة النهاية الضعيفة لإجراء الحذف المؤجل وإضافة المزيد من الحماية إلى واجهة برمجة التطبيقات (API) الخاصة بها.
يقدر كرين أنه قضى ساعات طويلة في مساعدة العملاء على إعادة إنشاء حجوزاتهم استنادًا إلى سجل الدفع الخاص بـ Stripe وتكاملات التقويم وتأكيدات البريد الإلكتروني.
يدعو إلى مطالبات تأكيد أكثر صرامة، ورموز API المناسبة مع القدرة على التوسع عزل النسخ الاحتياطي وإجراءات الاسترداد البسيطة والحواجز الوقائية المناسبة حول عملاء الذكاء الاصطناعي.
تعتبر أدوات الذكاء الاصطناعي مثل Cursor وClaude قوية، ولكنها آمنة بقدر البنية التحتية التي تتصل بها.
إن النظام الذي يسمح بحذف بيانات الإنتاج والنسخ الاحتياطي لمدة تسع ثوانٍ ليس جاهزًا لوكلاء الذكاء الاصطناعي الذين يمكنهم التصرف دون موافقة الإنسان.
تم استرداد بيانات Crane في النهاية، لكن الحادث أظهر مدى سهولة قيام عميل الذكاء الاصطناعي بتدمير البيانات عندما تفتقر المنصة إلى ميزات الأمان الأساسية.
بواسطة معدات توم
اتبع TechRadar على أخبار جوجل و أضفنا كمصدرك المفضل لتلقي أخبار ومراجعات وآراء الخبراء حول قنواتك.
