يقوم NanoClaw وJFrog بتشغيل “جهاز مناعي” لمنع عملاء الذكاء الاصطناعي من تنزيل تعليمات برمجية ضارة

يتعاون منشئو الإصدار NanoClaw المشهور والصديق للمؤسسات والمفتوح المصدر OpenClaw مع الشركة الرائدة في إدارة سلسلة توريد البرامج جفروج يجب عليهم إطلاق تكامل أمني مشترك جديد يعتقدون أنه سيحمي عملاء NanoClaw المستقلين من حقن التعليمات البرمجية الضارة.

وقال جال ماردر، كبير مسؤولي الإستراتيجية في JFrog، في مقابلة حصرية مع VentureBeat: “هؤلاء العملاء يقومون بأشياء ليس لديك بالضرورة سيطرة عليها ولا يمكنك تدريبها”.

الشراكة متاحة على الفور، وتربط عملاء NanoClaw مباشرةً بسجلات برامج JFrog التي تم التحقق من صحتها، مما يضمن أن مساعدي الذكاء الاصطناعي يمكنهم فقط تنزيل التبعيات الممسوحة ضوئيًا والآمنة.

يعالج هذا الإصدار الضعف المتزايد بسرعة في التكنولوجيا: غالبًا ما يقوم الوكلاء المستقلون بتثبيت الحزم في الخلفية لتوسيع قدراتهم، غالبًا دون معرفة أو إشراف المشغلين البشريين.

أوضح جافرييل كوهين، مؤسس NanoClaw والرئيس التنفيذي والمؤسس المشارك لشركته الناشئة الجديدة للخدمات التجارية NanoCo AI، أن “الأشخاص الذين يديرون الوكلاء ليسوا بالضرورة مبرمجين ولا يدركون حتى العواقب”.

لتأمين النظام البيئي الأوسع، يتوفر التكامل مجانًا تمامًا لمجتمع مفتوح المصدر، ويمكن لمؤسسات المؤسسات توجيه وكلائها بسلاسة عبر بيئات JFrog الحالية والمرخصة تجاريًا.

تأتي القدرات التقنية الجديدة المتاحة من خلال هذه الشراكة في أعقاب جهود NanoCo لإضافة مربعات حوار أذونات التطبيق حيث تكون متاحة من خلال شراكتها مع Vercel، وشراكة جديدة مع Docker لتمكين وكلاء NanoClaw من العمل بشكل أكثر أمانًا، معزولين عن بيئات البرامج الأخرى مباشرة داخل حاويات Docker الافتراضية.

مخاطر وكلاء الذكاء الاصطناعي الشخصي الحاليين

عندما يتفاعل المشغل مع نظام مستقل مثل NanoClaw من NanoCo، فإنه يتواصل على مستوى عالٍ من التجريد.

يمكن للمستخدم ببساطة إرسال ملف صوتي أو ملاحظة صوتية، مما يدفع الوكيل إلى معرفة كيفية معالجته بنفسه.

وكما أوضح كوهين، يفكر الوكيل: “أوه، أنا لا أفهم المذكرات الصوتية، لذا اسمح لي بأخذ الحزمة وتنزيل شيء ما وتثبيته وتكوينه وتشغيله”.

هذا التحسين الذاتي الديناميكي يجعل وكلاء الذكاء الاصطناعي فعالين للغاية، ولكنه يجعلهم أيضًا عرضة بشدة لهجمات سلسلة توريد البرامج.

تعمل الجهات الفاعلة السيئة بشكل متزايد على تسميم السجلات مفتوحة المصدر بحزم ضارة. ولأن الوكلاء يتصرفون بشكل مستقل للحصول على ما يحتاجون إليه، فإنهم يتجاوزون السيطرة البشرية.

المشغلون، الذين قد لا يكونون حتى مطورين، غير مدركين إلى حد كبير للآثار الأمنية التي تحدث خلف الكواليس.

كيف تعمل NanoCo وJFrog على منع العملاء من تشغيل تعليمات برمجية ضارة

يعمل تكامل NanoCo وJFrog بمثابة نظام مناعة آلي لبيئات الذكاء الاصطناعي هذه.

تحت الغطاء، تم الآن تكوين وكلاء NanoClaw لتوجيه طلباتهم لحزم البرامج وأدوات CLI وخوادم بروتوكول السياق النموذجي (MCP) حصريًا من خلال سجلات JFrog.

إذا حاول أحد الوكلاء تنزيل مكتبة مخترقة – على سبيل المثال، نسخة ضعيفة من حزمة Axios الشهيرة – فإن سجل JFrog يعترض الطلب.

يقوم بحظر التثبيت عن طريق إرجاع خطأ في سياسة الأمان إلى الوكيل، مع ملاحظة أن الطلب “تم رفضه من قبل سجل JFrog مع سياسة الأمان 403.”

والأهم من ذلك، أن النظام يفعل أكثر من مجرد منع التهديد؛ يخلق حلقة تصحيح ديناميكية. يتم إخطار الوكيل بالثغرة الأمنية ويتم توجيهه بدلاً من ذلك للبحث تلقائيًا عن إصدار معتمد وغير ضار من الحزمة المطلوبة وتثبيته.

بالنسبة للمؤسسات الكبيرة، يحل هذا التكامل مشكلة امتثال ضخمة. ويشير ماردر إلى أن المؤسسات التي تنشر وكلاء مستقلين تتطلب رؤية كاملة.

تحتاج المنظمات إلى “نظام تسجيل، نحتاج إلى مكان يمكننا من خلاله تتبع الوكلاء الذين يدعمهم من، وهم يستهلكون الحزم، ويستخدمون ما هي المهارات، ويستخدمون ما هي برامج MCPs،” كما قال لـ VentureBeat.

إلى جانب الشفافية، يوفر التكامل مع JFrog “طبقة ثقة” أساسية وإدارة صارمة لما يمكن لهذه الأنظمة الآلية الوصول إليه.

الترخيص والتوافر

في مجال توزيع البرمجيات، تحدد معلمات الترخيص والوصول الاعتماد. تستخدم شراكة NanoCo وJFrog نهجًا ذا شقين لخدمة كل من مطوري البرامج مفتوحة المصدر الأفراد والمؤسسات الخاضعة للتنظيم العالي.

التكامل مجاني تمامًا لمجتمع المصادر المفتوحة. يوفر JFrog لمستخدمي NanoClaw مفتوح المصدر إمكانية الوصول المجاني إلى مصادر آمنة ومدققة من القطع الأثرية والأدوات والمهارات.

يتيح ذلك للمطورين الأفراد تشغيل وكلاء مستقلين محليًا، دون الاضطرار إلى التورط في الطلبات اليدوية لارتكاب كل التبعيات. علاوة على ذلك، عندما يقوم أعضاء المجتمع بإنشاء “مهارات” جديدة ومشاركتها مع الوكلاء، يتم إرسال هذه الإدخالات إلى السجل، ويتم فحصها بحثًا عن أي تعليمات برمجية ضارة، ثم يتم حذفها قبل أن يتمكن أي شخص آخر من استخدامها.

تعمل هذه البنية التحتية بشكل مباشر على تحييد التهديد الذي تشكله مستودعات المجتمع المسمومة.

بالنسبة لعمليات النشر المؤسسية، تتكامل البنية بسلاسة مع البيئة التجارية الحالية للمؤسسة. بدلاً من استخدام سجل عام مفتوح المصدر، يقوم مستخدمو المؤسسات بتوجيه وكلاء NanoClaw إلى السجلات الداخلية الخاصة بـ JFrog.

ويضمن ذلك أن جميع أنشطة الوكيل متوافقة مع التراخيص التجارية المحددة للشركة وسياسات الأمان الداخلي واحتياجات الرؤية ومعايير الحوكمة.

ومع استمرار الذكاء الاصطناعي في طمس الخط الفاصل بين النية البشرية وتنفيذ الآلة، يجب أن تتطور البنية التحتية التي تمكن هذا التنفيذ. تعترف هذه الشراكة بحقيقة أساسية: لا يمكن تدريب الذكاء الاصطناعي على التعرف بشكل كامل على كل ثغرة أمنية في يوم الصفر؛ بدلاً من ذلك، تحتاج إلى بناء بيئة في المقام الأول حيث لا يستطيع الوكيل ببساطة الوصول إلى الفجوة.