في الذكاء الاصطناعي ، غالبا ما تكون البيانات التي تتم معالجتها في الذاكرة هي الأكثر عرضة للخطر. فيما يلي نظرة عامة على كيفية قيام الحوسبة السرية @nvidia بتأمين البيانات المستخدمة لضمان بقاء مجموعات البيانات الحساسة وأوزان النماذج والتعليمات البرمجية محمية أثناء التدريب والاستدلال. هذا أمر بالغ الأهمية في البيئات التي تعتمد على انعدام الثقة أو المنظمة أو متعددة المستأجرين. 🧵👇

2/6: على عكس الأساليب البرمجية فقط ، تنفذ NVIDIA الأمان في طبقة الأجهزة في وحدات معالجة الرسومات الخاصة بها. وهذا يعني أن التشفير والعزل والتصديق مدمج في السيليكون ، مما يقلل من مخاطر التعرض حتى إذا تم اختراق برنامج النظام.

3/6: إنه يعمل عن طريق تشفير البيانات في ذاكرة GPU ويمكن أن يظل آمنا أثناء التنقل عبر توصيلات NVLink من خلال إدخال / إخراج TEE بسرعات شبه أصلية. هذا يمنع الوصول غير المصرح به من العمليات الأخرى أو النظام المضيف أو الجهات الفاعلة الضارة التي لديها وصول مادي أو على مستوى البرامج.

4/6: يتم تحقيق العزل من خلال إمكانات التقسيم على مستوى الأجهزة من NVIDIA ، ولا سيما تقنية GPU متعدد مثيل (MIG). يسمح MIG بتقسيم وحدة معالجة رسومات فعلية واحدة إلى عدة مثيلات معزولة تماما ، ولكل منها موارد الحوسبة والذاكرة وذاكرة التخزين المؤقت المخصصة لها. في وضع الحوسبة السرية، تعمل هذه المثيلات كجيوب آمنة، مما يضمن أن أحمال العمل التي تعمل على مثيل واحد لا يمكن أن تقرأ أو تتداخل مع تلك الموجودة على مثيل آخر. يعد هذا المستوى من العزل أمرا بالغ الأهمية للبيئات متعددة المستأجرين، مثل عمليات النشر السحابية، حيث تشترك أحمال عمل العديد من العملاء في نفس الأجهزة المادية.

5/6: يوفر التصديق دليل التشفير على أن وحدة معالجة الرسومات والبرامج الثابتة الخاصة بها في حالة موثوق بها وغير قابلة للتلاعب قبل بدء تنفيذ أحمال العمل. تتحقق خدمات التصديق من NVIDIA من أن الجهاز أصلي ، وأن برنامجه الثابت يتطابق مع إصدار معتمد ، وأنه يعمل في الوضع السري. يعد هذا ضروريا في بنى انعدام الثقة، لأنه يسمح للمؤسسات بضمان تنفيذ أحمال عمل الذكاء الاصطناعي الخاصة بها فقط في بيئات آمنة ومعتمدة. يدعم التصديق أيضا الامتثال في الصناعات الخاضعة للتنظيم، حيث تكون الثقة في الأجهزة التي يمكن إثباتها شرطا أساسيا للتعامل مع البيانات الحساسة.

6/6: واحدة من أكبر مزاياها هي أنه يمكنك تمكين حماية حمل العمل دون تغيير رمز التطبيق! إنه ببساطة تغيير في التكوين - مثالي لمسارات الذكاء الاصطناعي للمؤسسات حيث تكون إعادة كتابة النماذج مكلفة ومزعجاة. اقرأ المزيد هنا: !