Dalam AI, data yang diproses dalam memori seringkali paling rentan. Berikut adalah ikhtisar tentang bagaimana Komputasi Rahasia @nvidia mengamankan data yang digunakan untuk memastikan kumpulan data sensitif, bobot model, dan kode tetap terlindungi selama pelatihan & inferensi. Ini sangat penting dalam lingkungan zero-trust, teregulasi, atau multi-penyewa. 🧵👇

2/6: Tidak seperti pendekatan hanya perangkat lunak, NVIDIA menerapkan keamanan pada lapisan perangkat keras di GPU-nya. Ini berarti enkripsi, isolasi, dan pengesahan dibangun ke dalam silikon, mengurangi risiko paparan bahkan jika perangkat lunak sistem disusupi.

3/6: Ini bekerja dengan data yang dienkripsi dalam memori GPU dan bahkan dapat tetap aman saat bergerak melalui interkoneksi NVLink melalui input / output TEE dengan kecepatan mendekati asli. Ini mencegah akses tidak sah dari proses lain, sistem host, atau aktor jahat dengan akses fisik atau tingkat perangkat lunak.

4/6: Isolasi dicapai melalui kemampuan partisi tingkat perangkat keras NVIDIA, terutama teknologi Multi-Instance GPU (MIG). MIG memungkinkan GPU fisik tunggal dibagi menjadi beberapa instans yang sepenuhnya terisolasi, masing-masing dengan sumber daya komputasi, memori, dan cache khususnya sendiri. Dalam mode komputasi rahasia, instans ini berfungsi sebagai enklave aman, memastikan bahwa beban kerja yang berjalan pada satu instans tidak dapat membaca atau mengganggu yang ada di instans lain. Tingkat isolasi ini sangat penting untuk lingkungan multi-penyewa, seperti penyebaran cloud, di mana beberapa beban kerja pelanggan berbagi perangkat keras fisik yang sama.

5/6: Pengesahan memberikan bukti kriptografi bahwa GPU dan firmwarenya berada dalam keadaan tepercaya dan tidak dirusak sebelum beban kerja mulai dieksekusi. Layanan pengesahan NVIDIA memverifikasi bahwa perangkat keras asli, bahwa firmwarenya cocok dengan versi yang disetujui, dan beroperasi dalam mode rahasia. Ini penting dalam arsitektur zero-trust, karena memungkinkan perusahaan untuk memastikan beban kerja AI mereka hanya dijalankan di lingkungan yang aman dan terverifikasi. Pengesahan juga mendukung kepatuhan di industri yang diatur, di mana kepercayaan perangkat keras yang dapat dibuktikan merupakan prasyarat untuk menangani data sensitif.

6/6: Salah satu keuntungan terbesarnya adalah Anda dapat mengaktifkan perlindungan beban kerja tanpa mengubah kode aplikasi! Ini hanyalah perubahan konfigurasi—ideal untuk pipeline AI perusahaan di mana penulisan ulang model akan mahal dan mengganggu. Baca lebih lanjut di sini: !