Bagaimana Melindungi Privasi dalam Sistem AI?

TL;DR

Privasi dan kecerdasan buatan dapat berjalan bersama melalui pembelajaran terfederasi, komputasi multipihak, enkripsi homomorfik, privasi diferensial, dan lingkungan eksekusi tepercaya. Gabungan teknik statistik, kriptografi, dan dukungan perangkat keras ini memungkinkan organisasi memperoleh manfaat dari data sensitif sambil mengurangi paparan data, kebocoran melalui pembaruan model, dan penghafalan catatan individual.

Transcript

Selamat siang semuanya dan selamat datang di topik kripto terapan dan blockchain. Topik ini awalnya akan diberi nama blockchain dan kripto terapan, tetapi kemudian kami menyadari bahwa kami memiliki banyak aplikasi kriptografi yang lebih menarik untuk pembelajaran mesin dan pemilihan pembelajaran mesin privat, entropi sebagai layanan, dan sebagainy... Read More

Key Insights

• Privasi memiliki dua pilar utama, yaitu kontrol pengguna dan perlindungan terhadap data.
• Perlindungan data mencakup anonimisasi informasi serta enkripsi data sensitif.
• Pembelajaran mesin memperkuat serangan identifikasi ulang terhadap data yang dianggap anonim.
• Enkripsi saat disimpan dan dikirim tidak melindungi data ketika data itu didekripsi untuk diproses.
• Pembelajaran terfederasi memungkinkan sejumlah pihak melatih model tanpa membagikan data mentah.
• Pembaruan model dapat membocorkan informasi mengenai data pelatihan yang digunakan secara lokal.
• Privasi diferensial membantu mencegah model menghafal rincian dari catatan individual.
• Lingkungan eksekusi tepercaya dapat melindungi agregasi pembaruan dan memperkuat teknik PPML.

Questions & Answers

Q: Apa itu pembelajaran mesin yang menjaga privasi?

Pembelajaran mesin yang menjaga privasi adalah serangkaian teknologi yang menggabungkan statistik dan kriptografi untuk memperoleh hasil pembelajaran mesin sekaligus melindungi privasi serta kerahasiaan data. Pendekatan ini mencakup pembelajaran terfederasi atau komputasi multipihak, enkripsi homomorfik, dan privasi diferensial. Teknik tersebut juga dapat diperkuat melalui perubahan perangkat keras pada prosesor yang disebut lingkungan eksekusi tepercaya. Tujuannya adalah mengurangi kebutuhan berbagai pemilik data, penyedia model, perusahaan layanan AI, dan penyedia infrastruktur untuk saling mempercayai ketika bekerja sama.

Q: Mengapa enkripsi biasa belum cukup untuk melindungi data pembelajaran mesin?

Enkripsi biasa sudah efektif untuk melindungi data ketika disimpan dan ketika dikirim, tetapi pembelajaran mesin pada umumnya harus mengoperasikan data tersebut pada suatu tahap. Data biasanya didekripsi ketika diproses, sehingga muncul titik kerentanan yang tidak ditangani oleh perlindungan saat penyimpanan atau pengiriman. Enkripsi homomorfik menawarkan pendekatan lain karena memungkinkan operasi pembelajaran mesin dilakukan pada data yang tetap terenkripsi sepanjang proses. Dengan demikian, perlindungan tidak harus dihentikan hanya karena sistem perlu menghitung hasil dari data sensitif.

Q: Bagaimana pembelajaran terfederasi melatih model tanpa berbagi data mentah?

Pembelajaran terfederasi memberikan versi awal model kepada setiap pihak yang menyimpan data pribadi. Masing-masing pihak melatih model secara lokal menggunakan datanya sendiri, lalu menghitung pembaruan yang dapat meningkatkan model tersebut. Mereka mengirimkan pembaruan, bukan kumpulan data mentah, kepada perusahaan AI untuk digabungkan menjadi model baru. Model hasil penggabungan kemudian dibagikan kembali dan siklus itu diulang. Cara ini memungkinkan beberapa entitas melatih model bersama meskipun mereka tidak diizinkan saling membagikan data yang dimiliki.

Q: Mengapa pembaruan model dalam pembelajaran terfederasi tetap perlu dilindungi?

Pembaruan yang dihasilkan selama pelatihan lokal dapat mengungkapkan sesuatu mengenai data pelatihan yang digunakan untuk menghitungnya. Karena itu, tidak mengirimkan data mentah saja belum menghapus seluruh risiko privasi. Dalam contoh deteksi penipuan, pembaruan dari banyak pengecer dapat digabungkan di dalam lingkungan eksekusi tepercaya. Lingkungan tersebut memberikan perlindungan tambahan ketika perusahaan AI melakukan agregasi perubahan model. Pendekatan berlapis ini menunjukkan bahwa pembelajaran terfederasi perlu dipadukan dengan teknik lain agar kerahasiaan data tetap terjaga.

Q: Apa fungsi privasi diferensial dalam pelatihan model?

Privasi diferensial digunakan agar hasil perhitungan matematika pada kumpulan data tidak terlalu sensitif terhadap keberadaan atau ketiadaan satu individu. Dalam pembelajaran mesin, teknik ini juga membantu mencegah model menjadi begitu kaya dan ekspresif sehingga menghafal rincian tertentu dari data pelatihan. Sasaran pelatihan adalah mempelajari kecenderungan pada data yang mendasarinya, bukan menyimpan karakteristik catatan individual. Dengan perlindungan tersebut, hasil atau perilaku model menjadi lebih sulit dikaitkan kembali dengan orang tertentu yang datanya terdapat dalam kumpulan pelatihan.

Q: Apa peran lingkungan eksekusi tepercaya dalam PPML?

Lingkungan eksekusi tepercaya merupakan perubahan perangkat keras pada prosesor yang dapat memperkuat teknik pembelajaran mesin penjaga privasi. Dalam skenario pembelajaran terfederasi, lingkungan ini dapat menjadi tempat untuk menggabungkan pembaruan model dari berbagai pemilik data. Hal itu penting karena pembaruan tersebut masih mungkin mengungkapkan informasi mengenai data pelatihan lokal. Lingkungan eksekusi tepercaya bukan satu-satunya perlindungan, tetapi dapat digunakan bersama pembelajaran terfederasi, komputasi multipihak, enkripsi homomorfik, dan privasi diferensial sebagai bagian dari rancangan keamanan berlapis.

Q: Bagaimana PPML dapat membantu mendeteksi penipuan keuangan?

Beberapa pengecer dapat membantu melatih model deteksi penipuan tanpa menyerahkan data transaksi pribadi mereka kepada bank atau perusahaan AI. Perusahaan AI membagikan model awal, kemudian setiap pengecer melatihnya secara lokal dan mengirimkan usulan pembaruan. Pembaruan itu digabungkan untuk menghasilkan model baru dan prosesnya diulang. Karena pembaruan dapat membocorkan informasi, agregasinya dapat dilakukan dalam lingkungan eksekusi tepercaya. Privasi diferensial kemudian dapat digunakan agar model mempelajari pola penipuan tanpa menghafal rincian transaksi atau catatan individual.

Q: Mengapa persoalan kepercayaan menjadi rumit dalam layanan pembelajaran mesin?

Berbagi aset digital pada dasarnya berarti memberikannya kepada pihak lain lalu mempercayai pihak tersebut agar tidak menyalahgunakannya. Layanan pembelajaran mesin yang berguna sering melibatkan banyak pemangku kepentingan, termasuk pemilik data pelatihan, pemilik data untuk inferensi, penyedia layanan, pemilik model, penyedia infrastruktur, dan pihak dalam rantai pasokan. Akibatnya, semua entitas harus saling percaya melalui hubungan yang kompleks. PPML berusaha mengurangi ketergantungan tersebut dengan memungkinkan komputasi bersama, pemrosesan data terenkripsi, dan perlindungan terhadap catatan individu.

Summary & Key Takeaways

• Pembelajaran mesin membutuhkan data yang semakin sensitif, sedangkan anonimisasi biasa dapat ditembus melalui identifikasi ulang dan enkripsi konvensional tidak melindungi data ketika sedang diproses.

• PPML menggabungkan pembelajaran terfederasi, komputasi multipihak, enkripsi homomorfik, privasi diferensial, dan lingkungan eksekusi tepercaya untuk mengurangi kebutuhan saling percaya.

• Dalam contoh deteksi penipuan, pengecer melatih model secara lokal, perusahaan AI menggabungkan pembaruan, dan perlindungan tambahan mencegah kebocoran data serta penghafalan catatan individu.