Minggu Keamanan 11: RSA 2019 dan masa depan yang lebih cerah

Konferensi RSA ke-28 diadakan minggu lalu, dan jika pada tahun 2018 acara industri terbesar di industri ini ditandai oleh beberapa kesulitan dalam menemukan makna baru, kali ini semuanya baik-baik saja. Presentasi pembukaan oleh Presiden RSA Rohit Gai didedikasikan untuk "lanskap kepercayaan", dan dalam perjalanannya dilakukan upaya untuk menggambar skenario positif untuk masa depan, khususnya pada tahun 2049.

Ini positif karena berhasil menyelesaikan banyak masalah saat ini, termasuk bahkan bukan masalah keamanan siber, tetapi agak sulit dengan model baru pengembangan masyarakat, yang hampir sepenuhnya terkait dengan Internet dan layanan digital. Memang, jika Anda mencoba melihat topik ini dari atas (yang biasanya mereka sukai di RSA), ini bukan hanya tentang kemampuan meretas komputer atau server seseorang. Misalnya, ada masalah manipulasi di jejaring sosial, dan terkadang layanan itu sendiri terkadang berkembang di tempat yang salah arah. Dalam konteks ini, gagasan kepercayaan - pengguna untuk perusahaan, orang-orang untuk kecerdasan buatan - sangat penting.


Jika Anda tertarik dengan pendapat mereka tentang keamanan di acara bisnis, tonton videonya.

Ide lain yang menarik diungkapkan dalam presentasi: kecerdasan buatan tidak perlu dipaksa untuk melakukan tugas yang hanya dapat dilakukan orang, di mana fakta memainkan peran yang lebih rendah daripada emosi dan, misalnya, masalah etika. Dan sebaliknya: keputusan yang membutuhkan kepatuhan yang ketat pada fakta harus sering diserahkan kepada mesin yang (mungkin) kurang rentan terhadap kesalahan. Keputusan untuk mempercayai sumber informasi apa pun di jaringan atau tidak harus didasarkan pada reputasi. Gagasan serupa dapat diterapkan pada masalah insiden dunia maya: ya, cepat atau lambat itu terjadi pada semua orang, tetapi keuntungannya diberikan kepada organisasi yang upayanya melindungi data pelanggan lebih besar daripada konsekuensi peretasan.

Serangan teoritis pada algoritma pembelajaran mesin

Namun, RSA masih menunjukkan betapa rumitnya hubungan dalam industri antara mereka yang menemukan masalah baru dan mereka yang menawarkan solusi. Terlepas dari beberapa pidato protokol, pidato yang paling menarik di konferensi, jika mereka menggambarkan masa depan, ada dalam beberapa nada yang tidak terlalu optimis. Yang perlu diperhatikan adalah presentasi oleh juru bicara Google Nicolas Carlini ( berita ). Dia merangkum pengalaman serangan pada algoritma pembelajaran mesin, dimulai dengan contoh klasik dari 2017:


Gambar asli seekor kucing dimodifikasi sepenuhnya tak terlihat oleh manusia, tetapi algoritma pengenalan mengklasifikasikan gambar ini dengan cara yang sama sekali berbeda. Ancaman apa yang ditimbulkan modifikasi ini? Contoh lain bukan yang terbaru, tetapi informatif:


Rambu jalan tampaknya telah sedikit menderita dari pengacau, tetapi bagi seseorang itu bisa dimengerti. Mobil dapat mengenali tanda dengan perubahan seperti tanda yang sama sekali berbeda - dengan informasi tentang batas kecepatan, dan tidak akan berhenti di persimpangan. Lebih jauh lebih menarik:


Metode yang sama dapat diterapkan pada suara, yang telah ditunjukkan dalam praktik. Dalam contoh pertama, sistem pengenalan ucapan “mengenali” teks dalam sebuah fragmen musik. Pada yang kedua, manipulasi rekaman suara yang tidak terlihat menyebabkan pengakuan terhadap serangkaian kata yang sama sekali berbeda (seperti dalam gambar). Dalam kasus ketiga, teks dikenali dan sepenuhnya keluar dari kebisingan yang tidak berarti. Ini adalah situasi yang menarik: pada titik tertentu, orang dan asisten digital mereka mulai melihat dan mendengar hal-hal yang sama sekali berbeda. Akhirnya, algoritma pembelajaran mesin secara teoritis dapat mengungkapkan data pribadi di mana mereka dilatih, dengan penggunaan lebih lanjut. Contoh paling sederhana dan paling mudah dimengerti adalah sistem pengetikan prediktif alias "T9 terkutuk".

Keamanan Perangkat Medis

Keamanan dalam kedokteran baru-baru ini telah dibahas dalam bidang perangkat lunak yang sangat ketinggalan zaman dan kurangnya anggaran untuk pengembangan TI. Akibatnya, konsekuensi dari serangan siber lebih serius dari biasanya, dan kita berbicara tentang kehilangan atau kebocoran data pasien yang sangat sensitif. Pada konferensi RSA, para ahli Perangkat Lunak Check Point membagikan hasil studi tentang jaringan komputer rumah sakit nyata di Israel. Di sebagian besar lembaga medis, jaringan komputer tidak dibagi menjadi beberapa zona, jadi cukup mudah untuk menemukan perangkat khusus, dalam hal ini, perangkat ultrasonik.

Kisah tentang pencarian kerentanan di bagian komputer perangkat sangat singkat. Ultrasound menjalankan Windows 2000, dan menemukan exploit untuk salah satu kerentanan kritis dalam OS ini tidaklah sulit. Para peneliti mendapat akses ke arsip gambar dengan nama-nama pasien, dapat mengedit informasi ini dan memiliki kesempatan untuk mengaktifkan trojan ransomware. Pabrikan perangkat mengatakan bahwa model yang lebih modern dibangun di atas perangkat lunak modern, pembaruan perangkat lunak secara teratur dikirim ke sana (tetapi bukan fakta bahwa mereka diinstal), tetapi memperbarui perangkat medis membutuhkan biaya (banyak) uang, dan apa gunanya jika perangkat yang lebih lama bekerja?

Rekomendasi untuk organisasi medis jelas: segmentasi jaringan lokal, pemisahan perangkat yang menyimpan data pribadi dari yang lainnya. Menariknya, untuk pengembangan teknologi pembelajaran mesin dalam kedokteran, sebaliknya, akses seluas mungkin ke data pasien diperlukan - untuk algoritma pelatihan.

Penafian: Pendapat yang diungkapkan dalam intisari ini mungkin tidak selalu bertepatan dengan posisi resmi Kaspersky Lab. Para editor yang terhormat umumnya merekomendasikan untuk memperlakukan setiap pendapat dengan skeptis yang sehat.