Ilustrasi | Foto: shuttersstock
Ilustrasi | Foto: shuttersstock
Cyberthreat.id – Masih ingat dengan Skynet di film Terminator? Di film ini sistem komputer canggih berbasis kecerdasan buatan (AI) itu menyerang manusia.
Meski itu fiksi, revolusi teknologi ke depan diyakini kian canggih dan ancaman-ancaman “pemberontakan” AI bisa saja terjadi.
Dilatarbelakangi alasan itu pulalah, perusahaan nirlaba MITER Corporation bekerja sama dengan 12 perusahaan teknologi terkemuka, di antaranya Microsoft, IBM, dan Nvidia merilis “Adversarial ML Threat Matrix”.
Adversarial ML Threat Matrix ialah sebuah sistem kerangka kerja terbuka yang diciptakan untuk membantu analis keamanan menemukan, memperingatkan, menanggapi, dan mengatasi ancaman yang menargetkan sistem pembelajaran mesin (ML).
Baca:
Microsoft mengatakan, teknologi itu dimotivasi oleh peningkatan jumlah serangan terhadap sistem ML komersial di dunia.
Dikutip dari TechRadar, diakses Senin (26 Oktober 2020), Microsoft menyurvei terhadap 28 bisnis terkemuka dan menemukan bahwa hampir semua responden tidak menyadari ancaman yang dapat ditimbulkan oleh pembelajaran mesin.
Sebanyak 25 perusahaan mengatakan mereka tidak memiliki alat yang tepat untuk melindungi sistem ML-nya.
"Kami juga menemukan bahwa saat menyerang sistem ML, penyerang menggunakan kombinasi" teknik tradisional "seperti phishing," kata Microsoft.
Di sinilah, menurut Microsoft, Adversarial ML Threat Matrix berupaya membantu memberdayakan tim keamanan untuk bertahan dari serangan pada sistem ML.
Matrix ML berisi sejumlah kerentanan masa lalu dan perilaku musuh yang ditemukan oleh Microsoft dan MITRE selama bertahun-tahun.
“Terkait keamanan ML, batasan antara upaya dan tanggung jawab publik dan swasta semakin kabur; tantangan sektor publik seperti keamanan nasional akan membutuhkan kerja sama dari aktor swasta serta investasi publik, "kata Mikel Rodriguez, Direktur Riset Pembelajaran Mesin, MITRE.
"Jadi, untuk membantu mengatasi tantangan ini, kami di MITER berkomitmen untuk bekerja dengan organisasi seperti Microsoft dan komunitas yang lebih luas untuk mengidentifikasi kerentanan kritis di seluruh rantai pasokan pembelajaran mesin. Kerangka kerja ini adalah langkah pertama dalam membantu menyatukan komunitas ke memungkinkan organisasi untuk memikirkan tentang tantangan yang muncul dalam mengamankan sistem pembelajaran mesin secara lebih holistik.”[]
Share:
