Cyberthreat.id - Angkatan Darat Amerika Serikat mengumumkan pengembangan perangkat lunak yang dirancang untuk mencegah peretasan teknologi pengenalan wajah (facial recognition) dalam aplikasi militer.

Teknologi pengenalan wajah dan objek digunakan oleh Angkatan Darat AS untuk melatih sistem kecerdasan buatan (AI) yang digunakan pada kendaraan udara tak berawak (UAV), sistem pengawasan, dan lain-lain.

Pengembangan teknologi mitigasi serangan ke AI tersebut dipimpin oleh Dr. Helen Li dan Dr. Yiran Chen dari Universitas Duke.

Li mengatakan, kehadiran teknologi yang sedang dirancang tersebut untuk melindungi platform pengenalan wajah. Ini karena ada kekhawatiran nyata, apabila ada peretasan, dapat memicu reaksi berantai, yaitu pembelajaran AI menjadi rusak.

“Model AI bergantung pada dataset besar dan jika informasi ini didasarkan pada pengenalan wajah, kompromi jenis gambar tertentu pada sumbernya, seperti pakaian, telinga, atau warna mata dapat membuang seluruh model AI dan mendorong pelabelan yang salah,” kata Li seperti dikutip dari ZDNet, Senin (27 Januari 2020).

Li menerangkan, peretasan terhadap pengenalan wajah bisa berimbas serius bagi program pengawasan, di mana serangan semacam ini mengakibatkan orang yang ditargetkan salah diidentifikasi dan lolos dari deteksi.

“Pemicu untuk serangan sulit ditemukan.  Karena mereka mungkin terlihat tidak bersalah dengan mata telanjang dan ketika memproses gambar yang bersih, jaringan saraf berperilaku normal. Namun, kode berbahaya atau isyarat visual yang tertanam dalam gambar dapat mendatangkan malapetaka saat dimasukkan ke dalam pengaturan AI,” ujar Li.[]