Cyberthreat.id – Ketika teknologi kian canggih, alat untuk memanipulasi sesuatu juga marak bermunculan. Menggunakan teknologi kecerdasan buatan, gambar atau video bisa direkayasa sedemikian rupa sehingga terlihat seperti asli. Itu bisa digunakan untuk berbagai tujuan, termasuk untuk merusak reputasi seseorang  seseorang secara politik, atau menjatuhkan kredibilitas seorang artis terkenal.

Dikenal dengan sebutan deepfake, teknologi ini mulai muncul di awal 2018. Salah satu yang cukup terkenal adalah ketika beredar video mantan presiden Amerika Barack Obama  mengucapkan sesuatu yang sebenarnya tidak dilakukannya. Namun, ekpresi wajah dan gerak bibir terlihat cocok dengan apa yang diucapkan. Sebagian orang meyakini video itu asli. Padahal, sesungguhnya itu adalah video rekayasa yang dibuat dengan teknologi kecerdasan buatan.

Untuk mengatasi kian banyak orang menjadi korban deepfake ini, sebuah perusahaan intelijen ancaman visual berbasis di Amsterdam, Sensity AI, baru saja merilis sebuah platform online yang digunakan untuk mengidentifikasi keaslian sebuah foto atau video.

Dikutip dari Cyber News, platform itu dibuat memanfaatkan algoritma untuk mengetahui apakah konten dimanipulasi menggunakan general adversarial networks (GAN), sebuah arsitektur jaringan saraf tiruan yang bertujuan untuk membentuk suatu data yang benar-benar baru, dari tidak ada menjadi ada. Ringkasnya, jaringan GAN dilatih untuk mampu menghasilkan sebuah gambar baru dari kumpulan gambar yang sudah dilihat sebelumnya selama proses pelatihan. Dengan kata lain, menggunakan GAN ini bisa menghasilkan gambar wajah baru berdasarkan kumpulan wajah lain yang diinput ke sistem. 

Menurut CEO Sensity, Giorgio Patrini, platform buatannya memungkinkan pengguna untuk mendeteksi pemalsuan dengan menggunakan perpaduan teknik deep learning dan forensik visual. Tools ini juga sudah mendapatkan pelatihan dengan menggunakan ratusan ribu video deepfake dan gambar yang dihasilkan GAN. Untuk meningkatkan keakuratan dari tools ini, para insiyur di Sensity bahkan membuat materi pelatihan lain untuk menyediakan algoritma  yang berfungsi melawan algoritma lain dengan tantangan yang lebih kompleks.

Patrini mengatakan, saat ini alat pendeteksi deepfake buatan perusahaannya baru mampu mendeteksi apakah sebuah wajah dipalsukan atau tidak. Namun ia meyakini ke depan, alatnya dapat membedakan apakah seseorang memalsukan suatu objek dalam video atau gambar.

“Kami menguji sendiri alat tersebut, menggunakan foto yang dibuat oleh AI dari beberapa pembuat wajah palsu yang berbeda. Dalam setiap kasus, alat pendeteksi bekerja sesuai rancangan, mengenali wajah palsu dengan tingkat keyakinan 99,9%,” ungkap Patrini.

Patrini menjelaskan bahwa detektor bisa bernalar tentang keakuratan dan ketidakpastiannya sendiri. Jadi, jika ada tanda-tanda manipulasi yang jelas, alat tersebut akan menujukkan tingkat kepercayaan lebih dari 90%.

“Sebaliknya, jika kepercayaan rendah, beberapa sinyal manipulasi ditemukan, tetapi tidak meyakinkan untuk mengklasifikasikan foto atau video itu sebagai deepfake,” ujarnya.

Untuk menggunakan detektor online ini, pengguna dapat membuka https://platform.sensity.ai/deepfake-detection. Pengguna dapat mengupload file atau URL yang diinginkan untuk di cek apakah file atau video tersebut merupakan deepfake. Namun, sebelum menggunakannya, pengguna diminta mendaftarkan diri lewat verifikasi email terlebih dahulu.

Cyberthreat.id mencoba untuk mengecek salah satu video deepfake yang menggunakan nama mantan presiden AS, Donald Trump. Hasilnya, sistem mengenali tautan URL video Youtube itu sebagai deepfake dengan memunculkan pemberitahuan "detected".  Ada juga keterangan tambahan yang menyebutkan video yang mecatut nama Trump itu telah terdeksi sebagai deepfake pada 17 Desember 2020 lalu.

Tak hanya Sensity AI, sebelumnya, Microsoft juga meluncurkan dua alat untuk melawan deepfake. Alat tersebut, dapat menganalisis foto dan video dengan memberikan nilai berupa skor persentase apakah materi tersebut asli atau hasil rekayasa komputer. (Lihat: Microsoft Luncurkan Dua Alat Lawan Deepfake).

Menurut Microsoft, alat ini bekerja dengan mendeteksi batas pencampuran elemen deepfake dan pixel halus atau skala abu-abu pada batas antara versi asli dan editan yang mungkin tidak dapat dideteksi oleh mata manusia. Teknologi ini dibuat menggunakan kumpulan data publik dari Face Forensic ++ yang telah diuji pada Set Data Tantangan Deteksi DeepFake, yang dianggap sebagai model terkemuka untuk pelatihan dan pengujian teknologi deteksi deepfake.

"Kami berharap metode untuk menghasilkan media sintetis akan terus berkembang dalam kecanggihan. Karena semua metode deteksi AI memiliki tingkat kegagalan, kami harus memahami dan siap menanggapi deepfake yang lolos dari  deteksi," ungkap Microsoft dalam sebuah postingan blog.

Microsoft juga meluncurkan teknologi baru lainnya yang dapat mendeteksi konten yang dimanipulasi tetapi berupaya meyakinkan orang bahwa media yang mereka lihat adalah asli.

Teknologi ini memiliki dua komponen. Pertama adalah alat yang dibangun di dalam Microsoft Azure yang memungkinkan produsen konten menambahkan hash dan sertifikat digital ke sebuah konten. Kedua, pembaca dapat disertakan dalam ekstensi browser, untuk memeriksa sertifikat dan mencocokkan hash untuk menentukan keasliannya.[]

Editor: Yuswardi A. Suud