Cyberthreat.id – Facebook tengah mengembangkan kecerdasan buatan (AI) untuk mengidentifikasi deepfake dan melacak asal-usulnya dengan teknologi rekayasa balik (reverse engineering).

“Rekayasa balik bukanlah konsep baru dalam pembelajaran mesin (machine learning). Metode rekayasa balikkami bergantung pada pengungkapan pola unik di balik model AI yang digunakan untuk menghasilkan suatu gambar deepfake,” tulis Tim peneliti untuk Facebook Xi Yin dan Tal Hassner di blog Facebook, Rabu (16 Juni 2021).

Deepfake adalah foto, video, atau sebuah gambar diam yang kemudian diubah menggunakan teknologi kecerdasan buatan agar tampak seperti aslinya. Dalam beberapa tahun terakhir, deepfake semakin terlihat realistis dan hampir-hampir sulit mata kita membedakan apakah itu asli atau palsu.

Produksi deepfake jelas sangat mengkhawatirkan karena bisa digunakan untuk hal-hal tak bertangung jawab, salah satunya menyebarkan informasi keliru atau palsu.

Tim peneliti untuk Facebook Xi Yin dan Tal Hassner mengatakan, metode yang dipakai yaitu mengidentifikasi atribusi gambar dan kemudian menemukan properti modal yang digunakan dalam menghasilkan gambar.

“Dengan menggeneralisasi atribusi gambar ke pengenalan set terbuka, kami dapat menyimpulkan lebih banyak informasi tentang model generatif yang digunakan untuk membuat deepfake,” tutur dia.

Ketika menelusuri kesamaan di antara pola kumpulan deepfake, peneliti juga dapat mengetahui apakah serangkaian gambar berasal dari satu sumber atau banyak sumber. Kerja riset mereka dibantu oleh Michigan State University.

Mereka mendeteksi gambar deepfake melalui jaringan estimasi sidik jari (FEN) untuk memperkirakan detail tentang sidik jari yang mungkin ditinggalkan oleh model generatif (foto yang dipakai). Lihat grafis berikut ini.

---

Sumber: Facebook

---

Sidik jari perangkat ialah pola halus, tapi unik yang tertinggal di setiap gambar yang dihasilkan oleh perangkat tertentu karena ketidaksempurnaan dalam proses pembuatannya.

“Dalam fotografi digital, sidik jari digunakan untuk mengidentifikasi kamera digital yang digunakan untuk menghasilkan gambar,” jelas para peneliti.

Sama seperti halnya sidik jari perangkat, sidik jari gambar juga merupakan pola unik yang dapat digunakan untuk mengidentifikasi model generatif dari mana gambar itu berasal. Setelah pembuatan sidik jari selesai, sidik jari dapat digunakan sebagai input untuk penguraian model.

Para peneliti memandang projek tersebut bisa diterapkan di dunia nyata, sehingga setiap orang memiliki "alat untuk menyelidiki dengan lebih baik disinformasi terkoordinasi yang menggunakan deepfake, serta membuka arah baru untuk penelitian masa depan," kata mereka.[]