Cybertheat.id - Deepfake pada dasarnya bukan teknologi berbahaya dan bisa dianggap 'jinak' jika dilihat penggunaannya untuk bermain-main. Sebut saja aplikasi populer seperti FaceSwap atau FaceApp yang bisa digunakan untuk iseng.

Sebaliknya deepfake bisa sangat berbahaya jika dipersenjatai dengan teknologi lain kemudian ditujukan untuk operasi jahat seperti serangan cyber, propaganda atau tren menggerus kepercayaan pada institusi negara yang efeknya bisa sangat masif.

Teknologi deep learning yang merupakan kunci pengembangan deepfake, memiliki aplikasi luas di berbagai bidang sosial dan ekonomi, termasuk penelitian medis mutakhir, perawatan kesehatan, dan manajemen infrastruktur. 

Meningkatnya kemudahan menjalani kehidupan seriring dengan tantangan dan risiko keamanan dalam kehidupan berdemokrasi yang memberikan kebebasan berbicara dan berpendapat.

Berikut empat cara mempersenjatai deepfake:

1. Kejahatan cyber

Deepfake akan menyediakan tools baru bagi cyberattackers. Misalnya, generasi audio dapat digunakan dalam serangan phishing canggih. Pada bulan Maret 2019, hacker menggunakan AI untuk menyamar sebagai suara direktur eksekutif. Dalam sebuah operasi kejahatan siber, penipu berhasil mengakali CEO perusahaan energi Inggris untuk mentransfer uang hingga 220 ribu poundsterling.

Saat ini 90, persen deepfake, terutama konten video, bermain di wilayah pornografi.

Pada 2013, sebuah tweet dari Associated Press (akunnya telah dibajak oleh Tentara Elektronik Suriah) menyatakan Presiden AS Barrack Obama terluka dalam ledakan. Kabar ini memicu kepanikan singkat di pasar saham AS. Ini untuk contoh yang bersifat politis. Coba bayangkan video palsu deepfake ketika dipasangkan dengan operasi kriminal atau kejahatan.

2. Propaganda dan disinformasi

Propaganda online merupakan masalah besar bagi negara-negara demokrasi. Saat ini, sebagian besar propaganda dihasilkan oleh manusia. Contoh terbaik adalah operator 50-Centre dari China dan Farm Troll dari Rusia.

Badan Penelitian Internet Rusia memiliki sebuah Farm Troll, berbasis di St Petersburg, memiliki anggaran bulanan sekitar US $ 1,25 juta untuk campur tangan dalam politik AS menjelang pemilihan presiden AS 2016.

Pekerja di sana terdiri dari 25 orang yang bekerja menghadapi jadwal yang melelahkan dengan shift sekali 12 jam.

Mereka bekerja melakukan pemalsuan berbasis teks kemudian mengotomatiskan kegiatan ini. Teks yang dihasilkan AI mendapat 'algoritma' media sosial dan algoritma mesin pencari di mana preferensi konten berdasarkan popularitas dan keterlibatan. Metode ini sudah terbukti ampuh menyerang pikiran masyarakat dan akan terus berkembang.

3. Penipuan militer dan krisis internasional

Jenis-jenis tipuan dalam hal ini dapat mengubah jalannya pemilihan umum di sebuah negara, proses parlemen atau hukum, hingga upaya diplomatik atau militer.

Konten audio-visual palsu dapat digunakan untuk menurunkan kesadaran situasional komandan militer di lapangan (baik dengan membangun 'fakta' di lapangan atau dengan memanipulasi aliran data untuk mengaburkan fakta nyata).

Dalam krisis politik, konten palsu yang mendalam dapat digunakan oleh aktor jahat untuk menghasut kekerasan.  Bayangkan gambar atau video personil militer yang terlibat dalam kejahatan perang yang digunakan untuk menghasut pembalasan dendam. Video seperti sudah dibuat dan terlihat begitu nyata.

4. Menggerus kepercayaan pada institusi

Pada Mei 2018, Socialistische Partij Anders di Belgia menjadi partai politik pertama yang menggunakan deepfake untuk mempengaruhi debat publik.  Partai ini memposting video ke Facebook yang menampilkan Presiden AS Trump mendorong Belgia untuk menarik diri dari Perjanjian Paris tentang perubahan iklim.

Video itu dirancang untuk memicu debat, bukan penipuan: sinkronisasi bibir tidak sempurna dan memang teknologi ini akan terus berkembang. Ketika itu deepfake ini langsung dengan cepat dibantah oleh komunitas online dan situs berita. Dan, tidak ada bukti deepfake mempengaruhi pemilihan Belgia.

Salah satu persoalan dalam menghadapi teknologi deepfake adalah seberapa luas penyebaran teknologi ini dapat merusak kepercayaan terhadap individu dan institusi yang sah.

Sebagai contoh, tahun 2019 sebuah video dari Presiden Gabon Ali Bongo, dirilis untuk melawan spekulasi publik tentang keadaan kesehatannya. Ketika itu Ali Bongo akan diberhentikan oleh lawan politiknya yang mempromosikan bahwa video itu adalah deepfake. Padahal, Bongo belum memiliki teknologi yang cukup bagus untuk mengembangkan deepfake. Video ini berperan dalam memprovokasi kudeta militer di negara tersebut.