Cyberthreat.id - Facebook kini mulai serius menangani konten yang menyesatkan deepfakes dan konten media yang sangat dimanipulasi atau disintesis, seperti wajah manusia fotorealistik yang dihasilkan AI yang terlihat seperti orang sungguhan.

VP manajemen kebijakan global jejaring sosial, Monika Bickert, menulis pada salah satu postingan blognya bahwa Facebook akan mengambil garis yang lebih ketat pada konten media yang dimanipulasi mulai dari sini - menghapus konten yang telah diedit atau disintesis. “Dengan cara yang jelas bagi orang kebanyakan dan kemungkinan akan menyesatkan seseorang untuk berpikir bahwa subjek video mengatakan kata-kata yang sebenarnya tidak mereka katakan," katanya sebagaimana dikutip laman techcrunch.com.

Namun, larangan itu tidak mencakup pada pengeditan untuk kualitas atau pemotongan dan splices ke video yang hanya membatasi atau mengubah urutan kata. Artinya, tindakan tidak jujur ​​yang lazim terjadi dalam pemilihan umum dan dilakukan secara halus, tidak tersentuh oleh kebijakan yang disebut lebih keras itu. Kampanye digital yang tidak jujur ​​bisa terus berlanjut.

Facebook hanya berfokus pada “quick PR wins” - seputar hal-hal yang jelas tidak autentik di mana ia tidak akan mengambil risiko dengan tuduhan bias partisan jika ia menarik konten palsu. Tetapi, di masa depan, pencipta deepfake cenderung untuk melihat apa yang bisa mereka dapatkan dengan kebijakan baru itu.

Kebijakan kontroversial jejaring sosial untuk membiarkan politisi berbohong dalam iklan juga berarti bahwa secara teknis, masih dapat memberikan umpan balik politik murni - yaitu jika pengiklan politik membayarnya untuk menjalankan konten palsu murni sebagai iklan.

Posting blog Bickert menetapkan bahwa konten yang dimanipulasi yang tidak memenuhi standar baru Facebook untuk dihapus masih dapat ditinjau oleh pemeriksa fakta pihak ketiga yang independen. Facebook mengandalkan bagian terbesar dari 'pengayakan kebenaran' pada platformnya - dan siapa yang mungkin masih memberi peringkat konten seperti 'salah' atau 'sebagian salah'. Namun dia menekankan kemungkinan konten palsu beredar (sementara berpotensi mengurangi distribusinya

“Jika foto atau video dinilai salah atau sebagian salah oleh pemeriksa fakta, kami secara signifikan mengurangi distribusinya dalam Umpan Berita dan menolaknya jika dijalankan sebagai iklan. Dan secara kritis, orang-orang yang melihatnya, mencoba untuk membagikannya, atau sudah membagikannya, akan melihat peringatan yang memperingatkan mereka bahwa itu salah," tulis Bickert. " Pendekatan ini sangat penting untuk strategi kami dan yang kami dengar secara khusus dari percakapan kami dengan para ahli.”

“Jika kami hanya menghapus semua video yang dimanipulasi yang ditandai oleh pemeriksa fakta sebagai palsu, video tersebut masih akan tersedia di tempat lain di internet atau ekosistem media sosial. Dengan membiarkannya dan menandainya sebagai salah, kami memberikan informasi dan konteks penting kepada orang-orang. "

Bulan lalu Facebook mengumumkan telah menggali lebih dari 900 akun palsu yang menyebarkan pesan pro-Trump - beberapa di antaranya telah menggunakan foto profil palsu yang dihasilkan oleh AI.

Pengembangan dystopian memberikan motivasi lain bagi raksasa teknologi untuk melarang 'pure AI' palsu, mengingat risiko teknologi supercharging masalah akun palsu.

“Tim kami terus memburu akun palsu secara proaktif dan perilaku tidak autentik lainnya yang terkoordinasi,” kata Bickert, dengan alasan bahwa: “Strategi kami terhadap media yang dimanipulasi menyesatkan juga mendapat manfaat dari upaya kami untuk membasmi orang-orang di balik upaya ini.”

Meskipun masih relatif baru sebagai teknologi, deepfake telah menunjukkan diri sebagai media bagi media yang mencintai tontonan yang mereka buat.

Posting blog Bickert juga memancing untuk poin lebih lanjut, mencatat keterlibatan Facebook dalam Deep Fake Detection Challenge yang diumumkan musim gugur lalu - "untuk menghasilkan lebih banyak penelitian dan alat sumber terbuka untuk mendeteksi deepfake".

Sementara kata Facebook telah bekerja dengan kantor berita Reuters untuk menawarkan kursus pelatihan online gratis bagi wartawan untuk membantu wartawan mengidentifikasi visual yang dimanipulasi.

“Seiring kemitraan ini dan wawasan kita sendiri berkembang, demikian juga kebijakan kita terhadap media yang dimanipulasi. Sementara itu, kami berkomitmen untuk berinvestasi dalam Facebook dan bekerja dengan pemangku kepentingan lain di bidang ini untuk menemukan solusi dengan dampak nyata." []