Cyberthreat.id - Saat perusahaan teknologi menciptakan sistem pengenalan wajah (facial recognition) yang digunakan untuk pengawasan oleh pemerintah di sejumlah negara dan mengancam privasi pribadi, mereka harus melatih sistem itu. Bisa jadi mereka mendapat bantuan dari sumber tak terduga: wajah Anda.

Perusahaan, universitas, dan laboratorium pemerintah telah menggunakan jutaan gambar yang dikumpulkan dari berbagai sumber online untuk mengembangkan teknologi itu.

Sekarang, seperti dilansir dari New York Times, para peneliti telah membangun alat online, Exposing.AI, yang memungkinkan orang mencari banyak koleksi foto, mungkin foto-foto lamanya.

Alat yang mencocokkan gambar dari layanan berbagi foto online Flickr, menawarkan jendela ke sejumlah besar data yang dibutuhkan untuk membangun berbagai macam teknologi kecerdasan buatan (Artificial Intelligence/AI), dari pengenalan wajah hingga "chatbots" online.

“Orang-orang perlu menyadari bahwa beberapa momen paling intim mereka telah "dipersenjatai”," kata salah satu penciptanya, Liz O'Sullivan, direktur teknologi di Surveillance Technology Oversight Project, sebuah grup privasi dan hak-hak sipil.

O'Sullivan membantu membuat Exposing.AI bersama Adam Harvey, seorang peneliti dan seniman di Berlin.

Asal tahu saja, sistem pengenalan wajah yang menggunakan kecerdasan buatan tidak pintar dengan sendiri. Tidak bisa seperti pesulap merapal mantra sim salabim, abrakadabra. Sistem itu harus dilatih terlebih dahulu. Tak ubahnya mengajari anak-anak mengenali sesuatu.

Sistem itu diajarkan dengan ditunjukkan pola dalam data yang dihasilkan oleh manusia - foto, rekaman suara, buku, artikel Wikipedia, dan semua jenis materi lainnya. Namun begitu, dalam beberapa kasus, teknologi itu dapat menjadi bias terhadap perempuan dan minoritas.

Bagi sebagian orang, pemakaian fotonya untuk teknologi pengenalan wajah cukup menyeramkan, meski bagi sebagian lainnya mungkin biasa saja. Dan itu bisa melanggar hukum.  Undang-Undang Privasi Informasi Biometrik tahun 2008 di Illiois, Amerika Serikat, misalnya, mengenakan denda jika pemindaian wajah penduduk dilakukan tanpa persetujuan si pemilik wajah.

Pembuat film dokumenter Brett Gaylor ingat benar, pada 2006 silam, dia pernah mengunggah foto bulan madunya ke Flickr, layanan berbagi foto populer saat itu. Hampir 15 tahun kemudian, menggunakan versi awal Exposing.AI yang dibuat oleh Harvey dan Sullivan, dia menemukan ratusan foto miliknya telah menjadi kumpulan data yang mungkin telah digunakan untuk melatih sistem pengenalan wajah di seluruh dunia.

Flickr, yang beberapa kali telah berpindah kepemilikan, pada 2014 sempat dimiliki oleh Yahoo, yang menggunakan kumpulan fotonya dalam satu kumpulan data (dataset) untuk membantu pekerjaan pada computer vision, yakni melatih komputer memperoleh pemahaman tingkat tinggi dari gambar atau video digital yang dapat menggantikan penglihatan manusia.

Situs berbagi foto Flickr

Gaylor yang kini berusia 43 tahun, terheran-heran bagaimana fotonya bisa berpindah dari satu tempat ke tempat lain. Hingga akhirnya dia diberi tahu foto-foto itu mungkin telah berkontribusi pada sistem pengawasan di Amerika Serikat dan negara lain, dan salah satu sistem ini digunakan untuk melacak populasi muslim Uighur di China.

"Rasa ingin tahu saya berubah menjadi ngeri," katanya.

Bagaimana foto bulan madu orang Amerika membantu membangun sistem pengawasan di China? 

Bertahun-tahun lalu, peneliti kecerdasan buatan di universitas terkemuka dan perusahaan teknologi mulai mengumpulkan foto digital dari berbagai sumber, termasuk layanan berbagi foto, jejaring sosial, situs kencan seperti OkCupid, dan bahkan kamera yang dipasang di gerbang sebuah perguruan tinggi. Mereka membagikan foto-foto itu dengan organisasi lain.

Salah satu contohnya adalah MegaFace, kumpulan data yang dibuat oleh para profesor di Universitas Washington pada 2015. Mereka membuatnya tanpa sepengetahuan atau persetujuan orang-orang yang gambarnya dijejali ke dalam kumpulan foto yang sangat besar. Para profesor mempostingnya ke internet agar orang lain dapat mengunduhnya.

MegaFace telah diunduh lebih dari 6.000 kali oleh perusahaan dan lembaga pemerintah di seluruh dunia, menurut permintaan catatan publik New York Times. Pengunduhnya termasuk  kontraktor pertahanan AS Northrop Grumman; In-Q-Tel, cabang investasi dari Central Intelligence Agency (CIA); ByteDance, perusahaan induk dari aplikasi media sosial Cina TikTok; dan perusahaan pengawasan Tiongkok Megvii.

Catatan Cyberthreat.id, raksasa sosial media Facebook juga menggunakan kumpulan foto dari Flickr.  Dalam sebuah pengumuman di situsnya tanggal 1 Juni 2015, Facebook membuat kumpulan data yang disebut People in Photo Albums, terdiri dari lebih dari 37.000 foto dari 2.000 orang, termasuk anak-anak, dari album foto pribadi di Flickr.

MegaFace sendiri sebenarnya dibangun peneliti untuk kepentingan akademis guna memacu pengembangan sistem pengenalan wajah, bukan untuk tujuan komersial. 

"Kami tidak dalam posisi untuk membahas proyek pihak ketiga," kata Victor Balta, juru bicara Universitas Washington.

“MegaFace telah dinonaktifkan, dan data MegaFace tidak lagi didistribusikan,” katanya.

Beberapa yang telah mengunduh data telah menerapkannya untuk sistem pengenalan wajah. Megvii masuk daftar hitam tahun lalu oleh Departemen Perdagangan setelah pemerintah China menggunakan teknologinya untuk memantau populasi Uighur di negara itu. (Baca: Peneliti: Huawei Uji Pengenal Wajah Muslim Uighur dan Mengirim Peringatan ke Polisi)

Universitas Washington menonaktifkan MegaFace pada bulan Mei tahun lalu, dan organisasi lain telah menghapus kumpulan data lainnya. Tetapi salinan dari file-file ini bisa berada di mana saja, dan kemungkinan besar digunakan untuk penelitian baru.

O’Sullivan dan Harvey menghabiskan waktu bertahun-tahun mencoba membuat alat yang dapat mengungkap bagaimana semua data itu digunakan. Ternyata, itu lebih sulit dari yang mereka perkirakan.

Mereka ingin menerima foto seseorang dan, menggunakan pengenalan wajah, langsung memberi tahu orang itu berapa kali wajahnya digunakan dalam salah satu kumpulan data. Tetapi mereka khawatir alat semacam itu dapat digunakan dengan cara yang buruk - oleh penguntit atau oleh perusahaan dan negara tertentu.

"Potensi bahaya tampaknya terlalu besar," kata O'Sullivan, yang juga wakil presiden bidang kecerdasan buatan di Arthur, sebuah perusahaan di New York yang membantu bisnis mengelola perilaku teknologi AI.

Pada akhirnya, mereka terpaksa membatasi bagaimana orang dapat mencari alat tersebut dan hasil apa yang diberikannya. Alat tersebut, seperti yang berfungsi saat ini, tidak seefektif yang mereka inginkan. Tetapi para peneliti khawatir bahwa mereka tidak dapat mengungkap luasnya masalah.

Exposing.AI sendiri tidak menggunakan pengenalan wajah. Untuk mencegah penyalahgunaan, seseorang yang ingin melacak apakah fotonya termasuk dalam dataset yang telah digunakan, diharuskan memasukkan nama pengguna di akun Flickr, tautan link yang mengarah ke fotonya di Flickr, atau tagar yang pernah digunakan di masa lalu. Kebijakan itu dibuat untuk alasan keamanan dan privasi pemilik foto.

Namun begitu, menggunakan alamat email yang digunakan saat mendaftar di Flick, New York Times dapat menemukan foto yang menurut Exposing.AI, digunakan di MegaFace dan kumpulan data pengenalan wajah lainnya.

Beberapa diantaranya milik Parisa Tabriz, peneliti keamanan terkenal di Google. Dia tidak menanggapi permintaan komentar.

Pembuat film dokumenter, Gaylor, sangat terganggu dengan apa yang dia temukan melalui alat itu karena dia pernah percaya bahwa arus informasi bebas di internet sebagian besar adalah hal yang positif. Dia menggunakan Flickr karena itu memberi orang lain hak untuk menggunakan fotonya melalui lisensi Creative Commons.

“Saya sekarang harus menanggung konsekuensinya,” katanya.

Gaylor, juga O'Sullivan dan Harvey, berharap perusahaan dan pemerintah akan mengembangkan norma, kebijakan, dan undang-undang baru yang mencegah pengumpulan data pribadi secara massal. Dia membuat film dokumenter tentang foto bulan madunya yang panjang, berliku, dan terkadang mengganggu untuk menjelaskan masalahnya.

Harvey sendiri bersikukuh bahwa sesuatu harus berubah.

“Kita perlu membongkar ini secepat mungkin - sebelum menimbulkan lebih banyak kerugian,” katanya.[]