Cyberthreat.id - Sekitar 1.800 badan pemerintah Amerika Serikat ditemukan telah menggunakan alat pengenalan wajah kontroversial, Clearview AI, tanpa pengawasan publik.

Itu terungkap dalam laporan media BuzzFeed yang pertama kali dipublikasi pada 6 April 2021 dan diperbarui 8 April 2021.

Dalam laporannya, BuzzFeed menyebutkan telah mendapat catatan dari sumber yang menolak namanya disebutkan, mengungkap instansi apa saja di  Amerika yang memakai Clearview AI.

Disebutkan, instansi yang menggunakan ClearView AI antara lain kepolisian (lokal dan negara bagian), imigrasi dan bea cukai AS, angkatan udara, organisasi kesehatan, kantor jaksa agung negara bagian, hingga sektor pendidikan seperti sekolah.

Sekedar informasi, dikutip dari TechRadar, Clearview AI adalah perusahaan rintisan yang berbasis di Amerika Serikat yang menawarkan basis data pengenalan wajah yang dapat dimanfaatkan para penegak hukum. Proses pengumpulan data oleh perusahaan ini telah dipertanyakan, dan sedang diselidiki di Inggris dan Australia.

Clearview AI, tulis Buzzfeed, mengklaim mengumpulkan database sebanyak 3 miliar gambar yang diambil tanpa izin dari media sosial seperti Facebook, Instagram, dan LinkedIn.

Instansi-instansi yang terungkap itu telah menggunakan Clearview AI sejak 2018 hingga Februari 2020. BuzzFeed juga menanyakan instansi terkait dan dari total 1.083 entitas yang memakai itu -- ada beberapa tidak menjawab-- BuzzFeed menemukan terdapat 340.000 pencarian.

Menurut BuzzFeed, Clearview AI mendistribusikan perangkat lunak pengenal wajahnya kepada ribuan petugas polisi dan pegawai pemerintah yang pada akhirnya digunakan oleh karyawan tanpa sepengetahuan siapapun.

"Agensi yang mengakui karyawannya telah menggunakan perangkat lunak tersebut mengonfirmasi bahwa hal itu terjadi tanpa sepengetahuan atasan mereka, apalagi publik yang mereka layani," tulis BuzzFeed.

Penggunaan perangkat lunak pengenalan wajah oleh kepolisian cukup mengkhawatirkan lantaran Clearview AI belum membuktikan keakuratan teknologinya yang oleh CEO-nya, Hoan Ton-That diklaim teknologinya 99 persen akurat.

Clearview AI menyebut sudah melakukan pemeriksaan independen dengan menyebut suatu universitas di Washington, tetapi universitas itu tidak menanggapi permintaan komentar.

Sementara itu, perwakilan dari berbagai lembaga penegak hukum mengaku kepada BuzzFeed News bahwa mereka memilih tidak menggunakan ClearView AI karena tidak bekerja sebaik yang diharapkan atau tidak memenuhi standar.

Dennis Natale, seorang detektif dari Departemen Kepolisian Melrose Park di Illinois, yang melakukan lebih dari 120 pencarian pada awal 2020, mengatakan bahwa Clearview "tidak secara langsung mempengaruhi" salah satu kasusnya. Departemen Kepolisian Fort Wayne di Indiana juga mengaku Clearview AI jarang digunakan karena jarang menghasilkan kecocokan saat penelusuran dilakukan.

Buzzfeed menyebutkan, teknologi itu sering tidak akurat ktika mencocokkan wajah orang-orang non-kulit putih, seperti orang Asia atau Afrika. Tak hanya teknologi Clearview saja, tetapi teknologi yang dikembangkan perusahaan lain juga seperti itu hingga membuat orang yang tidak bersalah jadi dituduh melakukan kejahatan akibat salah pencocokan wajah.

Padal 2018, ACLU melaporkan sistem pengenalan wajah Amazon salah mencocokkan 28 anggota Kongres dengan orang-orang yang telah ditangkap karena kejahatan. Pada 2020, New York Times melaporkan adanya salah tangkap terhadap pria kulit hitam akibat penggunaan pengenalan wajah di Departemen Kepolisian Detroit.

Akhir Desember lalu, seorang pria kulit hitam asal New Jersey, Nijeer Parks, menuntut polisi, jaksa, dan pemerintah Kota Woodbridge karena salah tangkap, memenjarakan dirinya, dan pelanggaran hak-hak sipilnya. Itu terjadi setelah alat pengenalan wajah yang dipakai polisi setempat salah mengindetifikasi pelaku kejahatan.

Park dijebloskan ke tahanan dan harus membayar US$ 5 ribu untuk membela diri.  Pada November 2019, kasus itu dibatalkan karena tidak cukup bukti. Namun, kasus itu hampir saja membuatnya mendekam lebih lama di penjara karena sebelumnya ia sudah dua kali ditahan. Setidaknya, dia terancam dihukum 10 tahun penjara jika tidak bisa membuktikan dirinya tidak bersalah. (Lihat: Kisah Pria yang Menggugat Polisi karena Kesalahan Teknologi Pengenal Wajah Hampir Menghancurkan Hidupnya).

Microsoft dan Amazon yang sebelumnya menawarkan teknologi pengenalan wajah pun telah berhenti menawarkan teknologinya.

Namun, CEO Clearview berulang kali mengatakan bahwa teknologinya kebal terhadap kesalahan. Kepada BuzzFeed News, Ton-That mengatakan "sebagai orang dari ras campuran, memastikan bahwa Clearview AI tidak bias sangat penting bagi saya"

Dia kembali menegaskan telah melakukan uji independen dan menambahkan bahwa tidak ada penangkapan yang salah dilaporkan akibat penggunaan teknologinya. "Kami memenuhi standar itu,".

Hanya saja, Clearview tidak memberikan informasi apapun tentang pengujian itu, meski telah diminta berulang kali oleh BuzzFeed News.

Meski tidak ditemukan adanya bukti akibat teknologinya polisi menangkap orang yang salah, tetapi Buzzfeed mengatakan pihaknya menemukan adanya kesalahan positif sehingga rentan terhadap kesalahan itu.

Detektif Adam Stasinopoulos dari Departemen Kepolisian Taman Hutan di Illinois, yang telah berhenti menggunakan Clearview setelah uji coba gratisnya berakhir, mengatakan dia melihat kesalahan positif dalam hasil pencarian dalam aplikasi pengenalan wajah. Adapun juga dalam penelusuran penjahat melalui teknologi Clearview AI, teknologinya berhasil mengidentifikasi tersangka seorang wanita kulit hitam, tetapi juga mencocokkan gambarnya dengan tiga orang kulit hitam lainnya yang tidak terlibat dalam kejahatan tersebut.

Pendiri Algorithmic Justice League, Joy Buolamwini mengatakan terlepas dari akurat atau tidaknya, polisi dengan mudah menyalahgunakan dan mempersenjatai alat pengenalan wajah seperti Clearview itu.

"Ketika sistem ini digunakan sebagai alat pengawasan massal, mereka yang dirugikan oleh sistem algoritmik, menderita beban dari permintaan yang berlebihan, pengawasan yang tidak semestinya, dan penangkapan palsu." kata Joy.

Begitu pula dengan transparansi penggunaan Clearview. Diketahui polisi menggunakan Clearview dalam menangkap para pengunjuk rasa di Miami pada Mei 2020. Begitu pula yang ditangkap selama Black Lives Matter di Indiana. Departemen kepolisian setempat menolak berkomentar terkait siapa yang ditangkap dengan bantuan aplikasi Clearview.

Sementara, Indiana sudah mengkonfirmasi bahwa memang menggunakan Clearview dengan lebih dari 5.700 pencarian pada Februari 2020 menggunakan Clearview.

Lebih detailnya, untuk departemen polisi lainnya, yakni polisi negara bagian New York melakukan 5.100 pencarian, Kantor Sheriff Bergen County di New Jersey (setingkat polres) dengan 7.800 pencarian, Kantor Sheriff Paroki Jefferson di Lousiana hampir 4.200.

Selain kepolisian, individu di 15 kantor jaksa agung negara bagian yang berbeda mencoba perangkat lunak itu, termasuk di Texas, Alabama, dan News Jersey. Kantor Jaksa Agung California pun mengatakan kepada Buzzfeed, bahwa Departemen Kehakiman negara bagian tidak mengizinkan penggunaan perangkat lunak pengenal wajah.

Sementara di sektor pendidikan ada 31 sekolah komunitas (community college) dan universitas negeri yang menggunakan perangkat lunak Clearview AI. Selain itu, ada individu yang ditemukan terkait dengan dua sekolah menengah yakni Sekolah Menegah Regional Somerset Berkley di Massaschusetts dan Sekolah Menengah Teknis Central Montco di Pennsylvania serta Distrik Sekolah Independen Katy di Texas juga melakukan pencarian dengan perangkat lunak ini.

Uji coba gratis yang diberikan Clearview selama 30 hari diyakini membuat banyak lembaga terpicu untuk mencoba menggunakan layanan itu.

Pada awal Januari 2020 lalu, Clearview digugat dengan tuduhan melanggar udang-undang privasi negara bagian Illinois, Amerika Serikat, tentang penggunaan data biometrik penduduk.Gugatan tertanggal 22 Januari 2020 itu menyusul pemberitaan New York Times yang melaporkan bagaimana Clearview AI mengumpulkan foto-foto wajah orang tanpa sepengetahuan pemiliknya. Tak tanggung-tanggung, jumlahnya disebut-sebut lebih dari 3 miliar.[]

Klik di sini untuk melihat berita-berita lain tentang kontroversi Clearview AI

Editor: Yuswardi A. Suud