IND | ENG
AI-nya Melabeli Video Lelaki Berkulit Hitam sebagai ‘Primata’, Facebook Minta Maaf

Facebook | Foto: Freepik

AI-nya Melabeli Video Lelaki Berkulit Hitam sebagai ‘Primata’, Facebook Minta Maaf
Andi Nugroho Diposting : Senin, 06 September 2021 - 11:05 WIB

Cyberthreat.id – Facebook meminta maaf atas insiden kesalahan dari teknologi kecerdasan buatan-nya (AI) yang memberi label “primata” pada video lelaki berkulit hitam.

Sebelumnya New York Times melaporkan bahwa video tersebut diunggah di sebuah tabloid Inggris, Daily Maily, pada 27 Juni lalu. Isinya seorang lelaki kulit hitam yang berselisih dengan orang sipil kulit putih dan petugas polisi.

Setelah video berakhir, sebuah pesan otomatis muncul yang menanyakan apakah pengguna ingin, “terus lihat video tentang Primata,” menurut NYT.

Dikutip dari Associated Press, diakses Senin (6 September 2021), merespons insiden itu, Facebook pun mematikan fitur kecerdasan buatan yang menampilkan pesan itu dan meminta maaf apa yang disebutnya sebagai “kesalahan yang tidak dapat diterima”.

Kepada NYT, Facebook mengatakan masih menyelidiki lebih lanjut bahwa hal itu tidak akan terulang kembali.

“Ini jelas kesalahan yang tidak dapat diterima,” kata juru bicara Facebook kepada The Verge.

“Seperti yang telah kami katakan, sementara kami membuat peningkatan pada AI kami, kami tahu itu tidaklah sempurna dan kami memmiliki lebih banyak kemajuan untuk dibuat. Kami meminta maaf kepada siapa pun yang mungkin telah melihat rekomendasi ofensis ini.”

Insiden itu hanyalah contoh terbaru dari alat kecerdasan buatan yang menunjukkan bias gender atau ras. Alat pengenalan wajah terbukti memiliki masalah khusus dalam mengidentifikasi orang kulit berwarna. Pada 2015, Google meminta maaf setelah memberi label foto dua orang kulit hitam sebagai “gorila”.

Tahun lalu, Facebook mengatakan sedang mempelajari apakah algoritma yang dilatih menggunakan AI—termasuk yang dimiliki Instagram, yang dimiliki Facebook—bias secara rasial.

Pada April lalu, Komisi Perdagangan Federal AS juga telah memperingatkan bahwa alat AI yang telah menunjukkan bias rasial dan gender yang "mengganggu" mungkin melanggar undang-undang perlindungan konsumen jika digunakan untuk pengambilan keputusan untuk kredit, perumahan, atau pekerjaan.[]

#facebook   #AI   #kecerdasanbuatan   #primata   #gorila

Share:




BACA JUGA
Demokratisasi AI dan Privasi
Indonesia Dorong Terapkan Tata Kelola AI yang Adil dan Inklusif
Wamenkominfo Apresiasi Kolaborasi Tingkatkan Kapasitas Talenta AI Aceh
Microsoft Merilis PyRIT - Alat Red Teaming untuk AI Generatif
Utusan Setjen PBB: Indonesia Berpotensi jadi Episentrum Pengembangan AI Kawasan ASEAN