Cyberthreat.id - Anda tidak lebih dari kumpulan pengklasifikasi yang ditentukan oleh mesin yang memalukan dan bermasalah.

Kebenaran yang merendahkan itu, tulis Mashable.com pada Selasa (17 September), dibawa pulang oleh ImageNet Roulette, sebuah alat daring yang memberi kesempatan siapa pun mengunggah foto untuk mempelajari bagaimana artificial intelligence (AI) melihatnya.

Proyek ini, digambarkan sebagai "sebuah provokasi" oleh para penciptanya, bertujuan untuk menjelaskan bagaimana sistem kecerdasan buatan melihat dan mengklasifikasikan manusia.

Dan, mengejutkan, AI memiliki beberapa ide yang sangat rasis dan misoginis tentang orang. Atau, lebih tepatnya, dataset yang diambil oleh ImageNet Roulette, ImageNet, diisi dengan kategori-kategori bermasalah mencerminkan bias yang sering melekat dalam kumpulan data besar yang memungkinkan pembelajaran mesin.

"[Kami] ingin menjelaskan apa yang terjadi ketika sistem teknis dilatih tentang data pelatihan yang bermasalah," kata situs web ImageNet Roulette sebagaimana disadur Mashable.com.

"Klasifikasi AI orang jarang dibuat terlihat oleh orang-orang yang diklasifikasi. ImageNet Roulette memberikan gambaran sekilas ke dalam proses itu - dan untuk menunjukkan cara kesalahan bisa terjadi."

Proyek tersebut, yang merupakan bagian dari pameran Training Humans Trevor Paglen dan Kate Crawford di museum Fondazione Prada di Milan, mengidentifikasi apa yang dianggap sebagai wajah dalam foto dan kemudian melabeli mereka sesuai keinginan.

Menurut Mashable.com, seringkali, ini tidak masuk akal bagi pengamat biasa - seperti dalam kasus foto yang menampilkan mantan Presiden Barack Obama dan Pangeran Harry, masing-masing dicap sebagai "pemain kartu" dan "sphinx,".

"[Training Humans] adalah pameran fotografi besar pertama yang dikhususkan untuk melatih gambar: koleksi foto yang digunakan oleh para ilmuwan untuk melatih sistem kecerdasan buatan (AI) dalam cara melihat dan mengkategorikan dunia," kata halaman pameran.

Mengunggah foto pribadi ke ImageNet Roulette merupakan latihan dalam kerendahan hati - ini mengkategorikan foto reporter ini sebagai "serpih, aneh, geek" - dan pengingat bahwa sistem yang membuat penilaian tentang orang-orang yang hanya didasarkan pada foto adalah, terus terang, bukan itu baik.

Poin terakhir inilah yang harus menjadi perhatian. Sistem otomatis yang mereplikasi, dan dengan ekstensi memperburuk, bias yang ada di masyarakat memiliki kekuatan untuk mengkodifikasikan masalah-masalah itu. ImageNet Roulette adalah pengingat bahwa alat penguat gambar AI yang bertenaga bukanlah pengukur kebenaran digital. []