Cyberhtreat.id - Uni Eropa sedang mempertimbangkan untuk melarang penggunaan kecerdasan buatan untuk sejumlah tujuan, termasuk pengawasan massal dan skor kredit sosial.

Rencana itu seperti termuat dalam proposal yang bocor dan beredar secara online dan pertama kali dilaporkan oleh media Politico, menjelang pengumuma resmi yang diperkirakan minggu depan.

Seperti dilansir dari The Verge, Kamis (15 April 2021), jika proposal itu disetujui, Uni Eropa akan mengambil sikap yang berbeda dari Amerika Serikat dan China terhadap penggunaan teknologi kecerdasan buatan.

Negara anggota Uni Eropa, misalnya, akan diminta untuk menyiapkan papan penilaian untuk menguji dan memvalidasi sistem AI berisiko tinggi. Dan perusahaan yang mengembangkan atau menjual perangkat lunak AI terlarang di UE - termasuk yang berbasis di tempat lain di dunia - dapat didenda hingga 4 persen dari pendapatan global mereka.

Menurut salinan draf yang dilihat oleh The Verge, rancangan peraturan tersebut meliputi:

- Larangan AI untuk "pengawasan sembarangan", termasuk sistem yang secara langsung melacak individu di lingkungan fisik atau mengumpulkan data dari sumber lain.

- Larangan sistem AI yang membuat skor kredit sosial, yang berarti menilai kepercayaan seseorang berdasarkan perilaku sosial atau prediksi ciri kepribadian

- Otorisasi khusus untuk menggunakan "sistem identifikasi biometrik jarak jauh" seperti pengenalan wajah di ruang publik

- Perlu pemberitahuan saat orang-orang berinteraksi dengan sistem AI, kecuali hal ini "terlihat jelas dari keadaan dan konteks penggunaan"

- Pengawasan baru untuk sistem AI "berisiko tinggi", termasuk yang menimbulkan ancaman langsung terhadap keselamatan, seperti mobil yang dapat mengemudi sendiri, dan yang memiliki peluang tinggi untuk memengaruhi mata pencaharian seseorang, seperti yang digunakan untuk perekrutan tenaga kerja, keputusan pengadilan, dan penilaian kredit.

- Penilaian untuk sistem berisiko tinggi sebelum digunakan, termasuk memastikan sistem ini dapat dijelaskan oleh pengawas manusia dan bahwa mereka dilatih dengan kumpulan data "berkualitas tinggi" yang bebas bias.

- Pembentukan "European Artificial Intelligence Board", yang terdiri dari perwakilan dari setiap negara anggotanya, untuk membantu komisi memutuskan sistem AI mana yang dianggap "berisiko tinggi."

Bagian terpenting dari dokumen itu tampaknya adalah pasal 4 yang  melarang penggunaan AI tertentu, termasuk pengawasan massal dan nilai kredit sosial.

Rencana itu menuai reaksi dari kelompok hak digital dan pakar kebijakan. Mereka menilai sejumlah hal perlu diperbaiki.

“Deskripsi sistem AI yang dilarang tidak jelas, dan penuh dengan bahasa yang tidak jelas dan akan menciptakan celah yang serius,” kata Daniel Leufer, analis kebijakan Eropa di Access Now, kepada The Verge. Bagian itu, katanya, "jauh dari ideal".

Leufer mencatat bahwa larangan pada sistem yang menyebabkan orang "berperilaku, membentuk opini, atau mengambil keputusan yang merugikan mereka" tidak jelas dan tidak membantu. Dia mempertanyakan bagaimana sebenarnya hukum nasional memutuskan apakah suatu keputusan merugikan seseorang atau tidak.  

Di sisi lain, kata Leufer, larangan AI untuk pengawasan massal "terlalu lunak". Ia menambahkan, pelarangan sistem kredit sosial AI berdasarkan "trustworthiness" juga didefinisikan terlalu sempit. Sistem kredit sosial tidak harus menilai apakah seseorang dapat dipercaya untuk memutuskan hal-hal seperti layak tidaknya mereka mendapat tunjangan kesejahteraan.

Di Twitter, Omer Tene, wakil presiden organisasi nirlaba IAPP (Asosiasi Profesional Privasi Internasional), berkomentar bahwa peraturan tersebut “mewakili pendekatan khas Brussels terhadap teknologi dan inovasi baru. Jika ragu, atur."

Jika proposal disahkan, kata Tene, itu akan menciptakan "ekosistem regulasi yang luas," yang tidak hanya akan menarik pencipta sistem AI, tetapi juga importir, distributor, dan pengguna, dan membuat sejumlah dewan pengatur, di seluruh Uni Eropa.

Rencananya, Uni Eropa akan mengumumkan secara resmi terkait hal itu pada 21 April mendatang. Bisa jadi, saat diumumkan nanti, isinya sudah berubah karena biasanya setelah rancangan peraturan  diajukan, akan ada perubahan setelah mendapat tanggapan dari anggota parlemen.[]