Cyberthreat.id - Chief Scientist and Founder at Delligence AI, Mohamad Ivan Fanany, mengatakan teknologi Artificial Intelligence (AI) yang semakin berkembang dan membantu pekerjaan manusia tetap membutuhkan etika dan pengawasan dari manusia.

Menurut dia, semakin hebat sistem AI, semakin mungkin menggunakan teknologi tersebut untuk hal-hal yang membahayakan keselamatan manusia. Keselamatan manusia yang dimaksud bukan hanya "nyawa/life".

"Etika AI ini diperlukan untuk mencegah terjadinya hal-hal seperti diskriminasi, bias dan ketidakadilan," kata Ivan kepada Cyberthreat.id, Selasa (11 Februari 2020).

Dalam penerapan etika AI, mensyaratkan keterlibatan dan pengawasan oleh manusia. Sistem AI yang handal dan aman, melibatkan perlindungan privasi dan kedaulatan data, transparansi (bisa ditelusuri, bisa dijelaskan, dan bisa dikomunikasikan), tidak bias dan diskriminatif, menjamin harmoni sosial dan kesejahteraan manusia, serta bisa dimintai pertanggungjawaban.

"Walaupun AI ini sudah mengalami lompatan jauh tingkat kemajuannya saat ini, tapi bukan berarti AI bebas dari melakukan kesalahan," ujarnya.

Tiga Kesalahan

Ivan kemudian mencontohkan sejumlah kesalahan yang bisa saja terjadi pada AI. Kesalahan pertama yang menjadi pertimbangan adalah sistem AI hanyalah sebagus data yang diberikan/dipasok. Misalnya, data yang diberikan mengandung bias.

"Contohnya apabila dalam suatu data set mengandung banyak contoh pelaku kriminal adalah suatu ras tertentu saja, maka sistem AI cenderung "mencurigai" ras tersebut," ujarnya.

Kesalahan kedua, sistem AI juga bisa dikelabui dengan 'meracuni' data sehingga salah dalam mengambil keputusan. Ketika sistem AI tersebut bersifat untuk 'critical system' yang membahayakan keselamatan diri ataupun "karakter" seseorang, maka hal tersebut sangat berbahaya.

"Dia bisa membunuh nyawa atau karakter seseorang."

Meski demikian, ini berbeda dengan bias inheren pada data, dengan meracuni data itu yang dilakukan secara sengaja. Hal ini dikenal sebagai adversarial attacks.

"Jadi para aktor jahat memang sengaja membuat data-data beracun dengan cara melatih model AI dengan memaksimalkan error dari AI tersebut."

Kesalahan ketiga, sistem AI semakin sulit dijelaskan atau dikenal dengan istilah black box. Semakin sistem itu canggih, akan cenderung semakin sulit untuk dijelaskan. Hal ini membuat manusia yang dibantu oleh AI cenderung tidak menerima saran dari sistem AI karena ia tidak paham alasan yang menyebabkan suatu sistem AI mengambil keputusan tertentu.

Untuk kesalahan ini, suatu sistem yang dapat menerangkan alasan dibalik keputusan AI tersebut menjadi sangat penting. Sebab, sistem yang semakin canggih sebenarnya secara implisit semakin banyak menyimpan persamaan matematika atau fungsi-fungsi transformasi yang berlipat-lipat.

"Itu sebabnya semakin capable AI, tapi semakin sulit dijelaskan."[]

Redaktur: Arif Rahman