Cybertreat.id - Departemen Pertahanan Amerika Serikat mengumumkan rencana mengadopsi prinsip-prinsip etika untuk mendorong penggunaan kecerdasan buatan (artificial intelligence/AI) di medan perang.

Dilansir dari The Independent, Jumat (28 Februari 2020), Kepala Pejabat Informasi Pentagon, Dana Deasy, mengatakan lima prinsip AI akan meletakkan dasar untuk "desain etis, pengembangan, penyebaran, dan penggunaan AI oleh Departemen Pertahanan."

Disebutkan, prinsip-prinsip baru menyerukan orang untuk "menggunakan tingkat penilaian dn perawatan yang tepat" ketika menggunakan sistem AI, seperti memindai citra udara dan mencari target serangan.

"Keputusan yang dibuat oleh sistem otomatis harus "dapat dilacak" dan "dapat diatur", yang berarti "harus ada cara untuk melepaskan atau menonaktifkan" mereka jika mereka menunjukkan perilaku yang tidak diinginkan," kata Letnan Jenderal Angkatan Udara Jack Shanahan, direktur Pusat Gabungan Kecerdasan Buatan Pentagon.

Aturan militer tahun 2012 yang berlaku saat ini mengharuskan senjata otomatis dikendalikan oleh manusia. Namun, tidak membahas penggunaan AI secara lebih luas. Prinsip-prinsip baru yang dimaksudkan untuk memandu aplikasi tempur dan non-tempur, dari pengumpulan intelijen dan operasi pengawasan hingga prediksi masalah perawatan di pesawat atau kapal.

Pendekatan yang ditegaskan Senin lalu itu mengikuti rekomendasi yang dibuat tahun lalu oleh Dewan Inovasi Pertahanan, kelompok yang dipimpin oleh mantan CEO Google Eric Schmidt.

Sementara Pentagon mengakui bahwa AI "menimbulkan ambiguitas dan risiko etis baru," prinsip-prinsip baru tidak memenuhi batasan-batasan yang lebih disukai oleh pendukung kontrol senjata.

"Saya khawatir prinsip-prinsip itu sedikit dari proyek pencucian etika," kata Lucy Suchman, seorang antropolog yang mempelajari peran AI dalam peperangan. "Kata 'pantas' terbuka untuk banyak interpretasi."

Shanahan mengatakan prinsip-prinsip tersebut sengaja dibuat untuk menghindari pembatasan kemampuan militer AS. Padahal, teknologi terus berkembang.

Hambatan Pentagon dalam Mengadopsi AI  
Pentagon mengalami hambatan dalam upaya AI pada tahun 2018 setelah protes internal di Google menyebabkan perusahaan teknologi itu keluar dari Proyek Maven militer, yang menggunakan algoritma untuk menginterpretasikan gambar udara dari zona konflik. Perusahaan lain sejak itu mengisi kekosongan. Shanahan mengatakan prinsip-prinsip baru membantu mendapatkan kembali dukungan dari industri teknologi, di mana "ada kehausan untuk melakukan diskusi ini."

"Kadang-kadang saya pikir kecemasan itu sedikit berlebihan, tetapi kami memiliki orang-orang yang memiliki perhatian serius tentang bekerja dengan Departemen Pertahanan," katanya.

Shanahan mengatakan pedoman itu juga membantu mengamankan keunggulan teknologi Amerika ketika Cina dan Rusia mengejar AI militer dengan sedikit perhatian terhadap masalah etika.

Risiko Perang Berbasis AI
Profesor hukum Universitas Richmond, Rebecca Crootof mengatakan, mengadopsi prinsip AI adalah langkah awal yang baik, tetapi militer perlu menunjukkan bahwa mereka dapat secara kritis mengevaluasi data yang sangat besar yang digunakan oleh sistem AI, serta risiko keamanan siber mereka.

Crootof berharap tindakan AS membantu membangun norma-norma internasional seputar penggunaan militer oleh AI.

"Jika AS terlihat menganggap serius norma-norma etis AI, secara default mereka menjadi topik yang lebih serius," katanya.

Setelah dikerahkan, proyek "perang cloud" Jedi akan memberikan kekuatan komputasi untuk memungkinkan perencanaan perang berbasis AI.

Seperti diketahui, dorongan Pentagon untuk mempercepat kemampuan AI-nya telah memicu perselisihan antara perusahaan-perusahaan teknologi dalam kontrak komputasi awan (cloud) senilai $ 10 miliar yang dikenal sebagai Joint Enterprise Defense Infrastructure, atau JEDI.

Microsoft memenangkan kontrak pada bulan Oktober tetapi belum dapat memulai proyek 10 tahun karena Amazon menggugat Pentagon. Gugatan itu lantaran Amazon menilai mereka mereka kalah tender dipicu oleh sikap antipati Presiden Donald Trump terhadap mereka.

Militer AS mengklaim akan secara signifikan meningkatkan operasi darat dengan memberikan pasukan akses ke komputer yang sangat kuat untuk membantu strategi di medan perang.[]