Cyberthreat.id – Lebih dari 1.000 orang, meliputi para profesor dan pengembang kecerdasan buatan (AI), meneken surat terbuka (petisi) untuk seluruh laboratorium AI di dunia. Mereka meminta agar pengembangan dan pelatihan sistem AI yang lebih kuat dibanding GPT-4, kecerdasan buatan di balik chatbot "ChatGPT", disetop dulu setidaknya hingga enam bulan ke depan.

Surat itu diteken oleh orang-orang yang ahli di bidang pengembangan dan teknologi AI, di antaranya Elon Musk (Co-founder OpenAI, pengembang ChatGPT), Yoshua Bengio (profesor AI dan pendiri Mila), Steve Wozniak (Co-founder Apple), Emad Mostraque (CEO Stability AI), Stuart Russel (pelopor riset AI) dan Gary Marcus (Founder Geometric Intelligence).

Surat terbuka, yang diterbitkan oleh organisasi Future of Life, menekankan potensi risiko bagi masyarakat dan kemanusiaan yang muncul dari pesatnya perkembangan sistem AI canggih tanpa protokol keamanan bersama.

Potensi risiko belum sepenuhnya dipertanggungjawabkan oleh sistem manajemen yang komprehensif, sehingga efek positif teknologi tidak terjamin, demikian petikan surat dikutip dari BleepingComputer, Rabu (29 Maret 2023).

"AI tingkat lanjut dapat mewakili perubahan besar dalam sejarah kehidupan di Bumi dan harus direncanakan dan dikelola dengan perawatan dan sumber daya yang sepadan,"  bunyi surat itu .

Surat itu juga memperingatkan bahwa sistem AI modern sekarang bersaing langsung dengan manusia dalam tugas-tugas umum, yang menimbulkan beberapa pertanyaan eksistensial dan etis yang masih perlu dipertimbangkan, diperdebatkan, dan diputuskan oleh umat manusia.

Beberapa pertanyaan yang digarisbawahi berkaitan dengan aliran informasi yang dihasilkan oleh AI, otomatisasi pekerjaan yang tidak terkendali, pengembangan sistem yang mengakali manusia dan mengancam untuk membuat mereka usang, dan kendali peradaban.

 “Oleh karena itu, kami mengimbau semua laboratorium AI untuk segera menghentikan sementara pelatihan sistem AI yang lebih kuat dari GPT-4 setidaknya selama 6 bulan,” saran  surat terbuka tersebut .

 “Jeda ini harus bersifat publik dan dapat diverifikasi, dan mencakup semua aktor kunci. Jika jeda seperti itu tidak dapat diberlakukan dengan cepat, pemerintah harus turun tangan dan melembagakan moratorium.”

Selama jeda ini, tim pengembangan AI akan memiliki kesempatan untuk berkumpul dan menyepakati pembuatan protokol keselamatan yang kemudian akan digunakan untuk audit kepatuhan yang dilakukan oleh pakar independen eksternal.

Selain itu, pembuat kebijakan harus menerapkan langkah-langkah perlindungan, seperti sistem watermarking yang secara efektif membedakan antara konten asli dan palsu, memungkinkan penugasan tanggung jawab atas kerusakan yang disebabkan oleh materi buatan AI, dan penelitian yang didanai publik terhadap risiko AI.

Namun, petisi tidak menganjurkan penghentian pengembangan AI sama sekali; sebaliknya, menggarisbawahi bahaya yang terkait dengan persaingan yang ada di antara para desainer AI yang berlomba-lomba untuk mendapatkan bagian dari pasar yang berkembang pesat.

Petisi juga menegaskan perlunya merekayasa sistem AI untuk keuntungan semua orang dan memberi masyarakat kesempatan untuk beradaptasi.[]