Cyberthreat.id - Google memperluas Vulnerability Rewards Program (VRP) sebagai kompensasi bagi para peneliti yang menemukan skenario serangan yang disesuaikan dengan sistem kecerdasan buatan (AI) generatif dalam upaya meningkatkan keselamatan dan keamanan AI.

“AI generatif menimbulkan kekhawatiran baru dan berbeda dibandingkan keamanan digital tradisional, seperti potensi bias yang tidak adil, manipulasi model, atau salah tafsir data (halusinasi),” kata Laurie Richardson dan Royal Hansen dari Google sebagaimana ditulis The Hacker News.

Beberapa kategori yang termasuk dalam cakupannya antara lain injeksi cepat, kebocoran data sensitif dari kumpulan data pelatihan, manipulasi model, serangan perturbasi permusuhan yang memicu kesalahan klasifikasi, dan pencurian model.

Perlu dicatat bahwa Google pada awal bulan Juli ini membentuk AI Red Team untuk membantu mengatasi ancaman terhadap sistem AI sebagai bagian dari Secure AI Framework (SAIF).

Sebagai bagian dari komitmennya untuk mengamankan AI, juga diumumkan upaya untuk memperkuat rantai pasokan AI melalui inisiatif keamanan sumber terbuka yang ada seperti Supply Chain Levels for Software Artifacts (SLSA) dan Sigstore.

“Tanda tangan digital, seperti dari Sigstore, yang memungkinkan pengguna memverifikasi bahwa perangkat lunak tidak dirusak atau diganti,” kata Google.

“Metadata seperti sumber SLSA yang memberi tahu kita apa yang ada dalam perangkat lunak dan bagaimana perangkat lunak itu dibuat, memungkinkan konsumen memastikan kompatibilitas lisensi, mengidentifikasi kerentanan yang diketahui, dan mendeteksi ancaman lebih lanjut.”

The Hacker News menyebutkan, perkembangan ini terjadi ketika OpenAI meluncurkan tim Preparedness internal untuk "melacak, mengevaluasi, memperkirakan, dan melindungi" terhadap risiko bencana AI generatif yang mencakup ancaman keamanan siber, kimia, biologi, radiologi, dan nuklir (CBRN).

Kedua perusahaan tersebut, bersama Anthropic dan Microsoft, juga telah mengumumkan pembentukan Dana Keamanan AI senilai $10 juta, yang berfokus pada mempromosikan penelitian di bidang keamanan AI.[]