IND | ENG
7 Kegunaan AI Generatif untuk Meningkatkan Keamanan Siber

The Hacker News

7 Kegunaan AI Generatif untuk Meningkatkan Keamanan Siber
Jonathan Echavarria Diposting : Jumat, 01 Desember 2023 - 13:39 WIB

SELAMAT datang di dunia di mana AI Generatif merevolusi bidang keamanan siber.

AI generatif mengacu pada penggunaan teknik kecerdasan buatan (AI) untuk menghasilkan atau membuat data baru, seperti gambar, teks, atau suara. Hal ini telah mendapatkan perhatian yang signifikan dalam beberapa tahun terakhir karena kemampuannya untuk menghasilkan keluaran yang realistis dan beragam.

Dalam hal operasi keamanan, AI Generatif dapat memainkan peran penting. Ini dapat digunakan untuk mendeteksi dan mencegah berbagai ancaman, termasuk malware, upaya phishing, dan pelanggaran data. Menganalisis pola dan perilaku dalam data dalam jumlah besar memungkinkannya mengidentifikasi aktivitas mencurigakan dan memperingatkan tim keamanan secara real-time.

Berikut tujuh kasus penggunaan praktis yang menunjukkan kekuatan AI Generatif. Ada lebih banyak kemungkinan di luar sana tentang bagaimana Anda dapat mencapai tujuan dan memperkuat operasi keamanan, namun daftar ini akan membuat kreativitas Anda mengalir.

1) Manajemen Informasi#

Keamanan informasi berkaitan dengan cakupan data yang terus berkembang. Pemasukan informasi baru merupakan salah satu tantangan dalam mengelola informasi, namun AI Generatif dapat membantu menyaring informasi tersebut.

Misalnya, ada sejumlah solusi yang ada untuk menggabungkan data, seperti RSS feed untuk berita, namun masalah dalam menentukan informasi mana yang berguna dan mana yang tidak masih menimbulkan masalah.

Model AI generatif telah menunjukkan kemampuan yang menjanjikan dalam menghasilkan ringkasan teks yang akurat dan ringkas. Model ini dapat dilatih pada kumpulan data besar informasi terkait keamanan dan belajar mengidentifikasi informasi penting, mengekstrak detail penting, dan menghasilkan ringkasan ringkas.

Tugas lain yang memanfaatkan kemampuan ini adalah membuat kebijakan baru dalam bahasa organisasi Anda dengan menyediakan dokumentasi yang sudah ada, seperti dokumen kebijakan.

2) Analisis Malware#

Solusi AI generatif, meskipun tidak dapat menyelesaikan semuanya, sangat berguna bagi tim keamanan dalam melakukan analisis malware. Model AI 'belajar' mendeteksi dan mengenali pola dalam berbagai jenis malware, berkat banyaknya data berlabel yang dilatihkan.

Pengetahuan yang diperoleh itu memungkinkan AI mengidentifikasi anomali dalam kode yang sebelumnya tidak terlihat, sehingga membuka jalan bagi deteksi ancaman yang lebih efektif dan efisien. Malware yang berbentuk teks biasa (seperti executable yang telah didekompilasi, atau skrip python berbahaya) umumnya paling cocok untuk ini.

Dalam beberapa kasus, AI Generatif bahkan mampu mengaburkan teknik umum seperti skema pengkodean. Mengaktifkan solusi AI Generatif untuk menggunakan alat eksternal untuk menghilangkan kebingungan akan sangat meningkatkan kemampuannya.

Jika diterapkan dengan benar pada kasus penggunaan analisis malware, AI Generatif dapat membantu tim keamanan memperhitungkan kurangnya pengetahuan coding dan dengan cepat melakukan triage terhadap potensi malware.

3) Pengembangan Alat#

AI generatif juga dapat dengan cepat meningkatkan kemampuan tim keamanan untuk menghasilkan peralatan yang berguna dan dapat ditindaklanjuti. AI generatif telah menunjukkan banyak potensi untuk mampu menyelesaikan tugas-tugas pengkodean yang kompleks. Secara umum, dengan dorongan yang baik, akan jauh lebih mudah bagi pengembang untuk men-debug kode yang dihasilkan AI dibandingkan arsitek dan membuat ulang kode dari awal. Dengan model yang mumpuni dan canggih, proses debug pada kode yang dihasilkan mungkin tidak diperlukan.

4) Evaluasi Risiko#

Model AI generatif sangat bagus dalam meniru berbagai persona dan mematuhinya. Dengan penerapan teknik prompting yang tepat, maka fokus atau perilaku model dapat diarahkan untuk mengambil bias tertentu.

Dari sana, model dapat mengevaluasi berbagai skenario risiko dengan meniru banyak persona, memberikan wawasan dengan perspektif berbeda.

Dengan menggunakan sejumlah perspektif, AI Generatif dapat dimanfaatkan untuk memberikan penilaian risiko yang menyeluruh dan jauh lebih mampu menjadi evaluator netral (melalui emulasi persona) dibandingkan manusia.

Seseorang dapat memperdebatkan model dengan kepribadian yang berlawanan dan memastikan bahwa skenario yang dievaluasi sepenuhnya merupakan tim merah.

5) Tabletops#

AI generatif dapat dimanfaatkan untuk tabletops dalam berbagai mekanisme. Misalnya, berikan model dengan informasi dari artikel berita yang baru dirilis yang mencakup skenario ancaman baru, lalu buat model tersebut menghasilkan skenario yang disesuaikan dengan organisasi Anda dan risikonya.

AI generatif juga dapat digunakan untuk tugas kesekretariatan dalam skenario meja, seperti menerima kalender berbagai pemangku kepentingan dan menjadwalkan waktu pertemuan yang tepat untuk melakukan meja.

Model obrolan khususnya sangat cocok untuk tabletops, mereka dapat memproses data permukaan meja secara langsung dan memberikan masukan dan umpan balik secara real-time.

6) Respons Insiden#

AI generatif adalah alat yang sangat baik untuk membantu respons insiden. Dengan menciptakan alur kerja yang mencakup wawasan AI untuk menganalisis muatan yang terkait dengan insiden, waktu penyelesaian (MTTR) insiden dapat dikurangi secara signifikan.

Sangat penting untuk menggunakan augmentasi pengambilan dalam skenario ini, karena kemungkinan besar tidak mungkin melatih model untuk memperhitungkan setiap kemungkinan skenario.

Saat Anda menerapkan augmentasi pengambilan ke sumber data eksternal tambahan, seperti intelijen ancaman, Anda mendapatkan alur kerja otomatis yang akurat dan berfungsi menghilangkan halusinasi.

7) Intelijen Ancaman#

Penggunaan AI Generatif untuk membantu dan meningkatkan berbagai tugas intelijen ancaman adalah penerapan yang jelas.

Dengan menganalisis sejumlah besar data terstruktur dan tidak terstruktur, seperti indikator kompromi (IOC), sampel malware, dan URL berbahaya, AI generatif dapat membuat laporan mendalam yang merangkum lanskap ancaman saat ini, tren yang muncul, dan potensi kerentanan.

Hal ini juga dapat mensintesis laporan data pelaku ancaman dengan informasi tentang TTP berbagai pelaku ancaman yang mengubah data menjadi intelijen yang dapat ditindaklanjuti.

Misalnya, hal ini dapat menandai vektor serangan potensial, sistem yang rentan, atau mekanisme deteksi spesifik yang dapat diterapkan untuk memitigasi ancaman tersebut.

Apa berikutnya #

AI Generatif memiliki potensi besar untuk masa depan keamanan siber. Dengan memanfaatkan kemampuannya untuk memproses dan menganalisis data dalam jumlah besar, teknologi ini mampu mengubah cara kita mendeteksi, menyelidiki, dan merespons ancaman dunia maya.

Catatan: Artikel ini ditulis secara ahli dan disumbangkan oleh Jonathan Echavarria, Ilmuwan Riset Utama di ReliaQuest, dan dipublis oleh The Hacker News.

#AIgeneratif   #ai   #keamanansiber   #ancamansiber

Share:




BACA JUGA
Seni Menjaga Identitas Non-Manusia
Indonesia Dorong Terapkan Tata Kelola AI yang Adil dan Inklusif
SiCat: Inovasi Alat Keamanan Siber Open Source untuk Perlindungan Optimal
Microsoft Merilis PyRIT - Alat Red Teaming untuk AI Generatif
BSSN Selenggarakan Workshop Tanggap Insiden Siber Sektor Keuangan, Perdagangan dan Pariwisata