Five Worthy Reads: Kejahatan Siber Berbasis AI, Ancaman Baru bagi Perusahaan

Five Worthy Reads adalah segmen rutin yang menampilkan lima artikel atau referensi penting yang kami temukan selama melakukan riset terkait topik-topik yang sedang tren maupun relevan dalam jangka panjang. Pada edisi kali ini, kami menyoroti kejahatan siber berbasis kecerdasan buatan (AI) dan bagaimana organisasi dapat mempersiapkan diri untuk menghadapi dinamika risiko yang semakin kompleks. 

Seiring dengan semakin meluasnya integrasi AI dalam kehidupan sehari-hari dan lingkungan bisnis, teknologi ini tidak hanya merevolusi inovasi dan produktivitas, tetapi juga mendefinisikan ulang lanskap ancaman siber. Para penyerang kini memanfaatkan AI untuk melancarkan serangan yang lebih cepat, cerdas, dan sulit dideteksi, yang menantang batas kemampuan sistem keamanan tradisional. Mulai dari email phishing berbasis AI hingga penyamaran deepfake dan malware, ancaman cerdas ini terus meningkat. 

Dalam blog ini, kita akan membahas bagaimana AI digunakan untuk melakukan serangan, ancaman yang ditimbulkannya bagi organisasi, serta langkah-langkah yang dapat kita ambil untuk menghadapi perubahan dalam perang siber yang terus berkembang ini.

Tren AI yang Terus Berkembang dan Kenapa Kita Harus Siap Menghadapinya

Adopsi kecerdasan buatan (AI) yang semakin cepat sedang mengubah banyak industri — tapi di sisi lain juga memberi para pelaku kejahatan siber senjata baru yang jauh lebih canggih. Menurut Microsoft Security Report 2024, lebih dari 35% serangan phishing di tahun 2024 menggunakan generative AI untuk membuat pesan yang sangat terarah dan hampir mustahil dibedakan dari pesan asli. Ancaman berbasis machine learning seperti ini jauh lebih cepat, dinamis, dan efektif dalam menghindari filter keamanan tradisional, sehingga memaksa banyak organisasi untuk menata ulang sistem pertahanan mereka.

Yang membuat tren ini makin mengkhawatirkan adalah kecepatan AI dalam mengotomatiskan serangan. Satu botnet berbahaya yang didukung AI bisa memindai dan mengeksploitasi ribuan celah keamanan hanya dalam hitungan menit. Padahal, biasanya eksploitasi hacker manusia membutuhkan waktu berhari-hari atau bahkan berminggu-minggu. Gartner memperkirakan bahwa hingga tahun 2026, 40% pelanggaran data akan disebabkan oleh lemahnya tata kelola AI atau penggunaan tool AI yang tidak terkelola dengan baik.

Untuk tetap aman, perusahaan perlu berinvestasi dalam sistem deteksi ancaman berbasis AI, melatih kembali karyawan agar lebih memahami jenis ancaman terbaru, serta menerapkan panduan ketat dalam penggunaan AI baik untuk mencegah serangan dari luar maupun dari dalam.

Berikut beberapa bacaan terbaik kami untuk membantu Anda memahami bagaimana kejahatan siber berbasis AI mulai muncul sebagai ancaman besar bagi dunia bisnis.

1. Ancaman Siber Berbasis AI Menyerang 72% Organisasi di India, Menurut Laporan Terbaru

Sebuah laporan terbaru dari Fortinet–IDC mengungkap bahwa 72% organisasi di India menjadi korban serangan siber yang digerakkan oleh AI selama setahun terakhir. Para penyerang kini memanfaatkan AI untuk meluncurkan serangan tingkat lanjut seperti credential stuffing, peniruan identitas menggunakan deepfake, phishing buatan AI, hingga dynamic malware.

Ancaman-ancaman baru ini semakin sulit dideteksi karena menargetkan kelemahan manusia dan sistem identitas yang rentan. Menariknya, hanya 14% organisasi yang merasa cukup percaya diri mampu mempertahankan diri dari jenis serangan seperti ini. Sebagian besar perusahaan masih belum memiliki mekanisme deteksi dan respons yang memadai.

Laporan tersebut menegaskan pentingnya penerapan langkah-langkah keamanan siber berbasis AI yang bersifat prediktif, dengan fokus khusus pada keamanan identitas dan ketahanan infrastruktur cloud.

2. CISO Memproyeksikan Lonjakan Serangan Berbasis AI dan Ancaman di Ranah Domain

Menurut laporan CISO Outlook 2025 dari CSC, hampir semua Chief Information Security Officer (CISO) memprediksi akan terjadi peningkatan signifikan dalam serangan siber berbasis AI dan domain dalam tiga tahun ke depan.

Metode serangan baru seperti Domain Generation Algorithms (DGA), ransomware, pembajakan domain (domain hijacking), dan eksploitasi DNS menjadi perhatian serius. Sebanyak 98% CISO memperkirakan jumlah insiden akan terus meningkat, dan 87% di antaranya menyebut DGA berbasis AI sebagai ancaman utama.

Namun demikian, hanya 7% perusahaan yang merasa yakin mampu menangkis serangan-serangan tersebut. Laporan ini menekankan pentingnya tata kelola AI yang kuat, pemantauan domain secara real-time, penggunaan tool keamanan yang lebih canggih, serta kolaborasi yang lebih intens dengan pakar keamanan domain.

3. Bagaimana Perusahaan Dapat Memanfaatkan AI untuk Menghadapi Ancaman AI yang Semakin Meningkat

Artikel dari TechCircle ini membahas bagaimana perusahaan dapat menggunakan AI untuk melawan gelombang serangan siber berbasis AI yang terus meningkat. Sementara para pelaku kejahatan siber memanfaatkan AI untuk melakukan serangan tingkat lanjut, perusahaan justru disarankan untuk mengimplementasikan sistem pertahanan berbasis AI seperti deteksi ancaman secara real-time, sistem respons otomatis, dan pemantauan anomali.

Para ahli juga menyoroti pentingnya tata kelola AI (AI governance) sebagai bagian dari program peningkatan keterampilan (upskilling), agar tim keamanan mampu mengelola risiko dengan lebih efektif. Bukan cuma itu, penerapan arsitektur Zero Trust, kontrol identitas dan akses yang ketat, serta risk assessment berkelanjutan juga perlu dilakukan organisasi untuk memperkuat pertahanan mereka di era ancaman AI.

4. Anggaran Keamanan Siber Perusahaan di India Masih Tertinggal Meski Ancaman Berbasis AI Meningkat

Sebuah laporan dari Cisco mengungkap bahwa meskipun 98% perusahaan berencana melakukan peningkatan infrastruktur TI, hanya 54% yang mengalokasikan lebih dari 10% anggaran TI mereka untuk keamanan siber. Padahal, 95% perusahaan telah mengalami insiden yang terkait dengan AI, namun hanya 66% yang yakin bahwa tenaga kerja mereka benar-benar memahami jenis ancaman tersebut. Dengan kekurangan talenta keamanan siber mencapai 92%, Cisco menekankan perlunya investasi segera dalam identity intelligence, keamanan cloud, dan pelatihan karyawan.

Sementara itu, para pakar di Stack 2025 menyoroti peran ganda AI dalam dunia keamanan siber. Di satu sisi AI memperkuat pertahanan, namun di sisi lain juga menjadi alat bagi para penyerang. Mereka menegaskan bahwa penerapan prinsip Zero Trust, pelatihan karyawan, serta sharing threat intelligence tetap menjadi langkah penting. Selain itu, pakar juga juga menyerukan perlunya adopsi AI yang seimbang, disertai dengan penguatan kontrol keamanan inti dan kolaborasi yang lebih erat antara sektor publik dan swasta.

5. AI: Ancaman Terbesar sekaligus Pertahanan Terkuat dalam Keamanan Siber Saat Ini

Blog dari McKinsey ini menyoroti bahwa AI kini memainkan peran dua arah dalam dunia keamanan siber. Di satu sisi, AI bisa menjadi alat pertahanan paling efektif, tetapi di sisi lain bisa menjadi ancaman terbesar. Para pelaku kejahatan siber semakin banyak memanfaatkan AI untuk melancarkan serangan phishing, membuat deepfake, menulis kode malware, dan mengeksploitasi kelemahan sistem dengan sangat cepat. Beberapa serangan bahkan terjadi dalam waktu kurang dari satu jam, membuat tim keamanan tidak bisa melakukan banyak intervensi karena keterbatasan waktu.

Di sisi lain, organisasi juga menggunakan AI untuk mengotomatisasi deteksi ancaman, merespons insiden, hingga melakukan pemulihan pasca-serangan. Namun, McKinsey mengingatkan bahwa tool berbasis AI saja tidak cukup. Perusahaan perlu membangun fondasi keamanan siber yang kokoh, meliputi visibilitas aset digital, kontrol identitas yang kuat, dan manajemen kerentanan yang berkelanjutan. Semuanya bergantung pada bagaimana AI digunakan secara bertanggung jawab dan strategis.

Meskipun AI mempercepat skala dan kompleksitas ancaman siber, teknologi ini juga menawarkan kapabilitas pertahanan yang luar biasa jika dimanfaatkan dengan bijak. Karena itu, organisasi perlu tidak hanya berinvestasi dalam tool berbasis AI, tetapi juga memperkuat praktik keamanan dasar agar dapat memaksimalkan potensi AI secara menyeluruh. Pendekatan yang seimbang dan memiliki tata kelola yang baik, dengan memadukan teknologi, talenta, dan strategi, menjadi kunci untuk tetap selangkah di depan dari ancaman yang terus berkembang. Ketahanan siber di era AI akan sangat bergantung pada adaptasi proaktif, kolaborasi lintas fungsi, dan pembelajaran berkelanjutan. Kini, hanya orang-orang yang mampu memanfaatkan AI dengan hati-hati dan jelaslah yang akan menjadi pemimpin dalam keamanan digital.

Seiring dengan terus berkembangnya ancaman siber berbasis AI dalam hal skala dan kecanggihan, perusahaan harus memprioritaskan strategi pertahanan yang proaktif, berinvestasi pada solusi keamanan yang tangguh, dan menumbuhkan budaya ketahanan siber. Dengan tetap terinformasi, memanfaatkan teknologi canggih, dan secara berkelanjutan menilai risiko, organisasi dapat membalikkan keadaan terhadap ancaman digital ini dan mengamankan masa depan mereka di dunia yang semakin cerdas.

Tulisan ini merupakan terjemahan artikel berjudul Five worthy reads: AI-powered cybercrime, the next big threat to enterprises oleh Reeshma.