Pada awal tahun 2023, kita melihat penggunaan ChatGPT dari OpenAI meningkat secara signifikan, yang disertai dengan kekhawatiran di kalangan masyarakat tentang kemungkinan revolusi Kecerdasan Buatan Umum (AGI) yang akan datang dan potensi gangguan di berbagai sektor pasar. Sudah pasti, AI memiliki dampak yang besar dan transformasional pada berbagai aspek kehidupan kita. Akan tetapi, saat ini sangat penting untuk mengambil sikap yang lebih bijak dan pemikiran yang mendalam mengenai bagaimana AI akan merubah dunia, terutama dalam konteks keamanan siber. Namun, sebelum kita masuk lebih dalam, mari kita singgung sebentar tentang catur.
Pada tahun 2018, Garry Kasparov, seorang yang pernah menjadi juara catur dunia dari tahun 1985 hingga 2000, ia menceritakan pengalaman bermain catur dan mengalami kekalahan pertamanya dari Deep Blue, superkomputer catur buatan IBM. Awalnya, dia merasakannya sebagai kekalahan yang sangat sulit, tetapi dia berhasil bangkit dan seringkali memenangkan pertandingan pada awalnya. Namun, seiring berjalannya waktu, situasinya berubah, dan dia seringkali kalah, dengan Deep Blue secara konsisten menjadi pemenangnya. Kasparov menyampaikan observasi penting, yaitu bahwa selama sekitar sepuluh tahun, dunia catur didominasi oleh manusia yang dibantu oleh komputer. Pada akhirnya, kecerdasan buatan (AI) sendiri yang mengambil alih, dan hal penting untuk dicatat adalah bahwa saat ini, strategi yang digunakan oleh AI dalam banyak permainan membuat bahkan para master catur terbaik merasa bingung.
Poin kunci di sini adalah bahwa manusia yang dibantu AI memiliki keunggulan. AI pada dasarnya adalah alat yang terutama terdiri dari pembelajaran mesin dan model bahasa besar (LLMs), banyak di antaranya telah diterapkan selama lebih dari satu dekade untuk menyelesaikan masalah seperti deteksi malware baru dan pencegahan penipuan. Namun, saat ini kita berada dalam era di mana perkembangan dalam LLM melampaui prestasi sebelumnya. Bahkan jika terjadi lonjakan pasar AI, AI telah menjadi bagian tak terpisahkan dari dunia kita, dan keamanan siber akan mengalami perubahan mendalam sebagai hasilnya. Sebelum kita melanjutkan, penting untuk diakui bahwa saat ini, AI menunjukkan pemahaman tetapi tidak memiliki penalaran, inisiatif, atau kesadaran. Ini penting untuk menghilangkan ketakutan dan berlebihan tentang mesin-mesin mengambil alih, sehingga kita yakin bahwa kita belum mencapai era di mana pikiran berbasis silikon dapat beroperasi tanpa keterlibatan pikiran manusia.
Sekarang, mari kita eksplorasi tiga aspek kunci di bidang keamanan siber yang melibatkan AI: keamanan AI, penggunaan AI dalam pertahanan, dan penggunaan AI dalam serangan.
Keamanan AI:
Perusahaan-perusahaan saat ini menghadapi situasi yang mirip dengan awal munculnya pesan instan, mesin pencari, dan komputasi awan. Mereka harus merangkul dan beradaptasi dengan AI atau berisiko tertinggal oleh pesaing yang mendapatkan keunggulan teknologi yang mengganggu. Ini berarti mereka tidak dapat sekadar menghentikan adopsi AI. Sebagaimana pada awal munculnya komputasi awan, langkah awalnya adalah membuat instansi pribadi dari LLMs (model bahasa besar), terutama ketika penawaran AI publik berusaha menyesuaikan diri dengan permintaan pasar.
Dengan mengaitkannya dengan revolusi komputasi awan, mereka yang mempertimbangkan penerapan AI dalam skala pribadi, hibrid, atau publik harus mempertimbangkan dengan hati-hati berbagai isu, termasuk privasi, kepemilikan intelektual, dan tata kelola.
Namun, ada juga perhatian terkait keadilan sosial, karena dataset dapat mengandung bias saat diambil, model dapat mewarisi bias, atau menghasilkan konsekuensi yang tak terduga dalam hasil keluarannya. Dalam konteks ini, pertimbangan-pertimbangan berikut sangat penting:
- Dewan Tinjauan Penggunaan Etis: Sebuah badan pengawas harus mengawasi dan memantau penggunaan AI yang benar dan etis, mirip dengan bagaimana industri lain mengatur penelitian, seperti pengawasan penelitian kanker oleh industri kesehatan.
- Kendali Sumber Data: Isu hak cipta dan pertimbangan privasi harus diatasi saat data diambil. Bahkan jika teknik inferensial dapat mengidentifikasi ulang data, anonimisasi adalah hal yang penting, bersama dengan langkah-langkah pengamanan terhadap serangan pencemaran dan sabotase.
- Kendali Akses: Akses harus diberikan untuk tujuan penelitian tertentu dan dibatasi hanya untuk individu-individu dan sistem-sistem dengan identitas unik, semuanya tunduk pada langkah-langkah akuntabilitas pasca-fakta. Ini mencakup pemeliharaan, penyetelan, dan perawatan data.
- Hasil yang Spesifik dan Tertarget: Hasil AI harus dimaksudkan untuk aplikasi yang berkaitan dengan bisnis tertentu, dan pemeriksaan umum atau akses API terbuka hanya boleh diizinkan di bawah kendali ketat dan pengelolaan agen yang menggunakan API tersebut.
- Peran Keamanan AI: Pertimbangkan untuk menunjuk seorang manajer keamanan dan privasi AI yang berdedikasi. Tanggung jawab individu ini termasuk melindungi terhadap serangan penyembunyian (mendapatkan fitur-fitur dan input yang digunakan untuk pelatihan model), memantau hasil yang tidak diinginkan (halusinasi, informasi yang keliru, dll.), dan memastikan privasi jangka panjang dan pencegahan manipulasi. Mereka juga mengawasi perjanjian kontrak, berkolaborasi dengan tim hukum, bekerja sama dengan ahli keamanan rantai pasokan, berkoordinasi dengan tim alat AI, memverifikasi klaim pemasaran yang faktual, dan lain sebagainya.
AI dalam Pertahanan:
Dalam dunia keamanan siber, ada juga aplikasi praktis dari kecerdasan buatan yang meningkatkan praktik keamanan itu sendiri. Di sinilah kita harus mempertimbangkan pendekatan manusia yang dibantu AI ketika memvisualisasikan masa depan layanan keamanan. Meskipun peluangnya sangat banyak, di mana saja ada tugas rutin dalam keamanan siber, mulai dari pertanyaan dan scripting hingga integrasi dan analisis data berulang, ada peluang untuk aplikasi AI yang ditargetkan. Ketika seorang manusia dengan otak berbasis karbon diberi tugas untuk menjalankan pekerjaan rinci dalam skala besar, potensi untuk kesalahan manusia meningkat, dan manusia tersebut menjadi kurang efisien.
Pikiran manusia unggul dalam tugas-tugas yang berkaitan dengan kreativitas dan inspirasi, area di mana otak berbasis silikon kurang mampu, seperti penalaran, kesadaran, dan inisiatif. Potensi utama AI dalam bidang pertahanan siber terletak pada peningkatan efisiensi proses, ekstrapolasi data dari dataset, dan menghilangkan tugas-tugas berulang, di antara hal lainnya. Potensi ini dapat dimanfaatkan secara efektif selama menghindari jebakan “abstraksi yang bocor,” memastikan bahwa pengguna memahami tindakan yang dilakukan oleh mesin atas nama mereka.
Sebagai contoh, ada peluang untuk respons insiden yang dipandu yang dapat memprediksi langkah-langkah berikutnya dari penyerang, memfasilitasi pembelajaran lebih cepat bagi analis keamanan, dan meningkatkan efisiensi interaksi manusia-mesin melalui pendekatan sebagai “co-pilot” (bukan “auto-pilot”). Namun, penting untuk memastikan bahwa mereka yang menerima bantuan dalam respons insiden memahami informasi yang disajikan kepada mereka, memiliki kemampuan untuk tidak setuju dengan saran, melakukan koreksi, dan menerapkan kreativitas dan wawasan khas manusia mereka.
Jika ini mulai mirip dengan pembahasan sebelumnya tentang otomatisasi, itu seharusnya begitu. Banyak tantangan yang disebutkan dalam konteks tersebut, seperti potensi untuk dapat diprediksi yang dieksploitasi oleh penyerang melalui otomatisasi, sekarang dapat diatasi dengan menggunakan teknologi AI. Pada dasarnya, AI dapat membuat pola pikir otomatisasi lebih praktis dan efektif. Selain itu, AI dapat meningkatkan implementasi platform nol-kepercayaan untuk mengelola kompleksitas lanskap IT, seperti yang dibahas dalam artikel sebelumnya tentang visibilitas jaringan. Penting untuk dicatat bahwa manfaat-manfaat ini tidak secara otomatis diberikan saat menerapkan LLMs dan alat AI lainnya, tetapi mereka menjadi proyek yang dapat dikelola dan dicapai.
AI dalam Serangan:
Lanskap keamanan itu sendiri harus mengalami transformasi karena para lawan menggunakan alat AI untuk meningkatkan kemampuan mereka. Dalam banyak hal yang sama seperti bisnis tidak bisa mengabaikan penggunaan AI, karena mereka berisiko mengalami gangguan dari pesaing, bidang keamanan siber juga terpaksa berubah karena para penyerang juga memanfaatkan AI. Ini berarti individu dalam kelompok arsitektur keamanan harus bekerja sama dengan dewan tinjauan AI perusahaan yang sudah disebutkan sebelumnya dan mungkin mengambil peran utama dalam mempertimbangkan adopsi AI:
- Tim red harus menggunakan alat yang sama dengan yang digunakan oleh para penyerang.
- Tim biru harus menggunakan alat AI dalam respons terhadap insiden.
- Tim Tata Kelola, Manajemen Risiko, dan Kepatuhan (GRC) dapat mendapatkan efisiensi dalam menginterpretasikan kebijakan berbahasa alami menggunakan AI.
- Tim perlindungan data harus menggunakan AI untuk mendapatkan pemahaman yang lebih dalam tentang aliran data.
- Tim manajemen identitas dan akses memerlukan AI untuk mendorong prinsip zero trust dan mendirikan hak akses yang semakin unik dan spesifik secara hampir real-time.
- Teknologi penipuan dapat menggunakan AI untuk mendirikan kepercayaan negatif dalam infrastruktur guna menggagalkan penyerang.
Sebagai kesimpulan, kita memasuki era yang tidak ditandai oleh dominasi AI atas manusia tetapi sebuah era di mana kemampuan manusia yang dibantu AI dapat berhasil. Kita tidak dapat mengesampingkan toolkit AI karena pesaing dan lawan akan menggunakannya. Oleh karena itu, masalah utamanya adalah menetapkan panduan yang tepat dan berkembang dalam lanskap baru ini. Dalam jangka pendek, para penyerang, khususnya, akan menjadi lebih terampil dalam kegiatan seperti phishing dan pembuatan malware. Namun, dalam jangka panjang, aplikasi AI dalam pertahanan, para pembela inovasi dalam dunia digital, dan kemampuan untuk berhasil dalam konflik siber jauh melebihi kemampuan mereka yang berusaha menembus pertahanan kita.
Sumber : https://venturebeat.com/ai/ai-assisted-cybersecurity-3-key-components-you-cant-ignore/