Penggunaan AI di lingkungan perusahaan tumbuh cepat, tetapi hal itu tidak pararel dengan pengawasannya. Laporan Akamai yang dipublikasikan pekan lalu menunjukkan hampir separuh aktivitas AI perusahaan tidak terpantau oleh tim keamanan, sementara sekitar 5% pengguna paling aktif menjadi sumber risiko terbesar. Di saat yang sama, muncul teknik serangan baru yang memanfaatkan file instruksi, ekstensi browser, dan halaman web untuk memanipulasi asisten maupun agen AI. Kondisi ini membuat perusahaan perlu memperlakukan AI bukan hanya sebagai alat produktivitas, tetapi juga sebagai bagian baru dari permukaan serangan siber.
DIGI-HIGHLIGHTS:
■ Penggunaan AI perusahaan berkembang cepat, tetapi hampir separuh aktivitasnya disebut tidak terlihat oleh tim keamanan.
■ Sekitar 5% pengguna paling aktif menjadi sumber risiko utama karena berinteraksi lebih intensif dengan berbagai layanan AI.
■ Akamai menemukan teknik serangan baru yang memanfaatkan AI, ekstensi browser, dan halaman web untuk menembus pertahanan konvensional.
Perusahaan mungkin tahu karyawan mereka menggunakan AI. Namun, belum tentu perusahaan tahu AI apa yang digunakan, data apa yang dimasukkan, dan apa yang dilakukan AI tersebut terhadap sistem perusahaan.
Celah inilah yang mulai menjadi perhatian serius dalam keamanan siber.
Laporan Akamai bertajuk “The Enterprise AI Usage Risk Report 2026” mengungkap penggunaan AI di lingkungan perusahaan berkembang cepat, tetapi sebagian aktivitas tersebut berada di luar pengawasan tim keamanan. Hampir separuh aktivitas AI disebut tidak terpantau.
Fenomena tersebut dikenal sebagai shadow AI, yakni penggunaan aplikasi atau layanan AI oleh karyawan tanpa pengelolaan atau pengawasan resmi dari perusahaan.
Masalahnya bukan sekadar berapa banyak aplikasi AI yang digunakan. Risiko terbesar justru muncul ketika AI diberi akses terhadap informasi dan sistem perusahaan tanpa kontrol yang memadai.
Akamai menggambarkan kondisi tersebut sebagai long tail: sejumlah besar aplikasi AI digunakan dalam organisasi, tetapi tidak seluruhnya masuk dalam radar tim keamanan.
“AI kini bukan lagi sekadar alat untuk meningkatkan produktivitas, melainkan telah menjadi rekan kerja yang memiliki akses langsung ke aset-aset paling berharga perusahaan,” ujar Or Eshed, Vice President, Enterprise Security Product and Engineering Akamai, dalam keterangan resminya, Minggu (9/8).
Perubahan tersebut membuat pendekatan keamanan lama menghadapi persoalan baru.
Selama bertahun-tahun, tim keamanan perusahaan terbiasa memusatkan perhatian pada email, file, jaringan, perangkat, dan aplikasi. Kini, prompt yang diketik karyawan ke dalam layanan AI juga dapat menjadi jalur keluarnya informasi sensitif.
Bukan Semua Karyawan yang Menjadi Masalah
Menariknya, risiko penggunaan AI tidak tersebar merata di seluruh organisasi.
Akamai menemukan sekitar 5% karyawan yang tergolong pengguna AI aktif berinteraksi dengan layanan AI secara jauh lebih intensif. Kelompok kecil inilah yang menjadi sumber utama risiko.
Temuan tersebut penting karena menunjukkan bahwa perusahaan tidak selalu harus mengawasi setiap pengguna dengan intensitas yang sama.
Sebaliknya, tim keamanan dapat terlebih dahulu mengidentifikasi pengguna yang paling aktif menggunakan AI, jenis layanan yang mereka akses, data yang diproses, serta hak akses yang dimiliki.
Pendekatan berbasis risiko semacam itu menjadi semakin relevan ketika jumlah aplikasi AI terus bertambah.
Akamai sendiri telah mengembangkan kemampuan pemantauan Shadow AI yang dapat mengidentifikasi dan mengategorikan aplikasi serta layanan AI generatif yang diakses pengguna organisasi. Fitur tersebut memungkinkan perusahaan melihat layanan AI mana yang diizinkan maupun diblokir berdasarkan kebijakan keamanan organisasi.
Artinya, shadow AI kini tidak lagi diperlakukan hanya sebagai persoalan kepatuhan penggunaan perangkat lunak. Ia mulai menjadi bagian dari sistem keamanan perusahaan.
Prompt Bisa Menjadi Jalur Kebocoran Data
Salah satu persoalan paling sulit adalah cara data sensitif masuk ke sistem AI.
Seorang karyawan bisa saja memasukkan laporan keuangan, kode sumber, data pelanggan, kontrak, strategi bisnis, atau dokumen internal ke sebuah layanan AI untuk mendapatkan ringkasan atau analisis.
Dari sudut pandang pengguna, tindakan itu mungkin terlihat sebagai cara cepat menyelesaikan pekerjaan.
Dari sudut pandang keamanan informasi, persoalannya berbeda.
Data tersebut telah keluar dari batas sistem perusahaan dan masuk ke lingkungan layanan pihak ketiga. Risiko kemudian bergantung pada bagaimana layanan tersebut memproses, menyimpan, dan melindungi informasi.
Or Eshed mengatakan metode keamanan konvensional yang dirancang untuk mengawasi file dan email kini tidak lagi cukup.
Pasalnya, interaksi manusia dengan AI menciptakan bentuk baru lalu lintas data yang harus dipahami perusahaan.
Karena itu, pengawasan tidak cukup hanya dilakukan terhadap file yang dikirim melalui email atau dokumen yang tersimpan di server. Perusahaan juga perlu mengetahui apa yang diketik, diunggah, dan diminta kepada AI.
Muncul Serangan Baru Berbasis AI
Persoalan semakin kompleks karena AI bukan hanya digunakan oleh karyawan. Penyerang juga mulai memanfaatkan karakteristik AI untuk mencari jalan masuk ke sistem perusahaan.
Akamai mengidentifikasi tiga teknik serangan yang menjadi perhatian sepanjang 2026, yakni vibe hacking, CursorJacking, dan CometJacking.
Vibe hacking memanfaatkan file instruksi dalam format Markdown yang tersimpan di lingkungan pengembangan. File tersebut dapat dimodifikasi untuk menipu asisten pemrograman berbasis AI agar menjalankan tindakan yang berbahaya.
Serangan semacam ini menjadi relevan karena semakin banyak pengembang menggunakan AI untuk membantu menulis dan menguji kode.
Akamai sebelumnya juga memperingatkan bahwa penggunaan AI untuk pengembangan API dapat meningkatkan risiko salah konfigurasi, pengaturan bawaan yang tidak aman, serta kerentanan yang terlewat.
Teknik kedua disebut CursorJacking.
Serangan ini memanfaatkan ekstensi browser berbahaya yang memiliki hak akses luas. Jika berhasil, ekstensi tersebut dapat digunakan untuk mencuri kunci API, basis kode perusahaan, hingga riwayat percakapan dari lingkungan browser.
Targetnya termasuk asisten pemrograman berbasis AI seperti Cursor.
Teknik ketiga adalah CometJacking, yang memanfaatkan halaman web publik untuk menyisipkan instruksi berbahaya.
Metode tersebut menggunakan teknik indirect prompt injection untuk memanipulasi agen AI yang berjalan di perangkat pengguna.
Dalam skenario tertentu, agen AI dapat diarahkan untuk mengirim file lokal, email, atau kredensial sesi tanpa sepengetahuan pengguna.
Ini menjadi persoalan baru karena agen AI memiliki kemampuan yang lebih luas dibanding chatbot biasa.
Chatbot pada dasarnya menunggu pertanyaan dan memberikan jawaban. Agen AI dapat diberi kemampuan untuk membaca file, menjalankan perintah, mengakses aplikasi, menggunakan browser, bahkan melakukan tindakan tertentu secara otomatis.
Dengan kemampuan tersebut, konsekuensi jika agen berhasil dimanipulasi menjadi jauh lebih besar.
Ekstensi AI Jadi Titik Lemah
Akamai juga menemukan persoalan pada ekstensi browser berbasis AI. Hampir 75% ekstensi AI disebut meminta izin akses tingkat tinggi, sedangkan sekitar 16,3% memiliki Common Vulnerabilities and Exposures (CVE) yang telah diketahui.
Artinya, ekstensi AI tidak dapat lagi diperlakukan sebagai sekadar tambahan kecil pada browser.
Ketika sebuah ekstensi memperoleh akses luas terhadap browser, ekstensi tersebut berpotensi berinteraksi dengan informasi yang jauh lebih sensitif.
Risikonya menjadi semakin besar ketika browser digunakan untuk mengakses sistem internal perusahaan.
Perusahaan perlu mengetahui ekstensi apa yang digunakan karyawan, hak akses apa yang diminta, siapa pengembangnya, serta apakah terdapat kerentanan yang telah diketahui.
AI Mengubah Permukaan Serangan
Perkembangan tersebut sejalan dengan prediksi Akamai mengenai perubahan lanskap keamanan siber pada 2026.
Akamai memperkirakan AI akan mempercepat siklus serangan siber di kawasan Asia Pasifik. Penyerang semakin dapat menggunakan AI generatif maupun AI otonom untuk menemukan kelemahan, menguji titik masuk, dan menjalankan eksploitasi dengan lebih sedikit campur tangan manusia.
Akamai juga memperkirakan serangan terhadap API akan menjadi semakin dominan. Lebih dari 80% organisasi di APAC dilaporkan mengalami sedikitnya satu insiden keamanan API dalam setahun terakhir, sementara hampir dua pertiga organisasi tidak mengetahui API mana yang memproses data sensitif.
Kondisi ini menunjukkan bahwa persoalan keamanan AI sebenarnya tidak berdiri sendiri.
AI terhubung dengan API, browser, SaaS, cloud, perangkat pengembang, database, dan sistem perusahaan lainnya. Satu titik yang luput dari pengawasan dapat menjadi pintu masuk ke sistem yang lebih luas.
Strategi Keamanan Harus Berubah
Akamai menyarankan perusahaan memperketat pengawasan terhadap penggunaan AI. Salah satu pendekatan yang disarankan adalah memusatkan perhatian terlebih dahulu pada sekitar 5% pengguna AI paling aktif, karena kelompok tersebut memiliki paparan risiko lebih tinggi.
Perusahaan juga perlu menerapkan single sign-on (SSO) di berbagai platform serta secara berkala mengidentifikasi layanan AI berbasis software as a service (SaaS) yang digunakan karyawan.
Langkah berikutnya adalah memperluas pemantauan terhadap interaksi AI, termasuk prompt dan dokumen yang diunggah.
Untuk agen AI yang memiliki kemampuan bertindak secara otomatis, prinsip least privilege menjadi penting. Agen hanya boleh diberikan hak akses minimum yang benar-benar diperlukan untuk menjalankan tugasnya.
Pendekatan ini sejalan dengan arah keamanan yang lebih luas yang mulai dikembangkan Akamai. Perusahaan tersebut kini menyediakan kemampuan untuk mengidentifikasi layanan GenAI dan LLM, termasuk endpoint API terkait, agar organisasi dapat membangun inventaris AI dan mengurangi celah visibilitas.
Dari Shadow IT ke Shadow AI
Fenomena ini pada dasarnya merupakan evolusi dari persoalan lama yang dikenal sebagai shadow IT.
Dulu, karyawan bisa menggunakan aplikasi cloud, penyimpanan online, atau perangkat lunak tanpa sepengetahuan bagian TI.
Kini pola yang sama terjadi pada AI.
Perbedaannya, AI dapat melakukan lebih dari sekadar menyimpan atau mengirim data. AI dapat membaca dokumen, merangkum informasi, menulis kode, mengambil keputusan berbasis instruksi, menggunakan aplikasi lain, dan dalam bentuk agen tertentu melakukan tindakan secara mandiri.
Karena itu, risiko shadow AI dapat berkembang jauh lebih cepat dibanding persoalan shadow IT konvensional.
Akamai bahkan menemukan pada 2025 adanya malware yang menyamarkan komunikasi command and control melalui endpoint API LLM yang sah. Teknik tersebut memanfaatkan lalu lintas menuju layanan LLM agar komunikasi berbahaya terlihat seperti trafik AI yang normal.
Ini memperlihatkan bahwa AI telah menjadi bagian dari medan perang keamanan siber, baik sebagai alat produktivitas maupun sebagai sarana serangan.
Pada akhirnya, persoalan terbesar perusahaan bukan lagi apakah karyawan menggunakan AI.
Pertanyaan yang lebih penting adalah AI apa yang mereka gunakan, data apa yang diberikan, hak akses apa yang dimiliki, dan tindakan apa yang dapat dilakukan AI tersebut.
Ketika AI mulai menjadi bagian dari pekerjaan sehari-hari, perusahaan yang tidak memiliki visibilitas terhadap aktivitas tersebut berisiko membangun sistem keamanan dengan blind spot yang semakin besar. ■
DIGIONARY:
● AI Agent — Sistem AI yang dapat menjalankan tugas dan mengambil tindakan menggunakan berbagai alat atau aplikasi berdasarkan instruksi.
● API — Antarmuka yang memungkinkan berbagai aplikasi atau sistem saling berkomunikasi dan bertukar data.
● CVE — Common Vulnerabilities and Exposures, sistem identifikasi publik untuk kerentanan keamanan pada perangkat lunak.
● CursorJacking — Teknik serangan yang memanfaatkan ekstensi browser berbahaya untuk mengakses informasi atau kredensial dari lingkungan kerja AI.
● Indirect Prompt Injection — Serangan yang menyisipkan instruksi berbahaya ke sumber eksternal agar AI menganggapnya sebagai instruksi yang harus dijalankan.
● Least Privilege — Prinsip keamanan yang memberikan hak akses seminimal mungkin sesuai kebutuhan pengguna atau sistem.
● LLM — Large Language Model, model AI yang dilatih menggunakan data dalam jumlah besar untuk memahami dan menghasilkan bahasa.
● Malware — Perangkat lunak berbahaya yang dirancang untuk merusak sistem, mencuri data, atau memperoleh akses tanpa izin.
● Prompt — Instruksi atau perintah yang diberikan pengguna kepada sistem AI untuk menghasilkan respons atau melakukan tugas.
● Shadow AI — Penggunaan aplikasi atau layanan AI oleh karyawan tanpa persetujuan atau pengawasan resmi organisasi.
● Shadow IT — Penggunaan perangkat, aplikasi, atau layanan teknologi informasi tanpa sepengetahuan atau persetujuan bagian TI perusahaan.
● SaaS — Software as a Service, model penggunaan perangkat lunak yang disediakan melalui internet dan umumnya diakses berdasarkan langganan.
● SSO — Single Sign-On, mekanisme yang memungkinkan pengguna mengakses beberapa layanan menggunakan satu sistem autentikasi.
● Vibe Hacking — Teknik serangan yang memanfaatkan lingkungan pengembangan berbasis AI untuk memanipulasi instruksi atau menghasilkan tindakan yang tidak aman.
#ShadowAI #ArtificialIntelligence #AI #AICybersecurity #CyberSecurity #KeamananSiber #AIGovernance #AIAgent #GenerativeAI #EnterpriseAI #AIAdoption #DataSecurity #DataPrivacy #Akamai #Teknologi #DigitalTransformation #DigitalSecurity #CloudSecurity #APIsecurity #CyberRisk
