Industri jasa keuangan global menghadapi ancaman serius seiring lonjakan serangan deepfake sebesar lebih dari 2.000% dalam tiga tahun terakhir, yang mendorong kebutuhan mendesak bagi lembaga perbankan untuk menerapkan pengawasan berbasis kecerdasan buatan (AI-powered oversight) guna mengimbangi risiko sistemik, serangan adversarial, dan keputusan perdagangan berbasis mesin yang melampaui kontrol manual konvensional.
DIGI-HIGHLIGHTS:
■ Lonjakan Ancaman: Serangan deepfake di sektor keuangan melonjak lebih dari 2.000% dalam tiga tahun terakhir, memaksa bank untuk segera mengadopsi sistem pengawasan berbasis AI.
■ Bahaya Adversarial AI: Pelaku kejahatan siber kini menggunakan teknik prompt injection untuk menyisipkan instruksi tersembunyi ke dalam dokumen resmi yang hanya terbaca oleh sistem AI.
■ Tata Kelola Proaktif: Institusi keuangan didorong untuk memetakan setiap titik keputusan berbasis AI dan mendesain sistem dengan prinsip “gagal dengan aman” (fail-safe) guna mencegah risiko sistemik.
Lembaga keuangan di seluruh dunia kini dipaksa melakukan transformasi cepat dalam pengawasan internal seiring dengan eskalasi ancaman kecerdasan buatan yang semakin canggih.
Ashwini Karandikar, Principal di Oliver Wyman, memperingatkan bahwa metode pengawasan tradisional tidak lagi memadai untuk membendung serangan deepfake yang melonjak lebih dari 2.000% serta ancaman adversarial AI yang mampu mengeksploitasi sistem perbankan dari dalam.
Perlu diketahui, Oliver Wyman adalah sebuah perusahaan konsultan manajemen global yang berfokus pada pemberian saran strategis kepada para pemimpin industri. Perusahaan ini dikenal secara luas karena keahlian mendalamnya di sektor jasa keuangan, termasuk perbankan, manajemen aset, dan asuransi.
Berbicara dalam “Asian Banking & Finance and Insurance Asia Summit” di Singapura, Selasa (1/7), Karandikar menekankan bahwa tantangan terbesar saat ini bukan sekadar penipuan biasa, melainkan adversarial AI. Dalam taktik ini, aktor jahat melakukan reverse-engineering terhadap model yang digunakan lembaga keuangan untuk merancang serangan yang terlihat sah di mata sistem target.
Karandikar mencontohkan teknik prompt injection yang menyisipkan instruksi tersembunyi dalam laporan keuangan atau formulir pajak. Instruksi tersebut tidak terlihat oleh peninjau manusia, namun terbaca oleh sistem AI, sehingga memungkinkan pelaku membajak proses internal perbankan.
Ia merujuk pada kerentanan zero-click pada Microsoft 365 Copilot tahun lalu sebagai preseden nyata di mana email sederhana dapat mengekstraksi data internal tanpa interaksi pengguna.
Risiko Sistemik dan Accountability Gap
Selain ancaman kecurangan, Karandikar menyoroti risiko sistemik dari agen AI yang mengelola pemindaian sinyal, penyeimbangan kembali eksposur, dan lindung nilai (hedging) secara otonom. Berbeda dengan manusia yang cenderung ragu atau panik saat terjadi anomali, sistem AI beroperasi tanpa jeda.
”Manusia ragu, manusia panik, manusia menelepon seseorang,” ungkap Karandikar seperti dikutip Asian Banking & Finance. Ia memperingatkan bahwa kontrol tradisional untuk deteksi penurunan kualitas kredit, kesalahan harga, dan model drift berjalan terlalu lambat, menyebabkan risiko menumpuk di neraca bank sebelum sempat terdeteksi.
Masalah ini diperparah oleh kesenjangan akuntabilitas (accountability gap). Banyak perbankan tidak memahami secara penuh AI pihak ketiga yang mereka gunakan, yang sering kali menjalankan alat AI mereka sendiri atas nama institusi.
Mitigasi dan Langkah Strategis
Karandikar menyarankan pendekatan “menggunakan AI untuk mengawasi AI”. Salah satu inisiatif yang disorot adalah Project Glasswing dari Anthropic—yang melibatkan JPMorgan Chase—sebagai model AI perbatasan (frontier AI model) untuk mendeteksi lebih dari 10.000 kerentanan kritis pada perangkat lunak global.
Namun, ia menegaskan bahwa pengawasan AI tidak boleh menggantikan penilaian manusia. Institusi harus mendefinisikan dengan jelas di mana AI boleh bertindak secara otonom, kapan harus mencari persetujuan, dan siapa yang bertanggung jawab ketika model bertindak di luar kendali.
Karandikar mendesak lembaga keuangan untuk mengambil dua langkah konkret tahun ini:
Memetakan setiap titik di mana AI memengaruhi keputusan yang mengandung risiko (risk-bearing decisions).
Mendesain sistem secara eksplisit untuk menghadapi kegagalan, dengan mengubah pertanyaan tata kelola dari “apakah sistem akan gagal?” menjadi “saat sistem gagal, bagaimana cara agar kegagalan tersebut aman?” ●
DIGI-INSIGHTS:
Langkah Oliver Wyman menekankan bahwa perbankan tradisional kini berada di titik infleksi di mana kecepatan AI telah melampaui kemampuan mitigasi risiko manual. Bagi pelaku industri perbankan digital di Indonesia, pesan ini sangat krusial: mengandalkan kontrol manual untuk memantau keputusan mesin adalah bentuk kelalaian strategis. Accountability gap yang muncul akibat penggunaan pihak ketiga harus diatasi dengan internal AI inventory yang transparan, di mana setiap model yang menyentuh keputusan kredit atau eksposur risiko harus terpetakan dengan akurasi tinggi.
Secara strategis, investasi pada “AI untuk mengawasi AI” bukan lagi sebuah opsi, melainkan kebutuhan survivability. Saat sistem perdagangan atau deteksi penipuan berjalan pada kecepatan millisecond, intervensi manusia hanya efektif jika dilakukan pada level desain sistem—yaitu saat membangun protokol fail-safe dan circuit breakers. Bank digital harus mulai meninggalkan paradigma tradisional yang berfokus pada deteksi post-facto dan beralih ke desain sistem yang secara inheren tahan terhadap manipulasi instruksi (seperti prompt injection).
Di masa depan, daya saing bank digital tidak hanya ditentukan oleh seberapa canggih fitur AI mereka, tetapi seberapa andal sistem mereka untuk gagal dengan aman (fail safely). Di tengah lanskap keamanan siber yang terus berubah, kepercayaan nasabah akan berpindah dari mereka yang paling inovatif menjadi mereka yang paling resilien. Oleh karena itu, penguatan arsitektur keamanan siber yang AI-native harus menjadi prioritas utama dalam alokasi belanja modal teknologi tahun ini untuk mencegah kerugian sistemik yang bisa berujung pada krisis kepercayaan massal. ●
DIGIONARY:
● Adversarial AI: Teknik di mana sistem AI dimanipulasi oleh input yang dirancang khusus untuk memicu kesalahan output atau eksploitasi.
● Accountability Gap: Kesenjangan dalam tanggung jawab hukum atau operasional ketika keputusan yang merugikan diambil oleh sistem AI otonom.
● Deepfake: Media sintetis yang menggunakan AI untuk memanipulasi video atau audio agar menyerupai orang lain secara nyata.
● Fail-safe: Mekanisme desain yang memastikan sistem tetap aman atau berhenti bekerja secara terkendali saat terjadi kegagalan.
● Frontier AI Model: Model AI mutakhir dengan kapabilitas tinggi yang melampaui standar model AI yang ada saat ini.
● Hedging: Strategi investasi untuk mengurangi risiko kerugian pada aset keuangan dengan mengambil posisi yang berlawanan.
● Human-in-the-loop: Proses di mana manusia tetap terlibat untuk memberikan persetujuan atau intervensi pada keputusan AI.
● Model Drift: Penurunan performa model AI seiring waktu karena perubahan pola data yang tidak sesuai dengan data pelatihannya.
● Oliver Wyman: Perusahaan konsultan manajemen global yang fokus pada sektor jasa keuangan.
● Project Glasswing: Inisiatif AI untuk mendeteksi kerentanan keamanan pada perangkat lunak melalui model AI tingkat lanjut.
● Prompt Injection: Teknik serangan siber yang menyisipkan perintah jahat pada input AI untuk memanipulasi output sistem.
● Reverse-engineering: Proses menganalisis sistem untuk memahami cara kerjanya demi menemukan celah keamanan.
● Risk-bearing decisions: Keputusan bisnis atau keuangan yang berpotensi menimbulkan kerugian atau eksposur risiko bagi lembaga.
● Systemic Risk: Risiko kegagalan sistem keuangan secara keseluruhan yang dipicu oleh satu sektor atau entitas.
● Zero-click vulnerability: Celah keamanan siber yang dapat dieksploitasi tanpa memerlukan interaksi atau klik dari pengguna.
#AI #Cybersecurity #DigitalBanking #Deepfake #RiskManagement #Fintech #FinancialStability #BankingTechnology #OliverWyman #FraudDetection #TechTrends #SystemicRisk #PromptInjection #BankingRegulation #DigitalTransformation #Innovation #FintechNews #CyberThreats #Accountability #DataSecurity
