Kehadiran teknologi kecerdasan buatan (AI) mulai mengubah cara keputusan finansial dibuat di industri perbankan. Jika sebelumnya bank hanya menghadapi risiko klasik seperti kredit, pasar, dan likuiditas, kini muncul ancaman baru yang dikenal sebagai algorithmic risk—risiko yang timbul ketika keputusan finansial semakin dipengaruhi oleh model algoritma yang kompleks. Kasus kontroversial kartu kredit Apple Card pada 2019, munculnya agen AI otomatis seperti OpenClaw di Tiongkok, hingga regulasi baru di Vietnam menunjukkan bahwa AI bukan lagi sekadar alat analisis. Ia mulai menjadi bagian dari infrastruktur pengambilan keputusan dalam sistem keuangan global.
Fokus:
■ AI mulai menjadi bagian dari sistem pengambilan keputusan dalam industri perbankan, menciptakan risiko baru yang disebut algorithmic risk.
■ Kasus Apple Card dan munculnya agen AI otomatis menunjukkan potensi bias serta kesalahan sistem dalam model berbasis algoritma.
■ Regulator global mulai memperketat pengawasan AI di sektor keuangan karena teknologi ini semakin dianggap sebagai infrastruktur sistem keuangan.
Oleh: Tuhu Nugraha *)
Dalam beberapa minggu terakhir, komunitas teknologi di Tiongkok dihebohkan oleh kemunculan OpenClaw, sebuah agen AI yang mampu melakukan berbagai tindakan otomatis di komputer pengguna. Teknologi ini segera memicu kekhawatiran baru—mulai dari potensi kebocoran data hingga kemungkinan penghapusan file secara otomatis—sehingga pemerintah Tiongkok mulai membatasi distribusinya.
Peristiwa ini menjadi pengingat bahwa semakin canggih sistem berbasis AI, semakin besar pula risiko ketika teknologi tersebut bekerja tanpa pengawasan yang memadai. Jika kita berbicara dengan banyak eksekutif bank hari ini, hampir semua akan mengatakan hal yang sama: risiko perbankan sebenarnya sudah cukup lama dipetakan—mulai dari risiko kredit, pasar, hingga likuiditas. Namun munculnya Artificial Intelligence (AI) mulai membawa jenis kerentanan baru dalam cara keputusan finansial dibuat dan dijalankan di dalam sistem perbankan.
Dalam beberapa forum regulator dan diskusi kebijakan internasional, muncul istilah yang semakin sering terdengar: algorithmic risk. Istilah ini merujuk pada sesuatu yang relatif baru bagi dunia perbankan—situasi ketika keputusan penting dalam sistem keuangan tidak lagi sepenuhnya dibuat manusia, melainkan dipengaruhi oleh model algoritma yang sangat kompleks.
Banyak bank sebenarnya masih berada dalam fase eksperimen. Sebagian berhasil memanfaatkan AI untuk meningkatkan efisiensi. Sebagian lainnya masih mencoba memahami apa yang sebenarnya sedang mereka bangun—sebuah alat bantu analisis, atau sebuah sistem yang perlahan ikut mengambil keputusan.
Beberapa tahun lalu, pertanyaan yang sering muncul di ruang rapat bank adalah: perlukah kita mulai menggunakan AI? Hari ini pertanyaan itu hampir tidak terdengar lagi. Di banyak institusi, AI sudah diam-diam menjadi bagian dari operasional sehari-hari—mulai dari membaca pola transaksi hingga membantu menentukan keputusan kredit.
Pertanyaannya adalah: apakah bank siap mengelola risiko yang muncul dari sistem berbasis algoritma tersebut?
Banyak bank sebenarnya masih berada dalam fase eksperimen. Sebagian berhasil memanfaatkan AI untuk meningkatkan efisiensi. Sebagian lainnya masih mencoba memahami apa yang sebenarnya sedang mereka bangun—sebuah alat bantu analisis, atau sebuah sistem yang perlahan ikut mengambil keputusan.
Ketika Algoritma Membuat Keputusan Finansial
Salah satu contoh yang sering dikutip terjadi pada tahun 2019 ketika Apple Card—yang dikelola oleh Goldman Sachs—mendapat kritik luas dari publik. Beberapa pengguna melaporkan perbedaan limit kredit yang sangat besar antara suami dan istri, meskipun mereka memiliki aset bersama dan laporan pajak yang sama.
Kasus ini menjadi viral ketika Steve Wozniak, salah satu pendiri Apple, mengungkapkan bahwa limit kredit yang ia terima hampir sepuluh kali lebih besar dibandingkan limit yang diberikan kepada istrinya.
Apple dan Goldman Sachs menjelaskan bahwa algoritma mereka tidak menggunakan variabel gender. Namun sejumlah analis melihat kemungkinan lain yang lebih kompleks. Model AI sering menggunakan variabel proksi—seperti pola transaksi atau jenis belanja—yang secara statistik bisa berkorelasi dengan faktor tertentu, termasuk gender.
Dengan kata lain, AI tidak perlu mengetahui gender secara langsung untuk menghasilkan keputusan yang berpotensi bias. Kasus tersebut menjadi pengingat penting bagi industri keuangan. Ketika model AI digunakan dalam proses kredit, kesalahan tidak lagi bersifat individual. Ia bisa terjadi secara otomatis dan memengaruhi banyak nasabah sekaligus.
Bayangkan sebuah bank menggunakan model AI untuk mempercepat proses credit scoring. Ribuan aplikasi kredit diproses setiap hari. Beberapa bulan kemudian, keluhan mulai muncul. Sebagian nasabah merasa keputusan kredit tidak konsisten atau terasa tidak adil.
Investigasi internal kemudian menemukan bahwa model tersebut dilatih dengan data historis yang mengandung bias tertentu. Sebagian keputusan bahkan dipicu oleh interpretasi data yang keliru—fenomena yang dalam konteks AI sering disebut sebagai model hallucination.
AI membawa perubahan yang lebih dalam dari sekadar digitalisasi layanan. Yang terlihat sebagai peningkatan efisiensi sebenarnya juga menandai pergeseran yang lebih halus—sebagian otoritas pengambilan keputusan mulai berpindah dari analis manusia menuju sistem algoritmik.
Ketika kasus seperti ini muncul ke publik, masalahnya jarang berhenti pada aspek teknologi saja. Regulator mulai meminta klarifikasi, audit dilakukan, dan reputasi institusi ikut dipertanyakan. Dalam situasi ekstrem, ketidakpercayaan publik bahkan dapat memicu tekanan terhadap stabilitas bank, dan penarikan massal dari nasabah.
Dari Digital Banking Menuju Autonomous Finance
Selama satu dekade terakhir, industri perbankan Indonesia melakukan investasi besar dalam digitalisasi. Mobile banking, integrasi dengan fintech, serta pengembangan open banking menjadi bagian dari strategi transformasi digital. Pada fase ini, teknologi terutama digunakan untuk memindahkan layanan bank ke kanal digital—membuat transaksi lebih cepat, lebih mudah, dan lebih efisien.
AI membawa perubahan yang lebih dalam dari sekadar digitalisasi layanan. Yang terlihat sebagai peningkatan efisiensi sebenarnya juga menandai pergeseran yang lebih halus—sebagian otoritas pengambilan keputusan mulai berpindah dari analis manusia menuju sistem algoritmik.
Jika digital banking berfokus pada bagaimana layanan diberikan, maka AI mulai memengaruhi bagaimana keputusan finansial dibuat. Pada tahap awal, AI digunakan untuk meningkatkan akurasi analisis kredit, mempercepat deteksi fraud, serta membantu memahami perilaku nasabah melalui analisis data.
Beberapa pengamat mulai menyebut fase ini sebagai autonomous finance. Istilahnya terdengar futuristik, tetapi praktiknya sering muncul secara bertahap dan hampir tidak terasa. Sedikit demi sedikit, sebagian keputusan yang dulu sepenuhnya dibuat analis manusia kini dibantu—dan kadang diarahkan—oleh sistem algoritma. Perubahan tersebut tidak muncul begitu saja. Ada beberapa faktor yang mendorongnya.
Namun perkembangan komputasi, ketersediaan data dalam skala besar, serta tekanan kompetisi membuat penggunaan AI terus meluas. Secara perlahan, AI tidak lagi hanya membantu analis membuat keputusan. Dalam beberapa kasus, sistem mulai memberikan rekomendasi otomatis—bahkan menjalankan sebagian keputusan operasional.
Beberapa pengamat mulai menyebut fase ini sebagai autonomous finance. Istilahnya terdengar futuristik, tetapi praktiknya sering muncul secara bertahap dan hampir tidak terasa. Sedikit demi sedikit, sebagian keputusan yang dulu sepenuhnya dibuat analis manusia kini dibantu—dan kadang diarahkan—oleh sistem algoritma. Perubahan tersebut tidak muncul begitu saja. Ada beberapa faktor yang mendorongnya.
Pertama, ledakan volume data dan peningkatan kapasitas komputasi membuat analisis berbasis AI jauh lebih praktis dibandingkan satu dekade lalu.
Kedua, ekspektasi konsumen juga berubah. Nasabah tidak hanya menginginkan layanan yang cepat, tetapi juga personalisasi—mulai dari rekomendasi produk hingga limit kredit yang dinamis.
Ketiga, tekanan kompetisi semakin tinggi. Fintech, bank digital, dan platform teknologi menciptakan standar baru dalam kecepatan dan efisiensi layanan finansial. AI memberikan kemampuan bagi bank untuk memproses data dalam skala besar sekaligus merespons kebutuhan nasabah secara lebih cepat. Namun semakin besar peran algoritma dalam sistem keuangan, semakin besar dampak ketika terjadi kesalahan. Di titik ini, AI berhenti menjadi sekadar teknologi baru. Ia mulai menjadi bagian dari infrastruktur keputusan dalam organisasi.
Membaca Risiko Baru dalam Sistem Keuangan
Begitu AI masuk lebih dalam ke sistem keuangan, jenis risiko yang muncul juga berubah. Banyak di antaranya bahkan belum benar-benar dibahas dalam kerangka manajemen risiko perbankan yang lama.
Salah satu yang paling sering muncul adalah risiko model. Banyak model AI bersifat kompleks dan sulit dijelaskan secara sederhana. Ketika model dilatih dengan data yang tidak seimbang, keputusan yang dihasilkan dapat memunculkan bias dan berpotensi menimbulkan risiko reputasi maupun kepatuhan.
Lalu ada isu tata kelola algoritma. Semakin banyak keputusan finansial dipengaruhi oleh AI, semakin penting memastikan bahwa proses tersebut dapat diawasi dan dipertanggungjawabkan. Dan tentu saja, ada persoalan otomatisasi keputusan. Tanpa pengawasan manusia yang memadai, sistem AI bisa menyebabkan kesalahan dengan skala lebih luas dibandingkan proses manual.
Masalah lain datang dari ketergantungan pada data. AI sangat bergantung pada kualitas data yang digunakan. Ketika berbagai sumber data digabungkan, isu keamanan, privasi, dan perlindungan data menjadi semakin krusial.
Lalu ada isu tata kelola algoritma. Semakin banyak keputusan finansial dipengaruhi oleh AI, semakin penting memastikan bahwa proses tersebut dapat diawasi dan dipertanggungjawabkan. Dan tentu saja, ada persoalan otomatisasi keputusan. Tanpa pengawasan manusia yang memadai, sistem AI bisa menyebabkan kesalahan dengan skala lebih luas dibandingkan proses manual.
Hal lain yang sering luput dari perhatian adalah ketika kesalahan itu terjadi secara otomatis dan memengaruhi ribuan keputusan dalam waktu yang sangat singkat. Oleh karena itu, adopsi AI bukan lagi sekadar isu teknologi. Ia mencerminkan perubahan yang lebih luas dalam arsitektur sistem keuangan: siapa yang membuat keputusan, bagaimana keputusan tersebut dihasilkan, dan sejauh mana keputusan itu dapat dipertanggungjawabkan, serta siapa yang harus terlibat dan bertanggung jawab atas keputusan ini.
Apa yang terlihat sebagai inovasi teknologi sebenarnya sedang membuka pertanyaan yang lebih mendasar: ketika keputusan finansial semakin diotomatisasi, di mana sebenarnya letak akuntabilitas berada? Ia berkaitan langsung dengan tata kelola organisasi, manajemen risiko, dan kepercayaan publik. Hal ini akan sangat mempengaruhi reputasi perusahaan, dimana ini adalah salah satu aset penting.
Apa yang Perlu Disiapkan Bank?
Menghadapi perubahan ini, bank perlu melihat AI bukan sekadar proyek teknologi, tetapi sebagai bagian dari tata kelola organisasi. Langkah pertama—dan sering kali yang paling sulit—adalah membangun kerangka AI governance yang jelas. Penggunaan AI perlu memiliki kebijakan internal, mekanisme evaluasi model, serta proses audit untuk memastikan sistem bekerja secara transparan dan akuntabel.
Langkah kedua adalah memperkuat model risk management. Model AI perlu divalidasi secara berkala, diuji stabilitasnya, dan dipantau performanya untuk memastikan keputusan tetap berada dalam batas risiko yang dapat diterima. Pendekatan risk by design juga semakin penting. Artinya, potensi risiko algoritma sudah dipetakan sejak tahap awal pengembangan sistem.
Menghadapi perubahan ini, bank perlu melihat AI bukan sekadar proyek teknologi, tetapi sebagai bagian dari tata kelola organisasi. Langkah pertama—dan sering kali yang paling sulit—adalah membangun kerangka AI governance yang jelas. Penggunaan AI perlu memiliki kebijakan internal, mekanisme evaluasi model, serta proses audit untuk memastikan sistem bekerja secara transparan dan akuntabel.
Sebelum model digunakan secara luas, organisasi perlu menguji berbagai skenario—misalnya bagaimana model bereaksi terhadap data yang bias, perubahan perilaku nasabah, atau lonjakan transaksi tertentu. Pendekatan ini membantu organisasi mengantisipasi kegagalan model lebih awal dan mengurangi potensi dampak sistemik.
Vietnam telah menyelaraskan diri dengan tren regulasi global melalui AI Law No. 134/2025/QH15. Dalam aturan yang berlaku sejak 1 Maret 2026 ini, AI untuk credit scoring dan deteksi penipuan resmi ditetapkan sebagai sistem berisiko tinggi. Penetapan ini menuntut standar transparansi yang ketat serta akuntabilitas hukum bagi pengembang jika terjadi kegagalan model yang merugikan nasabah.
Pemerintah Vietnam mewajibkan entitas keuangan menyediakan dana cadangan atau asuransi khusus karena perusahaan dan pengembang harus bertanggung jawab penuh. Langkah ini memastikan bahwa risiko teknologi tidak lagi menjadi beban konsumen, melainkan bagian dari mitigasi finansial perusahaan.
Perkembangan ini menunjukkan bahwa penggunaan AI di sektor keuangan semakin diperlakukan bukan sekadar sebagai inovasi teknologi, tetapi bagian dari infrastruktur sistem keuangan yang memerlukan pengawasan serius.
Langkah berikutnya adalah meningkatkan AI literacy di level manajemen. Direksi dan komisaris perlu memahami implikasi strategis serta potensi risiko yang muncul ketika organisasi semakin bergantung pada sistem berbasis AI. Kegagalan model tidak hanya menjadi masalah teknologi. Ia dapat berkembang menjadi risiko operasional, risiko reputasi, bahkan risiko sistemik.
Terakhir, penggunaan AI perlu terhubung dengan kerangka kepatuhan dan perlindungan data. Di berbagai negara, regulator mulai menaruh perhatian besar pada transparansi algoritma, bias model, serta akuntabilitas keputusan otomatis. Tanpa kesiapan dari sisi governance dan dokumentasi model, inovasi AI yang awalnya dimaksudkan untuk meningkatkan layanan justru dapat menimbulkan masalah kepatuhan di kemudian hari.
Bank memang perlu bergerak cepat agar tidak tertinggal oleh fintech, bank digital, maupun platform teknologi yang masuk ke layanan finansial. Namun, pengalaman di banyak sektor menunjukkan bahwa inovasi yang terlalu cepat tanpa pengawasan yang memadai sering justru menciptakan risiko baru.
Menuju Era Autonomous Finance
Transformasi digital yang dimulai lebih dari satu dekade lalu masih terus bergerak, kadang cepat, kadang tersendat—tergantung kesiapan teknologi, regulasi, dan budaya organisasi masing-masing bank. Jika dekade sebelumnya ditandai oleh munculnya digital banking, dekade berikutnya akan ditandai oleh semakin besarnya peran AI dalam sistem keuangan.
Bank memang perlu bergerak cepat agar tidak tertinggal oleh fintech, bank digital, maupun platform teknologi yang masuk ke layanan finansial. Namun, pengalaman di banyak sektor menunjukkan bahwa inovasi yang terlalu cepat tanpa pengawasan yang memadai sering justru menciptakan risiko baru.
Ke depan, bank tidak hanya mengelola risiko kredit, likuiditas, dan pasar. Mereka juga harus mulai memahami sesuatu yang sebelumnya jarang dibicarakan dalam manajemen risiko klasik: bagaimana mengawasi sistem yang belajar sendiri dari data. Mereka juga perlu mengembangkan disiplin baru dalam tata kelola teknologi—algorithmic risk management—yakni kemampuan memahami, mengawasi, dan mengendalikan risiko yang muncul dari keputusan berbasis algoritma.
Di era ini, stabilitas perbankan tidak lagi hanya ditentukan oleh modal dan likuiditas. Semakin banyak keputusan operasional ditopang oleh sistem algoritma, stabilitas institusi juga mulai bergantung pada kualitas model, data, dan tata kelola teknologi yang digunakan. Semakin banyak institusi keuangan juga harus memahami dan mengelola sesuatu yang sebelumnya jarang dibahas dalam sistem keuangan: algorithmic risk.
Ke depan, bank tidak hanya mengelola risiko kredit, likuiditas, dan pasar. Mereka juga harus mulai memahami sesuatu yang sebelumnya jarang dibicarakan dalam manajemen risiko klasik: bagaimana mengawasi sistem yang belajar sendiri dari data. Mereka juga perlu mengembangkan disiplin baru dalam tata kelola teknologi—algorithmic risk management—yakni kemampuan memahami, mengawasi, dan mengendalikan risiko yang muncul dari keputusan berbasis algoritma.
*) Tuhu Nugraha adalah Principal Indonesia Applied Digital Economy & Regulatory Network (IADERN), kini aktif menjadi pembicara di banyak forum internasional mengenai AI, strategi digital dan tata kelola teknologi negara-negara berkembang.
Digionary:
● Algorithmic Risk
Risiko yang muncul ketika keputusan finansial dipengaruhi atau dibuat oleh algoritma AI.
● Artificial Intelligence (AI)
Teknologi komputer yang memungkinkan sistem belajar dari data dan melakukan tugas yang biasanya membutuhkan kecerdasan manusia.
● Autonomous Finance
Konsep sistem keuangan di mana sebagian keputusan operasional dilakukan secara otomatis oleh algoritma.
● Credit Scoring
Metode penilaian kelayakan kredit berdasarkan analisis data keuangan dan perilaku transaksi nasabah.
● Model Risk
Risiko yang muncul ketika model analisis atau algoritma menghasilkan keputusan yang tidak akurat atau bias.
● Risk-by-Design
Pendekatan pengembangan teknologi yang mempertimbangkan potensi risiko sejak tahap awal perancangan sistem.
#ArtificialIntelligence #BankingRisk #Fintech #AIinBanking #AlgorithmicRisk #DigitalBanking #AutonomousFinance #FinancialTechnology #AIRegulation #FintechInnovation #RiskManagement #FutureOfBanking #AIgovernance #FinancialStability #MachineLearning #BankingTechnology #GlobalFinance #DataGovernance #FinancialInnovation #TechRisk
