Perbankan global tengah memasuki fase baru di mana kecerdasan artifisial tidak lagi sekadar alat bantu, melainkan mulai berperan sebagai “manajer tak terlihat” yang mengatur alur kerja dan keputusan. Pergeseran ke Agentic AI ini membawa risiko yang jauh lebih kompleks dibanding sekadar efisiensi—menyentuh akuntabilitas, tata kelola, hingga desain ulang institusi bank itu sendiri. Di titik ini, pertanyaannya bukan lagi apakah AI berguna, tetapi siapa yang bertanggung jawab ketika mesin mulai mengarahkan keputusan.
Oleh: Tuhu Nugraha *)
Fokus:
■ Pergeseran AI dari alat bantu menjadi pengarah keputusan menciptakan risiko baru dalam tata kelola bank.
■ Agentic AI berpotensi mengaburkan akuntabilitas, merusak kontrol internal, dan memperbesar risiko operasional.
■ Bank harus segera membangun governance baru sebelum otonomi mesin melampaui kendali manusia.
Ketika AI bergeser dari copilot menjadi coordinator, maka isu utamanya tidak lagi efisiensi, melainkan akuntabilitas. Banyak bank masih merasa cukup aman selama AI hanya dilihat sebagai alat bantu. Ia merangkum dokumen, membaca pola fraud, membantu personalisasi, atau menjawab pertanyaan lebih cepat. Semua itu penting, tetapi juga meninabobokan. Karena perubahan yang sedang datang jauh lebih dalam: AI tidak lagi sekadar membantu pekerjaan, tetapi mulai ikut mengatur cara kerja.
Di situlah alarm sebenarnya berbunyi. Begitu AI mulai menentukan prioritas kerja, jalur eskalasi, urutan tindak lanjut, dan ritme pengambilan keputusan, ia telah bergerak dari tool ke lapisan koordinasi. Dari mesin yang menjawab menjadi sistem yang diam-diam ikut mengarahkan organisasi. Dalam titik itu, pertanyaannya bukan lagi apakah AI membuat bank lebih efisien. Pertanyaannya adalah: siapa yang mengawasi ketika mesin mulai memengaruhi keputusan manusia?
Ancaman Terbesar: AI Mulai Salah Mengarahkan
Bagi perbankan, ini bukan pergeseran kecil. Bank hidup dari kepercayaan, kontrol, audit trail, segregation of duties, dan kejelasan akuntabilitas. Karena itu, ancaman terbesarnya bukan ketika AI salah menjawab, melainkan ketika AI mulai salah mengarahkan. Ketika rekomendasinya membentuk prioritas. Ketika sarannya menjadi default. Ketika manusia mengikutinya bukan karena sudah diuji, tetapi karena terasa cepat, rapi, dan terlihat objektif.
Di sinilah gagasan Autonomous Banking menjadi semakin relevan. Jika sebelumnya kita bicara bahwa masa depan bank bergerak menuju sistem yang makin otonom, di mana algoritma tidak lagi sekadar memberi rekomendasi tetapi ikut menjalankan proses, maka implikasi logis berikutnya kini semakin jelas: semakin otonom bank, semakin besar kebutuhan akan governance yang tegas. Sebab ketika otonomi mesin naik, kekaburan tanggung jawab juga ikut naik jika institusinya tidak siap.
Arah ini bukan lagi spekulasi. OJK pada 29 April 2025 meluncurkan Tata Kelola Kecerdasan Artifisial Perbankan Indonesia untuk memastikan AI, termasuk advanced AI systems, dikembangkan dan diterapkan secara bertanggung jawab.
Dokumen itu juga menempatkan evolusi AI, termasuk Agentic AI, dalam horizon yang perlu dipahami industri. Sementara itu, Cetak Biru Transformasi Digital Perbankan OJK menegaskan bahwa transformasi perbankan harus dibangun di atas lima elemen: data, teknologi, manajemen risiko, kolaborasi, dan tatanan institusi.
Di sinilah gagasan Autonomous Banking menjadi semakin relevan. Jika sebelumnya kita bicara bahwa masa depan bank bergerak menuju sistem yang makin otonom, di mana algoritma tidak lagi sekadar memberi rekomendasi tetapi ikut menjalankan proses, maka implikasi logis berikutnya kini semakin jelas: semakin otonom bank, semakin besar kebutuhan akan governance yang tegas. Sebab ketika otonomi mesin naik, kekaburan tanggung jawab juga ikut naik jika institusinya tidak siap.
Di level global, fondasi menuju invisible manager juga mulai terlihat. JPMorgan menjelaskan bahwa LLM Suite diarahkan menjadi “AI hub for employees”, lalu dikembangkan untuk terhubung lebih dalam dengan data internal dan workflows guna menciptakan AI agents yang dapat menjalankan serangkaian aksi untuk menyelesaikan tujuan tertentu. Artinya, jalannya sudah dibuka: dari pencarian informasi ke orkestrasi tindakan, dari productivity tool ke workflow layer.
Karena itu, tantangan agentic AI tidak bisa lagi diletakkan hanya di kotak teknologi. Ia menyentuh lima elemen OJK sekaligus. Dalam konteks data, pertaruhannya tidak lagi sebatas kualitas insight.
Ketika AI dipakai untuk memberi rekomendasi tindakan, menentukan prioritas kasus, atau mengarahkan workflow, kualitas, konteks, dan batas penggunaan data langsung menentukan arah operasi. Data yang buruk tidak hanya menghasilkan analisis yang lemah. Ia bisa mendorong tindakan yang salah.
Berhenti Melihat AI sebagai Architecture of Efficiency
Dalam konteks teknologi, bank perlu berhenti melihat AI semata sebagai architecture of efficiency. Di era agentic AI, teknologi harus dibaca sebagai architecture of control. Pertanyaannya bukan lagi hanya model apa yang paling pintar, tetapi batas kendali apa yang sudah dipasang sebelum model itu diberi ruang memengaruhi keputusan dan alur kerja.
Dalam konteks manajemen risiko, agentic AI tidak cukup dibaca sebagai model risk biasa. Begitu ia masuk ke workflow, eksposurnya melebar menjadi operational risk, compliance risk, cyber risk, conduct risk, dan pada akhirnya governance risk.
Dalam konteks kolaborasi, pengawasannya tidak bisa diserahkan hanya kepada IT atau unit inovasi. Ia harus melibatkan bisnis, risiko, compliance, audit internal, keamanan siber, legal, SDM, dan direksi. Dan dalam konteks tatanan institusi, pertanyaan paling mendasarnya adalah ini: siapa yang memegang otoritas ketika mesin mulai membentuk alur keputusan organisasi?
Dalam konteks kolaborasi, pengawasannya tidak bisa diserahkan hanya kepada IT atau unit inovasi. Ia harus melibatkan bisnis, risiko, compliance, audit internal, keamanan siber, legal, SDM, dan direksi. Dan dalam konteks tatanan institusi, pertanyaan paling mendasarnya adalah ini: siapa yang memegang otoritas ketika mesin mulai membentuk alur keputusan organisasi?
Di sinilah agentic AI harus diperlakukan sebagai high-risk internal control system ketika sudah mulai memengaruhi prioritas kerja, alur eskalasi, atau tindak lanjut di area sensitif. Dan begitu dibaca dari sudut itu, risikonya menjadi jauh lebih jelas.
Risiko pertama adalah delegated authority risk. Dalam praktiknya, AI mungkin tidak menandatangani persetujuan kredit atau menutup investigasi fraud secara langsung. Tetapi jika ia menentukan kasus mana yang diprioritaskan, rekomendasi mana yang dinaikkan, atau tindakan mana yang tampak paling masuk akal, maka ia sudah memegang bentuk otoritas terselubung. Dalam bank, otoritas terselubung ini berbahaya karena pengaruhnya besar, tetapi tanggung jawabnya kabur.
Risiko kedua adalah erosi segregation of duties. Kontrol dasar bank dibangun di atas pemisahan fungsi, pembatasan akses, dan rantai otorisasi yang jelas. Namun jika satu agent AI bisa membaca data, merangkum situasi, memberi rekomendasi, memprioritaskan tindak lanjut, dan memicu langkah lintas sistem, maka batas-batas kontrol itu bisa memudar tanpa terasa. Bank merasa sedang mempercepat proses, padahal yang ikut terkikis adalah pagar pengamannya.
Risiko ketiga adalah advice-to-action risk. Ancaman tidak selalu datang dari AI yang bertindak sendiri, tetapi dari manusia yang terlalu cepat memercayai sarannya. Begitu rekomendasi mesin dianggap netral, cepat, dan efisien, organisasi bisa masuk ke pola human obedience to flawed AI advice. Dalam bank, ini berbahaya karena banyak keputusan penting lahir dari rangkaian prioritas, eskalasi, dan tindak lanjut, bukan dari satu keputusan tunggal.
Risiko keempat adalah operational amplification risk. Kesalahan manusia biasanya terbatas. Kesalahan AI yang sudah terhubung ke workflow bisa menjalar dengan cepat ke banyak proses sekaligus. Itulah mengapa agentic AI tak bisa dipandang sebagai eksperimen biasa. Skala kecepatannya dapat jauh melampaui kemampuan institusi untuk menjelaskan atau memperbaikinya.
Ancaman tidak selalu datang dari AI yang bertindak sendiri, tetapi dari manusia yang terlalu cepat memercayai sarannya. Begitu rekomendasi mesin dianggap netral, cepat, dan efisien, organisasi bisa masuk ke pola human obedience to flawed AI advice. Dalam bank, ini berbahaya karena banyak keputusan penting lahir dari rangkaian prioritas, eskalasi, dan tindak lanjut, bukan dari satu keputusan tunggal.
Namun risiko yang paling strategis adalah institutional blur. Pada tahap ini, persoalannya bukan lagi apakah AI bekerja baik atau buruk, tetapi siapa yang sesungguhnya memegang keputusan ketika mesin mulai membentuk keputusan organisasi. Siapa yang mengawasi. Siapa yang mengesahkan. Siapa yang harus menjawab ketika sesuatu berjalan salah. Dalam bahasa sederhana, agentic AI mulai mendorong bank ke wilayah institutional redesign, bukan lagi sekadar digital upgrade.
Agenda Direksi, Apa Saja?
Karena itu, respons bank tidak boleh berhenti pada antusiasme inovasi. Ada beberapa prinsip dasar yang perlu segera dijadikan agenda direksi.
Pertama, bedakan use case AI berdasarkan materialitas kontrolnya. AI untuk insight berbeda dengan AI untuk rekomendasi, orchestration, atau autonomous execution. Semakin dekat AI ke koordinasi kerja, tindakan operasional, dan keputusan yang berdampak hukum, keuangan, atau reputasi, semakin tinggi governance yang dibutuhkan.
Kedua, bank perlu membedakan secara tegas antara Human-in-the-Loop da Human-on-the-Loop. Dalam Human-in-the-Loop, AI tidak boleh berjalan ke tahap keputusan atau tindakan final sebelum manusia menyetujui. Dalam Human-on-the-Loop, AI dapat menjalankan proses lebih dulu, sementara manusia memantau, mengaudit, dan memiliki kewenangan untuk menghentikan atau mengambil alih melalui kill switch. Dalam konteks perbankan, perbedaan ini tidak boleh kabur. Untuk area yang high-risk, default-nya harus tetap Human-in-the-Loop, bukan sekadar Human-on-the-Loop.
Ketiga, bank harus menetapkan red zones: batas otoritas yang tidak boleh dilangkahi mesin. Tidak semua proses dalam perbankan dapat diperlakukan sama. Ada area yang bersifat high-stakes decisioning, di mana Agentic AI seharusnya berhenti pada fungsi analisis awal dan rekomendasi, sementara keputusan final tetap berada di tangan manusia. Ini berlaku pada persetujuan kredit bernilai tinggi atau kompleks, pelaporan transaksi mencurigakan kepada otoritas, pengelolaan hak akses istimewa ke sistem inti, komitmen hukum yang mengikat bank, hingga tindakan pemulihan yang menuntut diskresi tinggi. Prinsip dasarnya sederhana: semakin besar implikasi hukum, keuangan, dan reputasional suatu keputusan, semakin kecil ruang yang boleh diberikan kepada mesin untuk bertindak tanpa persetujuan manusia.
Bank harus bisa menelusuri model yang digunakan, konteks data, rekomendasi yang dikeluarkan, siapa yang menerima, siapa yang menyetujui, dan apa outcome akhirnya. Tanpa itu, akuntabilitas akan selalu tertinggal di belakang kecepatan.
Keempat, terapkan bounded autonomy. Setiap agent harus punya batas jelas: data apa yang boleh dibaca, sistem apa yang boleh diakses, rekomendasi apa yang boleh diberikan, tindakan apa yang boleh dipicu, dan kapan ia wajib berhenti lalu mengeskalasi ke manusia. Otonomi tanpa batas hanya akan menciptakan efisiensi semu yang dibayar dengan meningkatnya fragilitas kontrol.
Kelima, wajibkan logging dan audit trail. Bank harus bisa menelusuri model yang digunakan, konteks data, rekomendasi yang dikeluarkan, siapa yang menerima, siapa yang menyetujui, dan apa outcome akhirnya. Tanpa itu, akuntabilitas akan selalu tertinggal di belakang kecepatan.
Keenam, naikkan peran manusia dari operator menjadi pengawas strategis. Dalam era Agentic AI, manusia tidak cukup hanya menjadi pihak yang mengklik persetujuan. Mereka harus berfungsi sebagai boundary setter, reviewer untuk exception, auditor pola keputusan AI, dan pemegang override maupun kill switch. Semakin otonom sistemnya, semakin penting kualitas pengawasan manusianya.
Semakin otonom bank, semakin besar kebutuhan akan governance yang tegas. Dalam perbankan, invisible manager bisa lebih berbahaya daripada visible boss. Karena yang terlihat masih bisa dipanggil untuk bertanggung jawab. Yang tak terlihat, justru bisa lebih cepat membentuk keputusan, menggeser kontrol, dan mengaburkan siapa yang akhirnya harus menjawab ketika sesuatu berjalan salah.
Sinyal bahwa isu ini sudah masuk radar juga datang dari ekosistem bank sentral. Dalam call for papers Journal of Central Banking Law and Institutions (JCLI) 2026, salah satu subtopik yang dicantumkan secara eksplisit adalah “Agentic Artificial Intelligence in Central Banking.” Itu berarti agentic AI mulai dibaca bukan hanya sebagai isu teknologi, tetapi sebagai isu governance dan desain institusi dalam arsitektur keuangan yang baru. Jika bank sentral mulai membuka ruang diskusi formal tentang ini, maka bank komersial tidak punya banyak alasan untuk terus memperlakukan AI hanya sebagai alat produktivitas.
Pada akhirnya, inilah sisi lain dari Autonomous Banking yang belum cukup dibahas: semakin otonom bank, semakin besar kebutuhan akan governance yang tegas. Dalam perbankan, invisible manager bisa lebih berbahaya daripada visible boss. Karena yang terlihat masih bisa dipanggil untuk bertanggung jawab. Yang tak terlihat, justru bisa lebih cepat membentuk keputusan, menggeser kontrol, dan mengaburkan siapa yang akhirnya harus menjawab ketika sesuatu berjalan salah.
*) Tuhu Nugraha adalah Principal Indonesia Applied Digital Economy & Regulatory Network (IADERN), kini aktif menjadi pembicara di banyak forum internasional mengenai AI, strategi digital dan tata kelola teknologi negara-negara berkembang.
Digionary:
● Agentic AI: AI yang mampu mengambil keputusan atau mengarahkan tindakan secara otonom
● Audit trail: Jejak data yang memungkinkan penelusuran proses keputusan
● Autonomous Banking: Konsep bank dengan operasi berbasis sistem otomatis
● Compliance: Kepatuhan terhadap regulasi
● Governance: Sistem tata kelola organisasi
● Human-in-the-Loop: AI membutuhkan persetujuan manusia sebelum keputusan
● Human-on-the-Loop: AI berjalan otomatis, manusia hanya mengawasi
● Operational risk: Risiko akibat kegagalan proses internal
● Segregation of duties: Pemisahan fungsi untuk mencegah konflik kepentingan
● Workflow: Alur kerja dalam organisasi
#AI #AgenticAI #Perbankan #Banking #Fintech #DigitalTransformation #AutonomousBanking #RiskManagement #Governance #AIRegulation #FinancialRisk #CyberRisk #Compliance #FutureOfWork #DigitalBanking #AIinFinance #TechRisk #BankingInnovation #ArtificialIntelligence #DataGovernance
