Kecerdasan buatan (artificial intelligence/AI) telah menjadi pendorong utama efisiensi dan inovasi di sektor perbankan Indonesia. Namun, seiring dengan kekuatan algoritma yang semakin besar dalam mengambil keputusan krusial—mulai dari credit scoring hingga deteksi fraud—maka tata kelola yang kuat menjadi keharusan. Otoritas Jasa Keuangan (OJK) pada 29 April 2025 lalu telah merilis Tata Kelola Kecerdasan Artifisial Perbankan Indonesia (TKKAPI) dan mendorong dibentuknya Komite Tata Kelola AI di semua bank, selain tentunya roadmap AI masing-masing bank. Untuk mengupas lebih dalam isu strategis ini, di sebuah kafe di bilangan SCBD, Jakarta, Deddy H. Pakpahan dari digitalbank.id berbincang dengan Tuhu Nugraha, pakar AI. Tuhu saat ini adalah Principle Indonesia Applied Digital Economy & Regulatory Network (IADERN). Secara lugas dia menjelaskan mengapa Komite AI bukan sekadar mandat regulatif, tetapi menjadi kunci bank untuk menjaga integritas dan kepercayaan di tengah revolusi digital serta melangkah menuju keunggulan kompetitif. Berikut petikan perbincangannya:
Satu survei mengungkapkan lebih dari 60% bank besar di Indonesia sudah menggunakan AI. Tapi, mengapa OJK merasa perlu untuk menerbitkan panduan formal tentang Komite AI di dalam TKKAPI?
Ini kembali pada isu pengawasan. Keputusan penting yang diambil oleh algoritma, seperti penilaian risiko kredit atau rekomendasi investasi, tentunya memerlukan pengawasan yang sangat ketat dan terstruktur. Survei menunjukkan banyak bank sudah menggunakan AI untuk efisiensi dan layanan, tapi sayangnya, hanya sebagian kecil yang memiliki struktur tata kelola AI yang formal. Kondisi ini membuat pengawasan menjadi keharusan strategis untuk mencegah hal-hal krusial seperti bias algoritmik, pelanggaran privasi, atau kerentanan hukum yang dapat mengancam stabilitas sistem keuangan.
OJK memandang pengawasan AI sebagai bagian integral dari tata kelola korporasi yang baik (good corporate governance). Di era digital, algoritma mulai mengambil keputusan penting, sehingga pengawasan harus diangkat dari ranah teknis menjadi tanggung jawab eksekutif. Dengan panduan TKKAPI ini, OJK memastikan bahwa struktur tata kelola bank harus berkembang seiring kompleksitas risiko AI yang diadopsi.
Penerbitan TKKAPI juga merupakan langkah persiapan untuk mewajibkan pelaporan. Saya berani berasumsi bahwa di akhir tahun ini atau tahun depan, OJK kemungkinan akan meminta setiap bank untuk menyampaikan laporan perkembangan atau pembentukan Komite Tata Kelola AI sebagai bagian dari upaya kepatuhan dan kesiapan tata kelola digital mereka.
Bisa dijelaskan, mengapa pengawasan AI ini dianggap sebagai mandat strategis dari OJK dan bukan sekadar inisiatif internal bank?
OJK telah menegaskan bahwa pengawasan AI adalah bagian fundamental dari tata kelola korporasi yang baik (Good Corporate Governance). Regulasi ini bukan hanya tentang teknologi, tapi tentang tanggung jawab. Di sektor perbankan, kepercayaan nasabah adalah aset utama. Jika algoritma bank menimbulkan bias atau pelanggaran privasi, dampaknya bisa mengguncang kepercayaan publik secara luas.
Nah, tujuan OJK adalah memastikan bahwa bank yang menggunakan AI tetap menjaga kepercayaan nasabah dan pasar. OJK memberikan sinyal kuat bahwa pengawasan AI itu wajib, bukan opsional, dan harus menjadi tanggung jawab pimpinan tertinggi. Dengan adanya TKKAPI, OJK menciptakan kerangka kerja yang seragam, tetapi fleksibel, yang akan menjadi tolok ukur kepatuhan di masa mendatang.
Oleh karena itu, ini bukan lagi inisiatif internal, melainkan mandat strategis yang harus dipenuhi bank. Kesiapan tata kelola ini akan menjadi bagian krusial dari penilaian kepatuhan bank ke depannya.
OJK memberikan dua model fleksibel, yakni integrasi ke Komite TI atau Komite AI yang mandiri. Bank seperti apa yang sebaiknya memilih model Komite AI mandiri?
Fleksibilitas ini diberikan agar bank bisa beradaptasi sesuai tingkat kematangan digital dan risiko AI mereka. Model Integrasi ke Komite Pengarah TI cocok untuk bank yang masih di tahap awal adopsi AI, di mana penggunaan AI-nya belum menyentuh fungsi yang terlalu kritikal.
Namun, model Komite AI mandiri sangat direkomendasikan bagi bank yang sudah menggunakan AI pada fungsi-fungsi kritikal dan dengan intensitas tinggi. Contohnya sangat jelas: bank yang menggunakan AI untuk credit scoring di mana keputusan kredit bergantung pada model, fraud detection berskala besar, atau sudah mengimplementasikan layanan generatif berbasis AI yang sangat memengaruhi operasional dan nasabah. Intinya, struktur tata kelola harus berkembang seiring kompleksitas risiko AI, dan bagi bank dengan risiko tinggi, Komite mandiri adalah keharusan.
Tujuan OJK adalah memastikan bahwa bank yang menggunakan AI tetap menjaga kepercayaan nasabah dan pasar. OJK memberikan sinyal kuat bahwa pengawasan AI itu wajib, bukan opsional, dan harus menjadi tanggung jawab pimpinan tertinggi. Dengan adanya TKKAPI, OJK menciptakan kerangka kerja yang seragam, tetapi fleksibel, yang akan menjadi tolok ukur kepatuhan di masa mendatang.
Apa risiko terbesar yang dihadapi bank jika mereka mengabaikan pembentukan struktur tata kelola AI yang memadai?
Risiko terbesarnya ada tiga dan bersifat saling berkaitan, yang semuanya mengarah pada keruntuhan kepercayaan. Pertama, bias algoritmik, di mana keputusan AI—misalnya dalam penilaian kredit—menjadi tidak adil atau diskriminatif terhadap kelompok tertentu. Kedua, pelanggaran privasi data nasabah jika model AI dilatih atau dioperasikan tanpa kendali etika yang ketat. Dan yang ketiga, kerentanan hukum dan reputasi akibat kurangnya akuntabilitas. Bank tidak akan bisa menjelaskan ‘mengapa’ keputusan AI dibuat. Ini semua dapat mengguncang kepercayaan nasabah dan pasar secara signifikan.
Komite AI dirancang sebagai pertahanan strategis dan pusat koordinasi untuk menjaga agar penerapan AI tetap selaras dengan nilai, kepatuhan, dan strategi bisnis bank. Mengabaikannya berarti mengundang risiko yang dapat mengancam stabilitas korporat.
Siapa saja yang direkomendasikan OJK untuk duduk di Komite AI ini?
OJK merekomendasikan keanggotaan minimum dari Direktur TI, Direktur Risiko, serta pejabat eksekutif dari kedua fungsi tersebut. Ini adalah persyaratan dasar yang harus dipenuhi dan sejalan dengan peraturan POJK No.11/POJK.03/2022 tentang Penyelenggaraan Teknologi Informasi.
Namun, yang terpenting adalah esensinya, yaitu membawa fungsi pengawasan ke level direksi. Komite ini tidak boleh hanya menjadi forum teknis. Komite ini harus memastikan bahwa risiko dan etika AI didiskusikan dan diputuskan di tingkat manajemen senior.
Risiko terbesarnya ada tiga dan bersifat saling berkaitan, yang semuanya mengarah pada keruntuhan kepercayaan. Pertama, bias algoritmik, di mana keputusan AI—misalnya dalam penilaian kredit—menjadi tidak adil atau diskriminatif terhadap kelompok tertentu. Kedua, pelanggaran privasi data nasabah jika model AI dilatih atau dioperasikan tanpa kendali etika yang ketat. Dan yang ketiga, kerentanan hukum dan reputasi akibat kurangnya akuntabilitas. Bank tidak akan bisa menjelaskan ‘mengapa’ keputusan AI dibuat. Ini semua dapat mengguncang kepercayaan nasabah dan pasar secara signifikan.
Selain rekomendasi OJK, praktik terbaik global menunjukkan komposisi yang bagaimana? Dan mengapa pendekatan ini penting?
Praktik global, seperti yang kita lihat di DBS atau JPMorgan, menyoroti perlunya pendekatan lintas fungsi (cross-functional) yang jauh lebih luas. Komite idealnya dipimpin oleh Chief Risk Officer (CRO), bukan hanya Direktur TI. Anggotanya harus mencakup representasi dari bidang hukum, kepatuhan, keamanan siber, data science, audit internal, serta unit bisnis utama yang menggunakan AI.
Pendekatan lintas fungsi ini sangat penting karena memastikan pengawasan AI tidak hanya bersifat teknis. Ia juga mempertimbangkan dimensi etika, hukum, dan strategis dari model AI. Komite yang kuat bukan sekadar birokrasi tambahan, melainkan pusat koordinasi yang mengimbangi risiko dengan inovasi.
Bisakah Anda berikan contoh praktik tata kelola AI dari bank global sebagai rujukan bagi bank di Indonesia?
Saya kira DBS Bank Singapura adalah rujukan yang sangat baik. Mereka membentuk Responsible AI Taskforce yang menerapkan prinsip PURE (Purposeful, Unsurprising, Respectful, Explainable), yang merupakan turunan dari kerangka etika regulator Singapura (FEAT). Setiap proyek AI di DBS harus diuji ketat terhadap prinsip etika ini sebelum diterapkan ke pelanggan.
Di sisi lain, ada JPMorgan Chase di Amerika Serikat. Mereka mengambil pendekatan yang lebih terintegrasi; mereka tidak membentuk komite baru, melainkan mengintegrasikan risiko AI ke dalam Enterprise Risk Management (ERM) yang sudah ada. Pendekatan ini menempatkan AI sejajar dengan risiko strategis lainnya, seperti risiko pasar atau keamanan siber.
Pelajaran utamanya sangat jelas dimana tata kelola AI bukan sekadar urusan kepatuhan regulasi. Tata kelola adalah strategi fundamental untuk membangun kepercayaan dan ketahanan digital bank di tengah inovasi yang sangat cepat.
Prinsip PURE dari DBS Bank menggunakan kata ‘Unsurprising’. Mengapa penting bagi keputusan AI untuk tidak ‘mengejutkan’ nasabah?
Prinsip ‘Unsurprising’ adalah elemen kunci dalam membangun kepercayaan. Nasabah harus memiliki pemahaman atau ekspektasi yang wajar mengenai bagaimana AI memengaruhi mereka. Misalnya, jika mereka ditolak kredit, mereka harus mengerti mengapa, bukan merasa keputusan itu datang dari ‘kotak hitam’ yang misterius.
Jika keputusan AI, misalnya penolakan layanan atau kredit, muncul tiba-tiba tanpa konteks yang dapat dijelaskan, hal itu dapat mengguncang kepercayaan dan menimbulkan kerentanan hukum. Oleh karena itu, Unsurprising memastikan bahwa proses AI bersifat logis dan dapat diantisipasi oleh pengguna.
Melihat contoh dari JPMorgan, bagaimana integrasi risiko AI ke dalam Enterprise Risk Management (ERM) secara spesifik membantu bank?
Integrasi ini sangat penting karena ia mengangkat risiko AI dari sekadar risiko TI menjadi risiko strategis korporat. Artinya, ia menempatkan risiko AI sejajar dengan risiko strategis lain, seperti risiko pasar, likuiditas, atau keamanan siber.
Dengan demikian, pengawasan terhadap model, data, dan etika AI menjadi bagian yang terstandardisasi, sistematis, dan mendapat review reguler di bawah payung ERM. Hal ini memastikan bahwa risiko AI dikelola dengan framework yang matang, bukan hanya sebagai proyek IT yang terpisah.
Apa pelajaran utama yang bisa diambil dari contoh DBS dan JPMorgan terkait tata kelola AI?
Pelajaran utamanya sangat jelas dimana tata kelola AI bukan sekadar urusan kepatuhan regulasi. Tata kelola adalah strategi fundamental untuk membangun kepercayaan dan ketahanan digital bank di tengah inovasi yang sangat cepat. Baik DBS maupun JPMorgan menegaskan bahwa tanpa tata kelola yang kuat—baik melalui Taskforce khusus atau integrasi ke ERM—bank tidak akan bisa berinovasi dengan keyakinan penuh. Ini adalah cara untuk menjaga reputasi dan menahan risiko yang bisa merusak bisnis.
Anda menyebut Komite AI harus melapor langsung ke Direksi atau Komite Risiko Dewan Komisaris. Mengapa ini penting?
Pelaporan langsung menjamin bahwa risiko AI dan keputusan inovasi mendapat perhatian di level tertinggi. Ini krusial karena memungkinkan integrasi risiko AI ke dalam Enterprise Risk Management (ERM) secara menyeluruh.
Dengan pelaporan langsung, pengawasan terhadap model, data, dan etika AI akan menjadi bagian integral, sistematis, dan mendapat review reguler dari sistem manajemen risiko korporat. Ini memastikan bahwa AI dipandang sebagai risiko strategis yang membutuhkan oversight dari BOD dan BOC, bukan hanya masalah teknis yang diselesaikan di level manajerial.
Selain pembentukan Komite dan integrasi risiko, apa langkah prioritas lain yang harus diambil bank di Indonesia saat ini?
Ada empat langkah prioritas yang harus diambil. Pertama, seperti yang kita bahas, bangun Komite AI lintas fungsi. Kedua, integrasikan risiko AI ke ERM. Dua langkah sisanya adalah membangun kapabilitas dan budaya. Tingkatkan literasi AI di semua level, termasuk pelatihan khusus bagi Direksi dan Dewan Komisaris agar mereka memahami peluang dan risiko AI secara komprehensif. Terakhir, tanamkan budaya AI yang bertanggung jawab, di mana transparansi dan fairness menjadi standar operasional dan bukan pengecualian.
Dengan pelaporan langsung, pengawasan terhadap model, data, dan etika AI akan menjadi bagian integral, sistematis, dan mendapat review reguler dari sistem manajemen risiko korporat. Ini memastikan bahwa AI dipandang sebagai risiko strategis yang membutuhkan oversight dari BOD dan BOC, bukan hanya masalah teknis yang diselesaikan di level manajerial.
Tuhu Nugraha kini juga menjabat sebagai Manager for Strategic and Development, LSPR Center for Artificial Intelligence & Communication Technology (CAICT). Di Indonesia mungkin tak banyak pakar AI yang punya keahlian dalam adopsi teknologi, tata kelola, serta manajemen risiko AI, dengan pemahaman mendalam mengenai implikasi geopolitik teknologi di kawasan Indo-Pasifik. Dengan pengalaman lebih dari 3.000 jam sebagai trainer dan dosen, ia telah mendampingi berbagai kementerian, lembaga pemerintah, BUMN, sektor perbankan, dan korporasi multinasional dalam merancang strategi adopsi AI, pengelolaan risiko teknologi, komunikasi publik, serta penerapan etika AI.
Tuhu terlibat langsung dalam penyusunan framework manajemen risiko AI untuk Badan Siber dan Sandi Negara (BSSN), pengembangan pedoman etika pemanfaatan Generative AI untuk humas pemerintah, dan kolaborasi riset AI–blockchain bersama Badan Riset dan Inovasi Nasional (BRIN). Pandangannya menekankan pentingnya tata kelola AI yang beretika, inklusif, dan berkelanjutan, serta menyoroti peran strategis negara-negara Global South dalam ekosistem digital global.
Bagaimana bank dapat memastikan bahwa penerapan AI tetap selaras dengan nilai dan strategi bisnis mereka?
Ini adalah fungsi inti dari Komite AI yang kuat. Komite ini harus berfungsi sebagai pusat koordinasi risiko dan inovasi. Tugas mereka bukan hanya mengecek kepatuhan, tetapi menjaga agar setiap proyek AI diuji dan diterapkan sesuai dengan nilai etika bank, persyaratan kepatuhan, dan strategi bisnis jangka panjang.
Komite AI memastikan bahwa setiap algoritma yang mengambil keputusan kritikal telah melewati saringan etika dan hukum. Dengan demikian, penerapan AI akan terus mendukung strategi bisnis tanpa mengorbankan integritas.
Menurut Anda, pada akhirnya, siapa yang akan unggul dalam persaingan perbankan di masa depan?
Di masa depan, yang akan unggul bukan siapa yang paling cepat mengadopsi AI. Pembedanya adalah siapa yang paling bisa dipercaya dalam mengelolanya.
AI yang tepercaya adalah investasi. Dengan tata kelola yang kuat, bank dapat berinovasi dengan keyakinan, menjaga kepercayaan nasabah, sekaligus memperkuat reputasi di mata regulator dan publik. Di sinilah Komite AI menjadi langkah krusial dari sekadar kepatuhan regulatif menuju keunggulan kompetitif yang berkelanjutan.
Bagaimana bank-bank yang masih berada di tahap awal adopsi AI dapat memulai tata kelola AI tanpa harus langsung membentuk Komite mandiri yang besar?
Bagi bank di tahap awal, OJK memberikan fleksibilitas yang sangat adaptif. Mereka dapat memilih model Integrasi ke Komite Pengarah TI yang sudah ada. Ini adalah langkah awal yang praktis. Dengan integrasi ini, bank bisa mulai memasukkan aspek pengawasan AI ke dalam struktur yang sudah berjalan. Integrasi ini memungkinkan bank beradaptasi sesuai dengan tingkat kematangan digitalnya.
Namun, perlu diingat, panduan OJK menegaskan bahwa struktur tata kelola ini harus siap untuk berkembang seiring bertambahnya kompleksitas risiko dan penggunaan AI bank.
Apa makna sebenarnya dari ‘budaya AI yang bertanggung jawab’ yang harus ditanamkan oleh bank?
Budaya AI yang bertanggung jawab intinya adalah menjadikan transparansi (explainability) dan keadilan (fairness) sebagai standar operasional di seluruh organisasi. Ini adalah komitmen etis yang harus diresapi dari top-down.
Budaya ini berarti tim pengembang dan bisnis secara proaktif mengatasi bias algoritmik—misalnya memastikan model kredit tidak diskriminatif—dan menjamin bahwa setiap keputusan AI dapat dipertanggungjawabkan serta dijelaskan kepada nasabah. Singkatnya, AI harus melayani nasabah dengan integritas.
Bagi bank di tahap awal, OJK memberikan fleksibilitas yang sangat adaptif. Mereka dapat memilih model Integrasi ke Komite Pengarah TI yang sudah ada. Ini adalah langkah awal yang praktis. Dengan integrasi ini, bank bisa mulai memasukkan aspek pengawasan AI ke dalam struktur yang sudah berjalan. Integrasi ini memungkinkan bank beradaptasi sesuai dengan tingkat kematangan digitalnya.
Ke depannya, apa yang menjadi pembeda utama antara bank yang akan unggul dan yang akan tertinggal di era digital ini?
Pembeda utamanya bukan lagi tentang siapa yang paling cepat mengadopsi AI, karena itu mudah ditiru. Pembedanya adalah siapa yang paling bisa dipercaya dalam mengelolanya.
Tata kelola AI yang kuat adalah langkah kunci dari sekadar kepatuhan regulatif menuju keunggulan kompetitif yang berkelanjutan. Bank yang dapat menunjukkan transparansi dan integritas dalam penggunaan AI akan memenangkan kepercayaan nasabah dan memperkuat reputasi di mata regulator, yang pada akhirnya akan menghasilkan keunggulan pasar yang nyata. ■
Portal berita digitalbank.id melalui divisi usahanya DigitalBank Academy bekerja sama dengan Indonesia Applied Digital Economy & Regulatory Network (IADERN) menawarkan program “AI Governance & Responsible AI for Banking Executive & Management”, sebuah program in-house training strategis yang dirancang khusus untuk memastikan dewan komisaris, dewan direksi dan jajaran eksekutif perbankan mampu membangun dan menguatkan “Kerangka Kerja AI yang Bertanggung Jawab” (Responsible AI Framework) secara komprehensif, memenuhi standar kepatuhan, dan siap memenuhi kewajiban pelaporan OJK. Beberapa bank yang telah mengikuti in-house training menyatakan program ini sangat bermanfaat bagi perusahaan. Tak sekadar training, kami juga memberikan jasa pendampingan (advisory) untuk penggarapan roadmap AI perbankan dan pembentukan Komite AI di perbankan sehingga adopsi dan implementasi AI sejalan dengan Tata Kelola AI OJK. Untuk informasi lebih lanjut mengenai program ini bisa menghubungi kami di nomor WA 0813148319 dan HP 087882915126.
Digionary:
● AI Governance: Sistem pengawasan dan kontrol terhadap penggunaan AI.
● Bias Algoritmik: Ketidakadilan keputusan AI karena data atau desain model yang tidak netral.
● BOC (Board of Commissioners): Dewan Komisaris, pengawas tertinggi perusahaan.
● BOD (Board of Directors): Direksi, pengambil keputusan strategis.
● Credit Scoring: Sistem penilaian kelayakan kredit menggunakan data dan algoritme.
● Digital Trust: Kepercayaan publik terhadap sistem digital bank.
● ERM (Enterprise Risk Management): Sistem pengelolaan risiko strategis perusahaan.
● FEAT / PURE Principles: Standar etika AI dari regulator Singapura dan DBS.
● Good Corporate Governance: Prinsip tata kelola perusahaan yang akuntabel dan transparan.
● OJK: Regulator sektor jasa keuangan Indonesia.
● TKKAPI: Tata Kelola Kecerdasan Artifisial Perbankan Indonesia, panduan resmi AI dari OJK.
#PerbankanDigital #AIIndonesia #OJK #TataKelolaAI #DigitalBanking #Fintech #TransformasiDigital #TrustEconomy #RegulasiOJK #BankingRisk #AIRegulation #DigitalTrust #GoodGovernance #CreditScoringAI #FraudDetection #DBSBank #JPMorgan #RiskManagement #ComplianceBanking #DigitalbankID
