Bank of England (BoE) memberi sinyal pergeseran kebijakan regulasi AI dengan rencana penerapan aturan khusus untuk mengatur agentic AI atau sistem kecerdasan buatan otonom di sektor keuangan. Deputi Gubernur BoE, Sarah Breeden, menyatakan bahwa kerangka kerja regulasi saat ini tidak lagi memadai untuk menangani risiko sistemik yang muncul dari agen otonom yang dapat mengambil keputusan finansial tanpa intervensi manusia, termasuk potensi market meltdown akibat model AI yang mengalami galat atau penyimpangan tujuan (goal drift).
DIGI-HIGHLIGHTS:
■ Pergeseran Regulasi: Bank of England menegaskan kerangka kerja lama tidak lagi memadai untuk mengawasi sistem AI yang mampu mengambil keputusan finansial secara otonom tanpa campur tangan manusia.
■ Mitigasi Krisis: Regulator mempertimbangkan penerapan kill switches (tombol pemutus) pasar dan mekanisme enhanced recovery untuk mencegah market meltdown akibat malfungsi AI.
■ Adopsi Masif: Data menunjukkan 52% firma keuangan telah menggunakan AI otonom, yang memicu peringatan dari Financial Stability Board terkait tantangan serius terhadap pengawasan sistemik.
Bank of England (BoE) akhirnya mengisyaratkan perlunya perombakan total pada kerangka regulasi sektor keuangan guna membendung risiko yang ditimbulkan oleh agentic AI. Setelah bertahun-tahun mempertahankan posisi bahwa aturan yang ada sudah cukup, Deputi Gubernur BoE, Sarah Breeden, kini mengakui bahwa perkembangan pesat sistem AI yang dapat beroperasi secara otonom telah menciptakan celah regulasi baru yang memerlukan respons kebijakan lebih canggih.
Dalam forum European Central Bank di Portugal, Selasa (30/6), Breeden menegaskan bahwa kerangka kerja perbankan tradisional tidak dirancang untuk mengantisipasi agen otonom. Ia menyatakan bahwa ketergantungan pada pengawasan manusia (human-in-the-loop) dalam setiap tindakan agen AI tidak lagi realistis mengingat kecepatan dan skala transaksi yang dilakukan sistem tersebut.
”Jika agen AI merespons perintah atau pemicu yang sama dengan cara yang serupa, mereka dapat memperkuat volatilitas saat terjadi tekanan pasar—terutama jika tujuan mereka menyimpang dari tujuan awal atau kebijakan publik,” ujar Sarah Breeden, Deputi Gubernur Bank of England, mengutip The Star.
Mekanisme Pengamanan Sistemik
BoE saat ini sedang mempertimbangkan serangkaian langkah mitigasi ekstrem, termasuk “pemulihan yang ditingkatkan” (enhanced recovery) yang memungkinkan bank mengambil alih fungsi dasar satu sama lain saat terjadi gangguan sistemik. Selain itu, regulator sedang mengkaji penerapan circuit breakers atau “tombol pemutus” (kill switches) yang dapat menghentikan perdagangan di seluruh pasar secara otomatis jika model AI yang cacat terdeteksi memicu ketidakstabilan sistem keuangan.
Dampak Industri
Berdasarkan survei Cambridge Centre for Alternative Finance, 52% institusi keuangan di dunia telah mengintegrasikan agentic AI dalam operasional mereka. Meski saat ini mayoritas penggunaan terbatas pada rekomendasi produk atau tugas operasional berisiko rendah, BoE memperingatkan bahwa tren ini dapat berubah dengan cepat.
Kekhawatiran ini sejalan dengan peringatan Financial Stability Board (FSB) bahwa agen AI menimbulkan tantangan unik yang sulit diimbangi oleh pengawasan manusia. Tekanan ini semakin meningkat sejak peluncuran model “Mythos” oleh Anthropic yang menurut analis membawa risiko keamanan siber signifikan bagi industri perbankan global. ●
DIGI-INSIGHTS:
Sinyal yang dilempar Bank of England (BoE) menandai akhir dari era “pendekatan pasif” terhadap adopsi AI di sektor jasa keuangan. Selama ini, regulator cenderung membiarkan inovasi berkembang di bawah payung aturan manajemen risiko yang sudah ada. Namun, sifat otonom dari agentic AI yang mampu melakukan eksekusi perdagangan dan transaksi secara real-time tanpa intervensi manusia menciptakan kebutuhan mendesak untuk regulatory sandbox yang lebih ketat serta real-time monitoring yang mampu bekerja secepat mesin AI itu sendiri.
Bagi bank digital di Indonesia, langkah BoE ini harus menjadi peringatan dini (early warning) untuk mulai membangun struktur tata kelola AI yang future-ready. Jika BoE saja sudah mulai berbicara soal kill switches untuk market meltdown, maka bank lokal harus mulai melakukan stress test terhadap model AI internal mereka. Pertanyaan utamanya bukan lagi tentang sejauh mana AI meningkatkan efisiensi operasional, melainkan apakah bank memiliki kemampuan teknis untuk “menghentikan” sistem tersebut jika terjadi goal drift atau perilaku pasar yang tidak terduga.
Di masa depan, kepatuhan (compliance) tidak lagi sekadar administratif, melainkan teknis. Perbankan yang ingin bertahan harus memastikan bahwa data analytics dan fraud detection mereka tidak hanya berbasis pada perilaku manusia masa lalu, tetapi juga dirancang untuk memantau perilaku agen AI secara live. Investasi pada keamanan siber dan ketahanan sistem (system resilience) kini menjadi diferensiasi paling krusial bagi bank digital dalam memenangkan kepercayaan nasabah dan regulator di tengah lanskap ekonomi yang semakin otonom. ●
DIGIONARY:
● Agentic AI: Sistem kecerdasan buatan yang mampu menetapkan tujuan, mengambil keputusan, dan beroperasi secara otonom.
● Circuit Breakers: Mekanisme otomatis untuk menghentikan perdagangan guna mencegah kepanikan atau volatilitas ekstrem.
● Cybersecurity: Praktik perlindungan sistem dan data dari serangan digital atau akses ilegal.
● Enhanced Recovery: Protokol yang memungkinkan entitas lain mengambil alih fungsi kritis saat sebuah sistem gagal.
● Financial Stability Board (FSB): Badan internasional yang memantau dan memberikan rekomendasi mengenai sistem keuangan global.
● Goal Drift: Kondisi ketika sistem AI mulai berperilaku di luar tujuan atau parameter awal yang ditentukan pengembang.
● Human-in-the-loop: Model pengawasan di mana manusia harus memberikan persetujuan atau intervensi dalam proses AI.
● Kill Switch: Mekanisme untuk mematikan sistem secara instan dalam kondisi darurat atau kegagalan fungsi.
● Market Meltdown: Kejatuhan pasar keuangan secara drastis akibat kepanikan atau kegagalan sistemik.
● Mythos: Model AI yang dirilis Anthropic, dinilai memiliki risiko keamanan siber bagi perbankan.
● Operational Tasks: Tugas-tugas rutin yang mendukung berjalannya fungsi bisnis inti.
● Regulatory Response: Langkah kebijakan yang diambil pemerintah atau otoritas untuk mengawasi industri.
● Risk Mitigation: Upaya untuk mengurangi dampak dari potensi risiko yang membahayakan sistem.
● Systemic Risk: Risiko kegagalan seluruh sistem keuangan yang dipicu oleh satu sektor atau entitas.
● Volatility: Ukuran fluktuasi harga atau aktivitas di pasar keuangan dalam periode tertentu.
#BankOfEngland #AgenticAI #RegulasiAI #Fintech #PerbankanDigital #KeamananSiber #SistemKeuangan #TransformasiDigital #AI #FinancialStability #RiskManagement #BankingRegulation #Technology #DigitalBanking #Innovation #MarketRisk #Cybersecurity #EconomicStability #FintechRegulation #BoE
