6 risiko penggunaan AI dan ML di bank digital

digitalbank.id - PENGGUNAAN TEKNOLOGI DI sektor perbankan khususnya artificial intellingence (AI) dan machine learning (ML) dewasa ini sangat marak dan masif apalagi karena bank-bank tradisional sedang ramai bertransformasi menjadi menuju bank digital. Namun penerapan teknlologi ini bukan tanpa risiko. Pengelola bank harus cermat dan berhati-hati dalam menerapkannya.

Peringatan ini wanti-wanti disampaikan Dr. Dhani Gunawan Idat, S.H., M.B.A, Kepala OJK Regional 1 DKI Jakarta dan Banten pada diskusi virtual Outlook Keuangan dan Perbankan 2022 : Peluang dan Tantangan Di Regional DKI Jakarta dan Banten, pekan ini di Jakarta. "Sedikitkanya ada 6 risiko peggunaan AI dan ML di sektor perbankan yang perlu diwaspadai," ujarnya.

Risiko pertama, terdapat kekhawatiran atas transparansi, pertanggunggjawaban, dan interpretasi dari model yang dihasilkan oleh AI/ML. Bank harus melakukan pemantauan data dan model AI/ML dengan lebih seksama.

Baca Juga: Riset JP Morgan Chase: 62% nasabah mengaku tak bisa hidup tanpa bank digital

Kedua adalah kualitas hasil AI/ML sangat bergantung pada kualitas, integritas, relevansi, dan kewajaran data yang digunakan, baik structured maupun unstructured data.

Masih menurut Dhani, risiko ketiga penggunaan AI dan ML adalah masalah etika dan bias. Risiko perlakuan yang tidak adil sebagai hasil dari penggunaan data yang bias dan adanya tantangan untuk memastikan penggunaan tools AI/ML sesuai dengan etika.

Berikutnya yang keempat adalah diperlukan peningkatan tata kelola oleh bank serta peningkatan kapasitas pengembang serta manajemen dan SDM Bank terhadap teknologi AI/ML. Ini sekaligus tantangan bagi pengelola bank karena terbatasnya SDM yang mumpuni di bidang AI dan ML.

Baca Juga: Perang tech talent dalam transformasi bank digital di Indonesia

Risiko kelima adalah masalah pihak ketiga (third party risk). Ketergantungan Bank terhadap pihak ketiga (pengembang AI/ML) dan tanggung jawab untuk pengelolaan risiko pihak ketiga yang lebih kompleks mengingat penggunaan teknologi yang lebih advanced.