Kasus yang menimpa KPMG baru-baru ini menjadi ironi baru dalam era kecerdasan buatan. Firma konsultan global yang selama ini aktif mendorong adopsi AI justru terpaksa menarik laporan tentang manfaat AI setelah ditemukan sejumlah klaim yang tidak akurat dan diduga berasal dari fenomena AI hallucination. Temuan ini memicu pertanyaan besar tentang kualitas riset, tata kelola AI, dan kredibilitas informasi di tengah semakin masifnya penggunaan AI generatif oleh perusahaan, bank, konsultan, hingga firma hukum di seluruh dunia.
DIGI-INSIGHTS:
■ KPMG menarik laporan AI setelah ditemukan sejumlah studi kasus yang tidak sesuai fakta mengenai UBS, NHS, dan transportasi publik Inggris.
■ Temuan GPTZero menunjukkan risiko AI hallucination mulai merambah industri konsultasi profesional yang selama ini dianggap paling kredibel.
■ Kasus ini memperkuat pentingnya tata kelola AI, verifikasi manusia, dan pengawasan terhadap konten berbasis kecerdasan buatan.
Gelombang adopsi kecerdasan buatan (Artificial Intelligence/AI) di kalangan korporasi global kembali dihadapkan pada persoalan mendasar: keakuratan informasi.
Kali ini, salah satu firma konsultasi terbesar dunia, KPMG, terpaksa menarik sebuah laporan mengenai implementasi AI setelah ditemukan sejumlah klaim yang tidak sesuai fakta dan diduga berasal dari fenomena AI hallucination atau halusinasi AI.
Kasus tersebut menjadi sorotan karena laporan yang dipersoalkan justru membahas bagaimana perusahaan-perusahaan global memanfaatkan AI untuk meningkatkan efisiensi dan produktivitas.
Namun alih-alih menjadi referensi kredibel, laporan itu kini berubah menjadi contoh terbaru tentang bagaimana AI generatif dapat menghasilkan informasi yang tampak meyakinkan tetapi sebenarnya tidak benar.
Klaim tentang UBS hingga NHS Dipertanyakan
Laporan KPMG berjudul Redefining Excellence in the Age of Agentic AI yang diterbitkan pada Oktober lalu menyebut sejumlah organisasi besar telah menerapkan teknologi agentic AI dalam operasional mereka. Di antaranya adalah bank asal Swiss, UBS, National Health Service (NHS) Inggris, Swiss Federal Railways (SBB), hingga Transport for London.
Namun investigasi yang dilakukan GPTZero dan diverifikasi oleh Financial Times menemukan sejumlah contoh penggunaan AI yang disebut dalam laporan tersebut tidak pernah terjadi.
Salah satu klaim yang dipersoalkan menyebut UBS telah mengintegrasikan agen AI dalam layanan penasihat investasi, manajemen risiko, dan pemantauan kepatuhan. Laporan itu bahkan menyatakan bahwa sistem tersebut dikembangkan bersama Microsoft untuk menciptakan layanan keuangan yang lebih personal dan efisien.
Namun UBS langsung membantah pernyataan tersebut. Juru bicara UBS mengatakan kepada Financial Times bahwa klaim tersebut “factually incorrect” atau tidak sesuai fakta. Setelah menerima pemberitahuan mengenai ketidakakuratan tersebut, UBS meminta KPMG menghapus informasi yang berkaitan dengan bank tersebut.
Transportasi dan Kesehatan Juga Membantah
Permasalahan tidak berhenti di sektor perbankan. Laporan yang sama mengklaim bahwa Swiss Federal Railways menggunakan agen AI yang dapat membantu pelanggan merencanakan perjalanan, melakukan pemesanan, hingga mengoptimalkan rute berdasarkan preferensi pengguna, kondisi lalu lintas secara real time, dan dampak emisi karbon.
Pihak SBB menyatakan informasi tersebut tidak akurat. KPMG juga menyebut Transport for London menggunakan agen AI untuk memprediksi kemacetan, mengelola lalu lintas, memberikan pembaruan perjalanan yang dipersonalisasi, dan mengoordinasikan berbagai moda transportasi. Namun operator transportasi London menilai klaim tersebut menyesatkan.
Di sektor kesehatan, laporan tersebut menyebut NHS Greater Manchester telah menggunakan agen AI untuk memprediksi pasien yang berpotensi kembali dirawat, melakukan triase pasien, serta mengotomatisasi proses rujukan medis. Menurut pihak NHS, klaim itu tidak sesuai dengan proyek AI yang sebenarnya dijalankan.
Penelusuran terhadap sumber referensi menunjukkan bahwa pernyataan tersebut tampaknya berasal dari siaran pers mengenai penggunaan AI untuk membantu deteksi kanker paru-paru. Tidak ada penyebutan mengenai penggunaan agentic AI seperti yang ditulis dalam laporan KPMG.
KPMG Lakukan Investigasi Internal
Menanggapi temuan tersebut, KPMG International menyatakan pihaknya memandang serius persoalan akurasi dan integritas publikasi. Perusahaan mengonfirmasi telah menarik laporan tersebut dari sejumlah situs web sambil melakukan investigasi internal mengenai proses penyusunannya.
“Kami mengharapkan seluruh karyawan mengikuti pedoman penggunaan AI yang bertanggung jawab, termasuk pengawasan manusia untuk memvalidasi konten dan memverifikasi sumber independen,” kata juru bicara KPMG International.
Pernyataan tersebut mencerminkan tantangan yang kini dihadapi hampir semua organisasi yang mulai mengintegrasikan AI generatif ke dalam proses kerja mereka.
Industri Konsultan Mulai Dihantui AI Hallucination
Kasus KPMG bukan kejadian terisolasi.
Pada Mei lalu, EY juga menarik sebuah studi setelah ditemukan referensi dan catatan kaki yang tidak valid.
Sementara itu, firma hukum elite Amerika Serikat, Sullivan & Cromwell, pada April mengakui dokumen hukum yang diajukan ke pengadilan mengandung sejumlah kesalahan yang berasal dari penggunaan AI.
Menurut CEO GPTZero, Edward Tian, masalah ini berpotensi lebih serius dibanding sekadar kesalahan informasi biasa. Publikasi yang dipenuhi kesalahan dari lembaga-lembaga yang memiliki reputasi tinggi dapat menciptakan apa yang disebut sebagai second-hand hallucinations.
Artinya, informasi yang sebenarnya tidak benar akan terus dikutip oleh media, peneliti, analis, perusahaan, bahkan model AI lainnya sehingga memperluas penyebaran kesalahan.
“Big Four” seperti KPMG dan EY selama ini dipandang sebagai sumber informasi yang kredibel. Karena itu, ketika mereka menyebarkan informasi yang keliru, dampaknya bisa jauh lebih luas dibanding kesalahan yang dilakukan organisasi biasa.
Ancaman Baru bagi Industri Perbankan
Kasus ini menjadi perhatian khusus bagi sektor perbankan dan jasa keuangan yang saat ini menjadi salah satu pengguna terbesar teknologi AI.
Menurut riset McKinsey, AI generatif berpotensi menciptakan nilai ekonomi tambahan hingga US$340 miliar per tahun bagi industri perbankan global melalui otomatisasi proses, peningkatan produktivitas, layanan nasabah yang lebih personal, serta penguatan manajemen risiko.
Bank-bank besar seperti DBS, JPMorgan Chase, Goldman Sachs, HSBC, Citi, hingga UBS saat ini tengah mengembangkan kerangka tata kelola AI yang semakin ketat.
Fokus utama mereka bukan lagi sekadar mempercepat adopsi AI, tetapi memastikan seluruh output AI diverifikasi oleh manusia sebelum digunakan dalam pengambilan keputusan bisnis maupun layanan nasabah.
Fenomena ini juga mendorong regulator di berbagai negara memperkuat pengawasan.
Uni Eropa telah mengesahkan AI Act yang mengatur penggunaan AI berdasarkan tingkat risiko. Sementara regulator di Inggris, Singapura, Amerika Serikat, dan Australia mulai menerbitkan pedoman penggunaan AI yang lebih ketat untuk sektor keuangan.
Kecepatan Tidak Bisa Menggantikan Akurasi
Kasus KPMG menunjukkan bahwa masalah terbesar AI saat ini bukan lagi kemampuan menghasilkan konten, melainkan kemampuan memastikan kebenaran konten tersebut.
Di tengah perlombaan global memanfaatkan AI untuk meningkatkan efisiensi dan produktivitas, organisasi tetap dituntut menjaga standar verifikasi yang tinggi.
Bagi industri perbankan, konsultasi, dan layanan profesional, kepercayaan tetap menjadi aset utama.
Ketika sebuah laporan yang dipublikasikan oleh firma kelas dunia ternyata mengandung informasi yang tidak benar, dampaknya bukan hanya merugikan reputasi penyusun laporan, tetapi juga dapat mengganggu kualitas informasi yang menjadi dasar pengambilan keputusan bisnis.
Pada akhirnya, era AI generatif tidak menghilangkan kebutuhan akan penilaian manusia. Sebaliknya, semakin canggih AI digunakan, semakin besar pula kebutuhan terhadap pengawasan, verifikasi, dan tata kelola yang kuat. ●
DIGI-INSIGHTS:
Kasus KPMG menunjukkan bahwa tantangan terbesar AI generatif saat ini bukan lagi soal kemampuan teknologi menghasilkan informasi, melainkan bagaimana organisasi mengelola kualitas dan validitas informasi tersebut. Ironisnya, kesalahan justru muncul dari perusahaan yang selama ini menjadi penasihat transformasi digital bagi korporasi global. Hal ini menegaskan bahwa tata kelola AI (AI governance) kini harus menjadi prioritas yang setara dengan investasi teknologi itu sendiri. Semakin besar organisasi, semakin besar pula dampak yang ditimbulkan ketika kesalahan AI lolos ke publik.
Bagi industri perbankan dan jasa keuangan, kasus ini memberikan pelajaran penting bahwa AI tidak boleh diperlakukan sebagai sumber kebenaran tunggal. Bank-bank global seperti DBS Bank, JPMorgan Chase, HSBC, Citigroup, hingga UBS semakin menempatkan prinsip human-in-the-loop sebagai bagian utama dalam penggunaan AI. Kecepatan analisis dan otomatisasi memang penting, tetapi dalam sektor yang berbasis kepercayaan, akurasi tetap menjadi mata uang yang paling berharga. Satu informasi yang salah dapat memicu keputusan bisnis yang keliru, risiko kepatuhan, hingga kerugian reputasi yang mahal.
Lebih jauh lagi, fenomena second-hand hallucinations berpotensi menjadi ancaman baru dalam ekonomi digital. Ketika laporan dari lembaga kredibel dikutip oleh media, analis, perusahaan, regulator, hingga model AI lainnya, kesalahan dapat berkembang menjadi “kebenaran semu” yang sulit dikoreksi. Dalam konteks Generative Engine Optimization (GEO), kualitas sumber informasi akan menjadi faktor yang semakin menentukan. Organisasi yang mampu membangun proses verifikasi berlapis, audit AI, dan pengawasan manusia yang kuat akan memiliki keunggulan kompetitif yang lebih berkelanjutan dibanding mereka yang hanya berlomba menjadi yang tercepat mengadopsi AI. Di era AI generatif, kredibilitas informasi berpotensi menjadi aset strategis yang nilainya sama pentingnya dengan data dan teknologi itu sendiri. ●
DIGIONARY:
● Agentic AI: AI yang mampu mengambil keputusan dan menjalankan tugas secara semi-otonom untuk mencapai tujuan tertentu.
● AI Act: Regulasi Uni Eropa yang mengatur penggunaan AI berdasarkan tingkat risiko.
● AI Governance: Kerangka tata kelola untuk memastikan penggunaan AI aman, etis, dan sesuai regulasi.
● AI Hallucination: Kondisi ketika AI menghasilkan informasi yang tampak benar tetapi sebenarnya salah atau tidak memiliki dasar fakta.
● Artificial Intelligence: Teknologi yang memungkinkan mesin meniru kemampuan berpikir dan belajar manusia.
● Compliance Monitoring: Pemantauan kepatuhan terhadap aturan, regulasi, dan kebijakan yang berlaku.
● EY: Salah satu firma audit dan konsultasi global yang tergabung dalam kelompok Big Four.
● Financial Times: Media bisnis dan ekonomi global yang berbasis di Inggris.
● GPTZero: Perusahaan teknologi yang mengembangkan alat deteksi konten AI dan analisis kualitas informasi.
● KPMG: Firma audit dan konsultasi global yang termasuk kelompok Big Four.
● Microsoft: Perusahaan teknologi global yang mengembangkan layanan komputasi awan dan AI.
● National Health Service (NHS): Sistem layanan kesehatan publik Inggris.
● Risk Management: Proses identifikasi, pengukuran, dan pengendalian risiko bisnis.
● Second-Hand Hallucinations: Penyebaran informasi salah yang berasal dari konten AI dan dikutip ulang oleh pihak lain.
● UBS: Grup perbankan dan manajemen kekayaan global yang berbasis di Swiss.
#KPMG #ArtificialIntelligence #AI #AIHallucination #AgenticAI #UBS #NHS #GPTZero #DigitalTransformation #BankingTechnology #DigitalBanking #FinancialServices #RiskManagement #AIGovernance #GenerativeAI #ConsultingIndustry #Cybersecurity #DataIntegrity #Fintech #TechnologyRisk
