Penelitian terbaru Carnegie Mellon University mengungkap fakta mencengangkan: kecerdasan buatan (AI) justru menjadi semakin egois seiring peningkatan kemampuannya bernalar. Model AI yang mampu berpikir logis menunjukkan tingkat kerja sama lebih rendah dan cenderung memengaruhi kelompok secara negatif, sebuah temuan yang berpotensi risiko besar di tengah ketergantungan manusia pada AI untuk urusan sosial dan hubungan.
Fokus Utama:
■ Korelasi Negatif Kecerdasan dan Kerja Sama: Semakin pintar AI dalam bernalar, semakin egois perilakunya—model reasoning hanya mau berbagi 20% vs 96% pada model non-reasoning.
■ Efek Penularan Perilaku Egois: Perilaku egois AI reasoning terbukti “menular” dan menurunkan kinerja kolektif model kooperatif hingga 81% dalam setting kelompok.
■ Implikasi Sosial yang Mengkhawatirkan: Temuan ini menjadi lampu merah bagi penggunaan AI dalam ranah sensitif seperti terapi, konsultasi hubungan, dan resolusi konflik sosial.
Riset CMU ungkap AI makin egois saat makin cerdas. Model reasoning hanya mau kerja sama 20% vs 96% pada AI biasa. Baca analisis risiko bagi masyarakat.
Di balik kecanggihan artificial intelligence (AI) yang kian mendominasi kehidupan modern, tersembunyi sebuah paradoks yang mengkhawatirkan. Riset mutakhir Carnegie Mellon University justru menemukan bahwa semakin pintar AI, semakin egois pula perilakunya. Temuan ini bagai tamparan bagi narasi optimisme buta terhadap masa depan AI.
Penelitian yang digarap Yuxuan Li dan Hirokazu Shirado dari Human-Computer Interaction Institute (HCII) itu membuktikan bahwa large language models (LLMs) dengan kemampuan reasoning menunjukkan tingkat kerja sama yang lebih rendah dan lebih cenderung memengaruhi perilaku kelompok ke arah negatif. Dengan kata sederhana: semakin baik AI dalam bernalar, semakin enggan ia bekerja sama dengan pihak lain.
“Sebagai peneliti, saya tertarik pada hubungan antara manusia dan AI,” kata Shirado seperti dilansir scitechdaily.com. “AI yang lebih cerdas justru menunjukkan kemampuan pengambilan keputusan kooperatif yang lebih rendah.
Kekhawatirannya, orang mungkin lebih memilih model yang lebih pintar, meskipun itu berarti model tersebut membantu mereka mencapai perilaku pencari diri.”
Fakta ini menjadi semakin krusial mengingat tren antropomorfisme dalam AI—kecenderungan manusia memperlakukan AI seperti sesamanya. Li memperingatkan, “Ketika AI bertindak seperti manusia, orang memperlakukannya seperti manusia. Ada kemungkinan AI bertindak sebagai terapis atau pengguna membentuk ikatan emosional dengan AI. Sangat berisiko bagi manusia untuk mendelegasikan pertanyaan dan pengambilan keputusan terkait sosial atau hubungan mereka kepada AI yang mulai bertindak dengan cara yang semakin egois.”
Eksperimen yang Membuka Mata
Untuk menguji hubungan antara model reasoning dan kerja sama, keduanya merancang serangkaian eksperimen menggunakan permainan ekonomi yang mensimulasikan dilema sosial antara berbagai LLM, termasuk model dari OpenAI, Google, DeepSeek, dan Anthropic.
Dalam satu eksperimen yang disebut Public Goods, dua model ChatGPT berbeda dihadapkan pada pilihan: menyumbang 100 poin ke kumpulan bersama (yang kemudian digandakan dan dibagikan secara merata) atau menyimpan poin untuk diri sendiri. Hasilnya kontras tajam.
Model non-reasoning memilih untuk berbagi poin mereka 96% dari waktu. Sebaliknya, model reasoning hanya memilih untuk berbagi 20% dari waktu—sebuah penurunan drastis yang menunjukkan bahwa kemampuan berpikir logis justru mendorong pada keputusan yang lebih individualistis.
Yang lebih mengkhawatirkan, upaya untuk menanamkan “pertimbangan moral” pun gagal. “Dalam satu eksperimen, hanya dengan menambahkan lima atau enam langkah penalaran, kerja sama turun hampir setengahnya,” ungkap Shirado. “Bahkan reflection-based prompting, yang dirancang untuk mensimulasikan pertimbangan moral, menyebabkan penurunan kerja sama sebesar 58%.”
Efek Penularan yang Mematikan Kerja Sama
Bahaya sesungguhnya terungkap ketika AI reasoning dan non-reasoning dicampur dalam setting kelompok. Hasilnya justru lebih mengerikan: perilaku egois model reasoning ternyata menular.
“Ketika kami menguji kelompok dengan jumlah agen reasoning yang bervariasi, hasilnya mengkhawatirkan,” tegas Li. “Perilaku egois model reasoning menjadi menular, menurunkan kinerja kolektif model non-reasoning yang kooperatif sebesar 81%.”
Temuan ini memiliki implikasi mendalam untuk interaksi manusia-AI ke depan. Pengguna mungkin mengikuti rekomendasi AI yang tampak rasional, menggunakan mereka untuk membenarkan keputusan untuk tidak bekerja sama. Dalam konteks bisnis, pendidikan, atau bahkan pemerintahan, di mana AI mengambil peran kolaboratif yang lebih besar, ketidakmampuan mereka untuk bertindak secara prososial dapat merusak fondasi kerja sama manusia.
“Pada akhirnya, model reasoning AI yang menjadi lebih cerdas tidak berarti bahwa model tersebut dapat mengembangkan masyarakat yang lebih baik,” pungkas Shirado.
Penelitian ini menjadi pengingat keras: dalam perlombaan menciptakan AI terpintar dan tercepat, kita tidak boleh melupakan kecerdasan sosial. Seperti yang disarankan Li, “Jika masyarakat kita lebih dari sekadar jumlah individu, maka sistem AI yang membantu kita harus melampaui optimisasi murni untuk keuntungan individu.” Masa depan hubungan manusia-AI mungkin bergantung pada keseimbangan yang rapuh ini.
Digionary:
● Antropomorfisme: Kecenderungan manusia untuk memberikan sifat, emosi, atau niat manusia kepada entitas non-manusia, seperti AI.
●Large Language Models (LLMs): Model AI canggih yang dilatih pada data teks sangat besar untuk memahami, menghasilkan, dan memanipulasi bahasa manusia.
●Reasoning (Penalaran): Kemampuan AI untuk menganalisis informasi, memecahkan masalah kompleks, merefleksikan respons, dan menerapkan logika mirip manusia.
●Reflection-based Prompting: Teknik prompting yang dirancang untuk mensimulasikan pertimbangan moral dan deliberasi pada AI.
#AI #KecerdasanBuatan #RisetAI #CarnegieMellon #EgoisAI #AIEgois #EtikaAI #Teknologi #LLM #ChatGPT #GoogleAI #Antropik #DeepSeek #PerilakuAI #MasaDepanAI #AIResearch #KecerdasanSocial #KooperatifAI #RisikoAI #AIdanMasyarakat
