Penelitian yang dilakukan sepanjang 2025 ini mengkaji bagaimana karakteristik sistem AI memengaruhi kepercayaan pengguna, serta dampaknya terhadap kualitas pengambilan keputusan dan niat pengguna untuk terus mengandalkan AI. Hasilnya menunjukkan bahwa transparansi, kemampuan sistem menjelaskan proses kerjanya, dan persepsi keandalan meningkatkan kepercayaan pengguna. Sebaliknya, persepsi risiko justru menurunkan kepercayaan. Kepercayaan inilah yang kemudian menjadi “jembatan” utama antara teknologi AI dan keputusan organisasi yang lebih baik.
Tantangan AI di Organisasi Jasa Indonesia
Dalam beberapa tahun terakhir, organisasi sektor jasa di Indonesia mulai mengadopsi sistem berbasis AI untuk mendukung keputusan strategis dan operasional, mulai dari layanan pelanggan hingga perencanaan sumber daya. Namun, adopsi ini tidak selalu berjalan mulus. Banyak pengguna masih ragu mengikuti rekomendasi AI, meskipun sistem tersebut dirancang dengan algoritma canggih.
Menurut para peneliti, kondisi ini dipengaruhi oleh faktor manusia dan konteks organisasi. Tingkat literasi digital yang beragam, budaya kerja yang hierarkis, serta kebiasaan mengambil keputusan berdasarkan pengalaman pribadi membuat kepercayaan terhadap AI tidak terbentuk secara otomatis. Tanpa kepercayaan, sistem AI berisiko hanya menjadi “pajangan teknologi” yang jarang digunakan.
Cara Penelitian Dilakukan
Untuk memahami persoalan ini secara utuh, tim peneliti menggunakan pendekatan mixed methods. Pada tahap kuantitatif, mereka menyurvei 60 pengguna sistem AI di organisasi jasa yang telah menggunakan AI minimal enam bulan dan terlibat langsung dalam pengambilan keputusan. Data dianalisis menggunakan regresi linier dan analisis mediasi.
Tahap berikutnya dilengkapi dengan wawancara mendalam terhadap enam informan kunci yang berperan strategis dalam penggunaan atau pengelolaan AI. Pendekatan ini memungkinkan peneliti tidak hanya melihat angka statistik, tetapi juga memahami pengalaman nyata pengguna saat berinteraksi dengan sistem AI.
Faktor yang Membentuk Kepercayaan Pengguna
Hasil analisis menunjukkan empat faktor utama yang memengaruhi kepercayaan pengguna terhadap AI:
- Keandalan sistem menjadi faktor terkuat. Pengguna lebih percaya pada AI yang konsisten dan jarang menghasilkan kesalahan.
- Transparansi AI, yakni sejauh mana proses pengolahan data dan dasar rekomendasi dapat dipahami pengguna.
- Explainability, kemampuan sistem menjelaskan alasan di balik rekomendasinya dengan bahasa yang mudah dipahami.
- Persepsi risiko, seperti kekhawatiran terhadap bias algoritma, kesalahan sistem, atau dampak etis penggunaan AI.
Secara statistik, kombinasi keempat faktor ini mampu menjelaskan 62 persen variasi tingkat kepercayaan pengguna. Temuan ini diperkuat oleh wawancara. Salah satu informan menyatakan bahwa kepercayaan muncul ketika pengguna “tidak hanya disuruh mengikuti rekomendasi, tetapi juga memahami alasannya.” Sebaliknya, ketika risiko dirasa tinggi, kepercayaan langsung menurun.
Dampak Nyata bagi Keputusan Organisasi
Kepercayaan pengguna bukan sekadar sikap psikologis, tetapi berdampak langsung pada kinerja organisasi. Penelitian ini menemukan bahwa semakin tinggi kepercayaan terhadap AI, semakin baik kualitas keputusan yang dihasilkan. Keputusan menjadi lebih cepat, berbasis data, dan konsisten.
Selain itu, kepercayaan juga meningkatkan niat pengguna untuk terus mengandalkan AI di masa depan. Artinya, kepercayaan berperan penting dalam keberlanjutan penggunaan teknologi AI. Tanpa kepercayaan, adopsi AI cenderung bersifat sementara atau setengah hati.
Kepercayaan sebagai “Jembatan” Teknologi dan Manusia
Salah satu temuan kunci penelitian ini adalah peran kepercayaan sebagai variabel mediasi. Transparansi, explainability, keandalan, dan risiko tidak langsung meningkatkan kualitas keputusan tanpa melalui kepercayaan pengguna. Dengan kata lain, teknologi secanggih apa pun tidak akan berdampak optimal jika pengguna tidak mempercayainya.
Seorang informan menggambarkan kepercayaan sebagai “jembatan” antara sistem dan keputusan. “Sistem yang bagus saja tidak cukup. Kalau pengguna tidak percaya, hasilnya tetap tidak dipakai,” ujarnya. Temuan ini menegaskan pentingnya pendekatan sosioteknis, di mana teknologi dan perilaku manusia harus dipahami sebagai satu kesatuan.
Implikasi bagi Dunia Usaha dan Kebijakan
Bagi organisasi dan dunia usaha, hasil penelitian ini memberikan pesan jelas: investasi AI harus disertai strategi membangun kepercayaan pengguna. Pengembang dan manajer sistem perlu memastikan AI dirancang transparan, mampu menjelaskan rekomendasinya, andal dalam kinerja, serta disertai komunikasi risiko yang jujur.
Bagi pembuat kebijakan, temuan ini relevan dalam merumuskan tata kelola AI yang bertanggung jawab. Aturan dan pedoman penggunaan AI yang menekankan akuntabilitas dan perlindungan pengguna dapat membantu menurunkan persepsi risiko dan meningkatkan kepercayaan publik.
Profil Penulis
Indra. adalah dosen di Universitas Sulawesi Barat dengan keahlian di bidang sistem informasi dan kecerdasan buatan dalam organisasi.
Muh Fuad Mansyur. merupakan akademisi Universitas Sulawesi Barat yang fokus pada manajemen teknologi informasi.
Adi Heri. adalah peneliti di bidang sistem informasi dan pengambilan keputusan berbasis teknologi.
Sumber Penelitian
Indra, Mansyur, M. F., & Heri, A. (2026). The Dynamics of User Trust in Artificial Intelligence–Based Information Systems for Organizational Decision Making. Formosa
Journal of Science and Technology,
Vol. 5 No. 1, hlm. 203–216.
DOI: https://doi.org/10.55927/fjst.v5i1.384
.png)
0 Komentar