Ketika AI Membantu Sekaligus Mengancam
Clinical Decision Support Systems (CDSS) adalah sistem berbasis kecerdasan buatan yang dirancang untuk membantu tenaga medis mengambil keputusan klinis mulai dari analisis data pasien, pemberian rekomendasi diagnosis, hingga panduan terapi berdasarkan bukti ilmiah terbaru. Sistem ini telah terbukti meningkatkan efisiensi kerja dan mempercepat pengambilan keputusan di lingkungan rumah sakit.
Namun, di balik manfaat itu, para peneliti mengidentifikasi ancaman serius yang disebut automation bias kondisi di mana tenaga medis menerima begitu saja rekomendasi sistem tanpa melakukan verifikasi kritis. Ketika dokter terbiasa bergantung pada output AI, proses penalaran diagnostik yang seharusnya melibatkan analisis mendalam, pengalaman klinis, dan refleksi profesional perlahan terkikis.
Bagaimana Penelitian Ini Dilakukan
Tim peneliti melakukan tinjauan literatur sistematis-naratif terhadap publikasi ilmiah internasional dari basis data Scopus, Web of Science, PubMed, dan Google Scholar. Artikel yang dianalisis dibatasi pada publikasi tahun 2020 hingga 2024 dan mencakup penelitian empiris, systematic review, dan artikel konseptual yang membahas interaksi antara tenaga kesehatan dengan sistem AI dalam konteks pengambilan keputusan klinis.
Dari proses sintesis literatur tersebut, peneliti mengidentifikasi empat tema utama yang menggambarkan dinamika ketergantungan kognitif pada CDSS.
Empat Temuan Utama
- Pergeseran Pusat Evaluasi Klinis Penggunaan CDSS secara intensif menggeser proses evaluasi dari analisis internal dokter ke validasi eksternal berbasis algoritma. Alih-alih membangun hipotesis diagnosis secara mandiri, dokter cenderung mengonfirmasi output sistem. Pada tingkat ketergantungan tinggi, keterlibatan reflektif dalam proses diagnosis diferensial menurun signifikan.
- Automation Bias Menguat di Bawah Tekanan Kerja Di lingkungan klinis dengan tekanan waktu tinggi dan beban kerja berat, tenaga medis semakin mengandalkan rekomendasi sistem. Yang mengkhawatirkan, ketika sistem menghasilkan rekomendasi yang tidak akurat, dokter dengan tingkat ketergantungan tinggi justru cenderung mengabaikan indikator klinis yang bertentangan dengan output AI tersebut.
- Peran Ganda CDSS sebagai Alat Augmentasi Kognitif CDSS memiliki potensi nyata untuk memperluas kapasitas analisis klinis — memperluas memori kerja, menyediakan akses cepat ke literatur medis terkini, dan membantu pengenalan pola kompleks dari data besar. Namun efektivitas fungsi ini sangat bergantung pada desain sistem. Sistem yang menyertakan penjelasan logis (explainable AI) mendorong keterlibatan analitis, sementara sistem yang hanya menampilkan hasil akhir tanpa penjelasan mendorong penerimaan pasif.
- Transformasi Kepercayaan dalam Interaksi Manusia–AI Kepercayaan terhadap CDSS tidak semata-mata dibangun dari akurasi teknisnya, melainkan juga dari legitimasi institusional. Ketika suatu sistem secara resmi direkomendasikan oleh institusi kesehatan, dokter cenderung menginternalisasi otoritas sistem tersebut sebagai bagian dari standar praktik — yang pada gilirannya memperkuat ketergantungan kognitif jika tidak diimbangi dengan mekanisme refleksi.
Risiko Deskilling: Dokter yang Kehilangan Keahliannya
Salah satu implikasi paling serius dari temuan ini adalah fenomena deskilling — penurunan kemampuan klinis akibat berkurangnya latihan kognitif mandiri. Penggunaan CDSS secara intensif tanpa mekanisme refleksi dapat mengurangi kesempatan dokter untuk melatih kemampuan diagnosis diferensial secara independen, membentuk pola pikir yang lebih reaktif terhadap rekomendasi teknologi daripada proaktif secara klinis.
Zahratul Hayati dan tim menegaskan bahwa dampak CDSS terhadap kualitas keputusan klinis bersifat nonlinier. Pada tingkat penggunaan rendah hingga sedang, sistem berkontribusi positif pada efisiensi dan akurasi. Namun, ketika ketergantungan melampaui batas tertentu, integritas penalaran diagnostik terancam.
Solusi: Model Kolaborasi Manusia–AI yang Seimbang
Para peneliti mendorong penerapan pendekatan human-centered AI dalam implementasi CDSS — menempatkan teknologi sebagai mitra kognitif, bukan pengganti keputusan profesional. Secara konkret, ini berarti:
- Sistem CDSS dirancang untuk menampilkan alternatif diagnosis dan tingkat ketidakpastian rekomendasi, bukan hanya satu jawaban final
- Fitur explainable AI wajib menjadi standar sistem, bukan fitur tambahan
- Institusi kesehatan perlu mengembangkan panduan penggunaan yang mendorong verifikasi mandiri oleh dokter
- Kurikulum pendidikan kedokteran dan pelatihan berkelanjutan perlu mengintegrasikan literasi AI dan mitigasi bias otomasi
Profil Penulis
Zahratul Hayati adalah peneliti dan akademisi dari Akademi Kebidanan Surya Mandiri Bima, dengan fokus pada kesehatan digital dan pengambilan keputusan klinis berbasis teknologi.
Imran Yaman berafiliasi dengan STIKES Marendeng Majene, aktif meneliti di bidang informatika kesehatan dan sistem informasi medis.
Yayah Sya'diah dari Akademi Perekam Medis dan Infokes Bhumi Husada memiliki keahlian di bidang rekam medis dan manajemen informasi kesehatan.
Sumber Penelitian
Judul Artikel: Cognitive Dependency on Clinical Decision Support Systems: Implications for Diagnostic Reasoning Jurnal: Asian Journal of Healthcare Analytics (AJHA), Vol. 5, No. 1, 2026, hal. 59–70
0 Komentar