Redistribusi Tanggung Jawab Manusia-Mesin dalam Sistem Pengambilan Keputusan Kecerdasan Buatan Otonom dalam Tata Kelola Hukum Kontemporer

Gambar Ilustrasi AI

FORMOSA NEWS - Papua - Siapa yang Bertanggung Jawab Jika AI Salah Mengambil Keputusan? Penelitian ini diungkapkan dalam riset Yohanna YR Watofa dari Sekolah Tinggi Ilmu Hukum Manokwari dalam artikel penelitian yang dipublikasikan pada Formosa Journal of Applied Sciences (FJAS) edisi Vol. 5 No. 5 Tahun 2026 menyoroti bahwa kerangka hukum konvensional yang ada saat ini sudah tidak memadai untuk menangani kompleksitas teknologi otonom. Sistem AI modern kini mampu belajar dan mengambil keputusan sendiri secara mandiri tanpa campur tangan manusia.

Penelitian ini diungkapkan dalam riset Yohanna YR Watofa dari Sekolah Tinggi Ilmu Hukum Manokwari menyoroti ketika terjadi kegagalan atau kerugian teknologi, doktrin hukum tradisional yang bertumpu pada pembuktian kesalahan manusia dan hubungan sebab-akibat yang linear menjadi runtuh dan sulit diterapkan.

Krisis Pertanggungjawaban di Era Teknologi Otonom
Saat ini, implementasi teknologi AAI tidak lagi sekadar menjadi alat bantu statis, melainkan telah bertransformasi menjadi sistem pengambil keputusan di lingkungan berisiko tinggi. Mulai dari kendaraan otonom, sistem perdagangan saham algoritmik, hingga diagnosis medis berbasis kecerdasan buatan, semuanya bergantung pada keputusan mandiri mesin. Transformasi ini membawa perubahan paradigma yang besar dalam sistem tata kelola hukum. Secara historis, pertanggungjawaban hukum perdata baik berdasarkan unsur kesalahan (fault-based liability) maupun tanggung jawab mutlak (strict liability) selalu mengasumsikan manusia sebagai aktor utama yang memegang kendali penuh. Namun, karakteristik unik dari kecerdasan buatan otonom merusak asumsi dasar tersebut. AI modern memiliki kemampuan untuk terus belajar secara dinamis setelah diterapkan (continuous learning). Sifatnya yang sering kali berupa kotak hitam (black box) membuat proses internal algoritma sangat sulit dilacak secara logis, bahkan oleh pengembangnya sendiri. Ketika sebuah sistem otonom menyebabkan kerugian materi atau korban jiwa, ekosistem teknologi yang melibatkan banyak pihak seperti pengembang peranti lunak, penyedia data, operator, hingga pengguna akhir membuat penentuan subjek hukum yang harus bertanggung jawab menjadi sangat bias dan tumpang tindih. Hal inilah yang memicu urgensi reformasi regulasi yang adaptif.

Mengevaluasi Kesenjangan Hukum Lewat Pendekatan Normatif
Untuk memetakan jalan keluar dari kebuntuan hukum ini, penelitian yang dilakukan oleh Yohanna YR Watofa menggunakan metode pendekatan yuridis normatif dengan analisis hukum komparatif. Analisis dilakukan dengan mengevaluasi instrumen hukum internasional dan dokumen kebijakan global. Beberapa di antaranya meliputi Artificial Intelligence Act dari Uni Eropa, inisiatif regulasi AI di Amerika Serikat, serta prinsip-prinsip tata kelola AI yang dirumuskan oleh OECD dan UNESCO. Melalui pendekatan doktrinal dan kualitatif, penelitian ini menguji sejauh mana kekuatan pasal-pasal tradisional dalam Kitab Undang-Undang Hukum Perdata (KUHPerdata) Indonesia mampu merespons era digital. Kerangka hukum klasik tersebut dikomparasikan dengan berbagai model pertanggungjawaban baru yang sedang berkembang di tingkat global untuk menemukan formula regulasi yang paling seimbang.

Temuan Utama: Tiga Pilar Hukum Klasik yang Terkikis AI
Hasil studi ini menunjukkan secara gamblang bahwa ketidakmampuan rezim hukum tradisional dalam menghadapi kecerdasan buatan otonom mencakup aspek struktural dan operasional. Ada tiga elemen utama dalam hukum tanggung jawab klasik yang mengalami pengikisan total akibat karakteristik AAI:

• Erosi Unsur Kesalahan (Epistemic Gap): Dalam hukum berbasis kesalahan, pembuktian kelalaian menuntut adanya pengetahuan aktor atas dampak tindakannya. Karena algoritma AI bekerja secara mandiri dan tidak transparan, pembuktian unsur kelalaian manusia menjadi hampir mustahil dilakukan.
• Kekacauan Hubungan Kausalitas: Hukum tradisional membutuhkan pembuktian hubungan sebab-akibat yang linear. Sebaliknya, kerugian yang ditimbulkan AI otonom merupakan hasil interaksi multi-layer yang kompleks antara data pelatihan, algoritma, dan lingkungan operasional yang dinamis.
• Fragmentasi Kendali (Control): Kendali dalam ekosistem AI tidak lagi berada di satu tangan. Tanggung jawab tersebar di antara perancang sistem, penyedia basis data, hingga operator, sehingga pembebanan tanggung jawab secara individual menjadi tidak proporsional dan tidak adil.
  

Implikasi Kebijakan dan Dampak Nyata bagi Masyarakat
Rekomendasi dari studi ini mendesak adanya rekonstruksi paradigma hukum dari yang semula bersifat individual menjadi sistemik dan adaptif. Bagi dunia usaha dan industri teknologi, penerapan kerangka kerja kombinasi (hybrid liability framework) yang memadukan tanggung jawab berbasis risiko dengan akuntabilitas algoritmik akan memberikan kepastian hukum yang jelas. Hal ini mencegah terjadinya regulatory chilling effect, yaitu kondisi di mana para inovator takut meluncurkan teknologi baru akibat bayang-bayang risiko hukum yang tidak dapat diprediksi. Bagi pemerintah dan pembuat kebijakan khususnya di Indonesia temuan ini menjadi alarm pentingnya harmonisasi regulasi. Regulasi sektoral yang ada saat ini, seperti UU ITE dan UU Perlindungan Data Pribadi (UU PDP), dinilai belum secara eksplisit mengatur tanggung jawab hukum atas keputusan mandiri yang dihasilkan oleh mesin. Oleh karena itu, pembentukan regulasi khusus AI yang mewajibkan audit algoritma secara berkala menjadi krusial untuk melindungi hak-hak substantif masyarakat dari risiko bias, diskriminasi, dan pelanggaran hak asasi manusia.

Profil Penulis
Yohanna YR Watofa adalah seorang akademisi, peneliti hukum, dan staf pengajar di b, Indonesia. Fokus kepakaran ilmiahnya meliputi hukum tata kelola kontemporer, hukum informasi dan transaksi elektronik, serta analisis doktrin pertanggungjawaban sipil yang berkaitan dengan integrasi teknologi digital dan kecerdasan buatan otonom di Indonesia.

Sumber Penelitian
Yohana YR Watofa (2026). Human Machine Liability Redistribution in Autonomous Artificial Intelligence Decision Systems within Contemporary Legal Governance. Formosa Journal of Applied Sciences (FJAS) 2026. Vol. 5, No. 5, Halaman 1199-1210
DOI: https://doi.org/10.55927/fjas.v5i5.40
URL: https://journalfjas.my.id/index.php/fjas