Agensi Moral AI dan Tanggung Jawab Manusia dalam Pemikiran Islam

Abstract

Perkembangan kecerdasan buatan membuat istilah agen, otonomi, rasionalitas, keputusan, dan tanggung jawab semakin sering dipakai untuk menjelaskan sistem teknis. Pemakaian istilah tersebut dapat menimbulkan kekaburan ketika kemampuan AI mencapai tujuan operasional disamakan dengan kapasitas memikul tanggung jawab moral. Artikel ini menjelaskan batas konseptual antara AI sebagai agen rasional dan AI sebagai agen moral, lalu menempatkannya dalam kerangka tanggung jawab manusia dalam pemikiran Islam. Dengan metode kepustakaan-konseptual, artikel menelaah literatur tentang agen rasional, agensi moral, intensionalitas, kesadaran, antropomorfisme, akuntabilitas, kesenjangan tanggung jawab, dan penggunaan AI dalam ranah pengetahuan keislaman. Artikel ini berargumen bahwa AI dapat disebut agen rasional dalam arti teknis-operasional karena mampu memproses persepsi, tujuan, ukuran kinerja, dan tindakan. Akan tetapi, rasionalitas instrumental belum cukup untuk menjadikan AI sebagai agen moral. Agensi moral memerlukan syarat tambahan, seperti pemahaman normatif, intensionalitas, kapasitas memberi pertanggungjawaban, dan keterlibatan dalam relasi moral. Dalam pemikiran Islam, AI lebih tepat ditempatkan sebagai alat bantu yang berada di bawah amanah, pengawasan, dan pertanggungjawaban manusia. Dengan demikian, diskusi AI tidak perlu menolak seluruh bentuk agensi teknis, tetapi juga tidak boleh memindahkan tanggung jawab moral dari manusia dan institusi kepada sistem komputasional.