Penulis: Ruben Cornelius Siagian
Terbitnya ensiklik Magnifica Humanitas: On Safeguarding the Human Person in the Time of Artificial Intelligence karya Paus Leo XIV menandai babak baru dalam percakapan global mengenai kecerdasan buatan (AI). Dokumen ini bukan sekadar nasihat religius bagi umat Katolik, melainkan sebuah intervensi moral terhadap arah peradaban digital. Ensiklik tersebut resmi dirilis Vatikan pada Mei 2026 dan menempatkan AI sebagai salah satu ujian terbesar bagi martabat manusia, kebenaran, kerja, kebebasan, serta perdamaian dunia.
Tulisan ini berangkat dari pandangan bahwa Magnifica Humanitas perlu dibaca sebagai kritik terhadap peradaban teknokratis, yakni peradaban yang terlalu percaya bahwa setiap persoalan manusia dapat diselesaikan melalui efisiensi, komputasi, otomatisasi, dan kontrol data. Dalam kerangka ini, AI tidak ditolak sebagai teknologi, tetapi diperingatkan agar tidak berkembang menjadi sistem kekuasaan baru yang menggeser manusia dari pusat kehidupan sosial.
AI dan Paradigma Teknokratis
Paus Leo XIV tampaknya melanjutkan garis kritik yang sebelumnya kuat dalam pemikiran Paus Fransiskus, terutama terhadap “paradigma teknokratis” dalam Laudato Si’. Namun, Magnifica Humanitas memperluas kritik tersebut ke dunia algoritma, model bahasa besar, otomatisasi kerja, senjata otonom, dan ekonomi data. AI dipandang bukan sekadar alat teknis, melainkan struktur sosial yang mampu mengubah relasi kuasa.
Secara teoritis, pandangan ini sejalan dengan kritik Jacques Ellul mengenai masyarakat teknologis, yaitu ketika teknik tidak lagi menjadi sarana, melainkan berubah menjadi logika dominan yang mengatur manusia (Ellul, 2021). Gagasan ini juga berdekatan dengan pemikiran Martin Heidegger tentang teknologi modern sebagai cara manusia “membingkai” dunia hanya sebagai sumber daya (Heidegger, 1954). Dalam konteks AI, manusia berisiko dipandang bukan sebagai pribadi yang bermartabat, melainkan sebagai data, pola perilaku, target iklan, tenaga kerja murah, atau objek prediksi.
Di sinilah prinsip-prinsip Doktrin Sosial Gereja menjadi penting. Martabat manusia, kebaikan bersama, solidaritas, subsidiaritas, dan tujuan universal barang-barang menjadi kriteria etis untuk menilai perkembangan AI. Dengan demikian, pertanyaan utamanya bukan lagi “seberapa canggih AI?”, melainkan “siapa yang diuntungkan, siapa yang dikorbankan, dan apakah manusia tetap menjadi subjek moral?”
Martabat Manusia Melawan Reduksi Algoritmik
Salah satu gagasan terkuat dalam ensiklik ini adalah penegasan bahwa AI tidak memiliki hati, tubuh, pengalaman batin, nurani, maupun tanggung jawab moral. AI dapat meniru bahasa manusia, menghasilkan keputusan statistik, dan mengolah data dalam skala besar, tetapi ia tidak mengalami penderitaan, kasih, rasa bersalah, atau pertobatan. Karena itu, menyerahkan keputusan yang menyangkut hidup manusia sepenuhnya kepada mesin merupakan bentuk kemunduran moral.
Dalam konteks ini, AI tidak boleh dijadikan hakim terakhir atas nilai manusia. Saat ini, sistem algoritmik telah digunakan dalam proses rekrutmen kerja, pemberian kredit, asuransi, kepolisian prediktif, pendidikan, bahkan penilaian risiko sosial. Jika data historis yang digunakan mengandung bias, maka AI dapat memperkuat ketidakadilan lama dalam bentuk baru yang tampak objektif.
Berbagai penelitian dan laporan global menunjukkan bahwa persoalan bias, privasi, dan kepercayaan publik terhadap AI masih menjadi tantangan serius. Stanford AI Index 2025 mencatat bahwa AI telah menjadi teknologi yang sangat transformatif, tetapi manfaatnya tidak otomatis terdistribusi secara adil tanpa tata kelola yang memadai (Wang & Xie, 2026). Dengan kata lain, kemajuan teknis tidak identik dengan kemajuan moral.
Kebenaran sebagai Barang Publik
Salah satu kontribusi penting Magnifica Humanitas adalah penempatannya terhadap kebenaran sebagai bagian dari kebaikan bersama. Gagasan ini menjadi sangat relevan karena AI generatif mempercepat produksi teks, gambar, audio, dan video palsu dalam skala massal. Deepfake, propaganda otomatis, dan manipulasi opini publik membuat masyarakat semakin sulit membedakan kebenaran dari fabrikasi.
Kasus deepfake dalam politik, penipuan finansial berbasis suara sintetis, serta banjir konten palsu di media sosial menunjukkan bahwa krisis AI bukan sekadar krisis teknologi, melainkan juga krisis epistemik. Ketika publik tidak lagi percaya pada fakta, demokrasi kehilangan dasar rasionalnya. Reuters melaporkan bahwa Perserikatan Bangsa-Bangsa (PBB) telah menyerukan langkah global untuk mendeteksi dan melawan deepfake berbasis AI karena risikonya terhadap pemilu, penipuan, dan kepercayaan publik.
Dalam perspektif ensiklik, kebenaran tidak boleh diprivatisasi oleh platform digital ataupun dikendalikan oleh algoritma keterlibatan (engagement algorithms) (Caplan & Boyd, 2016). Kebenaran merupakan syarat bagi demokrasi, keadilan, dan kehidupan bersama. Jika AI hanya diatur oleh logika klik, viralitas, dan keuntungan iklan, maka ia lebih mudah berubah menjadi mesin kekacauan daripada sarana pencerahan.
Kerja, Otomasi, dan Martabat Pekerja
Bagian mengenai kerja dalam Magnifica Humanitas sangat penting karena AI sering dipromosikan sebagai alat efisiensi, tetapi jarang dibahas dari perspektif martabat pekerja. Otomasi memang dapat meningkatkan produktivitas, namun juga berpotensi menciptakan pengangguran struktural, memperlemah posisi tawar buruh, dan menghapus berbagai pekerjaan tingkat awal.
Penelitian Economic Insights menunjukkan bahwa AI generatif lebih mungkin mengubah pekerjaan daripada langsung menghapusnya secara keseluruhan, tetapi dampaknya tidak merata (Drozd & Tavares, 2024). Pekerjaan administratif dan klerikal termasuk yang paling terekspos terhadap perubahan tersebut, sementara kelompok tertentu dapat menjadi lebih rentan.
Karena itu, pertanyaan etis yang muncul bukanlah apakah perusahaan boleh menggunakan AI, melainkan bagaimana proses transisi tersebut dijalankan. Apakah pekerja memperoleh pelatihan ulang? Apakah keuntungan produktivitas dibagikan secara adil? Apakah AI digunakan untuk memperkuat kapasitas manusia atau sekadar menggantikannya demi meningkatkan margin laba?
Persoalan ini tampak jelas pada pekerja pelabel data (data labelers) dan moderator konten. Di balik kecanggihan AI, terdapat jutaan pekerja yang memberi label gambar, membersihkan data, memoderasi konten kekerasan, dan melatih model AI. Brookings mencatat adanya gerakan pekerja data dan moderator konten di Kenya serta berbagai negara Global South yang menuntut upah layak, kondisi kerja yang aman, dan dukungan kesehatan mental. Fenomena ini menunjukkan bahwa AI yang tampak “otomatis” sering kali berdiri di atas kerja manusia yang tersembunyi.
Kebebasan dan Perbudakan Digital Baru
Ensiklik ini juga menarik karena menyinggung kemungkinan munculnya “perbudakan baru” dalam ekonomi digital. Istilah tersebut dapat dipahami secara luas, mencakup bukan hanya perdagangan manusia yang difasilitasi platform digital, tetapi juga berbagai bentuk eksploitasi digital seperti kerja mikro berupah rendah, pengawasan pekerja, manipulasi perilaku konsumen, dan ketergantungan manusia pada sistem rekomendasi.
Dalam ekonomi platform, kebebasan sering tampak sebagai pilihan: memilih aplikasi, memilih pekerjaan fleksibel, atau memilih konten. Namun di balik itu, algoritma menentukan visibilitas, pendapatan, peringkat, bahkan reputasi seseorang. Kebebasan menjadi semu ketika manusia tidak memahami bagaimana sistem mengambil keputusan yang memengaruhi kehidupannya.
Di sinilah prinsip subsidiaritas menjadi relevan. Keputusan mengenai teknologi tidak boleh hanya ditentukan oleh perusahaan besar, investor, atau negara-negara kuat. Komunitas yang terdampak harus memiliki suara. Data, algoritma, dan paten tidak boleh menjadi barang privat yang hanya memperkaya segelintir elite, karena dampaknya menyentuh kehidupan publik secara luas.
Senjata Otonom dan Hilangnya Tanggung Jawab Moral
Paus Leo XIV juga memperingatkan bahaya senjata otonom yang memungkinkan keputusan hidup dan mati semakin jauh dari pertimbangan manusia. Reuters melaporkan bahwa dalam ensiklik ini Paus mendesak regulasi AI yang lebih ketat dan memperingatkan bahwa sebagian sistem persenjataan bergerak menuju operasi yang berada di luar kendali manusia secara langsung.
Persoalan utama senjata otonom bukan hanya soal akurasi, melainkan juga tanggung jawab. Jika drone atau sistem AI salah menargetkan warga sipil, siapa yang harus bertanggung jawab? Programmer, komandan, produsen, atau negara?
Davison (2018) telah lama memperingatkan bahwa keterbatasan kontrol manusia atas senjata otonom dapat menyulitkan pertanggungjawaban dalam hukum humaniter internasional. Dalam perang modern, teknologi militer semakin terdigitalisasi melalui drone, sistem penargetan otomatis, pengawasan satelit, dan analisis medan tempur berbasis AI. Dalam situasi seperti ini, kecepatan algoritmik berpotensi mengalahkan refleksi moral. Padahal, keputusan untuk menghilangkan nyawa manusia tidak boleh direduksi menjadi sekadar kalkulasi probabilitas.
Peradaban Kasih sebagai Alternatif
Konsep “Peradaban Kasih” yang ditawarkan ensiklik ini bukanlah slogan sentimental. Ia merupakan tawaran politik-etis untuk melawan budaya kekuasaan. Dalam budaya kekuasaan, AI digunakan untuk menguasai pasar, mengawasi warga, memenangkan perang, dan memaksimalkan keuntungan. Sebaliknya, dalam peradaban kasih, AI diarahkan untuk mendukung pendidikan, kesehatan, keadilan sosial, perdamaian, perlindungan lingkungan, dan penguatan relasi antarmanusia.
Pandangan ini tidak bersifat anti-teknologi. Justru sebaliknya, ia menuntut teknologi yang lebih bertanggung jawab. AI dapat membantu diagnosis penyakit, memetakan bencana, mempercepat riset ilmiah, meningkatkan akses pendidikan, dan mendukung administrasi publik. Namun seluruh manfaat tersebut hanya bermakna apabila manusia tetap menjadi tujuan, bukan sekadar bahan bakar bagi sistem.
Menjadi Arsitek yang Bijaksana
Magnifica Humanitas mengingatkan bahwa krisis AI bukan terutama soal mesin yang menjadi terlalu pintar, melainkan manusia yang menjadi terlalu lalai. Bahaya terbesar bukan ketika AI menggantikan manusia secara teknis, tetapi ketika manusia menyerahkan nurani, tanggung jawab, dan penilaian moralnya kepada sistem otomatis.
Karena itu, ensiklik ini relevan tidak hanya bagi umat Katolik, tetapi juga bagi akademisi, pembuat kebijakan, insinyur, pengusaha, jurnalis, pendidik, dan masyarakat sipil. Dokumen ini mengajak kita menjadi “arsitek yang bijaksana”: membangun teknologi dengan fondasi martabat manusia, bukan sekadar efisiensi; dengan orientasi pada kebaikan bersama, bukan monopoli; dengan solidaritas, bukan eksploitasi; serta dengan komitmen pada kebenaran, bukan manipulasi.
Pada akhirnya, AI akan menjadi cermin dari nilai-nilai manusia yang menciptakannya. Jika dibangun dalam logika kuasa, ia akan memperbesar ketimpangan. Jika dibangun dalam etika kasih, ia dapat menjadi alat pembebasan. Maka pertanyaan terbesar pada era AI bukanlah “apa yang dapat dilakukan mesin?”, melainkan “manusia seperti apa yang sedang kita bentuk melalui mesin itu?”
Referensi
Caplan, R., & Boyd, D. (2016). Who Controls the Public Sphere in an Era of Algorithms. In Mediation, Automation, Power (pp. 1–19).
Davison, N. (2018). A Legal Perspective: Autonomous Weapon Systems Under International Humanitarian Law.
Drozd, L. A., & Tavares, M. (2024). Generative AI: A Turning Point for Labor’s Share. Economic Insights, 9(1), 2–11.
Ellul, J. (2021). The Technological Society. Vintage.
Heidegger, M. (1954). The Question Concerning Technology. In Technology and Values: Essential Readings (pp. 99–113).
Wang, X., & Xie, F. (2026). Global Artificial Intelligence Governance Research in the Digital and Intelligent Era: Advances, Trends and Countermeasures. Journal of Knowledge Management, 30(1), 30–68.
Profil Penulis
Ruben Cornelius Siagian adalah peneliti muda Indonesia yang memiliki minat pada kajian multidisipliner, khususnya di bidang sains, teknologi, etika, filsafat, hukum, dan kebijakan publik. Melalui tulisan-tulisannya, ia berupaya menghadirkan pembacaan kritis terhadap isu-isu kontemporer dengan memadukan perspektif ilmiah, humanistik, dan etis.
Dalam esai ini, penulis menaruh perhatian pada tantangan moral yang muncul di tengah revolusi AI, terutama ketika teknologi tidak lagi dipahami sekadar sebagai alat, melainkan sebagai kekuatan sosial yang dapat memengaruhi kebenaran, kerja, kebebasan, keadilan, dan masa depan manusia.
