Pemimpin Umat Katolik Dunia Paus Leo XIV Serukan Perlambat Kemajuan AI, Ini Alasannya

JAKARTA - Pemimpin Umat Katolik unia, Paus Leo XIV memperingatkan dunia untuk memperlambat kemajuan kecerdasan buatan, AI karena telah memicu konflik.

Paus Amerika pertama itu menulis dalam ensiklik pertamanya, sebuah manifesto yang komprehensif dan sangat dinantikan mengenai subjek tersebut dan dirilis pada hari Senin (25/5/2026).

Ensiklik sejatinya adalah surat kepada para uskup Katolik, tetapi dalam beberapa dekade terakhir, surat-surat tersebut telah menjadi pesan kepada dunia dari seorang Paus.

Paus Leo XIV juga menyerukan regulasi yang lebih ketat dan laju kemajuan AI yang lebih lambat dalam sebuah dokumen teologis penting yang dirilis pada hari Senin.

Ia memperingatkan bahwa teknologi tersebut memicu dan menormalisasi konflik di seluruh dunia.

Paus juga memperingatkan bahwa teknologi canggih berisiko menciptakan 'perbudakan digital baru'.

Dalam manifesto yang komprehensif dan sangat dinantikan mengenai subjek ini, Leo memperingatkan bahwa kecerdasan buatan tidak boleh 'terkonsentrasi hanya di tangan beberapa orang'.

Ia menyerukan 'melucuti AI' yang bukan berarti menolak teknologi, tetapi mencegahnya mendominasi umat manusia.

"Sekadar mengatur saja tidak cukup," tandasnya.

Album itu dirilis bersamaan dengan Christopher Olah, salah satu pendiri raksasa AI Anthropic.

Hal ini menimbulkan potensi titik konflik lain antara Vatikan dan Presiden Donald Trump , yang pemerintahannya memerintahkan semua lembaga untuk berhenti menggunakan Anthropic setelah perusahaan tersebut menolak akses tanpa batas kepada militer AS atas teknologinya.

Perilisannya terjadi setelah Leo menghadapi serangan publik dari Trump setelah mengkritik perang AS terhadap Iran.

Selama presentasi di Vatikan pada hari Senin, Christopher Olah mengakui bahwa semua laboratorium AI, termasuk miliknya sendiri, beroperasi 'dalam serangkaian insentif dan batasan yang terkadang dapat bertentangan dengan melakukan hal yang benar'.

"Itulah mengapa sangat penting ada orang-orang di luar insentif tersebut yang memperhatikan dengan saksama, yang bersedia mengatakan hal-hal yang sulit, yang bersedia menjadi kritikus kami dengan tulus dan bijaksana," katanya.

Ia menambahkan, bahwa pihaknya membutuhkan lebih banyak orang di dunia, komunitas agama, masyarakat sipil, cendekiawan, pemerintah untuk melakukan apa yang telah dilakukan Yang Mulia di sini: untuk menanggapi hal ini dengan serius, untuk mengamati dengan seksama, dan untuk mendorong peristiwa ke arah yang lebih baik.

Meskipun dokumen tersebut diterbitkan pada hari Senin, Paus Leo XIV sudah menandatanganinya sejak 15 Mei 2026, yang secara khusus bertepatan dengan peringatan ke-135 dokumen penting lainnya yang dibuat oleh pendahulunya yang bernama sama, Paus Leo XIII pada 1891.

Jika Leo sebelumnya berfokus pada hak-hak pekerja dalam Revolusi Industri, Paus Leo XIV menulis bahwa 'kita tidak bisa membatasi diri hanya dengan mengulangi ajaran-ajarannya yang berwawasan luas'.

"Sebaliknya, 'kita harus memohon hikmat kepada Tuhan untuk menafsirkan tren-tren besar zaman kita, khususnya kemajuan teknologi,” katanya.

Meskipun surat ini sebagian besar berfokus pada AI, Paus Leo juga menyertakan salah satu permintaan maaf terkuat dan terlengkap dari Vatikan atas peran Gereja Katolik dalam perbudakan.

"Mustahil untuk tidak merasa sangat sedih ketika merenungkan penderitaan dan penghinaan yang luar biasa yang dialami oleh begitu banyak orang," tulis Paus Leo XIV.

Ia menambahkan, bahwa ia 'dengan tulus memohon pengampunan' atas nama Gereja.

Leo menyebutkan perdagangan budak dalam kaitannya dengan AI ini menunjukkan bahwa dunia berada dalam bahaya menormalisasi kembali eksploitasi manusia baik dalam produksinya maupun dalam penerapannya.

Beberapa kiasan terkuat Paus dalam dokumen tersebut berkaitan dengan perbudakan, memperingatkan adanya kesamaan antara tragedi sejarah perbudakan tradisional dan ancaman yang muncul dari 'perbudakan digital baru'.

Ia mengemukakan adanya risiko normalisasi eksploitasi serupa dan bahwa umat manusia berada di persimpangan moral yang serupa.

Yang tidak biasa, Paus Leo XIV memilih untuk menyampaikan ensiklik tersebut, yang berjudul Magnific-Humanitas (Kemanusiaan yang Agung) sendiri, di Vatikan, bersama para ahli AI termasuk Christopher Olah, salah satu pendiri raksasa AI AS, Anthropic.

Dalam sambutannya setelah presentasi ensiklik tersebut, Christopher Olah mengatakan bahwa setiap laboratorium AI, termasuk miliknya, beroperasi 'dalam serangkaian insentif dan batasan yang terkadang dapat bertentangan dengan melakukan hal yang benar'.

Akan menjadi sebuah kesalahan jika percaya bahwa masalah AI paling baik ditangani oleh ilmuwan komputer seperti dirinya, tambah Olah: "Pertanyaan-pertanyaan yang diajukan oleh AI lebih besar daripada komunitas penelitian AI, bukan hanya dalam implikasinya, tetapi juga dalam sifatnya."

Ensiklik Paus, yang juga mengakui banyak potensi jebakan dalam AI, juga merupakan pesan yang tegas dan langsung kepada mereka yang berkuasa tentang tanggung jawab mereka dalam mengekang 'ancaman' yang ditimbulkannya.

Contohnya, Paus mengutuk penggunaan AI dalam peperangan, dengan mengatakan bahwa mengurangi kendali manusia atas persenjataan membuat perang semakin sulit dianggap 'adil' dan memperingatkan agar tidak memulai perlombaan senjata AI.

"Pertanyaan-pertanyaan yang diajukan oleh AI lebih besar daripada komunitas riset AI," kata Christopher Olah.

"Tidak ada algoritma yang bisa membuat perang dapat diterima secara moral," tulis Paus.

Leo mengecam dampak AI terhadap politik, seperti cara AI digunakan untuk memanipulasi gambar dan video, yang menurutnya membuat orang terpapar perspektif yang bias atau menyesatkan.

Ia mengatakan, AI tidak hanya tidak menghilangkan 'ketidakmanusiaan intrinsik' perang, tetapi juga berisiko memicu konflik lebih cepat dan membuatnya lebih impersonal dengan 'menurunkan ambang batas untuk menggunakan kekerasan, mengubah pertahanan menjadi prediksi ancaman, dan dengan demikian mereduksi korban menjadi data'. (*)