Ketika Algoritma Mengancam Kemanusiaan: Membaca Kembali Pesan Gereja di Era Kecerdasan Buatan

PenaKatolik.Com | Teknologi diciptakan untuk melayani manusia. Namun, ketika algoritma mulai menentukan cara manusia berpikir, memilih, bekerja, bahkan membangun relasi, muncul pertanyaan mendasar: siapakah yang sesungguhnya mengendalikan kehidupan manusia?

Pada akhir abad ke-19, dunia sedang mengalami perubahan besar. Deru mesin uap, pertumbuhan industri, dan perkembangan sistem produksi mengubah wajah kehidupan masyarakat. Namun, di balik kemajuan tersebut, tersimpan persoalan kemanusiaan yang serius. Kaum buruh menghadapi eksploitasi, ketimpangan ekonomi semakin melebar, sementara pemilik modal menikmati keuntungan dari sistem industri yang berkembang.

Dalam situasi itulah, pada 1891, Paus Leo XIII menerbitkan ensiklik Rerum Novarum. Dokumen ini menjadi salah satu tonggak penting Ajaran Sosial Gereja karena memberikan perhatian khusus terhadap persoalan kaum pekerja, keadilan sosial, hak atas upah yang layak, serta tanggung jawab moral dalam kehidupan ekonomi.

Kini, lebih dari satu abad kemudian, manusia kembali berhadapan dengan perubahan besar. Akan tetapi, wajah revolusinya berbeda. Jika dahulu mesin industri mengancam martabat manusia melalui eksploitasi tenaga fisik, sekarang kecerdasan buatan (Artificial Intelligence/AI) menghadirkan tantangan baru yang menyentuh kemampuan berpikir, kebebasan memilih, privasi, dan relasi antarmanusia.

Di tengah perubahan tersebut, Paus Leo XIV melalui ensiklik Magnifica Humanitas (Mei 2026) menghadirkan refleksi mengenai hubungan antara kemajuan teknologi dan martabat manusia. Semangatnya seolah menggemakan kembali pesan Rerum Novarum: perubahan zaman tidak pernah boleh menjadi alasan untuk mengabaikan manusia.

Dari Mesin Industri Menuju Mesin Digital

Sejarah sering kali memperlihatkan bahwa kemajuan teknologi selalu membawa dua kemungkinan: membebaskan manusia atau justru menciptakan bentuk penindasan yang baru.

Pada masa revolusi industri, persoalan utama terletak pada eksploitasi tenaga kerja. Manusia diperlakukan sebagai bagian dari mesin produksi. Waktu, tenaga, dan kemampuan fisiknya dinilai berdasarkan produktivitas serta keuntungan ekonomi.

Dalam masyarakat digital, bentuk persoalannya semakin kompleks. Data pribadi menjadi komoditas, perhatian manusia menjadi sumber keuntungan, dan algoritma memiliki kemampuan memengaruhi keputusan sehari-hari.

Kita mungkin tidak lagi bekerja di tengah kepulan asap pabrik, tetapi kehidupan kita semakin banyak berlangsung di bawah pengaruh sistem digital. Apa yang kita baca, produk yang kita beli, informasi yang kita terima, bahkan pandangan yang kita bangun dapat dipengaruhi oleh algoritma.

Fenomena ini memperlihatkan bahwa eksploitasi tidak selalu hadir dalam bentuk yang terlihat. Ia dapat berlangsung secara halus melalui penguasaan informasi, manipulasi perilaku, dan pembentukan ketergantungan digital.

Karena itu, persoalan utama bukan lagi semata-mata bagaimana manusia mengendalikan mesin, melainkan bagaimana manusia mempertahankan kebebasan dan martabatnya di tengah sistem teknologi yang semakin dominan.

Dalam konteks inilah, Magnifica Humanitas menjadi penting untuk dibaca sebagai refleksi etis mengenai masa depan manusia.

Ketika Kebebasan Berpikir Mulai Dipertaruhkan

Salah satu persoalan mendasar dalam perkembangan kecerdasan buatan adalah ancaman terhadap subjektivitas manusia.

Kehidupan digital membuat manusia semakin mudah terhubung dengan siapa pun. Namun, keterhubungan tersebut tidak selalu menghasilkan kedekatan yang sesungguhnya. Seseorang dapat memiliki ribuan pengikut di media sosial, tetapi tetap mengalami keterasingan dalam kehidupan personal.

Fenomena ini dikenal sebagai atomisasi digital. Manusia terhubung secara luas, tetapi hubungan sosialnya berpotensi menjadi semakin dangkal.

Persoalan lain muncul melalui fenomena filter bubble. Algoritma cenderung menyajikan informasi berdasarkan kebiasaan, minat, dan preferensi pengguna. Akibatnya, seseorang semakin sering menerima informasi yang sesuai dengan pandangannya sendiri.

Dalam jangka panjang, keadaan tersebut dapat mempersempit ruang dialog, mengurangi keterbukaan terhadap perbedaan, dan melemahkan kemampuan berpikir kritis.

Bahaya kecerdasan buatan tidak harus selalu dibayangkan sebagai robot yang mengambil alih kehidupan manusia. Ancaman yang lebih dekat justru muncul ketika manusia secara perlahan menyerahkan kemampuan berpikir, mempertimbangkan, dan mengambil keputusan kepada sistem yang tidak memiliki nurani.

Manusia tetap dapat menggunakan teknologi, tetapi harus tetap memiliki kemampuan untuk mempertanyakan hasilnya. Kebebasan berpikir tidak boleh digantikan oleh kenyamanan menerima rekomendasi mesin.

Keadilan Tidak Boleh Ditentukan oleh Algoritma Semata

Persoalan berikutnya adalah keadilan dalam penggunaan algoritma.

Dalam kehidupan modern, kecerdasan buatan mulai digunakan untuk mendukung berbagai keputusan penting. Dunia perbankan, pelayanan kesehatan, pendidikan, dan dunia kerja merupakan beberapa bidang yang semakin memanfaatkan sistem otomatis.

Di satu sisi, teknologi tersebut menawarkan efisiensi. Proses yang sebelumnya membutuhkan waktu panjang dapat dilakukan dengan lebih cepat. Namun, di sisi lain, sistem algoritma dapat menghasilkan keputusan yang bias apabila data dan mekanisme yang digunakan tidak mempertimbangkan keberagaman kondisi manusia.

Bayangkan seseorang yang mengajukan kredit kepada bank, tetapi permohonannya ditolak oleh sistem penilaian otomatis. Apakah keputusan tersebut benar-benar mencerminkan kondisi ekonominya? Apakah data yang digunakan sudah adil? Apakah terdapat kesempatan bagi orang tersebut untuk mengetahui alasan penolakan dan mengajukan keberatan?

Pertanyaan serupa juga dapat diajukan dalam bidang kesehatan, pendidikan, dan rekrutmen tenaga kerja.

Karena itu, transparansi dan akuntabilitas menjadi prinsip penting dalam pengembangan teknologi. Para pengembang dan perusahaan teknologi perlu memastikan bahwa algoritma dapat dipertanggungjawabkan secara moral dan sosial.

Gagasan mengenai audit etika menjadi relevan dalam konteks ini. Teknologi tidak cukup hanya dinilai berdasarkan kecepatan, ketepatan, dan keuntungan ekonomi. Ia juga harus dinilai berdasarkan dampaknya terhadap manusia, terutama kelompok yang paling rentan.

Keadilan tidak boleh dikorbankan demi efisiensi.

Martabat Pekerja di Tengah Otomatisasi

Perubahan teknologi juga membawa konsekuensi terhadap dunia kerja.

Kehadiran kecerdasan buatan memungkinkan sejumlah pekerjaan dilakukan secara otomatis. Tugas-tugas administratif, pengolahan data, pelayanan pelanggan, hingga pekerjaan kreatif tertentu mulai mengalami perubahan.

Perubahan ini menimbulkan kekhawatiran mengenai hilangnya lapangan pekerjaan dan meningkatnya ketidakpastian ekonomi bagi para pekerja.

Namun, pertanyaan yang perlu diajukan bukan hanya berapa banyak pekerjaan yang dapat digantikan oleh mesin, melainkan bagaimana hasil kemajuan teknologi dapat memberikan manfaat bagi kehidupan manusia secara lebih luas.

Otomatisasi seharusnya membebaskan manusia dari pekerjaan yang berulang dan melelahkan sehingga mereka memiliki lebih banyak kesempatan untuk mengembangkan kreativitas, membangun relasi, dan meningkatkan kualitas hidup.

Perusahaan yang memperoleh keuntungan dari penggunaan kecerdasan buatan juga memiliki tanggung jawab sosial terhadap pekerja yang terdampak. Pelatihan ulang, peningkatan keterampilan, dan perlindungan sosial menjadi bagian penting dari proses transformasi digital.

Dalam perspektif Ajaran Sosial Gereja, manusia tidak boleh dipandang hanya sebagai faktor produksi. Pekerja memiliki martabat yang melekat pada dirinya, terlepas dari seberapa tinggi produktivitas yang dapat dihasilkan.

Teknologi boleh menggantikan sejumlah fungsi pekerjaan, tetapi tidak boleh menghilangkan penghargaan terhadap manusia yang bekerja.

Ketika Mesin Memiliki Kuasa atas Hidup dan Mati

Tantangan lain yang tidak kalah serius adalah penggunaan kecerdasan buatan dalam bidang militer.

Pengembangan sistem senjata otonom atau lethal autonomous weapons menghadirkan persoalan etika yang mendalam. Sistem tersebut memungkinkan mesin melakukan identifikasi dan menentukan sasaran tanpa keterlibatan manusia secara langsung dalam setiap keputusan.

Persoalannya menjadi sangat serius ketika keputusan yang dihasilkan berkaitan dengan hidup dan mati seseorang.

Dapatkah mesin memiliki pertimbangan moral untuk menentukan apakah seseorang harus dibunuh? Dapatkah algoritma memahami nilai kehidupan manusia, penderitaan keluarga, dan konsekuensi kemanusiaan dari sebuah keputusan militer?

Mesin mungkin mampu menghitung kemungkinan, menganalisis sasaran, dan memproses informasi dalam waktu singkat. Namun, kemampuan tersebut tidak sama dengan kebijaksanaan moral.

Keputusan untuk mengakhiri kehidupan manusia tidak seharusnya diserahkan sepenuhnya kepada sistem otomatis.

Karena itu, seruan untuk membatasi bahkan menghentikan pengembangan senjata otonom sepenuhnya menjadi persoalan kemanusiaan yang mendesak. Gereja memiliki peran moral untuk mengingatkan dunia bahwa perkembangan teknologi militer harus tetap berada dalam batas-batas etika dan penghormatan terhadap kehidupan.

Gereja di Persimpangan Kemajuan dan Kemanusiaan

Jika diperhatikan, terdapat kesinambungan pemikiran antara Rerum Novarum dan Magnifica Humanitas. Keduanya lahir dari konteks sejarah yang berbeda, tetapi memiliki perhatian yang sama: melindungi martabat manusia di tengah perubahan zaman.

Pada 1891, Gereja memberikan perhatian terhadap kaum buruh yang menghadapi ketidakadilan dalam sistem industri. Pada 2026, perhatian tersebut meluas kepada manusia yang menghadapi tantangan eksploitasi data, manipulasi algoritma, otomatisasi pekerjaan, dan ancaman teknologi terhadap kehidupan.

Perubahan bentuk persoalan tidak mengubah prinsip dasarnya. Manusia harus tetap menjadi pusat dari setiap pembangunan.

Hal ini juga memperlihatkan bahwa Gereja bukanlah institusi yang harus selalu berhadapan secara berlawanan dengan kemajuan teknologi. Gereja tidak sedang mengajak manusia untuk meninggalkan perangkat digital, menolak kecerdasan buatan, atau menghentikan inovasi.

Sebaliknya, teknologi perlu ditempatkan sebagai sarana untuk memperjuangkan kesejahteraan bersama.

Namun, kemajuan yang sesungguhnya tidak dapat diukur hanya melalui kemampuan mesin memproses data, kecepatan komunikasi, atau besarnya keuntungan perusahaan. Kemajuan juga harus dilihat dari sejauh mana teknologi membantu manusia hidup lebih bermartabat, lebih adil, dan lebih manusiawi.

Teknologi harus melayani manusia, bukan menguasainya.

Menjadi Garam dan Terang di Ruang Digital

Pada akhirnya, pembicaraan mengenai kecerdasan buatan bukan hanya persoalan perusahaan teknologi, pemerintah, atau para pengembang perangkat lunak. Ini juga merupakan persoalan moral setiap individu.

Kita semua memiliki tanggung jawab dalam membentuk wajah peradaban digital.

Sebagai orang beriman, kita dipanggil untuk menjadi garam dan terang, termasuk dalam ruang digital. Kehadiran kita di media sosial seharusnya mencerminkan nilai kasih, kejujuran, penghormatan terhadap perbedaan, dan keberpihakan kepada mereka yang lemah.

Kita perlu bertanya kepada diri sendiri: apakah teknologi yang kita gunakan telah membantu kita membangun persaudaraan, atau justru membuat kita semakin mudah menyebarkan kebencian dan polarisasi?

Apakah kita menggunakan kecerdasan dan kreativitas untuk melindungi mereka yang rentan, atau justru ikut memperkuat ketimpangan melalui perilaku digital yang tidak bertanggung jawab?

Pertanyaan-pertanyaan tersebut mengajak kita untuk tidak menjadi pengguna teknologi yang pasif. Kita perlu memiliki kesadaran kritis dalam menerima informasi, menggunakan data, membangun komunikasi, dan mengambil keputusan.

Kecerdasan buatan mungkin dapat membantu manusia menghasilkan banyak hal, tetapi tanggung jawab moral tetap berada pada manusia.

Memanusiakan Teknologi

Magnifica Humanitas dapat dibaca sebagai sebuah undangan untuk menata kembali hubungan manusia dengan teknologi. Kemajuan digital tidak seharusnya menjadikan manusia sekadar angka, data, atau objek yang dapat diprediksi dan dimanfaatkan demi keuntungan ekonomi.

Manusia memiliki sesuatu yang tidak dapat direduksi menjadi barisan kode: martabat, kebebasan, nurani, kasih, dan kemampuan membangun relasi yang bermakna.

Di tengah dunia yang semakin dikuasai oleh kecepatan dan efisiensi, kita justru perlu kembali mengingat hal-hal mendasar yang membuat manusia sungguh-sungguh menjadi manusia.

Pada akhirnya, pertanyaan paling penting bukan sekadar apa yang dapat dilakukan kecerdasan buatan bagi kehidupan kita, melainkan bagaimana kita menggunakan kecerdasan, kreativitas, dan talenta yang dianugerahkan Tuhan untuk menjadikan teknologi sebagai sarana pelayanan terhadap sesama.

Sebab, kemajuan yang kehilangan kemanusiaan bukanlah kemajuan yang utuh.

Teknologi seharusnya menjadi jembatan yang mempererat persaudaraan, bukan tembok yang memisahkan manusia. Ia harus membantu membangun kesejahteraan bersama, bukan menciptakan bentuk ketidakadilan baru.

Di sinilah pesan kemanusiaan menjadi semakin penting: jangan sampai manusia yang menciptakan teknologi justru kehilangan kemanusiaannya karena teknologi tersebut.

Sebab, teknologi yang paling agung bukanlah teknologi yang mampu menguasai manusia, melainkan teknologi yang mampu membantu manusia menjadi semakin manusiawi.

Semoga!

Penulis adalah praktisi komunikasi visual dan pegiat literasi, tinggal di Bantul, Yogyakarta. Catatan: Esai ini ditujukan sebagai pengantar diskusi mengenai etika teknologi dalam perspektif sosial-keagamaan kontemporer.

Komentar

Terhubung ke Media Sosial Kami

45,030FansSuka
0PengikutMengikuti
75PengikutMengikuti
0PelangganBerlangganan

Terkini