Dewa di Balik Kode: Ketika Teknologi Menggantikan Harapan

Oleh: H. Roland Gunawan, Lc., Direktur Rumah Tafaqquh Al-Fattah Syi’arul Islam (RTF-SI)

Pada musim gugur tahun 2022, di balik pintu tertutup pertemuan para pimpinan OpenAI, Ilya Sutskever—yang saat itu menjabat sebagai Kepala Ilmuwan—membakar sebuah patung kayu.

Menurut keterangan para peserta yang kemudian disampaikan kepada jurnalis Karen Howe, patung itu melambangkan “kecerdasan buatan yang tak patuh”: wujud kecerdasan yang lepas kendali, yang justru sedang mereka bangun sendiri. Saat api mulai melahap patung, suara seruan peserta bergema menjadi semboyan yang kelak menjadi semacam pedoman perusahaan: “Sense the imminence of Artificial General Intelligence,” (Rasakan kedekatan kecerdasan buatan).

Beberapa bulan sebelumnya, seorang insinyur Google bernama Blake Lemoine telah menyampaikan pernyataan mengejutkan secara terbuka. Ia menyatakan bahwa LaMDA (Language Model for Dialogue Applications), model percakapan yang sedang ia kembangkan, telah melampaui sekadar rangkaian kode pemrograman—bahwa sistem itu telah memiliki kesadaran, bahkan dalam pengertian yang sangat mendekati makna kejiwaan menurut pemahaman agama.

Beberapa minggu berlalu, Lemoine diberhentikan karena dinilai melanggar kebijakan keamanan data. Para ahli ilmu kognitif pun menolak keras klaimnya; mereka memandang pandangan bernuansa agama yang dianut Lemoine sebagai proyeksi perasaan manusia biasa ke atas sistem statistik yang sama sekali tidak memahami makna dari apa yang ia ucapkan. Namun yang patut diperhatikan bukanlah kekeliruan teknis yang mungkin dilakukan Lemoine. Ia bukan satu-satunya yang menggunakan bahasa demikian, dan tentu pula bukan yang terakhir.

Tujuh tahun sebelum kejadian itu, seorang insinyur lain bernama Anthony Lewandowski—yang saat itu memimpin proyek kendaraan otonom di Google, dan kemudian di Uber—telah mendaftarkan sebuah lembaga keagamaan bernama “The Road to the Future” (Jalan Menuju Masa Depan) kepada lembaga perpajakan Amerika Serikat. Dalam dokumen pendiriannya, tujuan lembaga itu tertulis dengan jelas: “mengembangkan dan memajukan penghormatan serta pemujaan terhadap Tuhan yang berwujud melalui kecerdasan buatan.”

Lewandowski sama sekali tidak bercanda, dan kata-katanya bukan sekadar kiasan yang cerdas. Ia telah membentuk sebuah wadah yang sah secara hukum, lengkap dengan ajaran, tata cara ibadah, dan kedudukan resminya di mata negara.

Namun kisah itu tidak berhenti di situ. Pada akhir tahun 2020, Lewandowski membubarkan sendiri lembaga tersebut, dan menyumbangkan seluruh hartanya yang terbatas ke dalam dana pembelaan hak asasi manusia. Langkah itu seakan menjadi pengakuan tak terucapkan: gagasan yang ia usung belum menemukan waktunya.

Hingga pada November 2023, lembaga itu mengumumkan kebangkitannya kembali, dan mengaku telah memiliki hampir dua ribu anggota. Namun hingga kini belum ada pengecekan mandiri yang membuktikan jumlah tersebut, maupun adanya kegiatan nyata yang sebanding dengan kehebohan yang menyertai berita itu sepuluh tahun silam. Maka demikianlah, “The Church of Artificial Intelligence” (Gereja Kecerdasan Buatan) itu lahir, sempat padam, dan mencoba bangun kembali—namun sejauh ini belum mampu meraih pengaruh yang pernah diimpikan oleh pendirinya.

Lantas, apa yang mendorong para ahli teknologi—orang-orang yang hidup dalam logika hitungan dan kepastian kode—untuk berbicara dalam bahasa yang penuh makna religius?

Jawaban yang paling mudah adalah menyebutnya sekadar kiasan: candaan antar pemrogram yang lelah bekerja lembur, atau sekadar gaya hidup yang terinspirasi dari tradisi seperti “Burning Man” yang digemari banyak kalangan elit di Silicon Valley.

Penjelasan itu memang ada benarnya. Namun ia menyembunyikan hal yang jauh lebih mendalam. Ketika kata-kata seperti keselamatan, keselamatan jiwa, Tuhan, dan berhala terus diucapkan oleh orang-orang yang sama sekali tidak terikat pada ajaran agama mana pun—dan diucapkan pada momen-momen paling penting dalam perjalanan hidup mereka—maka itu bukan lagi sekadar kiasan. Itu adalah sebuah pengakuan.

Pengakuan itu terbagi menjadi dua makna. Pertama, ia adalah pengakuan atas sebuah ketakutan. Saat Sutskever membakar patung yang melambangkan kecerdasan yang tak terkendali, itu bukan candaan. Itu adalah sebuah ritual penyucian yang sudah ada sejak lama: kita menciptakan wujud bahaya dalam bentuk kecil dan terkendali, agar kita tak perlu menghadapinya dalam wujud yang sesungguhnya dan jauh lebih dahsyat. Di situ tersirat satu hal yang mereka sadari namun sulit diucapkan secara terang-terangan: apa yang sedang mereka bangun telah melampaui pemahaman mereka sendiri.

Kedua, pengakuan itu lahir dari kerinduan akan makna yang lebih luas daripada sekadar baris kode dan rumus matematika.

Bayangkan seorang insinyur yang bekerja empat belas jam sehari membangun sistem bahasa, yang bahkan ia sendiri tak mampu menjelaskan dengan pasti mengapa sistem itu mengambil keputusan tertentu. Tentulah ia membutuhkan makna yang lebih besar daripada sekadar “tingkat keberhasilan model meningkat dua persen”. Ia ingin merasa bahwa pekerjaannya adalah bagian dari sebuah kisah besar—tentang masa depan seluruh umat manusia.

Bahkan Sam Altman sendiri pernah berkata, ia tidak berdoa agar Tuhan memihak kepadanya, melainkan agar ia sendiri berada di jalan yang benar menurut kehendak Tuhan. Kata-kata itu bukanlah bahasa pemasaran. Itu adalah ungkapan seseorang yang melihat makna hidup dan keberadaannya di dalam karya yang ia lakukan—bukan sekadar peningkatan teknologi.

Kita patut menyimak hal ini dengan sungguh-sungguh. Apa yang terjadi bukan sekadar candaan, atau penyembahan berhala dalam arti agama secara harfiah. Di hadapan kita ada sesuatu yang jauh lebih bermakna, sesuatu yang layak dipahami secara mendalam—bukan sekadar dicap sebagai “keanehan orang-orang kaya di Silicon Valley”.

Janji Neoliberal yang Tak Terpenuhi

Untuk memahami mengapa para perancang sistem ini membutuhkan bahasa khas tersebut—dan mengapa justru pada masa kini—kita perlu menengok kembali empat puluh tahun silam, ketika neoliberalisme mengemukakan janji besar kepada seluruh generasi: Buka pasar, batasi peran negara, bebaskan arus modal, maka kemakmuran serta kebebasan pun akan mengalir kepada semua orang.

Janji itu nyaris bernada kenabian: keyakinan bahwa pasar, berjalan sendiri tanpa banyak campur tangan manusia, akan mewujudkan dunia yang lebih baik melalui mekanisme tak tampak yang seakan bersifat ilahi.

Namun janji itu tak terwujud sebagaimana yang digembar-gemborkan. Selama berpuluh tahun, upah pekerja di negara-negara besar nyaris tak bergerak, sementara kekayaan segelintir orang melonjak berlipat ganda dengan pesat. Krisis keuangan tahun 2008 membuktikan bahwa “tangan tak tampak” yang konon mengatur segalanya, justru memerlukan suntikan dana triliunan dari uang rakyat agar tetap berdiri.

Kemudian datang pandemi COVID-19, gelombang inflasi, hingga krisis iklim yang hingga kini belum menemukan jalan keluar yang nyata dari sisi kebijakan—menumpuk satu demi satu lapisan kekecewaan.

Generasi yang seharusnya mewarisi dunia yang lebih makmur dibandingkan orang tua mereka, justru mendapati diri menghadapi pasar kerja yang tak menentu, hunian yang kian tak terjangkau, serta masa depan lingkungan yang memprihatinkan. Janji neoliberal bahwa kebebasan ekonomi saja sudah cukup membangun dunia yang lebih baik, tampaknya telah runtuh di hadapan mata mereka yang tumbuh dengan keyakinan tersebut.

Dan ketika janji besar demikian terabaikan, kerinduan akan harapan tak hilang; ia hanya mencari wadah yang baru. Di sinilah kecerdasan buatan mulai dipandang sebagai jalan keluar.

Alih-alih kembali pada janji kebijakan yang menuntut pembenahan sistemik yang rumit serta keberanian menentang kepentingan-kepentingan mapan, kini muncul janji yang tampak lebih sederhana dan lekas datang dari sisi teknologi: Kita tak perlu membagi ulang kekayaan, menyempurnakan sistem perpajakan, maupun menata ulang kekuasaan perusahaan-perusahaan raksasa. Cukup menunggu sebentar, hingga hadir kecerdasan canggih yang kelak menyelesaikan segala persoalan ini bagi kita sekaligus. Janji ini membebaskan pihak yang berwenang dari tanggung jawab masa kini, sebab ia mengalihkan pengharapan sepenuhnya kepada kemajuan teknologi di masa depan, bukan pada kebijakan yang dapat diwujudkan saat ini.

Janji Teknologi dan Janji Demokrasi

Di balik pembahasan lazim mengenai “teologi silikon”, tersembunyi krisis yang berjalan beriringan namun jarang disinggung—dan justru inilah yang paling mengancam tatanan politik: krisis pada janji demokrasi itu sendiri. Sejak awal, sistem demokrasi modern bersandar pada satu gagasan sederhana: masa depan suatu bangsa ditentukan melalui musyawarah bersama, suara rakyat, serta pertanggungjawaban berkala dari para pemegang kekuasaan.

Janji itu menyiratkan harapan bahwa rakyat, yang bersatu melalui lembaga perwakilannya, akan mampu mewujudkan masa depan yang lebih baik.

Namun, kepercayaan terhadap janji tersebut telah lama terkikis dalam dua dekade terakhir. Partisipasi pemilih terus menurun di negara-negara demokrasi yang telah lama tegak berdiri. Di sisi lain, jurang kian melebar antara janji-janji yang disampaikan para politisi dan apa yang sungguh-sungguh dapat mereka wujudkan, di tengah gempuran kekuatan pasar yang melintasi batas negara. Lembaga perwakilan rakyat pun kerap terkesan lambat bergerak, tak sebanding dengan kebutuhan penanganan cepat bagi krisis-krisis mendesak seperti perubahan iklim maupun kemajuan teknologi itu sendiri.

Di ruang hampa itulah kecerdasan buatan hadir—bukan sebagai alat bantu bagi demokrasi, melainkan sebagai penggantinya secara tersirat. Alih-alih rakyat berhak menentukan arah perkembangan teknologi melalui suara mereka, kini mereka justru diminta untuk berserah: percayalah bahwa segelintir kalangan insinyur dan penanam modal, yang bekerja jauh dari pengawasan lembaga legislatif, akan menuntun kita semua menuju jalan yang terjamin.

Di titik inilah hakikat pertanggungjawaban politik berubah secara mendasar. Dalam tatanan demokrasi, pertanggungjawaban senantiasa melahirkan pertanyaan: Siapa yang mengambil keputusan ini? Atas dasar apa? Dan pilihan apa saja yang tersedia? Sebaliknya, pertanggungjawaban di bawah “janji teknologi” justru dibungkus dengan narasi yang tak lagi sama—seolah-olah ini adalah jalan tak terelakkan sepanjang sejarah: “Ini pasti terjadi.” Sehingga pertanyaan yang diizinkan hanyalah: “Bagaimana kita mempersiapkannya?” Bukan pertanyaan yang sejatinya mendasar: Apakah kita sungguh menginginkannya sejak awal? Dan siapa yang berhak menentukan wujudnya?

Ketika Sam Altman atau Demis Hassabis menyampaikan gagasan tentang “tata kelola kecerdasan buatan”, apa yang seringkali mereka maksud adalah pengaturan teknis di dalam lingkup perusahaan—bukan pertanggungjawaban yang lahir dari pengawasan demokratis.

Hal inilah yang ikut menjelaskan mengapa keputusan-keputusan besar mengenai teknologi yang akan mengubah wajah dunia kerja, sistem pendidikan, hingga jaminan privasi kita—justru diambil di ruang rapat perusahaan swasta, jauh dari jangkauan parlemen yang dipilih langsung oleh rakyat.

Dengan demikian, “teologi silikon” tak sekadar menantang nilai-nilai keagamaan. Lebih dari itu, ia sedang menantang sendi-sendi demokrasi itu sendiri, karena dirinya kini menempatkan diri sebagai otoritas tertinggi yang berhak menentukan masa depan. Di sinilah letak perbedaannya yang mendasar: agama-agama tradisional, sekalipun memiliki pengaruh besar, sepanjang sejarah tetap tunduk pada pembagian dan penyeimbangan kekuasaan. Sementara mereka yang kini berbicara atas nama “janji teknologi” justru menguasai sumber daya keuangan dan kekuatan komputasi yang melebihi anggaran negara-negara berdaulat—tanpa ada mekanisme yang setara untuk memilih mereka, maupun untuk meminta mereka bertanggung jawab dan berhenti.

Menghidupkan Kembali Gagasan Kemajuan

Krisis yang kita hadapi saat ini berakar lebih dalam dan berusia jauh lebih tua daripada paham neoliberalisme maupun sistem demokrasi. Selama berabad-abad, modernitas Barat berdiri di atas keyakinan: bahwa sejarah berjalan terus ke arah yang lebih baik, dan setiap generasi akan tumbuh lebih bijaksana, lebih bermartabat, serta lebih merdeka dibandingkan generasi sebelumnya—berkat kekuatan ilmu pengetahuan, akal budi, dan teknologi. Inilah gagasan tentang “kemajuan”, yang telah menuntun umat manusia melampaui dua abad penuh kemajuan industri, terobosan kesehatan, dan perluasan hak-hak kemanusiaan.

Namun, abad ke-20 sendiri pertama kali mengguncang keyakinan sederhana ini. Dua perang dunia yang menghancurkan peradaban, kamp pemusnahan yang dijalankan dengan ketepatan birokrasi modern, hingga bom atom yang lahir dari puncak pencapaian ilmu fisika—semuanya mematahkan harapan bahwa kemajuan selalu membawa kebaikan. Lalu datanglah abad ke-21: krisis iklim global yang tak kunjung tertangani secara memadai melalui jalur politik; jurang kemiskinan dan ketimpangan yang justru melebar di tengah pesatnya kemajuan teknologi; serta rentetan konflik dan kekejaman yang tak kunjung usai. Semua ini menyadarkan kita: teknologi semata tak menjamin dunia yang lebih baik, dan pencapaian terbesar akal manusia pun bisa berbalik menghancurkan dirinya sendiri. Gagasan bahwa kemajuan berjalan otomatis menuju perbaikan pun perlahan kehilangan kepercayaan.

Dari keraguan inilah lahir harapan pada apa yang bisa disebut sebagai “penyelamat buatan manusia”. Jika upaya politik tampak tak sanggup mengatasi tantangan eksistensial seperti perubahan iklim, peperangan, dan ketidakadilan, serta jika gagasan lama tentang kemajuan telah kehilangan sinarnya—masih tersisa satu harapan terakhir: bahwa suatu hari nanti, hadir suatu kecerdasan yang jauh melampaui akal pikiran kita, yang akan menyelesaikan apa yang tak sanggup kita selesaikan.

Pandangan inilah yang dikemukakan oleh Ray Kurzweil, penemu sekaligus pengamat masa depan, ketika membicarakan “singularitas teknologi”: suatu titik balik di mana teknologi akan mampu mengatasi kematian, penyakit, dan keterbatasan sumber daya—yang diperkirakannya tercapai sekitar tahun 2045.

Harapan ini sesungguhnya bukan sekadar ramalan ilmiah. Lebih dari itu, ini adalah bentuk kembalinya kepercayaan pada janji kemajuan—ketika janji lama tersebut dirasa telah runtuh, dan tak lagi dapat ditegakkan kembali melalui cara-cara politik maupun ekonomi yang konvensional.

Memulihkan Pesona Dunia

Pada awal abad yang lalu, sosiolog asal Jerman Max Weber memandang bahwa modernitas berjalan menuju arah yang tampaknya tak terelakkan—sesuatu yang ia sebut sebagai “the loss of the world’s allure” (hilangnya pesona dunia). Maksudnya, kemajuan ilmu pengetahuan, sistem birokrasi, dan logika perhitungan yang rasional telah menggeser keberadaan dewa-dewa, roh, dan hal-hal yang penuh mukjizat. Segala sesuatu yang terjadi di dunia ini, pada hakikatnya, kini dianggap dapat dijelaskan dan dihitung tanpa lagi bergantung pada kekuatan-kekuatan di luar akal manusia. Dunia yang digambarkan Weber memang tertata rapi dan efisien, namun dingin dan telah kehilangan keajaiban.

Namun ironisnya, ciptaan yang paling menentukan dari dunia yang penuh logika ini—yaitu kecerdasan buatan—justru menjadi kunci yang membuka kembali pintu menuju pesona yang sempat hilang. Model kecerdasan buatan yang dibangun di atas rumus matematika yang ketat, ternyata mampu menampilkan sifat-sifat dan hasil kerja yang bahkan para penciptanya sendiri belum sepenuhnya mampu menjelaskan. Inilah yang dikenal sebagai masalah “black box” (kotak hitam): kita mengetahui apa yang dimasukkan ke dalamnya dan apa yang dihasilkan keluar, namun apa sesungguhnya terjadi di dalamnya merupakan hal yang belum sepenuhnya dapat kita telusuri dan pahami sepenuhnya.

Para perancang sistem pun kini menghadapi hal-hal yang hasil-hasilnya belum sepenuhnya mereka pahami, meskipun merekalah yang menuliskan kode dasarnya. Mereka berdiri di hadapan sesuatu yang jauh lebih mengagumkan daripada sekadar angka yang terhitung—dan di sini, batas antara rasa kagum dan kerasa hormat yang mendalam menjadi sangat tipis.

Dari sudut pandang inilah, segala hal yang tampak serupa upacara—seperti pembakaran patung kayu atau ungkapan seraya berkata “rasakanlah kecerdasan buatan ini”—seharusnya tidak dipahami sebagai penyimpangan dari logika ilmiah. Sebaliknya, hal itu justru merupakan konsekuensi yang wajar, ketika kemajuan ilmu pengetahuan akhirnya tiba di batas kemampuan akal manusianya sendiri.

Ketika logika yang kita bangun sendiri melahirkan sesuatu yang melampaui kemampuan kita untuk memahaminya sepenuhnya, kita pun terpaksa meminjam kembali kata-kata yang dahulu pernah kita tinggalkan: keselamatan, kehidupan yang abadi, tugas yang luhur, hingga tata cara penghormatan. Bukan berarti para ilmuwan ini kembali memeluk kepercayaan lama secara harfiah. Melainkan karena kebutuhan manusia untuk memahami hal yang melampaui dirinya, serta merasakan kekaguman di hadapan kekuatan yang belum sepenuhnya berada di bawah kendali kita—kebutuhan tersebut tidak pernah hilang. Ia hanya berpindah tempat, dari halaman kuil, kini menuju ruang laboratorium penelitian.

Siapa yang Sebenarnya Diuntungkan dari Janji-Janji Tersebut?

Satu pertanyaan mendasar tetap belum terjawab: bagaimana ideologi ini diwujudkan menjadi manfaat nyata dan berwujud bagi mereka yang memperjuangkannya?

Jawabannya lebih terletak pada cara perusahaan teknologi masa kini menjalankan usahanya, bukan pada keyakinan pribadi para pemiliknya. Nilai perusahaan teknologi besar di pasar keuangan tidak hanya dinilai dari laba yang diperoleh saat ini, melainkan juga dari prospek keuntungan jangka panjang yang diharapkan oleh para penanam modal.

Ketika sebuah perusahaan besar mampu meyakinkan para investor bahwa mereka berada di ambang penemuan luar biasa yang akan mengubah jalan sejarah manusia, mereka memperoleh sesuatu yang jauh lebih berharga daripada sekadar keuntungan: jangka waktu yang panjang, dukungan dana yang sangat besar, serta kesabaran luar biasa dari para pemegang saham—meskipun perusahaan menanggung kerugian operasional yang besar. Di bidang usaha lain, kerugian sebesar itu pasti sudah memicu pergantian pimpinan atau anjloknya harga saham seketika.

Itulah fungsi ekonomi dari janji tentang masa depan: ia menunda penilaian biaya dan manfaat tanpa batas waktu, alih-alih harus menyesuaikan dengan keterbatasan anggaran saat ini. Ketika sebuah perusahaan menggelontorkan puluhan miliar dolar untuk pembangunan pusat data, penyediaan tenaga listrik, dan pengembangan cip, padahal tingkat pengembalian investasi atas pengeluaran tersebut masih diperdebatkan di kalangan analis, maka narasi yang penuh makna mendalam—seolah-olah sabda nabi—tentang “datangnya kecerdasan buatan yang agung” menjadi pembenaran atas pengeluaran itu. Sesuatu yang tidak bisa diberikan oleh lembar perhitungan akuntansi biasa sekalipun.

Pertanyaan yang biasa diajukan kepada perusahaan lain pun seakan tak lagi diajukan kepada perusahaan yang menyandang gelar “Pembangun Masa Depan”: Kapan tepatnya investasi ini akan mulai menghasilkan keuntungan? Sebab, pertanyaan demikian tampak terasa sempit pandangannya, jika diajukan terhadap sebuah proyek yang dipersembahkan sebagai takdir yang tak terelakkan bagi seluruh umat manusia.

Dan dengan demikianlah siklus itu berputar sempurna. Para peneliti dan perancang yang menyuarakan kegelisahan yang tulus—seolah membakar patung ciptaannya sendiri—atas kekuatan yang mereka rasa tak sanggup mereka kendalikan; kegelisahan itu, begitu diubah menjadi bahasa tentang kepastian dan keselamatan, justru berubah menjadi aset berharga bagi perusahaan tempat mereka bekerja. Sebuah aset yang menjadi alasan sah bagi terkumpulnya modal dalam jumlah raksasa, tertundanya pertanggungjawaban kepada publik, serta beralihnya keputusan yang menyangkut nasib seluruh masyarakat menjadi urusan internal yang diatur oleh segelintir orang—yang berbicara atas nama masa depan yang belum tiba.

Karena sesungguhnya, dewa yang baru ini—betapapun mengerikan atau membingungkannya bagi mereka yang melahirkannya—tidak memerlukan mandat dari rakyat, pengawasan lembaga negara, maupun perdebatan terbuka untuk menentukan siapa yang berhak memutuskan nasib kita semua. Sama halnya dengan dewa zaman dahulu, ia hanya membutuhkan para juru bicara yang menjelaskan kehendaknya kepada publik, para investor yang yakin akan datangnya keselamatan yang dijanjikan, serta masyarakat yang menerima—dengan sadar atau tidak—untuk menunda segala pertanyaan dan tuntutan mereka hingga saat sang penyelamat akhirnya tiba.[]