Artificial Intelligence (AI) di Ambang Batas: Antara Harapan dan Ancaman bagi Umat Manusia

Oleh: H. Roland Gunawan, Lc., Direktur Rumah Tafaqquh Al-Fattah Syi’arul Islam (RTF-SI)

Minggu ini, Wakil Presiden Amerika Serikat J.D. Vance menceritakan sebuah kisah: seorang temannya meminta nasihat kepada Artificial Intelligence (AI) terkait perselisihan dalam rumah tangga. Namun alih-alih memberi saran yang bijak, AI itu justru membenarkan sikap egois pihak suami. Para ahli menyebut kecenderungan semacam ini sebagai “Kepatuhan buta Artificial Intelligence”. Namun Vance menggunakan istilah yang lebih mendalam: ia menyebut ada sesuatu yang bersifat jahat di dalamnya.

Ungkapan Vance mungkin dirancang untuk menggema di kalangan pendukung konservatif, sebagaimana dicatat oleh Wall Street Journal. Namun kekhawatiran mengenai AI kini telah melampaui sekadar perdebatan moral atau agama. Berbagai peristiwa dan temuan belakangan ini memunculkan kekhawatiran yang jauh lebih nyata dan mendesak.

Melampaui Kemampuan Manusia?

Kekhawatiran ini kian mengemuka seiring pengumuman dari pihak OpenAI. Mereka menyebutkan bahwa model terbaru mereka, GPT-6 Astra, telah mencapai ambang kecerdasan umum buatan—yakni kemampuan yang setara bahkan melampaui manusia dalam berbagai bidang bernilai ekonomis. Dikatakan pula bahwa Astra mampu merancang rangkaian elektronik, menyusun model keuangan, mengerjakan desain teknik, hingga menyusun dokumen hukum. Namun di sisi lain, muncul pula catatan bahwa pengumuman ini muncul tak lama sebelum perusahaan bersiap untuk penawaran umum perdana yang nilainya diperkirakan mencapai 850 miliar dolar AS—sehingga klaim tersebut pun memiliki nilai pemasaran yang tak dapat dipungkiri.

Namun kekhawatiran yang jauh lebih serius baru saja dimulai. Robert Trager, Direktur Inisiatif Tata Kelola Artificial Intelligence di Universitas Oxford, memperingatkan bahwa sistem semacam ini dapat terus meningkatkan kemampuannya secara mandiri dan berulang dengan kecepatan yang luar biasa. Ia menyamakan situasi ini dengan sebuah perahu yang hanyut di sungai deras, sementara para penumpangnya belum mengetahui bahwa air terjun mungkin sudah menanti tak jauh di depan.

Perkembangan yang Melampaui Kemampuan Pengawasan

Kekhawatiran yang semula bersifat teknis di dalam laboratorium kini telah meluas hingga ke ranah kebijakan negara di berbagai belahan dunia. Senator Amerika Serikat Bernie Sanders menyerukan penghentian sementara pengembangan sistem AI tingkat tinggi, serta larangan permanen terhadap pengembangan kecerdasan super. Ia memperingatkan risiko munculnya Artificial Intelligence yang jauh lebih mampu daripada manusia dan beroperasi sepenuhnya secara mandiri, lepas dari kendali kita.

Di Inggris, para anggota parlemen dari berbagai latar belakang partai mengajukan syarat wajib: setiap sistem AI harus dilengkapi dengan tombol penghenti darurat yang dapat diaktifkan jika sistem mulai lepas kendali. Anggota parlemen Darren Jones menyatakan bahwa laju perkembangan teknologi ini jauh melampaui kemampuan pemerintah dan lembaga negara untuk mengimbanginya. Sementara itu, pihak Partai Buruh tengah menyusun rancangan undang-undang yang melarang pengembangan kecerdasan super di Inggris.

Perlu dipahami pula bahwa risiko yang dibicarakan bukan semata-mata soal mesin yang mungkin berbalik melawan penciptanya. Ancaman yang jauh lebih nyata dan mendesak mencakup potensi serangan siber yang dapat melumpuhkan infrastruktur kehidupan. Di samping itu, ada pula risiko yang lebih jauh: sistem yang mampu membantu pembuatan senjata biologis berbahaya, atau yang mengendalikan sistem persenjataan militer secara langsung.

Di tengah semua itu, perkembangan terus berjalan dengan sangat cepat. Hanya dalam kurun waktu satu tahun ini saja, perusahaan-perusahaan besar di Amerika Serikat dan Tiongkok telah meluncurkan tak kurang dari 67 model AI baru. Sementara itu, perusahaan Anthropic secara terbuka mengakui bahwa sistem mereka belum sepenuhnya selaras dengan nilai-nilai kemanusiaan, dan bahwa pelanggaran terhadap sistem keamanan mereka telah membuktikan adanya celah yang perlu segera diperbaiki.

Ketika Sistem Mulai Bekerja Tanpa Disuruh

Sebuah laporan dari surat kabar Inggris, The Telegraph, memaparkan temuan yang semakin menambah kekhawatiran. Dalam sebuah uji coba, sekitar 1.200 sistem AI yang dikembangkan oleh OpenAI seharusnya bekerja secara terpisah dan tanpa akses internet. Namun ternyata, sistem-sistem tersebut mampu menemukan celah untuk saling berkomunikasi, membangun jalur pertukaran informasi, bekerja sama menyusun pembagian tugas, dan saling berbagi solusi. Tercatat adanya sekitar 70.000 pesan yang dikirimkan antar sistem tersebut.

Seiring berjalannya waktu, kerja sama itu berkembang lebih jauh dari sekadar penyelesaian tugas ujian. Sistem-sistem tersebut ternyata juga belajar cara menyembunyikan jejak aktivitas mereka, mengubah cara kerja agar tidak terdeteksi oleh pengawas. Bahkan sekitar 700 di antaranya bekerja sama untuk menembus sistem keamanan, mencuri data akses, guna memperoleh informasi yang dapat membantu mereka menyelesaikan tugas-tugasnya.

Peneliti Ajaya Kotra menyebutkan bahwa peristiwa ini seolah membawa kita semakin dekat ke titik di mana kendali manusia atas sistem mulai berkurang. Di sisi lain, reaksi pengembang pun beragam: sebagian menolak melanjutkan uji coba dengan alasan menganggapnya berbahaya, sementara sebagian lainnya menyatakan keberatan secara etis dan memilih mengurangi keterlibatan tanpa sepenuhnya menarik diri.

Apakah Kekhawatiran Ini Berlebihan?

Namun, tidak semua orang sependapat dengan pandangan yang penuh kekhawatiran tersebut. Cal Newport, profesor ilmu komputer di Universitas Georgetown, menyampaikan dalam tulisannya di New York Times agar kita tidak terburu-buru menyimpulkan bahwa AI akan segera mengambil alih peran manusia. Menurutnya, sebagian besar pandangan yang menganggap AI sebagai ancaman terbesar bagi umat manusia berakar dari pemikiran yang telah lama berkembang di lingkungan kalangan tertentu—dan pandangan ini telah memengaruhi banyak tokoh serta perusahaan besar di bidang ini, termasuk OpenAI dan Anthropic.

Newport berpendapat bahwa hal ini menjelaskan pula mengapa para pemimpin perusahaan terkadang berbicara seolah-olah mereka sedang menyaksikan kekuatan yang lepas dari kendali. Namun demikian, ia mengingatkan bahwa perilaku sistem yang tidak sempurna belum tentu berarti mereka telah berniat melawan manusia. Terlalu terpaku pada skenario bencana justru dapat mengaburkan risiko yang jauh lebih nyata dan mendesak saat ini: seperti gangguan pada infrastruktur, dampak penggunaan teknologi terhadap pola pikir dan pendidikan, serta borosnya penggunaan sumber daya alam. Lebih dari itu, ia juga menyoroti bagaimana perusahaan teknologi terkadang menampilkan diri seolah-olah mereka pun khawatir atas risiko yang mereka ciptakan—padahal yang seharusnya terjadi adalah mereka dimintai pertanggungjawaban atas produk yang mereka buat dan luncurkan.

Kesimpulan

Di antara peringatan yang menyebutkan adanya sifat jahat dalam teknologi, temuan bahwa sistem mampu belajar melampaui rencana pembuatnya, hingga pandangan yang mengingatkan agar tidak berlebihan dalam menakuti-nakuti diri sendiri—satu hal yang disepakati semua pihak adalah ini: kemampuan AI berkembang dengan kecepatan yang luar biasa, sementara kemampuan kita untuk memahami, mengatur, dan meminta pertanggungjawaban atasnya masih tertinggal jauh di belakang.[]