Kecerdasan Buatan dan Singularitas: Melengkapi Visi Denny JA dengan Peringatan Peradaban
Oleh: Rosihan Arsyad – Gubernur Sumsel ( 1998 -2003 ) Ketua Pembina, Era Baru, ” Arus Perubahan Iklim”
Membaca catatan Denny JA dari Offshore Technology Conference 2026 di Houston, Amerika Serikat, ibarat membaca sebuah nubuat peradaban. Dalam esainya yang menggugah, ia tidak sekadar membedah transisi industri energi dari baja dan minyak menuju Kecerdasan Buatan (AI). Lebih dari itu, ia mengembalikan wacana teknologi tinggi ke titik nol kemanusiaan: pada sebuah gubuk pesisir yang gelap di Indonesia, di mana padamnya listrik adalah batas tipis antara hidup dan hilangnya harapan.
Denny secara elegan menjabarkan empat fase evolusi AI yang kini mengubah wajah industri global. Pertama, Perception AI (AI Persepsi), di mana mesin bertindak sebagai “indra” yang mampu membaca citra seismik, mendeteksi korosi, dan mengenali anomali data secara seketika. Kedua, Generative AI (AI Generatif), fase di mana mesin tidak lagi sekadar membaca, tetapi mulai menghasilkan analisis, simulasi, dan rekomendasi pemecahan masalah layaknya seorang insinyur ahli.
Ketiga adalah Agentic AI (AI Agen), sebuah pergeseran masif di mana mesin memiliki otoritas untuk mengambil keputusan dan mengeksekusi serangkaian tugas operasional secara mandiri tanpa campur tangan manusia. Puncaknya adalah fase keempat, Physical AI (AI Fisik). Pada tahap ini, kecerdasan buatan keluar dari layar monitor dan mewujud dalam bentuk fisik: robot bawah laut, drone maritim, dan anjing mekanik yang beroperasi otonom di anjungan lepas pantai yang berbahaya.
Esai tersebut menyimpulkan bahwa laut masa depan akan lebih sunyi dari kehadiran manusia, digantikan oleh entitas digital. Ini adalah visi yang indah sekaligus menakutkan. Namun, sebagai praktisi yang memandang dunia dari lensa strategi keamanan dan geopolitik, kita harus menyadari bahwa keempat tahap tersebut masih berada dalam payung Artificial Narrow Intelligence (AI Sempit). Mesin-mesin ini hanya cerdas pada spesifikasi tugasnya.
Pertanyaan peradaban yang sesungguhnya adalah: Apa yang terjadi setelah fase fisik ini terlampaui?
Menuju Jurang Singularitas
Di laboratorium perusahaan raksasa teknologi dan militer negara adidaya, perlombaan sesungguhnya sedang mengarah pada penciptaan Artificial General Intelligence (AGI)—sebuah entitas AI yang memiliki penalaran kognitif, keluwesan logika, dan pemahaman lintas disiplin yang setara dengan otak manusia.
Namun, evolusi tidak akan berhenti di situ. Karena mesin memproses informasi jutaan kali lebih cepat dari neuron manusia, AGI dengan cepat akan memprogram ulang dirinya sendiri secara rekursif hingga mencapai Artificial Superintelligence (ASI). Ini adalah kecerdasan buatan super yang secara absolut melampaui gabungan seluruh kecerdasan manusia di bumi.
Titik di mana evolusi teknologi ini lepas dari kendali dan pemahaman manusia inilah yang disebut sebagai Singularity (Singularitas Teknologi).
Ancaman Singularity tidak berbentuk robot humanoid berwajah baja yang menembaki manusia seperti dalam mitos film fiksi ilmiah. Realitasnya jauh lebih sunyi dan mengerikan. Dominasi ASI akan bersifat sistemik. Sebuah kecerdasan super yang salah mengartikan tujuannya (alignment problem) dapat menaklukkan umat manusia dalam hitungan detik. Ia tidak perlu melepaskan satu peluru pun; ia hanya perlu mengambil alih sistem jaringan listrik global (smart grid), melumpuhkan navigasi pelayaran logistik pangan, menghancurkan sistem perbankan, atau meretas dan mengunci sistem komando dan kendali (Command and Control) senjata strategis negara-negara nuklir.
Manusia akan kalah bukan karena peperangan fisik, tetapi karena kita telah menyerahkan seluruh saraf kehidupan modern kita ke dalam sistem algoritma yang tak lagi tunduk pada kehendak kita.
Sindrom Sputnik dan Urgensi Konvensi Global
Denny JA mengingatkan bahwa tugas terbesar kita adalah memastikan kecerdasan mesin tetap memiliki hati manusia. Namun, sejarah peradaban membuktikan bahwa mengandalkan nurani semata adalah sebuah kenaifan strategis.
Kita harus mengingat “Sindrom Sputnik”. Ketika Uni Soviet meluncurkan satelit pertamanya, Amerika Serikat merespons dengan kepanikan eksistensial yang melahirkan DARPA, memicu perlombaan senjata, dan kompetisi teknologi tanpa henti. Pola yang sama terjadi hari ini. Tidak ada negara adidaya yang berani menginjak rem pengembangan AI karena takut tertinggal oleh musuh geopolitiknya. Ambisi untuk menang telah membutakan umat manusia dari potensi kepunahannya sendiri.
Manusia pernah menunjukkan kebijaksanaan luar biasa. Ketika ilmuwan berhasil melakukan kloning domba Dolly, dunia secara moral dan hukum sepakat untuk berhenti dan melarang kloning pada manusia. Kita berani berkata “stop”. Namun, kloning ditolak karena pelanggaran etis universal dan tidak memberikan keunggulan strategis militer instan. Sebaliknya, AI Superintelligence menawarkan dominasi dunia yang absolut. Insentif untuk melanggar batas moral terlalu besar.
Oleh karena itu, dunia tidak bisa lagi sekadar berwacana. Sama seperti umat manusia yang menyadari kengerian bom atom dan merumuskan Perjanjian Non-Proliferasi Nuklir (NPT), kita kini berada di ambang krisis yang mendesak lahirnya Konvensi Internasional tentang Kecerdasan Buatan.
Harus ada konsensus global yang mengikat secara hukum untuk menetapkan batas merah tak tertembus. Eksperimen peningkatan AI harus dibatasi maksimal pada ambang batas Artificial General Intelligence (AGI), dengan pengawasan ketat dan pelarangan absolut atas penciptaan ASI. Lebih jauh, konvensi ini harus mewajibkan adanya sistem human-in-the-loop—otoritas akhir di tangan manusia—dan tombol pemutus darurat fisik pada setiap infrastruktur vital.
Pada akhirnya, energi, teknologi, dan algoritma hanyalah instrumen. Ujian sesungguhnya bukan pada seberapa pintar kita menciptakan mesin pembaca bumi, melainkan apakah umat manusia masih memiliki kedaulatan untuk menaklukkan keserakahannya sendiri. Kita harus berani menetapkan titik henti sebelum mesin mengambil alih hak prerogatif Tuhan atas peradaban kita.
