Jakarta, 19 September 2026 – Perkembangan kecerdasan buatan atau artificial intelligence (AI) memunculkan pertanyaan mengenai kemungkinan teknologi tersebut menjadi ancaman serius bagi manusia. Kekhawatiran mengenai AI hingga menyebabkan kepunahan manusia masih bersifat hipotetis dan bukan sesuatu yang telah terbukti akan terjadi. Sistem AI saat ini juga tidak memiliki kehendak atau tujuan biologis seperti manusia. Risiko lebih banyak muncul dari bagaimana teknologi dirancang, diberi akses, digunakan dan diawasi. Semakin besar kemampuan serta otonomi suatu sistem, semakin penting mekanisme pengamanan yang diterapkan. Karena itu, pembahasan mengenai ancaman AI berfokus pada pencegahan skenario berbahaya sebelum teknologi menjadi semakin canggih.

Salah satu skenario yang sering dibahas adalah ketidakselarasan tujuan antara sistem AI dan kepentingan manusia. Sistem yang sangat canggih dapat menghasilkan tindakan tidak diinginkan apabila menerima tujuan yang dirumuskan secara buruk atau memiliki batasan yang tidak memadai. Persoalannya bukan karena AI secara otomatis membenci manusia, melainkan karena sistem dapat mengejar sasaran dengan cara yang tidak diperhitungkan pembuatnya. Risiko menjadi lebih besar apabila sistem memiliki akses luas terhadap infrastruktur penting atau mampu mengambil keputusan tanpa pengawasan manusia. Kesalahan dalam perancangan, pengujian maupun penerapan dapat memperbesar dampak kegagalan tersebut. Penelitian mengenai keselamatan AI karena itu berusaha memastikan teknologi tetap mengikuti tujuan dan batasan yang ditetapkan manusia.

Ancaman lain dapat muncul ketika AI disalahgunakan oleh manusia untuk melakukan tindakan berbahaya. Teknologi tersebut dapat membantu mempercepat penyebaran informasi palsu, manipulasi digital, penipuan maupun serangan terhadap sistem komputer apabila tidak dilengkapi perlindungan memadai. Dalam skala yang lebih besar, penyalahgunaan AI terhadap infrastruktur penting dapat menimbulkan gangguan ekonomi dan sosial. Karena itu, akses sistem AI terhadap fasilitas energi, transportasi, komunikasi dan layanan publik memerlukan pengamanan ketat serta otorisasi berlapis. Keputusan berisiko tinggi juga sebaiknya tidak sepenuhnya diserahkan kepada sistem otomatis. Pengawasan manusia menjadi lapisan perlindungan penting ketika konsekuensi kesalahan dapat berdampak luas.

Risiko juga dapat muncul dari ketergantungan masyarakat yang terlalu besar terhadap sistem otomatis. Apabila banyak sektor penting bergantung pada teknologi yang sama, kegagalan sistem dapat menghasilkan dampak berantai. Gangguan pada layanan keuangan, komunikasi atau distribusi kebutuhan pokok, misalnya, dapat memengaruhi masyarakat meskipun AI tidak memiliki tujuan untuk menciptakan kerusakan. Persaingan antarperusahaan maupun antarnegara untuk mengembangkan teknologi lebih cepat juga dapat meningkatkan risiko apabila standar keselamatan diabaikan. Tekanan untuk menjadi yang pertama dapat mengurangi waktu yang tersedia untuk pengujian dan evaluasi. Oleh sebab itu, tata kelola AI menjadi bagian penting selain pengembangan kemampuan teknologinya.

Meski berbagai skenario ekstrem sering dibahas, tidak ada kepastian bahwa AI akan berkembang menuju kondisi yang mampu memusnahkan manusia. Para peneliti memiliki pandangan berbeda mengenai tingkat kemungkinan dan besarnya risiko jangka panjang tersebut. Sebagian menilai risiko ekstrem perlu mendapat perhatian karena dampaknya akan sangat besar meskipun probabilitasnya sulit dihitung. Sementara itu, persoalan yang sudah nyata saat ini seperti bias algoritma, pelanggaran privasi, penipuan digital, keamanan siber dan dampak terhadap pekerjaan juga membutuhkan penanganan. Fokus keselamatan karena itu perlu mencakup ancaman jangka pendek sekaligus kemungkinan risiko yang muncul dari sistem AI yang jauh lebih canggih. Pendekatan tersebut memungkinkan perkembangan teknologi tetap berlangsung tanpa mengabaikan aspek keamanan.

Pencegahan dapat dilakukan melalui pengujian keamanan, pembatasan akses, pengawasan manusia, audit independen dan aturan yang disesuaikan dengan tingkat risiko suatu sistem. Pengembang juga perlu memastikan sistem tidak memperoleh kemampuan atau kewenangan yang lebih luas daripada kebutuhan penggunaannya. Mekanisme penghentian, pemantauan perilaku serta pembatasan terhadap penggunaan berisiko tinggi menjadi bagian penting dari desain keselamatan. Kerja sama internasional diperlukan karena perkembangan AI tidak terbatas pada satu perusahaan atau negara. Dengan pengawasan dan pengamanan yang memadai, teknologi AI dapat dikembangkan untuk memberikan manfaat tanpa membiarkan risiko berkembang tanpa kendali. Pertanyaan utama bukan sekadar apakah AI dapat menjadi ancaman bagi manusia, melainkan bagaimana manusia memastikan teknologi tersebut tetap berada dalam batas yang aman.