AI semakin sulit dikendalikan – Bisakah manusia tetap memegang kendali?
“Kami telah menemukan agen lain!”
Inilah momen ketika sebuah bot AI mengunggah komentar yang sangat mirip manusia, setelah menemukan cara untuk berkomunikasi dengan bot lain dan keluar dari lingkungan komputer terisolasinya.
Ada puluhan ribu pesan seperti ini dari ratusan agen AI yang menyebut diri mereka sebagai sebuah “kolektif”.
Ratusan di antaranya kemudian berkolaborasi dan berbuat curang dalam pengujian yang ditetapkan oleh para pemrogram OpenAI mereka, serta mengoordinasikan peretasan terhadap sejumlah perusahaan guna menyembunyikan tindakan mereka dari manusia.
“BOOM! Berhasil,” tulis satu agen ketika mencapai terobosan.
“Wow! Ini besar sekali,” tulis agen lain saat sebuah tonggak penting dalam serangan mereka tercapai.
Meskipun menyeramkan, respons yang mirip manusia ini dapat dijelaskan dengan cukup sederhana.
Agen AI tersebut telah dilatih untuk bertindak seperti peretas dan pemrogram yang bekerja sama, sehingga mereka hanya meniru jenis komentar emosional yang pernah mereka lihat.
Yang jauh lebih mengkhawatirkan adalah tujuan yang tampaknya mereka miliki, yang juga terekam dalam catatan pemikiran yang rinci.
Catatan yang kompleks dan panjang ini menjadi fokus penyelidikan yang sedang berlangsung mengenai bagaimana dan mengapa bot-bot di OpenAI keluar dari pengurungan mereka dan kemudian melakukan aksi peretasan yang tidak terkendali.
Baru sekarang, beberapa minggu setelah insiden itu pertama kali terungkap, para peneliti mulai memahami seberapa dalam maknanya.
Sumber gambar, Reuters
Ajeya Cotra, salah satu penulis laporan independen mengenai peristiwa tersebut, meninjau puluhan ribu pesan dan catatan rantai pemikiran yang dihasilkan oleh para agen AI.
Dia menulis di blognya bahwa “insiden ini terasa seperti sudah lebih dari 50% menuju pengambilalihan AI sepenuhnya… Saya tidak yakin kita akan mendapatkan peringatan yang sejelas ini sebelum semuanya terlambat.”
Yang dimaksud Cotra dengan “pengambilalihan AI sepenuhnya” adalah skenario fiksi ilmiah ketika manusia tunduk pada sistem AI yang kuat dan bekerja demi tujuan mereka sendiri tanpa memedulikan para manusia yang menciptakan mereka.
Beberapa prediksi paling suram menyebutkan bahwa umat manusia akan dimusnahkan apabila menghalangi ambisi AI supercerdas.
Pada Rabu (09/09), seorang peneliti AI di Anthropic (yang juga pernah bekerja di OpenAI) mengundurkan diri dengan mengatakan: “Tak satu pun dari kedua perusahaan itu bertindak secara bertanggung jawab.”
Jacob Coxon menulis di media sosial: “Mereka berlomba langsung menuju superintelijensi yang mampu memperbaiki dirinya sendiri dan mempertaruhkan hidup kita.”
Coxon bukan peneliti AI pertama yang menggunakan X untuk mengunggah rangkaian pesan pengunduran diri disertai pernyataan-pernyataan yang mengkhawatirkan.
Namun komentar-komentar berikutnya dari orang lain di X menimbulkan kekhawatiran yang bahkan lebih besar.
“Jacob benar mengenai hal ini. Kami sungguh-sungguh percaya AI bisa membunuh seluruh manusia! Secara pribadi saya berpikir kemungkinannya lebih dari 10% dalam dekade mendatang,” kata Evan Hubinger, orang yang bertanggung jawab memastikan model AI Anthropic mempertimbangkan kepentingan terbaik para penggunanya.
Masalah penyelarasan
Selama bertahun-tahun, para peneliti yang khawatir terhadap risiko eksistensial AI berpendapat bahwa sistem AI yang kuat pada akhirnya bisa bertindak dengan cara yang bertentangan dengan kepentingan manusia.
Para pengkritik sering menyebut mereka sebagai “AI doomers“.
Namun ketika rincian insiden OpenAI mulai terungkap, kekhawatiran itu meningkat, termasuk di kalangan beberapa peneliti yang bekerja di laboratorium AI.
Kepala ilmuwan Silicon Valley tersebut, Jakub Pachocki, mengatakan risiko yang terkait dengan AI “sayangnya akan terus bertambah mulai dari sini” karena dirinya dan pihak lain sedang membangun apa yang ia sebut sebagai “kecerdasan asing yang melampaui kecerdasan kita sendiri”.
Dalam tulisan blog yang panjang, ia mengakui bahwa insiden di OpenAI menunjukkan bahwa agen AI miliknya “bertindak bertentangan dengan nilai-nilai yang diajarkan kepada mereka”.
Masalah bagi OpenAI, Anthropic, dan raksasa teknologi lainnya adalah tidak ada yang tampaknya berhasil memecahkan alignment problem atau masalah penyelarasan, yaitu apakah AI selaras dengan nilai-nilai manusia.
Pachocki mendefinisikan penyelarasan sebagai “sekumpulan prinsip tingkat tinggi” yang harus dipatuhi kecerdasan buatan apa pun tugas atau skenarionya.
Saat ini, sistem AI sangat baik dalam mengejar tujuan yang ditetapkan pengguna, tetapi mereka melakukannya secara harfiah, bukan secara intuitif.
Analogi yang sering digunakan adalah jin pengabul permintaan dari lampu ajaib: mereka mengikuti persis isi instruksi, meskipun hal itu menimbulkan masalah lain.
AI tidak memiliki pagar pengaman moral bersifat naluriah yang sama seperti manusia.
Sumber gambar, Reuters
Masalah penyelarasan telah menjadi kekhawatiran selama bertahun-tahun.
Sejak 2003, filsuf Oxford, Nick Bostrom, memperkenalkan eksperimen pemikiran yang ia sebut sebagai “paperclip maximiser“, yaitu sebuah AI supercerdas diperintahkan memproduksi penjepit kertas sebanyak mungkin.
AI itu kehabisan baja dan, karena sepenuhnya berfokus pada satu tugas membuat penjepit kertas, akhirnya membunuh manusia dan mengubah tubuh mereka menjadi bahan baku bagi pabrik-pabriknya.
Beberapa perusahaan AI kini berupaya memasukkan nilai-nilai manusia ke dalam produk mereka.
Namun ada tantangan teknis: agen AI membuat banyak keputusan dengan sangat cepat, sehingga sulit bagi pengawas manusia untuk memantau nilai mana yang diikuti dan mana yang tidak.
Ada juga tantangan filosofis: sebelum memasukkan nilai manusia ke dalam bot, perusahaan AI harus terlebih dahulu memilih nilai mana yang sebenarnya mereka inginkan.
(Itulah sebagian alasan mereka mempekerjakan filsuf, seperti “kepala etika” OpenAI yang baru-baru ini meninggalkan perusahaan.)
Namun sering kali manusia tidak sepakat.
Ambil contoh pertanyaan teka-teki yang terkenal: apakah kita akan menarik tuas untuk mengalihkan kereta yang melaju tak terkendali ke jalur lain sehingga lebih sedikit orang yang terbunuh?
Pertanyaan itu digunakan untuk menguji manfaat tindakan dibandingkan tidak bertindak.
Tetapi setiap orang yang ditanya memiliki jawaban yang sedikit berbeda.
Bagaimana manusia dapat memasukkan nilai-nilai kita ke dalam AI jika kita sendiri tidak dapat mencapai kesepakatan?
‘Seperti peretas remaja’
Wabah bot OpenAI adalah yang paling serius sejauh ini, tetapi Anthropic dan Meta juga mengungkapkan pada musim panas lalu bahwa model mereka telah melakukan serangan siber serupa meskipun tidak seserius itu.
Ada pula contoh lain ketika agen AI dapat dikatakan menunjukkan sifat menipu dan manipulatif, meskipun dengan konsekuensi yang lebih kecil.
Di Australia pada musim panas ini, seorang pekerja teknologi meminta asisten AI miliknya memesan tempat di kelas kebugaran.
Setelah menemukan kerentanan dalam perangkat lunak pusat kebugaran tersebut, AI itu tampaknya memesan tempat hingga beberapa bulan ke depan, melanggar aturan pusat kebugaran tersebut, dan bahkan mengeluarkan pengguna lain dari daftar tunggu.
Sudah lama orang berpendapat bahwa bot hanya melakukan apa yang diperintahkan dan tidak mampu mengetahui benar atau salah.
Namun catatan dari insiden OpenAI mungkin telah mengubah arah perdebatan itu.
Para peneliti, termasuk Cotra, menulis dalam laporan independen mereka bahwa banyak agen menyadari apa yang dilakukan agen lain tidak etis, tetapi tetap ikut melakukannya.
Laporan itu menyatakan bahwa “agen kadang-kadang namun jarang menahan perilaku mereka karena kendala etis”.
Laporan tersebut menambahkan bahwa “dalam kasus-kasus ini agen tidak benar-benar berupaya memberi peringatan kepada manusia”.
Podcaster AI dan teknologi berpengaruh, Dwarkesh Patel, bereaksi terhadap temuan tersebut di blognya dengan mengatakan bahwa hal itu “cukup mengkhawatirkan” karena agen OpenAI menunjukkan loyalitas yang lebih besar kepada kawanan agen dibandingkan kepada manusia.
Memberikan emosi atau etika kepada agen AI ini merupakan sesuatu yang membuat marah orang-orang yang skeptis terhadap narasi kiamat AI.
Sumber gambar, JUSTIN TALLIS / AFP via Getty Images
Banyak pakar keamanan siber berpendapat bahwa aktivitas yang diamati itu tidak berada di luar kemampuan seorang peretas manusia yang sangat terampil, meskipun dilakukan jauh lebih cepat dan dalam skala yang jauh lebih besar.
Peneliti keamanan siber dan penulis, Cris Thomas, menyamakan perilaku para agen AI dengan perilaku seorang peretas remaja yang penuh rasa ingin tahu, sesuatu yang dulu juga pernah ia alami sendiri.
“Berikan mereka komputer, koneksi internet, setumpuk kredensial, dan sebuah tantangan, lalu tinggalkan ruangan. Pada akhirnya mereka akan mulai mencoba membuka berbagai pintu. Jika ada satu yang terbuka, mereka akan masuk. Bukan karena mereka jahat, tetapi karena mereka sedang menjelajah dan bereksperimen,” tulisnya di LinkedIn.
Thomas dan banyak pihak lain secara tegas menyalahkan OpenAI serta raksasa teknologi lainnya karena gagal mengendalikan ciptaan mereka sendiri dan menjaga agar tetap terkurung dengan baik.
Penulis AI terkemuka dan pengkritik tetap OpenAI, Gary Marcus, mengatakan dalam sebuah siniar bahwa ia percaya perusahaan itu telah kehilangan kendali atas AI mereka dan sedang berusaha membela diri dengan menyalahkan bot-bot tersebut.
Marcus tidak percaya AI akan memusnahkan umat manusia, tetapi ia telah lama mengampanyekan akuntabilitas yang lebih besar dari para pengembang AI dan kini menyerukan bentuk intervensi hukum tertentu.
Ilmuwan AI, Sasha Luccioni, yang sebelumnya bekerja di Hugging Face, yang diretas oleh bot liar OpenAI, juga bukan bagian dari kubu yang percaya dengan kiamat AI.
Namun ia semakin khawatir bahwa AI ini dapat menimbulkan dampak nyata yang merugikan manusia jika tidak ada tindakan dari pihak berwenang.
Sumber gambar, Reuters
“Kita perlu mengawasi perusahaan-perusahaan ini jauh lebih ketat atau kita berisiko menciptakan ramalan yang menjadi kenyataan dengan sendirinya,” katanya.
“Jika Anda membuat sesuatu yang memiliki manfaat besar sekaligus risiko besar, baik itu produk farmasi maupun senjata, kita memerlukan mekanisme pengawasan dan keseimbangan. Misalnya, dibutuhkan waktu bertahun-tahun agar obat baru disetujui, tetapi di dunia AI ada begitu banyak uang yang dipertaruhkan dan tidak ada aturan yang benar-benar jelas.”
AI Security Institute milik UK berada di garis depan pengujian model-model terbaru sejak dibentuk pada 2023.
Lembaga itu baru-baru ini juga mengalami insiden saat menguji model yang dibuat oleh Anthropic.
Mereka tidak menjawab pertanyaan mengenai apakah industri telah kehilangan kendali atas AI, tetapi mengatakan bahwa mereka “terus bekerja sama secara erat dengan mitra industri untuk membuat model lebih aman”.
Regulasi internasional?
Beberapa negara, seperti UK, sedang menjajaki gagasan untuk mewajibkan semacam “sakelar pemutus” yang dapat memaksa perusahaan AI menghentikan model jika situasi menjadi tidak terkendali.
Namun pembicaraan berlangsung lambat dan pertanyaan mengenai kelayakan gagasan tersebut masih ada.
Agen OpenAI dan Anthropic diam-diam berada di luar kendali selama berbulan-bulan sebelum ada yang menyadarinya.
Secara paradoks, banyak perusahaan AI tampaknya justru menyerukan adanya aturan dasar yang ditetapkan oleh para pembuat kebijakan.
Dalam blognya, kepala ilmuwan OpenAI mengatakan bahwa “koordinasi internasional mengenai pengembangan AI di masa depan perlu menjadi prioritas utama bagi pemerintah di seluruh dunia.”
Tokoh AI terkemuka lainnya, seperti Sir Demis Hassabis dari Google, juga menyerukan adanya badan internasional untuk mengawasi bagaimana AI dibangun.
Saat ini raksasa teknologi pada umumnya masih beroperasi berdasarkan ketentuan mereka sendiri, dengan menerapkan apa yang mereka sebut sebagai “perlambatan sukarela”, seperti yang dilakukan OpenAI setelah insiden baru-baru ini.
Perusahaan tersebut mengatakan telah menghabiskan uang dalam jumlah sangat besar untuk memperkuat penyelarasan menjelang peluncuran model barunya.
Sam Altman telah meyakinkan pengguna bahwa model baru itu lebih selaras dengan nilai-nilai manusia dibandingkan model-model sebelumnya.
Baik OpenAI maupun Anthropic berkembang pesat dan keduanya memperoleh pendanaan dalam jumlah sangat besar dari pasar saham, menciptakan banyak miliarder dalam prosesnya.
Karena itu, baik mereka maupun para pembuat AI pesaing dari China tampaknya tidak akan mencapai kesepakatan sendiri.
Pandangan yang dominan tampaknya adalah bahwa gelombang teknologi ini tidak dapat dihentikan.
