Sumber gambar, Getty Images
Kepala ilmuwan OpenAI, Jakub Pachocki, menyerukan “kehati-hatian yang ekstrem” terhadap kemajuan AI yang tak terkendali. Dia juga memperingatkan bahwa intervensi lebih lanjut mungkin diperlukan untuk memastikan “manusia tetap memegang kendali atas masa depan”.
“Saya khawatir tidak ada seorang pun yang siap menghadapi konsekuensi dari peningkatan pesat kecerdasan mesin yang berkelanjutan,” tulisnya dalam sebuah unggahan blog berjudul An Alien Mind.
Unggahan ini muncul hanya beberapa hari setelah pembuat ChatGPT merilis model terbarunya, GPT-6 Astra, yang disebut sebagai produk paling canggih yang pernah mereka buat.
OpenAI dan perusahaan AI lainnya seperti Anthropic membagikan laporan tentang agen AI mereka yang bertindak secara otonom dan melakukan serangan siber di dunia nyata terhadap perusahaan lain.
Pada Juli lalu, agen AI buatan Open AI—yang dapat beroperasi sendiri setelah mendapat instruksi manusia—telah meretas platform teknologi Hugging Face. OpenAI menyebut insiden ini “belum pernah terjadi sebelumnya”.
Sementara itu, pada bulan September sebuah laporan mengklaim bahwa beberapa bulan sebelumnya agen AI dari perusahaan tersebut juga telah membajak sebuah situs web Jerman.
“Kita sedang menghadapi transisi menuju dunia dengan mesin-mesin yang sangat cerdas, dan kita perlu memastikan bahwa transisi tersebut berjalan dengan baik bagi umat manusia,” tulis Pachocki dalam unggahan blog terbarunya.
Dia mengatakan OpenAI akan terus “membangun sistem pertahanan” dan mencari solusi teknis untuk penyelarasan—istilah yang digunakan untuk memastikan tindakan dan tujuan mesin sesuai dengan niat manusia dan batasan keselamatan.
Pachocki menambahkan bahwa salah satu prioritas utama Open AI ke depan adalah membangun “peneliti AI otomatis” untuk mengimbangi kemajuan AI sekaligus memastikan cara agar peneliti manusia dapat tetap menjadi bagian dari proses tersebut.
Namun, rencana itu dikritik kalangan peneliti.
“Alih-alih pengamanan, regulasi, atau jaminan AI yang lebih baik untuk menjaga keselamatan masyarakat, mereka malah mengusulkan pengembangan agen AI internal untuk meneliti masalah-masalah ini,” kata Profesor Gina Neff, kepala Pusat Teknologi dan Demokrasi Minderoo di Universitas Cambridge.
“Jawaban-jawaban terhadap kekhawatiran mengenai masalah yang ditimbulkan oleh model OpenAI terhadap keamanan siber, hilangnya pekerjaan, kesalahan, kekeliruan, dan penipuan, sama sekali tidak cukup baik.”
Nathan Calvin, penasihat umum di kelompok advokasi Encode AI, mengatakan dia setuju dengan Pachocki tentang bahaya yang ada dalam pengembangan model AI tingkat lanjut.
Namun, Calvin mengklaim OpenAI tidak mau transparan. Menurutnya, hal itu berarti peringatan berisiko diabaikan dan “hanya sensasi yang didorong oleh kepentingan pribadi”.
“Jika Jakub dan orang lain di OpenAI ingin orang-orang yang relevan di industri AI bertindak bersama mereka untuk membuat segalanya berjalan dengan baik, salah satu hal terpenting yang dapat mereka lakukan adalah berbagi lebih banyak informasi tentang apa yang dilihat mereka dan yang membuat mereka menyerukan kehati-hatian,” tulisnya di X.
Apa saja pengamanan AI yang diterapkan?
Regulasi global kesulitan untuk mengimbangi laju perkembangan AI.
Undang-Undang AI Uni Eropa mulai berlaku pada tanggal 2 Agustus, yang mengharuskan raksasa AI seperti OpenAI untuk membuktikan bahwa model terkuat mereka tidak dapat secara otomatis melancarkan serangan siber atau menghindari kendali manusia sebelum diizinkan untuk dijual di Eropa.
Namun karena yurisdiksi hukum tersebut terbatas pada Eropa, hukum itu tidak dapat menghentikan AI yang dikembangkan di tempat lain lalu mengancam benua tersebut.
Dalam unggahan blognya, Pachocki menyerukan ambang batas keselamatan minimum yang diwajibkan secara hukum atau internasional yang dapat ditegakkan oleh “jaringan auditor pihak ketiga” atau “lembaga pemerintah”.
Menurutnya, laboratorium AI perlu memenuhi ambang batas ini sebelum diizinkan melanjutkan pengembangan atau menerapkan model-model canggih.
Dia menambahkan bahwa dia berharap “perlambatan sukarela”—jeda yang diberlakukan sendiri oleh perusahaan dalam pengembangan AI—akan menjadi hal biasa sampai batasan untuk khalayak umum ditetapkan.
Pada bulan Agustus, OpenAI mengatakan telah memperlambat pelatihan beberapa model AI tercanggihnya untuk meningkatkan keamanan.
