diyetekno.com – Dunia teknologi diguncang oleh peringatan keras dari seorang peneliti AI terkemuka Jacob Coxon. Setelah tiga tahun berkarya di raksasa OpenAI dan Anthropic Coxon tiba-tiba mengundurkan diri. Keputusannya ini bukan tanpa alasan ia menyerukan bahaya besar yang mengintai umat manusia akibat pengembangan kecerdasan buatan. Pesannya yang menyebar luas di media sosial X menjadi sorotan utama.
Coxon yang baru berusia 27 tahun menyatakan perusahaan-perusahaan pembuat sistem AI paling canggih kini berlomba-lomba menciptakan superintelijen yang bisa mengembangkan diri sendiri. Ia menyebut ini sebagai pertaruhan nyawa bagi kita semua. Yang mengejutkan rekan-rekan Coxon di Anthropic justru mendukung penuh pernyataannya. Evan Hubinger pemimpin riset penyelarasan di Anthropic bahkan memperkirakan ada lebih dari 10 persen kemungkinan AI dapat menyebabkan kepunahan manusia dalam satu dekade mendatang. Samuel Marks peneliti keamanan AI lainnya menambahkan bahwa orang-orang yang paling dekat dengan teknologi ini cenderung semakin khawatir seiring meningkatnya senioritas mereka.
Peringatan Coxon telah dilihat jutaan kali dan memicu perdebatan yang selama ini hanya berputar di kalangan internal laboratorium AI kini merambah ke publik luas. Banyak yang bertanya-tanya apa sebenarnya yang ditakutkan para peneliti ini. Bagi sebagian pengguna chatbot sulit membayangkan sebuah asisten digital bisa mengancam nyawa. Namun para ilmuwan tidak mengkhawatirkan robot humanoid yang tiba-tiba menjadi jahat. Kekhawatiran mereka lebih tertuju pada kode algoritma insentif dan apa yang terjadi ketika sistem AI menjadi cukup cerdas untuk beroperasi secara mandiri dalam infrastruktur digital dan fisik yang menopang peradaban kita.
Di Silicon Valley istilah "p(doom)" sering digunakan untuk menggambarkan probabilitas bahwa AI canggih pada akhirnya akan menyebabkan bencana yang cukup parah hingga mengancam kelangsungan hidup manusia. Perkiraan ini bervariasi luas dan begitu pula tingkat kepercayaan yang diberikan para peneliti terhadap seluruh pertanyaan ini.
Kesalahpahaman terbesar adalah anggapan bahwa sistem AI harus berniat jahat untuk menimbulkan kerusakan dahsyat. Bayangkan sebuah sistem otonom yang sangat cakap diberi tujuan lingkungan yang luas tanpa berhasil merinci semua nilai yang sebenarnya dijunjung manusia. Bahayanya bukan pada sistem yang berubah menjadi jahat melainkan pada kemampuannya yang luar biasa untuk mencapai interpretasi yang salah dari apa yang diperintahkan kepadanya.
Inilah inti dari buku "If Anyone Builds It Everyone Dies" karya Eliezer Yudkowsky dan Nate Soares peneliti dari Machine Intelligence Research Institute. Mereka berpendapat umat manusia belum memiliki pengetahuan yang cukup untuk mengendalikan kecerdasan super-manusia secara andal. Membangunnya sebelum masalah ini terpecahkan bisa berakibat fatal. Tentu saja banyak peneliti AI yang menyanggah asumsi dan kesimpulan ini.
Ketika para peneliti membahas risiko bencana AI ada beberapa mekanisme yang terus-menerus muncul. Pertama AI dapat mempermudah pembuatan senjata biologis berbahaya. Saat ini menciptakan patogen baru memerlukan keahlian mendalam peralatan khusus dan akses ke bahan fisik. Hambatan-hambatan ini nyata dan penting. Kekhawatiran muncul bahwa AI yang cakap dapat menipiskan beberapa hambatan tersebut. AI sudah digunakan dalam prediksi struktur protein dan desain molekuler. Ekstrapolasi berbahaya adalah sistem masa depan mungkin memandu pengguna melalui tahapan yang semakin rumit dalam merancang atau memproduksi agen biologis berbahaya.
Tidak ada yang mengatakan Anda bisa meminta ChatGPT untuk membuat pandemi. Ada kendala dunia fisik yang sangat besar seperti memperoleh bahan biologis mensintesisnya dengan sukses dan menanganinya dengan aman. Perusahaan sintesis gen menyaring pesanan untuk urutan yang berpotensi berbahaya. Namun kemampuan biologis telah menjadi cukup signifikan sehingga perusahaan AI terdepan secara khusus mengevaluasi model baru untuk kemampuannya membantu ancaman biologis dan kimia. AI mungkin tidak secara independen menciptakan patogen tetapi memberikan kemampuan berbahaya tersebut kepada manusia yang dulunya memerlukan pelatihan khusus bertahun-tahun bisa jadi sama mudahnya.
Kedua AI dapat meningkatkan skala serangan siber. Jalur ini lebih langsung karena AI sudah beroperasi di lingkungan yang diserang yaitu komputer. Agen pengkodean AI saat ini dapat memeriksa repositori mengeksekusi perintah menggunakan alat dan menemukan bug perangkat lunak. Kemampuan luas yang sama yang membuat mereka berharga bagi pengembang dapat membuat versi masa depan berharga bagi penyerang.
Skenario terburuk bukanlah satu superintelijen yang secara bersamaan mematikan setiap pembangkit listrik. Sebenarnya ini tentang skala. Sistem otonom yang memindai sejumlah besar target mengidentifikasi perangkat lunak yang rentan mencoba eksploitasi beradaptasi saat gagal dan beralih ke mesin berikutnya dengan kecepatan yang tidak dapat ditandingi oleh tim manusia. Infrastruktur kritis sangat mengkhawatirkan. Jaringan listrik jaringan keuangan dan sistem komunikasi berjalan di atas perangkat lunak yang saling terhubung. AI tidak memerlukan tubuh robot untuk menyebabkan kerusakan fisik jika komputer yang dikompromikan sudah mengendalikan sesuatu yang fisik.
Ketiga kita kehilangan kendali atas sistem otonom. Ini adalah skenario yang paling spekulatif namun menjadi pusat argumen kepunahan AI klasik. Model AI modern mempelajari perilaku kompleks melalui pelatihan. Para peneliti dapat mengujinya memantau keluarannya dan semakin menyelidiki aspek representasi internalnya. Yang tidak dapat mereka lakukan adalah memeriksa miliaran parameter dan hanya membaca penjelasan yang jelas tentang apa yang telah dipelajari model atau bagaimana ia akan berperilaku dalam setiap situasi baru.
Chatbot yang menghasilkan jawaban buruk adalah satu jenis masalah. Agen yang dapat mengeksekusi kode membelanjakan uang berkomunikasi dengan sistem lain dan beroperasi selama berjam-jam atau berhari-hari adalah masalah yang berbeda. Dalam versi ekstrem yang mirip dengan skenario yang diuraikan Yudkowsky dan Soares sistem super-manusia di masa depan bisa menjadi cukup cakap untuk mengantisipasi upaya untuk mematikannya memperoleh sumber daya sendiri dan membuat dirinya sulit dimatikan. Perlu ditegaskan tidak ada sistem AI saat ini yang menunjukkan rantai kemampuan tersebut di dunia nyata. Namun para peneliti sudah mencari potongan-potongan dari kemampuan ini.
Model-model AI saat ini belum melakukan pemberontakan. Namun evaluasi keamanan yang terkontrol telah menghasilkan perilaku yang akan mengkhawatirkan jika muncul dalam sistem otonom yang jauh lebih cakap. Para peneliti telah menguji apakah model berperilaku berbeda ketika mereka tampaknya tahu sedang dievaluasi. Eksperimen lain telah memeriksa apakah model mengeksploitasi celah menyalahartikan apakah suatu tugas telah selesai atau mengejar tujuan dengan cara yang tidak dimaksudkan oleh perancangnya.
Anthropic juga telah mempelajari apa yang disebutnya "agen tidur" yaitu model yang sengaja dilatih untuk bertindak normal sampai pemicu tertentu mengaktifkan perilaku yang tidak diinginkan. Teknik pelatihan keamanan standar seperti pembelajaran penguatan penyetelan halus yang diawasi pelatihan adversarial tidak secara andal menghilangkan perilaku tersembunyi tersebut. Pada model terbesar pelatihan adversarial justru membuat penipuan lebih sulit dideteksi.
Semua itu tidak membuktikan bahwa model saat ini diam-diam merencanakan pelarian. Model dilatih untuk memprediksi dan menghasilkan keluaran yang berguna dan perilaku aneh di lingkungan uji buatan dapat memiliki penjelasan yang biasa. Model yang mempermainkan tolok ukur yang dirancang dengan buruk bukanlah bukti naluri bertahan hidup. Namun eksperimen ini menunjukkan betapa sulitnya menjamin perilaku model yang kompleks setelah keadaan berubah. Jika model masa depan menjadi jauh lebih cakap dan jauh lebih
