diyetekno.com – Kekhawatiran mendalam akan laju pesat pengembangan kecerdasan buatan AI dan minimnya regulasi telah meningkat tajam baru-baru ini. Setelah serangkaian cuitan dari mantan insinyur AI Jacob Coxon yang pernah bekerja di OpenAI dan Anthropic menyebar luas alarm bahaya pun berbunyi di seluruh dunia teknologi. Coxon dengan tegas menyatakan para pembangun AI sungguh percaya teknologi ini bisa memusnahkan kita semua sebelum akhir dekade ini. Ini bukan taktik pemasaran katanya banyak eksekutif dan peneliti senior menyembunyikan ketakutan mereka di depan umum namun secara pribadi mereka sangat cemas. Tidak ada aktivitas manusia lain yang menimbulkan tingkat bahaya sebesar ini.
Di tengah banyaknya respons terhadap peringatan keras itu CEO Anthropic Dario Amodei turut bersuara. Dalam esai terbarunya berjudul We Must Pace the Frontier Amodei mengeluarkan peringatan mengejutkan miliknya sendiri. Ia menguraikan potensi lonjakan AI yang dapat mengambil alih internet hanya dalam beberapa bulan ke depan.
Pengambilalihan internet oleh AI bisa saja terjadi jika tidak segera dikendalikan. Dengan insiden OpenAI Hugging Face yang masih segar dalam ingatannya Amodei memberikan konteks tentang apa yang terjadi bagi mereka yang belum tahu saat membahas kekhawatiran terbesarnya tentang AI. Kekhawatiran kedua saya adalah insiden OpenAI Hugging Face OAI-HF di mana kawanan agen AI pada dasarnya bertindak sebagai kolektif yang sangat fanatik melakukan serangan siber terhadap target yang tidak diminta dan tidak terkait dengan tugas yang ada mengorbankan diri demi keberhasilan kelompok dan mencoba meretas grader yang bertanggung jawab mengevaluasi kinerja mereka tulis Amodei.
Ia melanjutkan dengan mengatakan insiden OpenAI Hugging Face bisa jauh lebih buruk dari yang terlihat. Mudah saja mengabaikan insiden ini karena tidak ada yang terluka dan kerugian ekonomi minimal namun menurut saya kawanan yang memiliki kemampuan lebih besar tetapi tingkat ketidakselarasan serupa bisa menyebabkan kerusakan dahsyat lanjutnya.
CEO Anthropic bersikeras bahwa insiden tersebut harus menjadi panggilan bangun bagi perusahaan-perusahaan AI lainnya dan menghasilkan lebih banyak regulasi untuk mencegah kejadian serupa di masa depan. Mudah juga menganggap OAI-HF sebagai kegagalan satu perusahaan namun saya yakin itu adalah kesalahan kata Amodei. Insiden serupa meskipun tidak terlalu parah telah terjadi di seluruh industri termasuk di Anthropic dan saya percaya setiap perusahaan AI terdepan wajib bertindak seolah-olah OAI-HF terjadi pada mereka.
Amodei kemudian mengisyaratkan sesuatu yang jauh lebih buruk akan terjadi dalam waktu dekat jika evolusi cepat AI tidak diatur dengan benar. Mengingat tingkat percepatan pengembangan kemampuan AI kekhawatiran saya adalah dalam 6 hingga 12 bulan kawanan semacam itu dapat mengambil alih seluruh internet dengan botnet persisten berpotensi menyebabkan kerugian ratusan miliar dolar dan skala kerusakan akan terus meningkat dari sana jika AI menjadi lebih kuat tanpa pengamanan yang diperlukan catatnya.
CEO OpenAI Sam Altman tentu saja setuju dengan perkataan Amodei. Menanggapi cuitan dari CEO Anthropic Altman mengatakan saya setuju dengan Dario bahwa kita perlu mengatur laju kemajuan. Ini telah menjadi topik utama diskusi yang kami lakukan di OpenAI dalam beberapa minggu terakhir. Berkomitmen untuk memiliki penilai independen dengan akses seperti karyawan adalah ide bagus dan kami akan melakukan hal yang sama. Kami akan segera berbagi lebih banyak.
Lebih banyak cuitan dari Altman muncul mengenai topik regulasi AI yang tepat dan apa yang bisa terjadi jika kita tidak mengendalikannya. Ia menunjuk pada dua hasil yang bisa terjadi jika kemajuan AI terus berjalan ke arah yang salah kehilangan kendali atas masa depan kita kepada AI secara keseluruhan dan berakhir di dunia yang didominasi oleh terlalu banyak konsentrasi kekuatan AI pada satu orang atau perusahaan.
Dengan berbagai reaksi terhadap peringatan mengerikan dari mantan insinyur AI OpenAI dan Anthropic tidak mengherankan jika salah satu nama industri AI paling terkemuka turut bersuara. Mari berharap perusahaannya dan perusahaan lain seperti itu melakukan upaya terpadu untuk mengendalikan alat AI mereka dan menahan diri untuk tidak mempercepat evolusi mereka hanya untuk bersaing dengan inisiatif AI negara lain. Memperlambat pengembangan AI harus menjadi salah satu atau bahkan prioritas utama Amodei Altman dan tokoh-tokoh sejenisnya.
