diyetekno.com – Dunia kecerdasan buatan (AI) sedang bergejolak. Para pimpinan perusahaan teknologi raksasa yang berlomba menciptakan AI paling canggih tiba-tiba menyerukan perlambatan. Namun, seorang investor kawakan yang terkenal karena prediksinya yang jitu, Michael Burry, justru menyuarakan pandangan berbeda. Ia menduga ada motif tersembunyi di balik seruan "kiamat AI" ini, yang mungkin lebih terkait dengan strategi bisnis daripada keselamatan umat manusia.
Beberapa waktu terakhir, CEO Anthropic Dario Amodei dan CEO OpenAI Sam Altman secara terbuka menyatakan bahwa pengembangan AI harus diperlambat. Ide ini didukung oleh tokoh seperti Elon Musk dan CEO Google DeepMind Demis Hassabis. Peringatan mereka terdengar sangat serius, dengan Amodei menyebut kemajuan AI "jauh lebih cepat" dan menyoroti kemampuan model AI untuk membantu membangun generasi AI berikutnya. Proposalnya mencakup akses lebih dalam bagi evaluator independen ke laboratorium AI terdepan, koordinasi antar perusahaan, dan perjanjian internasional tentang keamanan AI.
Namun, Michael Burry, investor yang diabadikan dalam film "The Big Short," melihat hal ini dari sudut pandang yang sangat berbeda. Burry berpendapat bahwa seruan untuk memperlambat pengembangan AI bukan semata-mata demi keamanan, melainkan juga strategi bisnis yang cerdas.
Burry menyebut dorongan untuk memperlambat pengembangan AI sebagai tindakan "mementingkan diri sendiri." Ia mengklaim bahwa OpenAI dan Anthropic memiliki alasan finansial yang kuat untuk menggambarkan teknologi mereka sebagai sangat kuat, sekaligus membatasi seberapa cepat pesaing dapat menyusul. Menurutnya, memperlambat pengembangan dan menunda penawaran umum perdana (IPO) memberikan perusahaan lebih banyak waktu, sambil memperkuat narasi bahwa teknologi mereka menjadi begitu dahsyat sehingga memerlukan tindakan pencegahan luar biasa.
Dalam perlombaan AI, mudah terlupakan bahwa raksasa teknologi seperti OpenAI dan Anthropic lebih dari sekadar laboratorium penelitian; mereka adalah perusahaan yang bersaing di pasar teknologi tercepat yang pernah ada. Persaingan ini semakin memanas secara global. Burry berargumen bahwa kemajuan dari pengembang AI Tiongkok dan sumber terbuka mengikis keunggulan yang dinikmati oleh perusahaan AI besar Amerika. Oleh karena itu, memperlambat pengembangan AI terdepan, dalam pandangannya, dapat melindungi pemain lama sekaligus mempersulit penantang untuk mengejar ketertinggalan.
Ada bagian lain dari argumen Burry yang menarik perhatian. Jika Anda memberi tahu dunia bahwa teknologi yang Anda ciptakan cukup kuat untuk berpotensi mengancam umat manusia, Anda juga secara tidak langsung memberi tahu dunia bahwa Anda telah menciptakan teknologi yang sangat dahsyat. Ini adalah pesan yang sangat menarik bagi perusahaan yang pada akhirnya berharap meyakinkan investor tentang nilai mereka.
Waktu penundaan IPO OpenAI membuat argumen Burry semakin relevan. Altman baru-baru ini menyatakan bahwa OpenAI tidak akan go public pada tahun 2026, dengan alasan fokus pada keamanan membuat momen ini "tidak bijaksana" untuk IPO. Ia menambahkan bahwa OpenAI dapat menangani pertanyaan keamanan dan penyelarasan saat ini dengan lebih mudah selama tetap menjadi perusahaan swasta. Burry melihat keputusan ini sebagai langkah strategis untuk memperkuat narasi kekuatan teknologi mereka dan membeli waktu.
Tentu saja, ini adalah tuduhan, bukan penjelasan yang pasti untuk perilaku OpenAI atau Anthropic. Peringatan kedua perusahaan tentang risiko AI juga tidak dimulai minggu ini; Anthropic, khususnya, telah bertahun-tahun berbicara secara terbuka tentang risiko AI yang berpotensi bencana dan mendorong regulasi keamanan. Namun, Burry bukan satu-satunya yang mempertanyakan apakah perlambatan yang diusulkan dapat menguntungkan perusahaan yang menyerukannya. Para kritikus dari berbagai spektrum politik telah menyuarakan kekhawatiran bahwa perjanjian yang dipimpin industri dapat melindungi perusahaan AI yang sudah mapan dari persaingan atau memungkinkan mereka membentuk aturan yang mengatur teknologi mereka sendiri.
Ini tidak berarti bahwa kekhawatiran keamanan tidak nyata. Perdebatan saat ini semakin intens setelah peneliti Anthropic Jacob Coxon mengundurkan diri dan memperingatkan bahwa perusahaan AI terkemuka "mempertaruhkan hidup kita." Amodei kemudian menunjuk pada insiden keamanan baru-baru ini dan kemampuan sistem AI yang meningkat pesat untuk berkontribusi pada pengembangan AI itu sendiri sebagai alasan industri perlu lebih berhati-hati. Ada juga contoh konkret model yang menunjukkan perilaku mumpuni dalam keamanan siber dan area berbahaya lainnya. Namun, Altman sendiri mengatakan bahwa perlambatan pengembangan tidak berarti menghentikannya sepenuhnya.
Di sinilah argumen Burry menjadi lebih kompleks. Ada kontradiksi yang tidak nyaman: perusahaan AI bisa saja benar-benar percaya teknologi mereka menimbulkan risiko serius, sekaligus diuntungkan secara finansial dengan memberi tahu dunia betapa kuatnya teknologi tersebut. Kedua hal ini tidak saling eksklusif.
Bagi konsumen, bagian yang aneh adalah posisi yang diminta untuk kita terima. Perusahaan pengembang AI ingin kita mempercayai mereka untuk menempatkan model mereka di ponsel, komputer, dan akhirnya di agen yang mampu melakukan tugas atas nama kita. Pada saat yang sama, beberapa perusahaan tersebut memberi tahu kita bahwa model mereka pada akhirnya bisa menjadi cukup kuat sehingga seluruh industri perlu sengaja memperlambat diri.
Perdebatan ini bahkan belum selesai di dalam Silicon Valley. Sementara Altman, Amodei, Musk, dan Hassabis menyatakan dukungan untuk memperlambat pengembangan AI, CEO Meta Mark Zuckerberg dan CEO Nvidia Jensen Huang justru menolak perlambatan terkoordinasi. Ada juga masalah praktis yang sangat besar dalam membuat perusahaan yang bersaing – apalagi negara yang bersaing – untuk memperlambat pada saat yang sama. Pemerintah AS terus melihat kepemimpinan AI sebagian melalui lensa persaingan dengan Tiongkok, sementara perusahaan AI menghadapi tekanan besar dari investor dan pelanggan untuk merilis model yang lebih baik.
Jadi, haruskah kita mempercayai peringatan kiamat AI? Saat ini tidak ada cara yang dapat diandalkan untuk menentukan tanggal bencana AI, dan klaim bahwa AI akan memusnahkan umat manusia dalam beberapa tahun tetap merupakan prediksi, bukan fakta yang pasti. Pada saat yang sama, menolak setiap peringatan sebagai pemasaran juga akan terlalu ekstrem. Argumen Burry menambahkan pertanyaan penting yang patut diajukan setiap kali perusahaan AI memberi tahu kita betapa berbahayanya teknologi mereka: Apa yang didapat perusahaan dari keyakinan kita?
Ketika sebuah perusahaan memberi tahu dunia bahwa teknologinya bisa menjadi cukup kuat untuk mengubah peradaban – atau bahkan mengancamnya – sulit untuk mengetahui apakah itu peringatan tulus atau hanya strategi penjualan yang brilian.
