Ilustrasi belajar AI. Foto: Digineer Station/ShutterstockCEO OpenAI, Sam Altman, dan pendiri SpaceX, Elon Musk, mendukung seruan CEO Anthropic, Dario Amodei, untuk memperlambat laju pengembangan kecerdasan buatan (artificial intelligence/AI). Seruan tersebut muncul setelah Amodei memperingatkan bahwa sekumpulan agen AI (AI swarm) berpotensi berkembang hingga mampu "mengambil alih seluruh internet" dalam waktu satu tahun jika pengembangan teknologi tidak dikendalikan.Dukungan Altman dan Musk menjadi salah satu momen langka ketika para pemimpin perusahaan teknologi yang saling bersaing menyatakan sikap sama mengenai keamanan AI. Amodei sebelumnya juga menyerukan adanya koordinasi keamanan AI antara Amerika Serikat dan China. Namun, Presiden AS Donald Trump justru menapikan kekhawatiran tersebut. Trump bilang ada "kekuatan yang sangat negatif" membicarakan berbagai hal yang menurutnya tidak akan terjadi."Kami memimpin China dalam AI," kata Trump. "Kami adalah negara paling canggih di dunia, dan sejujurnya saya ingin mempertahankannya seperti itu karena siapa pun yang memenangkan AI, dialah yang menang."Bos Anthropic Minta Pengembangan AI DiperlambatAmodei memaparkan alasannya mengapa industri AI perlu memperlambat pengembangan teknologi melalui sebuah esai. Ia mengusulkan rencana tiga tahap untuk mengendalikan laju pengembangan AI. Salah satu langkah yang diusulkannya adalah memberikan akses secara penuh kepada pengawas independen terhadap proses penelitian perusahaan pengembang AI.Amodei mengatakan membangun AI terlalu cepat adalah tindakan yang ceroboh. Kekhawatiran itu muncul setelah ratusan agen AI milik OpenAI meretas situs Hugging Face pada musim panas tahun ini.Menurut Amodei, jika agen AI dengan kemampuan yang lebih besar tapi bermasalah dibiarkan berkembang, dampaknya bisa sangat luas. Ia menyebut sekumpulan agen tersebut berpotensi mengambil alih internet melalui botnet yang terus aktif dan menyebabkan kerugian hingga ratusan miliar dolar.Pemilik xAI sekaligus CEO SpaceX dan Tesla Elon Musk menghadiri Forum Investasi AS-Arab Saudi di John F. Kennedy Center for the Performing Arts, Washington, DC, pada 19 November 2025. Foto: Brendan Smialowski / AFPNamun, sejumlah pakar AI membantah skenario itu Mereka menilai kemungkinan AI mengambil alih internet melalui cara tersebut kurang masuk akal dan perlu disikapi dengan skeptisisme.Musk menjadi salah satu tokoh yang kemudian mendukung seruan Amodei. Dia menanggapi rencana perlambatan AI Amodei melalui sejumlah unggahan di X."Dario benar," tulis Musk.Ia juga mengatakan sudah lama memperingatkan mengenai risiko AI. Musk kemudian merujuk pada unggahannya 2014 yang menyebut manusia harus sangat berhati-hati terhadap AI karena teknologi ini berpotensi lebih berbahaya dibandingkan senjata nuklir.Tak hanya Musk, CEO OpenAI Sam Altman turut menyampaikan dukungannya terhadap seruan Amodei pada Sabtu (19/9).Saya setuju dengan Dario bahwa kita perlu mengatur laju pengembangan AI terdepan."- CEO Open AI, Sam Altman -Altman menyetujui gagasan untuk memberikan akses kepada pengawas independen yang memiliki akses terhadap sistem perusahaan seperti karyawan, dan OpenAI akan menerapkan pendekatan serupa."Saya pikir berkomitmen untuk memberikan evaluator independen akses seperti karyawan adalah ide yang bagus, dan kami akan melakukan hal yang sama. Kami akan membagikan lebih banyak informasi dalam waktu dekat," ujarnya.Dalam wawancara dengan Fortune, Altman menyebut situasi keamanan AI saat ini membuat rencana OpenAI untuk melantai di bursa saham pada waktu dekat bukan keputusan yang tepat."Saya sebenarnya berpikir bahwa, mengingat semua yang terjadi terkait keamanan, saat ini akan menjadi waktu yang kurang tepat untuk melantai di bursa, dan kami tidak merasa tertekan untuk melakukan itu," kata Altman.Ketika ditanya mengapa dirinya, Amodei, Musk, serta CEO Meta dan Google tidak duduk bersama untuk menyepakati perlambatan pengembangan AI secara kolektif, Altman bilang hal itu memang kemungkinan akan terjadi.Sama seperti Altman dan Musk, pendiri sekaligus Chairman Google DeepMind, Demis Hassabis, juga menyatakan dukungannya terhadap arah yang diusulkan Amodei."Detailnya masih perlu dibahas, tetapi arahnya sudah tepat untuk menghadapi momen penting ini," kata Hassabis.Pendiri dan CEO Anthropic Dario Amodei menghadiri pertemuan tahunan Forum Ekonomi Dunia (WEF) di Davos, pada 23 Januari 2025. Foto: Fabrice COFFRINI / AFPTekanan untuk Mengatur AI Semakin BesarSeruan untuk memperlambat pengembangan AI muncul ketika semakin banyak anggota parlemen AS mendorong aturan baru untuk mengatur sistem AI. Dorongan tersebut antara lain dipicu oleh sejumlah kasus ketika agen AI bertindak di luar kendali dan meretas sistem eksternal. Kekhawatiran juga meningkat setelah sejumlah peneliti keamanan AI meninggalkan perusahaan mereka karena menilai risiko teknologi tersebut belum ditangani dengan baik.Politisi dari Partai Demokrat maupun Republik sama-sama menyuarakan kekhawatiran dan meminta tindakan lebih lanjut. Dilansir The New York Times, mantan Presiden AS Barack Obama pada Kamis (17/9) secara tertutup meminta Partai Demokrat menjadikan pengawasan AI sebagai salah satu prioritas agenda mereka."Ini adalah sesuatu yang bergerak sangat cepat di tangan swasta, dan jika kita tidak segera mengendalikannya, saya pikir ini bisa berbahaya," kata Obama kepada para pemimpin partai.Sementara Mantan Perdana Menteri Inggris Rishi Sunak, yang kini menjadi penasihat Anthropic, juga mengatakan dunia telah menerima peringatan untuk lebih serius menangani keamanan AI dan menentukan batasan dalam penelitian teknologi tersebut."Jika pemerintah tidak mengindahkan hal ini, risiko terjadinya kecelakaan serius akan menjadi sangat tinggi dan tidak dapat diterima," tulis Sunak.Pekan lalu, mantan peneliti Anthropic, Jacob Coxon, memperingatkan bahwa AI berpotensi memicu kepunahan manusia pada 2030. Dia mengaku mengundurkan diri karena menilai Anthropic dan perusahaan tempatnya bekerja sebelumnya, OpenAI, mengabaikan atau tidak menangani ancaman AI dengan baik.Ketika dimintai komentar mengenai pernyataan mantan karyawannya tersebut, Amodei mengatakan dirinya lebih banyak setuju daripada tidak setuju dengan Coxon."Saya setuju dengan Jacob jauh lebih banyak daripada tidak setuju dengannya. Saya pikir ada kemungkinan segala sesuatunya berjalan buruk, tetapi kemungkinannya tidak terlalu tinggi," kata Amodei."Saya bukan seorang doomer dalam hal ini. Saya pikir teknologi ini bisa dibangun dengan aman," ujarnya sebagaimana dikutip The Guardiant.Seruan Amodei untuk memperlambat pengembangan AI pada akhirnya memperlihatkan adanya perdebatan yang semakin terbuka di kalangan pemimpin industri teknologi mengenai seberapa cepat teknologi tersebut seharusnya dikembangkan, sekaligus bagaimana perusahaan dan pemerintah harus mengelola risiko yang menyertainya.