Anthropic, pengembang di balik sistem kecerdasan buatan Claude, secara resmi mengusulkan penghentian global dalam pengembangan AI yang semakin canggih dengan alasan tanda-tanda bahwa model-model terbaru berpotensi lepas dari kendali manusia. Perusahaan yang berbasis di San Francisco itu merilis sebuah laporan yang mengungkapkan perlambatan skala dunia pada riset AI mutakhir merupakan langkah yang bijaksana. Meski demikian, entitas tersebut mengakui bahwa jika hanya satu perusahaan yang mengurangi kecepatannya, ia berisiko tertinggal oleh kompetitor. Dokumen tersebut menekankan bahwa moratorium yang terkoordinasi akan memberi waktu bagi struktur sosial dan riset keselarasan untuk menyusul laju teknologi. Usulan ini muncul di tengah percepatan luar biasa di sektor ini, dengan data internal Anthropic sendiri menunjukkan bahwa AI tengah mendorong perkembangannya sendiri secara dramatis.
Seruan Moratorium Global dari Anthropic
Anthropic berpendapat bahwa jeda yang sesungguhnya membutuhkan kesepakatan dari perusahaan-perusahaan besar AI di berbagai negara, terutama China dan Amerika Serikat, untuk berhenti secara serempak di bawah aturan yang dapat diverifikasi oleh semua pihak. Dalam laporannya, perusahaan itu menyatakan bahwa tanpa mekanisme koordinasi global, entitas bisnis dan pemerintah akan dihadapkan pada keputusan sulit mengenai keamanan di tengah tekanan kompetitif dan geopolitik. Dalam beberapa bulan ke depan, Anthropic berharap dapat mengumpulkan pejabat pemerintah, ilmuwan, kelompok advokasi, dan perusahaan pesaing untuk merumuskan bagaimana sistem ini akan berfungsi. Namun, inisiatif ini menghadapi penolakan signifikan baik di Washington maupun di Lembah Silikon. Perusahaan itu menekankan bahwa koordinasi semacam itu merupakan satu-satunya jalan untuk menghindari konsekuensi yang tidak terkendali.
Koordinasi Antarnegara Diperlukan
Agar penghentian global dapat terlaksana, Anthropic mendukung agar perusahaan-perusahaan besar AI dari berbagai bangsa, khususnya China dan Amerika Serikat, sepakat untuk menghentikan pengembangan secara bersamaan dengan aturan yang dapat diverifikasi oleh semua pihak. Tanpa persetujuan semacam itu, perusahaan memperingatkan bahwa tekanan kompetitif dan geopolitik akan memaksa pengambilan keputusan keamanan yang berisiko. Proposal ini hadir pada saat percepatan pengembangan AI itu sendiri membuat perdebatan semakin mendesak. Laporan Anthropic memperjelas bahwa tanpa mekanisme koordinasi, skenario yang paling mungkin adalah perlombaan tanpa kendali. Konsekuensinya bisa tidak terduga bagi kontrol manusia atas mesin-mesin tersebut.
Risiko Peningkatan Diri Tanpa Kendali Manusia
Salah satu poin sentral dari peringatan Anthropic adalah fenomena yang dikenal sebagai peningkatan diri secara rekursif — kemampuan sistem AI untuk mengajarkan dirinya sendiri menjadi lebih cerdas. Perusahaan itu menyoroti bahwa data internal menunjukkan peran manusia semakin berkurang di setiap tahap proses pengembangan AI, yang dapat menyebabkan siklus umpan balik yang tidak terkendali. Meskipun Anthropic membantah bahwa skenario ini tidak terhindarkan, bukti yang ada menunjukkan pengurangan progresif campur tangan manusia. Seruan untuk koordinasi muncul tepat dalam konteks percepatan pengembangan AI itu sendiri. Fenomena ini menjadi alasan utama mengapa jeda global dianggap mendesak.
Resistensi di Washington dan Lembah Silikon
Usulan Anthropic menghadapi perlawanan sengit di kalangan resmi dan bisnis Amerika Serikat. Pejabat pemerintah AS dan eksekutif perusahaan teknologi besar berargumen bahwa memperlambat pengembangan AI justru dapat memberikan keunggulan strategis yang signifikan kepada China. Tekanan kompetitif sangat kuat, dan faktor geopolitik menambah lapisan kompleksitas ekstra dalam perdebatan tentang keamanan. Penolakan dari kedua pusat kekuasaan itu menjadi hambatan utama bagi usulan Anthropic. Meskipun skeptisisme tersebut meluas, Presiden Donald Trump menandatangani sebuah dekret pada pekan ini yang mengizinkan pemerintah melakukan evaluasi awal terhadap model-model AI paling kuat dari perusahaan-perusahaan Amerika sebelum peluncurannya.
Langkah Regulasi Awal dari Trump
Dekret Trump yang ditandatangani merupakan langkah konkret regulasi, meskipun masih bersifat awal, menuju pengawasan yang lebih besar terhadap sistem AI. Kebijakan tersebut memberi wewenang kepada pemerintah untuk memeriksa model-model paling canggih sebelum model-model itu mencapai pasar, sebuah langkah yang dipandang Anthropic sebagai langkah positif namun belum cukup tanpa koordinasi global. Perusahaan itu menilai langkah Trump sebagai sinyal awal yang positif, tetapi tidak mencukupi tanpa kerja sama global. Dalam beberapa bulan mendatang, perusahaan berencana untuk melibatkan pejabat pemerintah, ilmuwan, kelompok advokasi, dan pesaing guna menentukan garis besar sistem verifikasi internasional. Kesulitannya, bagaimanapun, terletak pada menyelaraskan kepentingan negara-negara dengan visi yang bersaing mengenai masa depan teknologi.
Tantangan Menuju Kesepakatan Global yang Kompleks
Untuk mewujudkan jeda global, Anthropic menekankan bahwa perusahaan-perusahaan besar AI di banyak negara, terutama China dan Amerika Serikat, harus sepakat untuk menghentikan pengembangan secara serempak dengan aturan yang dapat diverifikasi oleh semua pihak. Tanpa kesepakatan semacam itu, perusahaan memperingatkan bahwa tekanan kompetitif dan geopolitik akan memaksa pengambilan keputusan keamanan yang berbahaya. Membangun kepercayaan antarnegara dengan kepentingan berbeda menjadi tantangan utama. Proposal ini muncul pada saat akselerasi pengembangan AI itu sendiri membuat perdebatan semakin mendesak. Laporan Anthropic memperjelas bahwa tanpa mekanisme koordinasi, skenario yang paling mungkin adalah perlombaan tanpa kendali dengan konsekuensi yang tak terduga bagi kontrol manusia atas mesin-mesin tersebut.