Anthropic Dorong Tiga Langkah untuk Menjaga Keselamatan AI
Ruangojol.com - Jakarta, CEO Anthropic Dario Amodei menyerukan agar pengembangan kecerdasan buatan (AI) berjalan lebih terukur. Ia menilai kemampuan AI berkembang sangat cepat, sementara upaya menjaga keselamatan AI berisiko tertinggal.
Seruan tersebut disampaikan Amodei melalui esai berjudul We Must Pace the Frontier yang dibagikan di blog pribadinya. Menurut dia, industri AI perlu memberi waktu yang cukup agar sistem pengamanan mampu mengejar peningkatan kemampuan model.
Amodei tidak meminta penghentian total pengembangan AI. Ia justru mendorong perusahaan untuk terus mengembangkan teknologi tersebut dengan memperhatikan penyelarasan AI terhadap kepentingan manusia serta pengawasan yang sejalan dengan kecanggihan model.
Kecepatan AI Dinilai Perlu Dikendalikan
Dalam esainya, Amodei mengungkapkan kekhawatiran bahwa risiko AI dapat meningkat apabila perusahaan terus mempercepat kemampuan model tanpa memberi ruang bagi pengembangan sistem keselamatan.
“Selama beberapa bulan terakhir, saya semakin yakin bahwa untuk benar-benar mengatasi risiko AI, kita membutuhkan kehati-hatian yang lebih besar... sekaligus mengatur laju peningkatan kemampuan sehingga upaya pencegahan risiko punya waktu untuk mengejarnya,” tulis Amodei.
Ia menekankan pentingnya alignment atau penyelarasan AI. Mekanisme ini diperlukan agar sistem AI tetap beroperasi sesuai kepentingan dan nilai yang diharapkan manusia.
Tiga Usulan Anthropic untuk Keselamatan AI
Amodei mengusulkan tiga langkah yang dapat ditempuh perusahaan AI terdepan. Langkah pertama adalah menyediakan waktu yang cukup untuk mengamankan dan menyelaraskan model sebelum kemampuan tersebut berkembang lebih jauh.
Selain itu, perusahaan diminta membuka sistemnya kepada evaluator independen. Pihak eksternal ini dapat membantu memeriksa kepatuhan terhadap standar keselamatan, melaporkan insiden, serta mengevaluasi penyelarasan model selama proses pelatihan.
Langkah kedua berupa koordinasi antarperusahaan AI untuk membuat standar keselamatan bersama. Sementara itu, langkah ketiga menekankan perlunya koordinasi internasional dalam mengelola risiko yang muncul dari perkembangan AI.
- Memberikan waktu yang cukup untuk pengamanan dan penyelarasan model.
- Menyusun standar keselamatan bersama antarperusahaan AI terdepan.
- Membangun koordinasi internasional untuk mengelola risiko AI.
Dukungan dari Tokoh Industri AI
Seruan Amodei mendapat dukungan dari sejumlah pemimpin perusahaan yang bersaing dengan Anthropic. Pendiri sekaligus CEO OpenAI Sam Altman dan pendiri serta CEO xAI Elon Musk termasuk tokoh yang menyatakan dukungan terhadap kekhawatiran tersebut.
Peringatan itu juga muncul beberapa hari setelah Chief Scientist OpenAI Jakub Pachocki menyampaikan kekhawatiran serupa mengenai laju perkembangan AI. Hal ini menunjukkan bahwa perhatian terhadap keselamatan mulai menjadi pembahasan di antara sejumlah pemimpin industri.
Anthropic menyatakan akan menjalankan langkah pertama secara sepihak. Perusahaan tersebut berencana memberikan evaluator pihak ketiga akses permanen setingkat karyawan ke sistemnya.
Akses itu ditujukan untuk membantu pemeriksaan standar keselamatan, pelaporan insiden, dan evaluasi penyelarasan model selama pelatihan. Dengan demikian, pengawasan independen dapat berjalan seiring dengan pengembangan kemampuan AI.
Arah Pengembangan AI ke Depan
Gagasan Amodei menempatkan keselamatan AI sebagai bagian penting dari proses pengembangan, bukan sekadar evaluasi setelah teknologi selesai dibuat. Pendekatan tersebut menuntut perusahaan memperhitungkan kesiapan sistem pengawasan sebelum meningkatkan kemampuan model.
Namun, penerapannya membutuhkan koordinasi yang konsisten. Standar bersama antarperusahaan dan kerja sama internasional menjadi unsur penting agar langkah keselamatan tidak berjalan sendiri-sendiri.
Seruan ini tidak mengarah pada penghentian inovasi. Fokusnya adalah menciptakan laju pengembangan yang memberi kesempatan bagi mekanisme keselamatan, evaluator independen, dan pengawasan internasional untuk berkembang secara seimbang.