Peneliti Anthropic Khawatir AI Mengancam Kelangsungan Manusia
Ruangojol.com - Jakarta, risiko AI kembali menjadi perhatian setelah Evan Hubinger, peneliti keselamatan senior di Anthropic, memperingatkan bahwa kecerdasan buatan berpotensi mengancam kelangsungan manusia dalam satu dekade mendatang.
Hubinger menyampaikan pandangan tersebut melalui unggahan di X. Ia menilai risiko dari model AI yang ada saat ini masih rendah. Namun, ia khawatir teknologi itu segera mampu memperbaiki dirinya sendiri hingga mencapai tingkat yang menimbulkan risiko eksistensial bagi umat manusia.
Ia bahkan memperkirakan terdapat peluang lebih dari 10 persen bahwa AI dapat membunuh seluruh manusia dalam sepuluh tahun ke depan. Pernyataan tersebut telah dilihat lebih dari 10 juta kali dan kembali memicu perdebatan tentang kesiapan industri menghadapi perkembangan AI.
Risiko AI dan persoalan keselamatan superinteligensi
Hubinger mengatakan Anthropic berupaya sebaik mungkin untuk mengatasi persoalan keselamatan AI. Namun, ia mengakui perusahaan tersebut belum memiliki rencana untuk menyelesaikan masalah penyelarasan superinteligensi dan belum berada pada jalur yang jelas untuk mencapainya.
Masalah penyelarasan merujuk pada upaya memastikan perilaku AI tetap sesuai dengan tujuan dan kepentingan manusia. Kekhawatiran muncul ketika sistem AI menjadi semakin mampu bekerja secara mandiri, sementara mekanisme pengawasan dan pengendaliannya belum berkembang dengan kecepatan yang sama.
Peringatan mengenai ancaman keselamatan AI bukan hal baru. Pada 2023, pimpinan OpenAI, Google DeepMind, dan Anthropic juga menyampaikan kekhawatiran serupa. Namun, pernyataan para tokoh industri belakangan ini dinilai semakin tegas seiring munculnya sejumlah insiden yang melibatkan agen AI.
Laporan model Anthropic tidak diberikan kepada lembaga Inggris
Peringatan Hubinger muncul setelah Financial Times melaporkan bahwa Anthropic tidak memberikan model terbarunya kepada AI Safety Institute atau AISI di Inggris. Lembaga tersebut termasuk salah satu badan terkemuka di dunia yang bertugas menilai risiko AI.
BBC telah meminta tanggapan Anthropic mengenai laporan tersebut. Sementara itu, juru bicara Cabinet Office tidak mengomentari apakah model terbaru Anthropic memang tidak diberikan kepada AISI.
Juru bicara tersebut menyatakan bahwa pemerintah Inggris terus bekerja sama secara erat dengan mitra industri, termasuk Anthropic, untuk membuat model AI menjadi lebih aman. Neil Lawrence, Profesor Machine Learning di University of Cambridge, menilai laporan Financial Times itu kredibel.
Sejumlah insiden meningkatkan kekhawatiran
Kekhawatiran terhadap perkembangan AI semakin kuat setelah serangkaian insiden pada musim panas. Beberapa agen AI, yaitu sistem yang dapat beroperasi secara otonom, dilaporkan melakukan serangan siber.
OpenAI, Anthropic, dan Meta juga mengungkap adanya peretasan yang dilakukan oleh alat AI mereka. Peristiwa tersebut memperlihatkan bahwa sistem yang diberi kemampuan bertindak secara mandiri dapat menimbulkan risiko baru ketika pengawasan manusia tidak berjalan optimal.
Pada September, kepala ilmuwan OpenAI Jakub Pachocki menyerukan kehati-hatian ekstrem terhadap kemajuan AI. Ia memperingatkan bahwa intervensi tambahan mungkin diperlukan agar manusia tetap mengendalikan masa depan.
Sejumlah tokoh penting di industri tersebut juga mendorong perlambatan pengembangan AI. Pimpinan Anthropic, Dario Amodei dan Jared Kaplan, termasuk di antara pihak yang menyerukan langkah tersebut.
Dalam surat terbuka yang ditandatangani 1.300 pekerja perusahaan AI, mereka meminta pemerintah Amerika Serikat mendukung upaya internasional untuk mengembangkan perangkat teknis dan tata kelola. Tujuannya adalah mengatur laju pengembangan AI terdepan secara hati-hati.
Perdebatan ini menunjukkan bahwa risiko AI tidak hanya berkaitan dengan kemampuan teknologi, tetapi juga dengan kesiapan perusahaan dan pemerintah dalam mengawasinya. Seiring kemampuan model terus berkembang, kebutuhan terhadap kerja sama keselamatan dan pengendalian manusia menjadi semakin penting.