Fitur Scam Alert WhatsApp Diuji untuk Deteksi Pesan Penipuan
RUANGOJOL.COM - Jakarta, fitur Scam Alert WhatsApp tengah diuji untuk memberikan peringatan ketika pesan yang diterima pengguna terindikasi sebagai penipuan. Fitur ini bersifat opsional dan menggunakan model machine learning yang berjalan langsung di perangkat.
Meta mengatakan Scam Alert masih diluncurkan secara terbatas dalam versi Beta. Perusahaan akan menguji fitur tersebut lebih lanjut sebelum menyediakannya untuk seluruh pengguna WhatsApp.
"Scam Alert adalah fitur baru dan opsional yang menjalankan model machine learning di perangkat untuk memperingatkan pengguna tentang potensi pesan penipuan," tulis Meta dalam keterangannya, Rabu (12/8).
Fitur Scam Alert WhatsApp Kenali Pola Pesan Mencurigakan
Meta mengembangkan fitur ini untuk menghadapi modus penipuan yang terus berubah. Modus tersebut mencakup penyamaran identitas, rekayasa sosial, hingga penipuan yang memanfaatkan konten buatan AI.
Scam Alert tidak aktif secara otomatis. Pengguna harus mengaktifkannya terlebih dahulu melalui pengaturan yang tersedia di WhatsApp.
Setelah aktif, WhatsApp akan mengunduh model machine learning ke perangkat pengguna. Model itu kemudian mengklasifikasikan pesan masuk dari nomor yang belum tersimpan di kontak.
Klasifikasi tersebut melihat apakah pesan memiliki pola yang sesuai dengan modus penipuan yang telah diketahui. Model dilatih menggunakan pola dalam percakapan penipuan berdasarkan laporan yang sebelumnya dikirim pengguna kepada WhatsApp.
Menurut Meta, sistem menggunakan klasifikasi probabilistik. Proses tersebut mempertimbangkan struktur percakapan dan sinyal linguistik untuk menilai kemungkinan sebuah pesan berkaitan dengan penipuan.
Peringatan Muncul di Dalam Chat
Jika sistem mengidentifikasi pesan sebagai kemungkinan upaya penipuan, WhatsApp akan menampilkan peringatan di dalam chat. Peringatan itu hanya dapat dilihat oleh penerima dan tidak terlihat oleh pengirim pesan.
Setelah melihat peringatan, pengguna dapat memilih beberapa tindakan. Pengguna bisa memblokir pengirim, melaporkan percakapan, atau tetap melanjutkan komunikasi.
WhatsApp juga menyediakan pilihan ketika sistem keliru memberikan peringatan. Pengguna dapat menandai chat tersebut sebagai tepercaya.
Setelah chat ditandai tepercaya, peringatan akan dihapus. Scam Alert juga tidak akan lagi memberikan tanda pada percakapan tersebut.
Pengguna yang menandai chat sebagai tepercaya dapat memilih untuk membagikan lima pesan terakhir yang diterima kepada WhatsApp. Data tersebut digunakan untuk membantu meningkatkan akurasi fitur.
Pesan Tetap Diproses di Perangkat
Meta menekankan bahwa proses deteksi Scam Alert berlangsung sepenuhnya di perangkat pengguna. Pesan yang dianalisis model tidak dikirim keluar dari perangkat untuk keperluan klasifikasi.
Pesan juga tidak otomatis dilaporkan kepada WhatsApp, Meta, maupun pihak ketiga ketika sistem menemukan indikasi penipuan. Menurut perusahaan, pendekatan ini memungkinkan Scam Alert berjalan berdampingan dengan perlindungan enkripsi end-to-end WhatsApp.
WhatsApp tidak dapat secara otomatis membagikan data pengguna hanya karena sistem mendeteksi indikasi scam. Konten pesan, termasuk informasi bahwa sebuah scam telah terdeteksi, baru dapat sampai ke server WhatsApp apabila pengguna secara langsung memilih untuk melaporkannya.
Pengguna tetap memiliki kendali untuk mengaktifkan atau mematikan Scam Alert kapan saja. Dengan demikian, fitur ini tidak memaksa pengguna menggunakan sistem pendeteksian tersebut.
Pengujian Berlanjut Sebelum Peluncuran Luas
Meta menyebut perkembangan model machine learning di perangkat membuat klasifikasi teks dapat dilakukan langsung melalui ponsel. Perusahaan mengatakan teknologi tersebut kini dapat berjalan tanpa kompromi pada performa, baterai, atau ukuran model yang sebelumnya menjadi tantangan.
Sebelum meluncurkan Scam Alert secara luas, Meta akan terus menguji fitur ini bersama komunitas Bug Bounty. Perusahaan juga meminta masukan dari para peneliti keamanan.
Pengujian tersebut akan membantu Meta menilai kemampuan sistem dalam mengenali pola penipuan sekaligus mengurangi kemungkinan munculnya peringatan yang keliru. Masukan pengguna juga dapat berperan dalam meningkatkan akurasi model.
Untuk sementara, Scam Alert masih tersedia secara terbatas dalam versi Beta. Pengguna perlu menunggu ketersediaan fitur tersebut di perangkat dan wilayah masing-masing sebelum dapat menggunakannya.
Dengan pemrosesan langsung di perangkat, Meta berupaya menambahkan lapisan perlindungan baru tanpa mengubah mekanisme enkripsi end-to-end WhatsApp. Namun, pengguna tetap dapat menentukan tindakan setelah menerima peringatan, termasuk memblokir, melaporkan, atau melanjutkan percakapan.