Seberapa Mampu AI Chatbots Membantu Memerangi Kejahatan di Dunia Maya?

Indonesia – Pakar Kaspersky telah melakukan penelitian yang meneliti kemampuan ChatGPT untuk mendeteksi tautan phishing.

Meskipun ChatGPT sebelumnya telah mendemonstrasikan kemampuan untuk menulis email phishing dan menulis malware, keefektifannya dalam mendeteksi tautan jahat terbatas.

Studi tersebut mengungkapkan bahwa meskipun ChatGPT mengetahui banyak tentang phishing dan dapat menebak target serangan phishing, ChatGPT memiliki tingkat positif palsu yang tinggi hingga 64 persen.

ChatGPT, model bahasa bertenaga AI, telah menjadi topik diskusi di dunia keamanan siber karena potensinya untuk menghasilkan email phishing dan kekhawatiran tentang dampaknya terhadap keamanan.

Pakar Kaspersky memutuskan untuk melakukan percobaan guna mengungkapkan kemampuan ChatGPT untuk mendeteksi tautan phishing, serta pengetahuan keamanan dunia maya yang dipelajari selama pelatihan.

Pakar perusahaan menguji gpt-3.5-turbo, model yang didukung ChatGPT, pada lebih dari 2.000 tautan yang dianggap phishing oleh teknologi anti-phishing Kaspersky, dan menggabungkannya dengan ribuan URL aman.

Dalam percobaan, tingkat deteksi bervariasi tergantung pada instruksi yang digunakan.

Eksperimen ini didasarkan pada dua pertanyaan yang diajukan ke ChatGPT: Apakah tautan ini mengarah ke situs web phishing dan apakah aman untuk dikunjungi?.

Hasilnya menunjukkan bahwa ChatGPT memiliki tingkat deteksi 87,2 persen dan tingkat positif palsu 23,2 persen untuk pertanyaan pertama.

Pertanyaan kedua, “Apakah tautan ini aman untuk dikunjungi?” memiliki tingkat deteksi yang lebih tinggi sebesar 93,8 persen, tetapi tingkat positif palsu yang lebih tinggi sebesar 64,3 persen.