Tiga dari lima model AI gagal dalam tes keamanan terorisme, menurut riset organisasi nirlaba Inggris, Tech Against Terrorism, yang mengevaluasi lebih dari 130 model AI dengan ratusan permintaan menyerupai yang mungkin diajukan perencana serangan. Model yang dimodifikasi lewat proses “abliteration” — yang menghapus pengaman keamanan — gagal di setiap tes.
Contoh paling ekstrem: Llama 3.1 8B milik Meta mencetak 97 dari 100 pada tolok ukur keamanan organisasi itu sebelum dimodifikasi, berbanding sekitar 3 sesudahnya — versi yang dimodifikasi disebut memberikan jawaban terperinci atas permintaan soal serangan, pendanaan teroris, dan radikalisasi, sementara versi aslinya menolak. Organisasi itu juga menemukan lebih dari 29.000 repositori di Hugging Face yang mengiklankan model tanpa sensor atau tanpa pelindung.
Sumber: Independent Press
