Waspada, Kejahatan Siber Menggunakan AI Semakin Canggih

Kerentanan AI



Ilustrasi Artificial intelligence (AI).

Photo :

• Pixabay.

Selain menggunakan AI untuk tujuan yang merugikan, penyerang juga dapat menyerang algoritma AI itu sendiri.

Serangan siber ini meliputi:

1.    Serangan injeksi cepat pada model bahasa besar, di mana penyerang membuat permintaan yang melewati batasan perintah sebelumnya.

2.    Serangan adversarial pada algoritme pembelajaran mesin, di mana informasi tersembunyi dalam gambar atau audio dapat membingungkan AI dan menghasilkan keputusan yang salah.