Od januara do maja 2023. godine, Kaspersky je detektovao više od 92.000 napada malvera koji su se predstavljali kao alati veštačke inteligencije (AI). Ovi napadi su uključivali lažne aplikacije koje su se najviše koristile kao ChatGPT, čineći gotovo polovinu svih zabeleženih napada. Prema podacima, lažne verzije ChatGPT aplikacija činile su 49% svih napada, dok su druge aplikacije poput Claude i Gemini svaka činile po 18%. Ovi podaci su predstavljeni na godišnjoj evropskoj konferenciji Kaspersky Horizons.
Kaspersky je identifikovao preko 15.000 uzoraka malvera koji su se prikazivali kao AI softver, uključujući bankarske trojance, špijunski softver i druge zlonamerne alate. Ovi malveri su posebno ciljali korisnike koji traže pristup popularnim AI alatima. Na primer, nova kampanja povezane sa APT grupom Silver Fox distribuirala je lažne Claude AI aplikacije za različite operativne sisteme, omogućavajući napadačima dugoročan pristup zaraženim uređajima.
Pored ovih napada, istraživači Kaspersky-a su zabeležili infostealere koji su se maskirali kao popularni AI alati, što ukazuje na širu pretnju koja se oslanja na poverenje korisnika u poznate brendove. Prema istraživanju, 99% kompanija planira da integriše AI u svoje bezbednosne procese, dok napadači sve više ciljaju lanci snabdevanja i open-source AI alate kako bi dobili pristup korporativnim sistemima.
Jedan od nedavnih primera je kompromitacija biblioteke LiteLLM, koja se široko koristi za pristup AI modelima. U ovoj situaciji, zlonamerni kod je mogao da krade kredencijale i druge osetljive informacije. Ovakvi napadi ne samo da ugrožavaju pojedinačne korisnike, već i čitave organizacije, jer jedan kompromitovani deo može ugroziti celu mrežu.
Sajber-kriminalci koriste različite taktike kako bi prikrili svoje zlonamerne alate kao legitimna rešenja, što podstiče korisnike da nesvesno otkrivaju svoje podatke ili instaliraju malver. Pored tradicionalnih malvera, organizacije se suočavaju sa rizicima koji su inherentni AI sistemima, kao što su curenje podataka i napadi na podatke.
Automatizacija AI sistema može poboljšati operativnu efikasnost, ali takođe donosi nove rizike. Greške koje generišu AI sistemi mogu se brzo skalirati, a odluke se mogu donositi bez adekvatnog nadzora. Stručnjaci naglašavaju da ljudski faktor ostaje ključni bezbednosni rizik, uključujući preterano oslanjanje na AI tehnologije i nedostatak operativne opreznosti.
S obzirom na sve ove pretnje, nedostatak kvalifikovanog sajber-bezbednosnog kadra, zajedno sa evoluirajućim pretnjama i izazovima u kvalitetu podataka, čini neophodnim da organizacije razviju strukturiranu strategiju implementacije AI. U ovom kontekstu, važno je da kompanije ne samo da integrišu AI alate, već i da prepoznaju i upravljaju rizicima koji dolaze s njima.
Kao što se može videti, sve većom upotrebom AI tehnologija dolazi i do povećanog rizika od sajber napada. Organizacije moraju biti svesne ovih pretnji i raditi na jačanju svojih bezbednosnih protokola kako bi se zaštitile od potencijalnih napada. U svetu gde AI postaje sve prisutniji, edukacija i svest o sajber bezbednosti su ključni za zaštitu podataka i sistema.
