ChatGPT je napredni chatbot koji se temelji na strojnom učenju. Iza ChatGPT stoji tvrtka OpenAI, tvrtka za istraživanje umjetne inteligencije. ChatGPT može pisati eseje, pjesme, domaće zadaće, odgovarati na pitanja na ispitu, pomoći u programiranju i još mnogo toga. Međutim, pokazalo se da ima i primjenu u kreiranju zlonamjernog koda, odnosno malwarea.
Kako izvještava tvrtka CyberArk, ChatGPT se može koristiti za stvaranje polimorfnog malwarea. Zašto je polimorfni malware toliko opasan? Opasan je zbog toga što ima sposobnost da konstantno mijenja kod kako bi izbjegao identifikaciju. Kao rezultat toga, mnogi antivirusni i antimalware programi ga ne mogu prepoznati.
ChatGPT ima filtere koji bi trebali spriječiti stvaranje zlonamjernog softvera. Međutim, postoji način da se to zaobiđe. U ovom slučaju su istraživači iz CyberArka to postigli zahtijevanjem od ChatGPT-a da prikaže kod za specifično zlonamjerno programiranje, koji se zatim može koristiti za izradu određenih eksploatacija za izbjegavanje sigurnosnih mjera.
“Kao što smo vidjeli, korištenje ChatGPT-ovog API-ja unutar zlonamjernog softvera može predstavljati značajne izazove za sigurnosne stručnjake. Važno je zapamtiti da ovo nije samo hipotetski scenarij, već stvarna zabrinutost. Ovo je područje koje se neprestano razvija i kao takvo, bitno je biti informiran i budan”, stoji u izvješću CyberArka.
Piše: Marijan Živković
