Istraživači Cornell Techa su otkrili novu vrstu online napada koji manipuliraju, tj. truju open-source kod. Najveći problem kod ove vrste napada je imunost na obrambene mehanizme, pa je gotovo nemoguće obraniti se od njega bez temeljite provjere i testiranja open-source koda.

Kod tradicionalnih hakerskih napada stvari su jasne. Hakeri u programu pronalaze slabu točku, koriste ju u svoje svrhe i tako kreiraju napad. Provođenje hakerskog napada podrazumijeva poznavanje koda, općeg modela i posebne svrhe, dok samo trovanje open-source koda prolazi bez izravne izmjene koda i modela. Tako reći, programer ga sam poziva u svoj program bez razmišljanja.

Posljedice koje nastaju ovom vrstom hakiranja su razne, od izmjene recenzija filmova do manipuliranja modelima strojnog učenja investicijskih banaka kako bi se investitorima pružile netočne procjene.

Međutim, postati žrtvom ovakvog napada nije baš tako jednostavno, jer prvo morate preuzeti zatrovani open-source kod sa svih vrsta repozitorija i upotrijebiti ga bez provjere na postojećem sustavu. No, prema istraživačima, stvari su najgore kada je u pitanju umjetna inteligencija i tehnologija strojnog učenja.

Prema koautoru Vitaly Shmatikovu, profesoru računalnih znanosti na Cornell i Cornell Techu, mnogi nestručni korisnici “grade svoje modele umjetne inteligencije pomoću koda koji jedva razumiju”. Tada takav “zatrovani sustav umjetne inteligencije” kreće s radom i čeka na upute hakera.

Istraživači rade na sigurnosnim mjerama koje će “ukloniti cijelu ovu klasu napada i napraviti umjetnu inteligenciju i strojno učenje sigurnima čak i za one koji za to nisu stručnjaci”. No, do tada, treba biti oprezan i posebno paziti na neprovjerene open-source kodove.

Piše: Marijan Živković

Komentiraj

Please enter your comment!
Please enter your name here