Vaš omiljeni generativni AI chatbot vjerojatno ne može reći sve što želite.
Ljudi se sve više oslanjaju na AI chatbotove kako bi obavili određene zadatke. Od odgovaranja na pitanja do pružanja virtualne pomoći, AI chatbotovi su dizajnirani da poboljšaju vaše online iskustvo. Međutim, njihova funkcionalnost nije uvijek tako jednostavna kao što se čini.
Većina AI chatbotova ima mehanizme cenzure koji osiguravaju da se ne pridržavaju ili ne odgovaraju na pitanja koja se smatraju štetnima ili neprimjerenima. Cenzura generativnih AI chatbotova može značajno utjecati na vaše iskustvo i kvalitetu sadržaja te ima dugoročne implikacije za umjetnu inteligenciju opće namjene.
Zašto su AI Chatbotovi cenzurirani?
Postoji niz razloga zbog kojih programeri mogu cenzurirati AI chatbot. Neki su zbog pravnih ograničenja, dok su drugi zbog etičkih razmatranja.
- Zaštita korisnika: Jedan od glavnih razloga za cenzuru AI chatbota je zaštita korisnika od štetnog sadržaja, dezinformacija i uvredljivog jezika. Filtriranje neprimjerenog ili opasnog materijala stvara sigurno online okruženje za vaše interakcije.
- Usmjerenje prema pravilima: Chatbotovi mogu djelovati u području ili državi s određenim pravnim ograničenjima. To dovodi do cenzuriranja chatbota od strane programera kako bi se osiguralo da zadovoljavaju pravne zahtjeve.
- Održavanje imidža branda: Tvrtke koje koriste chatbotove bilo koje vrste za korisničku podršku ili marketinške svrhe primjenjuju cenzuru kako bi zaštitile reputaciju svog branda. To postižu izbjegavanjem kontroverznih pitanja ili uvredljivog sadržaja.
- Područje rada: Ovisno o području u kojem generativni AI chatbot djeluje, može biti podvrgnut cenzuri kako bi se osiguralo da raspravlja samo o temama vezanim za to područje. Na primjer, AI chatbotovi koji se koriste u postavkama društvenih mreža često su cenzurirani kako bi se spriječilo širenje dezinformacija ili govora mržnje.
Postoje i drugi razlozi zbog kojih su generativni AI chatbotovi cenzurirani, ali ovih četiri obuhvaćaju većinu ograničenja.
Mehanizmi cenzure u AI Chatbotima
Ne koriste svi AI chatbotovi iste mehanizme cenzure. Mehanizmi cenzure variraju ovisno o dizajnu i svrsi AI chatbota.
- Filtriranje ključnih riječi: Ovaj oblik cenzure cilja programirati AI chatbotove da prepoznaju i filtriraju određene ključne riječi ili fraze koje određene regulative smatraju neprimjerenima ili uvredljivima tijekom vašeg razgovora.
- Analiza sentimenta: Neki AI chatbotovi koriste analizu sentimenta kako bi detektirali ton i emocije izražene u razgovoru. Ako izražavate pretjerano negativan ili agresivan sentiment, chatbot može prijaviti korisnika.
- Crne i bijele liste: AI chatbotovi ponekad koriste crne i bijele liste kako bi upravljali sadržajem. Crna lista sadrži zabranjene fraze, dok bijela lista sadrži odobrene sadržaje. AI chatbot uspoređuje poruke koje šaljete s tim listama, a bilo kakva podudaranja pokreću cenzuru ili odobrenje.
- Prijavljivanje od strane korisnika: Neki AI chatbotovi dopuštaju korisnicima da prijave uvredljiv ili neprimjeren sadržaj. Ovaj mehanizam prijavljivanja pomaže identificirati problematične interakcije i provoditi cenzuru.
- Moderatori sadržaja: Većina AI chatbotova uključuje ljudske moderatore sadržaja. Njihova uloga je pregledavati i filtrirati interakcije korisnika u stvarnom vremenu. Ti moderatori mogu donositi odluke o cenzuri temeljem unaprijed definiranih smjernica.
Često ćete pronaći AI chatbotove koji koriste kombinaciju gore navedenih alata kako bi osigurali da ne prelaze granice svoje cenzure. Dobar primjer su metode “jailbreak” za ChatGPT koje pokušavaju pronaći načine za zaobilaženje OpenAI-evih ograničenja na alatu. S vremenom, korisnici probijaju cenzuru ChatGPT-a i potiču ga da odgovara na inače zabranjene teme, stvara opasne zlonamjerne softvere i slično.
Ravnoteža između slobode govora i cenzure
Balansiranje slobode govora i cenzure u AI chatbotima kompleksno je pitanje. Cenzura je ključna za zaštitu korisnika i pridržavanje propisa. S druge strane, nikada ne smije narušavati pravo ljudi na izražavanje ideja i mišljenja. Postizanje prave ravnoteže je izazovno.
Iz tog razloga, developeri i organizacije iza AI chatbotova moraju biti transparentni u vezi s njihovim politikama cenzure. Trebali bi korisnicima jasno naznačiti koji sadržaj cenzuriraju i zašto. Također bi trebali dopustiti korisnicima određenu razinu kontrole kako bi prilagodili razinu cenzure prema svojim preferencijama u postavkama chatbota.
Programeri neprekidno usavršavaju mehanizme cenzure i treniraju chatbotove kako bi bolje razumjeli kontekst upita korisnika. To pomaže u smanjenju lažnih pozitiva i poboljšava kvalitetu cenzure.
Jesu li svi chatbotovi cenzurirani?
Jednostavan odgovor je – ne. Iako većina chatbotova ima mehanizme cenzure, postoje i oni koji nisu cenzurirani. Njih ne ograničavaju filteri sadržaja ili sigurnosne smjernice. Primjer takvog chatbota je FreedomGPT.
Neki javno dostupni “veliki jezični modeli” (LLM; large language models) nemaju cenzuru. Ljudi mogu koristiti takve modele kako bi stvorili ne-cenzurirane chatbotove. Takav rizik može izazvati etičke, pravne i sigurnosne zabrinutosti korisnika.
Zašto cenzura chatbota utječe na vas
Iako cenzura ima za cilj zaštititi vas kao korisnika, njezina zloupotreba može dovesti do kršenja vaše privatnosti ili ograničiti vašu slobodu informiranja. Kršenje privatnosti može se dogoditi kada ljudski moderatori provode cenzuru i tijekom obrade podataka. Zato je važno provjeriti pravilnik o privatnosti prije korištenja tih istih chatbotova.
S druge strane, vlade i organizacije mogu koristiti cenzuru kao zaobilazno rješenje kako bi osigurale da chatbotovi ne odgovaraju na unos koji smatraju neprimjerenim. Ili čak koristiti ih kako bi širili dezinformacije među građanima ili zaposlenicima.
Evolucija AI u cenzuri
Tehnologija AI-a i chatbotova neprestano se razvija, što dovodi do sofisticiranih chatbotova koji razumiju kontekst i namjeru korisnika. Dobar primjer je razvoj dubokih modela učenja poput GPT-a. To znatno povećava točnost i preciznost mehanizama cenzure, smanjujući broj lažnih pozitiva.
Piše: Boris Plavljanić
