Od umjetne inteligencije više nema bježanja i ona se polako ušuljala na Windows računala. Dugo vremena smo govorili o tome kako su 64 GB minimalni zahtjev za prostor za pohranu kod Windowsa 11.
Kako smo se našli u periodu intenzivne implementacije AI-ja, nova Copilot + PC računala odjednom su podigla zahtjeve prostora za pohranu i smjestila ih na velikih 256 GB.
Ima li ovdje kraja? Nama se čini da će biti još gore.
Što je AI za operativni sustav?
Moramo biti svjesni kako se razgovori o AI-ju unutar Windowsa ne odnose samo na operativni sustav sam po sebi.
Sve više developera unosi AI modele u svoje aplikacije koje postaju ili su već sastavni dio Windowsa pa tako dobivamo situaciju u kojoj operativni sustav ne pokreće samo svoje AI značajke, već mora brinuti i o svakoj aplikaciji koja ih ima.
Uzmimo konkretan primjer. Ako želite koristiti AI značajku samih Windowsa 11 kao što je Windows Recall uz lokalne generativne AI modele poput DeepSeeka i tzv. „diffusion“ AI modele kao što je Stable Diffusion, čak je i laiku vidljivo da se nećete moći pouzdati samo u nove NPU procesore.
Vama je u navedenom primjeru također potreban veliki prostor za pohranu.
Trenutni zahtjevi prostora za pohranu kod implementacije AI-ja
Microsoft je na službenim stranicama pružio savjete u vezi sistemskih zahtjeva za implementaciju AI modela.
Ovdje govorimo o novim Copilot + PC računalima i ona moraju imati barem 256 GB prostora za pohranu kako bi se uopće mogla kategorizirati u ovaj brend.
Nekima se možda ne čini da se radi o velikom zahtjevu, no prethodno smo već spomenuli da je prijašnji minimum za Windows 11 operativni sustav 64 GB prostora za pohranu. To bi značilo da se zahtjev kod prostora za pohranu povećao za četiri puta!
Daljnja rasprava nas vodi prema pitanju zašto je takav skok u gigabajtima bio potreban. Na prvi pogled ništa nam nije jasno jer je Microsoft kod nekoliko aplikacija uveo AI modele (npr. Microsoft Paint ili Photos) i ovdje se ne radi o velikoj potrošnji resursa. Možemo uzeti i cjelokupnu implementaciju Copilot alata u obzir pa opet dolazimo do činjenice da Windowsi 11 na Copilot + PC računalima zauzimaju oko 40 GB, što je slična vrijednost koju možete naći na običnim Windows 11 računalima.
Gdje je potrošnja ostalih gigabajta?
AI modeli trebat će sve više i više prostora za pohranu
Kad govorimo o „veličini“ AI modela, moramo se referirati na broj parametara koji sadrži. Parametar se može definirati kao varijabla u AI modelu koja determinira kako se generiraju povratni rezultati, a jedan AI model može imati milijarde takvih parametara.
Oni zauzimaju prostor za pohranu kako bi mogli nesmetano izvoditi operacije i gigabajti se ovdje vrlo lako troše.
Uzet ćemo za primjer nekoliko aktualnih AI modela:
- Google Gemma 2 — 1.71 GB (2 milijarde parametara)
- Meta Llama 3.1 — 4.92 GB (8 milijardi parametara)
- Qwen 2.5 Coder — 8.52 GB (14 milijardi parametara)
- Meta Llama 3.3 Instruct — 37.14 GB (70 milijardi parametara)
- DeepSeek V3 — 221.25 GB (671 milijarda parametara).
Kao što vidite, navedeni AI modeli imaju veću potrošnju resursa sukladno povećanju broja parametara. To nam govori kako „inteligentniji“ AI modeli imaju više parametara pa će im trebati i više prostora za pohranu. Mislite li da će AI modeli stati na ovoj točki razvoja na kojoj se nalaze? Naravno da ne.
Također uzmite u obzir da različiti AI modeli imaju različite prednosti. Neki su bolji kod zadataka pisanja, neki za logičke zadatke itd. Vaš operativni sustav neće se moći „vući“ s lokalno instaliranim AI modelima, već će ih trebati više.
Ostale potrebe za podacima pored AI modela
Zaboravili smo jednu stvar: AI modelima su potrebni podaci za rad, a oni nisu njihov sastavni dio.
Uzet ćemo spornu Windows Recall aplikaciju koja je savršeni primjer.
Windows Recall izvodi periodične screenshotove na vašoj Windows radnoj površini dok je koristite i sve se pohranjuje lokalno na vašem računalu. Isti screenshotovi postaju zapisi vaših aktivnosti. Recall se služi AI elementima za analizu spremljenih screenshotova i stvara pretražive semantičke indekse vaših prošlih aktivnosti na računalu koje možete naknadno samostalno pretraživati.
Recimo, pisali ste članke o ChatGPT-ju pa kada napravite pretragu „chatgpt“ unutar Windows Recall aplikacije, otvorit će vam se rezultati koji će biti web stranice o ChatGPT-ju koje ste pretraživali tijekom rada. Windows Recall koristi AI za razumijevanje prošlih aktivnosti i prikazuje vam prošle trenutke koji su relevantni za vašu pretragu.
Svi se ti podaci negdje pohranjuju, a Microsoft vam neće dopustiti da pokrećete Windows Recall bez barem 50 GB slobodnog prostora. Ovaj prostor neće se odmah popuniti, ali kalkulacije od strane više korisnika su potvrdile da će Windows Recall u par mjeseci korištenja zauzeti blizu 2 GB.
Sad samo zamislite koliko će već prostora za pohranu zauzeti nakon jedne ili dvije godine korištenja, a radi se samo o jednom AI alatu.
Koliko je prostora na disku potrebno za AI?
Ako ste jedan od korisnika koji pod svaku cijenu želi imati AI značajke i modele lokalno na svom računalu, naša je preporuka da ono mora imati barem 1 TB prostora za pohranu.
Pod 1 TB mislimo samo na potrebe AI-ja. Ako ćete prostor za pohranu koristiti za videoigre ili spremanje videoklipova, prostor za pohranu će tada morati imati barem 2 TB. Želite li biti mirni za budućnost, onda je veličina diska od 4 TB vjerojatno najbolji izbor.
Uzmemo li u obzir kakve su cijene SSD-ova s takvim kapacitetima i cijene računala koja ih imaju, dolazimo do deprimirajućeg zaključka da će korištenje AI-ja u budućnosti biti vrlo skupo. Još je gora činjenica što sve više aplikacija počinje koristiti AI modele i pouzdaju se na lokalno spremljene podatke pa nas neće šokirati samo potreban prostor za pohranu, već i trošenje resursa radne memorije.
Pripremite se jer tehnologija, po svemu sudeći, ide u ovom smjeru.
Ervin Mičetić
