AI fabrika nije samo data-centar prepun grafičkih procesora. Njena vrednost meri se sposobnošću da u velikoj razmeri i neprekidno proizvodi AI kapacitet, od treniranja modela do inferencije i automatizovanih odluka za industriju, nauku i javni sektor.
Prema dr Tomasu Zakariji, višem potpredsedniku AMD-a za strateška tehnološka partnerstva i javne politike, sistemi ovog tipa prerastaju okvire klasične IT infrastrukture. Njihova veličina, energetske potrebe i uticaj na privredu približavaju ih velikim industrijskim i energetskim postrojenjima.
To menja i način na koji se o AI infrastrukturi razmišlja. Više nije dovoljno pitati koliko je brz pojedinačni akcelerator. Važno je koliko računarskog kapaciteta može da isporuči čitav sistem, koliko energije troši, koliko brzo razmenjuje podatke i koliko efikasno može da radi mesecima i godinama.
Od superkompjuterskog centra do AI fabrike
Razlika između tradicionalnog superkompjuterskog centra i AI fabrike nije u jednostavnoj podeli na „sporije“ i „brže“ računare.
Današnje AI fabrike izrasle su upravo iz računarstva visokih performansi i koriste iste osnovne tehnološke elemente: procesore, akceleratore, memorijske sisteme velikog propusnog opsega, brze mrežne veze i napredne sisteme hlađenja.
Razlikuje ih pre svega način korišćenja infrastrukture.
Klasičan HPC centar uglavnom je organizovan oko jednog ili više velikih sistema namenjenih naučnim simulacijama, modelovanju klime, fizici, hemiji ili drugim zahtevnim proračunima. Performanse se tradicionalno izražavaju u FLOPS-ima, odnosno broju operacija sa pokretnim zarezom koje sistem može da izvrši u sekundi.
AI fabrika organizovana je oko neprekidnog toka podataka i modela.
Podaci se pripremaju, modeli treniraju i prilagođavaju, a zatim se isti sistemi ili njihovi delovi koriste za inferenciju. Krajnji proizvod više nije samo rezultat jednog proračuna, već model ili AI servis koji može kontinuirano da se koristi u proizvodnji, energetici, robotici, saobraćaju, medicini ili javnom sektoru.
Granica između HPC centra i AI fabrike zato nije potpuno oštra. Razlika je pre svega u nameni, organizaciji sistema i njegovoj skali.
Više se ne govori samo o FLOPS-ima, već o megavatima
Jedna od najvećih promena odnosi se na samu razmeru infrastrukture.
Prema Zakariji, AI sistemi grade se znatno brže i u mnogo većem obimu nego tradicionalni superkompjuteri. Zato se njihova veličina sve češće opisuje ne samo brojem procesora i akceleratora, već i količinom električne energije koju mogu da koriste.
Megavati, a kod budućih najvećih postrojenja i gigavati, postaju praktično nova mera AI infrastrukture.
To ima direktne posledice na izbor lokacije.
Velika AI fabrika ne može da bude smeštena bilo gde gde postoji dovoljno zemljišta i optičkih kablova. Potrebni su stabilna elektroenergetska mreža, veliki raspoloživi kapaciteti, odgovarajuća cena električne energije, infrastruktura za hlađenje i dozvole koje omogućavaju izgradnju u prihvatljivom roku.
Zbog toga se lokacija budućih AI fabrika sve više bira po kriterijumima koji podsećaju na izgradnju velikog industrijskog ili energetskog kompleksa.
GPU je samo jedan deo sistema
Popularna slika AI data-centra gotovo uvek počinje i završava se grafičkim akceleratorima.
U stvarnom sistemu oni su samo jedna komponenta.
Da bi hiljade ili desetine hiljada akceleratora radile efikasno, potrebno ih je neprekidno snabdevati podacima. Procesori moraju da upravljaju radnim opterećenjima, memorijski podsistem mora da obezbedi dovoljan propusni opseg, a mreža da prenese ogromne količine podataka između računarskih čvorova.
AMD upravo oko toga gradi svoju strategiju.
EPYC procesori namenjeni su upravljanju složenim serverskim opterećenjima, Instinct akceleratori izvršavanju masovno paralelnih AI operacija, dok Pensando mrežna tehnologija i ROCm softverska platforma treba da povežu te komponente u jedinstven sistem.
Ideja je da se više ne optimizuje samo pojedinačni čip.
Rek postaje osnovna jedinica AI fabrike
AMD-ova platforma Helios dobar je primer promene u načinu projektovanja AI infrastrukture.
Umesto kombinovanja pojedinačnih serverskih komponenti nakon što su već projektovane, sistem se planira na nivou čitavog serverskog reka.
Procesori, akceleratori, memorija, mreža, napajanje i hlađenje posmatraju se kao delovi iste arhitekture.
To je važno zato što gustina računarske snage brzo raste.
Veći broj akceleratora na malom prostoru znači i znatno veću količinu toplote. Klasično vazdušno hlađenje zbog toga sve teže prati potrebe novih sistema, pa direktno tečno hlađenje postaje standard za najzahtevnije konfiguracije.
Istovremeno, napajanje mora da podnese znatno veće opterećenje, dok mrežna infrastruktura mora da omogući da hiljade akceleratora rade kao jedan veliki računarski sistem.
Konkurencija se zato pomera sa pitanja „ko ima najbrži GPU“ ka pitanju ko može da napravi efikasniji kompletan AI sistem.
Usko grlo postaju podaci
Kod velikih AI modela računanje je samo deo problema.
Akcelerator koji čeka podatke praktično je neiskorišćen kapital.
Zbog toga memorijski propusni opseg, brzina međusobnih veza i način na koji se podaci kreću kroz sistem postaju jednako važni kao broj računskih operacija koje jedan čip može da izvrši.
U velikom AI sistemu ogromna količina energije troši se upravo na pomeranje podataka između procesora, memorije, akceleratora i drugih računarskih čvorova.
Zato se sve češće koriste metrike poput performansi po vatu i performansi po prenetom bajtu.
AMD navodi da je u odnosu na sisteme iz 2020. godine postigao 38 puta veću energetsku efikasnost na nivou računarskog čvora za AI trening i HPC radna opterećenja.
Kompanija je postavila i cilj da do 2030. godine poveća energetsku efikasnost na nivou kompletnog reka još 20 puta.
Otpadna toplota može postati proizvod
Kada veliki AI sistem troši megavate električne energije, gotovo sva ta energija na kraju završava kao toplota.
U tradicionalnom data-centru cilj je jednostavno izbaciti je iz objekta.
Međutim, evropski superkompjuterski centri već pokazuju da toplota iz računarskih sistema može da se koristi za grejanje okolnih zgrada i sistema daljinskog grejanja.
Takva integracija nije jednostavna.
Potrebni su stabilno računarsko opterećenje, odgovarajuća temperatura rashladne tečnosti, blizina postojeće mreže daljinskog grejanja i dugoročni sporazumi sa gradovima ili energetskim kompanijama.
Ako se ti uslovi ispune, AI fabrika prestaje da bude samo veliki potrošač električne energije.
Postaje i deo lokalne energetske infrastrukture.
Evropa želi sopstvene AI gigafabrike
Evropska unija planira razvoj AI gigafabrika kako bi povećala domaći računarski kapacitet i omogućila evropskim kompanijama i institucijama pristup infrastrukturi potrebnoj za razvoj velikih modela.
To je važan deo šire debate o tehnološkoj suverenosti Evrope.
Međutim, Zakarija smatra da sama izgradnja velikih centara nije dovoljna.
Ključno pitanje je ko će imati pristup tim resursima.
Ako kapacitet završi kod malog broja velikih kompanija ili pojedinačnih projekata, efekat na evropski tehnološki ekosistem biće ograničen.
Mnogo veći značaj imala bi infrastruktura dostupna industriji, startapima, univerzitetima, istraživačkim institutima i javnim institucijama.
Na taj način AI gigafabrika može postati zajednička infrastruktura na kojoj nastaju novi modeli, proizvodi i servisi.
Suverenost ne mora da znači zatvoren sistem
Još jedna važna tema jeste zavisnost od jednog tehnološkog dobavljača.
AI infrastruktura zahteva velike investicije i koristi se godinama, pa odluka o hardverskoj i softverskoj platformi može dugoročno da odredi čitav ekosistem.
AMD zato otvorenost pokušava da pozicionira kao važan deo svoje evropske strategije.
Kombinacija x86 procesora, Instinct akceleratora, Pensando mrežnih tehnologija i otvorenijeg ROCm softverskog okruženja treba da omogući infrastrukturu u kojoj kupac nije čvrsto vezan za jedan zatvoren tehnološki lanac.
Za Evropu bi interoperabilnost mogla da bude jednako važna kao i sama količina računarske snage.
Ali deljena infrastruktura donosi i druge probleme.
Potrebno je bezbedno razdvojiti podatke različitih korisnika, upravljati pristupom računarskim resursima i jasno definisati odgovornosti između kompanija, države i istraživačkih institucija.
Zakarija taj sloj naziva „arhitekturom poverenja“.
Bez njega zajednička evropska AI infrastruktura teško može da funkcioniše bez obzira na količinu instaliranog hardvera.
Evropska prednost možda nije u kopiranju američkih hajperskalera
Evropa teško može da pobedi američke tehnološke kompanije prostim kopiranjem njihovog modela razvoja ogromnih cloud platformi.
Ali evropska privreda ima drugačiju prednost.
Automobilska industrija, proizvodnja, energetika, robotika, industrijska automatizacija i naučna istraživanja predstavljaju oblasti u kojima već postoji veliko praktično znanje.
Zakarija posebno izdvaja fizičku veštačku inteligenciju, odnosno primenu AI sistema direktno u fizičkom svetu.
To uključuje autonomne mašine, industrijske robote, sisteme za kontrolu kvaliteta, predviđanje kvarova, optimizaciju energetskih mreža i obradu podataka neposredno uz proizvodni proces.
U takvom okruženju AI nije samo chatbot ili generativni model u cloud-u.
On postaje deo fabrike, vozila, elektroenergetske mreže ili laboratorije.
Upravo tu bi evropske AI gigafabrike mogle da imaju najveću ekonomsku vrednost.
AI fabrika je industrijska infrastruktura digitalne ekonomije
AI fabriku od tradicionalnog superkompjuterskog centra na kraju ne odvaja jedna vrsta procesora ili određena arhitektura.
Razlikuje ih ono što infrastruktura treba kontinuirano da proizvodi.
Superkompjuter izvršava velike proračune.
AI fabrika mora da obrađuje podatke, trenira i prilagođava modele, izvršava inferenciju i obezbeđuje AI kapacitet za veliki broj korisnika i aplikacija.
Zbog toga ona istovremeno postaje računarski, energetski i industrijski sistem.
AMD-ova ambicija u toj transformaciji takođe je šira od prodaje pojedinačnih procesora i akceleratora. Kompanija želi mesto u gotovo svakom sloju buduće AI fabrike, od CPU-a i GPU-a do mrežne infrastrukture, hlađenja na nivou reka i softvera.
Za Evropu će najvažnije pitanje ipak biti šta će uraditi sa infrastrukturom kada je izgradi.
Ako buduće gigafabrike ostanu samo veliki skupovi akceleratora, predstavljaće prvenstveno još jednu tehnološku investiciju. Ako budu dostupne evropskoj industriji, nauci i novim kompanijama, mogle bi da postanu jedan od osnovnih infrastrukturnih slojeva evropske ekonomije u AI eri.
