Pri načrtovanju AI infrastrukture ni ene konfiguracije, ki bi bila primerna za vse. Nobeno AI okolje ni povsem enako, saj se podjetja razlikujejo glede na namen uporabe, modele in aplikacije, količino podatkov, število (sočasnih) uporabnikov, zahtevano zmogljivost ter načrte za prihodnjo rast.
»Pri dimenzioniranju AI infrastrukture ni dovolj vprašanje, koliko GPU-jev bomo namestili v strežnik. Najprej moramo razumeti konkretno delovno obremenitev, količino in naravo podatkov ter pričakovano uporabo rešitve. Šele nato lahko določimo konfiguracijo, ki bo zagotavljala ustrezno razmerje med zmogljivostjo, izkoriščenostjo in stroški,« pojasnjuje Luka Mihelič, prodajni inženir za podatkovne centre v podjetju Kontron SI.
1. Kaj bo AI dejansko počel?
2. Kakšne so zahteve glede GPU-ja, procesorske moči in pomnilnika?
3. Koliko podatkov bo rešitev obdelovala in kje bodo shranjeni?
4. Kje lahko nastanejo ozka grla?
5. Ali smo rešitev preverili s POC-om oz. benchmarki?
6. Ali AI infrastruktura omogoča prihodnjo nadgradnjo?
7. Kako bodo urejeni varnost, dostopi, nadzor in upravljanje okolja?
Vabljeni k branju članka, v katerem predstavljamo vseh 7 korakov do ustrezno dimenzionirane AI infrastrukture in pojasnjujemo, kako vam lahko pomagamo pri izbiri rešitve, prilagojene vašim potrebam.
Za več odgovorov o tem, kako varno in stroškovno učinkovito pripraviti podatke ter strojno opremo za zagon AI projektov v vašem podjetju si oglejte dinamičen 20-minutni studijski pogovor, v katerem voditeljica Urša Dernovšek s strokovnjakoma iz podjetij Kontron SI in Dell Technologies odpira ključna vprašanja, s katerimi se pred uvajanjem AI rešitev sooča vsako podjetje. Brez teorije in ovinkov, samo tehnološki uvidi in praksa s trga.