AI na vlastnej infraštruktúre
Známe aj ako: On-premise AI · lokálna AI
AI na vlastnej infraštruktúre znamená prevádzkovať model na vlastnom hardvéri namiesto posielania požiadaviek externému poskytovateľovi.
Pri väčšine AI aplikácií putujú požiadavky cez internet k modelu, ktorý beží na serveroch externého poskytovateľa. AI na vlastnej infraštruktúre naopak znamená prevádzkovať model na hardvéri, ktorý firma vlastní alebo kontroluje, takže požiadavky a dáta nemusia opustiť vlastnú sieť. Dôvodom je väčšinou dátová suverenita: kde dáta fyzicky ležia a kto k nim má okrem toho prístup.
V praxi to vyžaduje vhodný, spravidla voľne dostupný model, dostatočne výkonné servery so zodpovedajúcou grafickou kartou a priebežnú prevádzku tejto infraštruktúry, podobne ako pri vlastnom súborovom serveri. Použité modely sú pritom spravidla menšie a schopnosťami citeľne za tými najväčšími modelmi veľkých poskytovateľov, pretože ich výpočtový výkon sa vo vlastnej firme len ťažko dosahuje.
Hraničný prípad je predpoklad, že AI na vlastnej infraštruktúre je automaticky bezpečnejšia. Dáta síce neopúšťajú firmu, no samotný server treba rovnako zabezpečiť, aktualizovať a monitorovať ako každý iný systém, inak sa riziko len presunie inam.
Čo to znamená v praxi
Pre prevádzku s päťdesiatimi ľuďmi sa AI na vlastnej infraštruktúre oplatí najmä vtedy, keď sa skutočne spracúvajú citlivé zákaznícke alebo výrobné dáta, ktoré z preukázateľných dôvodov nesmú opustiť vlastnú sieť, a keď je dostatok priebežného dopytu na odôvodnenie obstarania a prevádzky. Pri príležitostnom používaní je zväčša praktickejší externý poskytovateľ. NDVDL k tomuto zváženiu radí individuálne.
Máte to u seba vyriešené poriadne?
Pozrieme sa, ako to u vás naozaj vyzerá — a úprimne povieme, či treba niečo robiť.
Súvisiace pojmy
Všetky pojmyChýba tu pojem z vašej ponuky?
Pošlite nám pasáž, ktorej nerozumiete. Vysvetlíme ju — bez toho, aby z toho musela byť hneď zákazka.