Využití NVIDIA DGX systémů pro pokročilé aplikace strojového učení

CEITEC VUT potřeboval poskytnout výzkumníkům a malým a středním podnikům přístup k výkonné infrastruktuře pro rozvoj a testování AI aplikací. Firmy často neměly prostředky na vlastní hardware ani know-how pro využití umělé inteligence, což zpomalovalo inovace a digitalizaci průmyslu. Chyběla možnost zpracovávat velké objemy dat z výrobních strojů a robotů v reálném čase a testovat řešení v praxi. Bylo proto klíčové vybudovat dostupnou platformu, která podpoří modernizaci výroby, zvýší konkurenceschopnost firem a urychlí zavádění AI technologií v průmyslu i ve vědeckém výzkumu.

Byly instalovány výpočetní systémy NVIDIA DGX A100 a NVIDIA DGX H100, propojené vysokorychlostní sítí InfiniBand, které umožňují zpracování rozsáhlých dat v reálném čase. Řešení nabízí předinstalované a optimalizované prostředí pro strojové učení, včetně nástrojů NVIDIA AI Enterprise a NVIDIA Base Command pro efektivní správu a nasazování AI aplikací. CEITEC VUT díky tomu poskytuje firmám a výzkumníkům 100% dotovaný přístup k testování, vzdělávání a vývoji AI řešení, zejména v oblasti digitalizace a robotizace výroby. Systém podporuje rychlé nasazení, vysokou míru automatizace a zkrácení času potřebného pro inovace.

• Výzkumníci a akademičtí pracovníci
• Datoví analytici a AI specialisté
• Inženýři a technici z výrobních firem
• Manažeři malých a středních podniků

6

Řešení využívá softwarový stack NVIDIA AI Enterprise, který obsahuje optimalizovaná prostředí pro strojové učení a datovou analytiku. Součástí je NVIDIA Base Command pro efektivní správu infrastruktury a NVIDIA GPU Cloud (NGC) s Docker kontejnery nejpoužívanějších AI frameworků, jako jsou TensorFlow, PyTorch, MXNet, Theano, Caffe a Caffe2. Vývoj probíhá v prostředí Docker na operačním systému DGX OS / Ubuntu, což umožňuje rychlé nasazení a škálování AI aplikací.

Vrcholové vedení (C‑level)

Kompletní realizace

interní tým

IT manager, Data scientist

IT infrastruktura byla hlavní součástí dodávky.

Díky novým systémům NVIDIA DGX získali výzkumníci i firmy přístup k výkonné a snadno dostupné AI infrastruktuře, což výrazně zlepšilo kvalitu výzkumu i průmyslových projektů. Proces testování a nasazování AI aplikací se zrychlil z týdnů na jednotky hodin a zefektivnilo se rozhodování díky analýze dat v reálném čase. Firmy nyní mohou bezpečně a bez nákladů experimentovat s AI, čímž se zvyšuje úroveň inovací, spolupráce mezi výzkumem a průmyslem a celková konkurenceschopnost regionu.

„V rámci našich služeb EDIH a TEF poskytujeme firmám možnost experimentovat s AI, vzdělávat se a testovat aplikace umělé inteligence na špičkových systémech, které jsou součástí nově instalovaného superpočítače,” vysvětluje Prof. Ing. Pavel Václavek, Ph.D. „Tak umožňujeme malým a středním podnikům do 499 zaměstnanců využívat pokročilé technologie za 100% dotovanou cenu. Naším cílem je i integrace systému DGX s dalšími technologiemi našeho RICAIP Testbedu Brno tak, abychom mohli zpracovávat data z výrobních strojů a robotů v reálném čase.”

Zapojení managementu do projektu od začátku přípravné fáze projektu, přes realizaci po předání uživatelům a následného školení.

Technologické propojení několika generací NVIDIA GPU systémů (Multi GPU cluster).

Konzultovat řešení s firmami, které mají se zamýšlenými projekty zkušenosti/reference a zapojit je do projektu v plánovací fázi – pomůže to správně naplánovat zdroje i technickou připravenost (např. datového centra) pro provoz AI infrastruktury.