GPU platforma
Preberte s naším tímom konfigurácie NVIDIA H100, H200 alebo A100. Navrhnutý model a konfigurácia závisia od dostupnosti.
AI a GPU servery
Zrýchlite svoje AI úlohy.
Dedikované GPU servery a AI infraštruktúra na trénovanie, dolaďovanie, inferenciu a vysokovýkonné výpočty. Nakonfigurujte prostredie podľa svojich požiadaviek na výkon, pamäť a škálovateľnosť.
Dedikované GPU servery
GPU platformy NVIDIA
Flexibilné konfigurácie
Odborná podpora
Vytvorené pre AI úlohy
GPU infraštruktúra navrhnutá podľa vašich úloh
Od veľkých jazykových modelov a generatívnej AI po počítačové videnie, inferenciu a HPC konfigurujeme GPU infraštruktúru podľa vašich požiadaviek na výpočtový výkon, pamäť GPU, úložiská a siete.
Získať ponukuGPU platformy NVIDIA
Konfigurácie GPU serverov na platformách NVIDIA, vrátane H100, H200 a A100, podľa dostupnosti.
Flexibilné GPU konfigurácie
Servery s jedným alebo viacerými GPU nakonfigurované podľa vašich pracovných záťaží a požiadaviek na výkon a škálovateľnosť.
Vysokovýkonná infraštruktúra
Výpočtový výkon GPU v spojení s vysokorýchlostnými sieťami a úložiskami pre dátovo náročné úlohy AI a HPC.
Nasadenie a podpora
Náš infraštruktúrny tím pomáha s konfiguráciou, nasadením a priebežnou podporou podľa vývoja vašich AI úloh.
Možnosti GPU
Vyberte konfiguráciu pre svoje úlohy
Začnite požiadavkami úloh a potom s naším tímom potvrďte konfiguráciu a dostupnosť hardvéru.
Pamäť GPU
Uveďte veľkosť modelu, presnosť, dĺžku kontextu a veľkosť dávky na posúdenie požiadaviek na pamäť GPU pri trénovaní alebo inferencii.
Jeden alebo viac GPU
Počet GPU plánujte podľa paralelizácie úloh, komunikácie medzi GPU a očakávaného rastu. Výsledná konfigurácia závisí od vašej aplikácie.
AI úlohy a využitie
Od trénovania po produkčnú inferenciu
Trénovanie a dolaďovanie
Výpočtový výkon a pamäť GPU dimenzujte podľa modelu, dátových súborov, veľkosti dávok a prístupu k trénovaniu.
AI inferencia
Pri prevádzke natrénovaných modelov zohľadnite čas odozvy, priepustnosť a súbežné požiadavky.
LLM a generatívna AI
Pri plánovaní textových a generatívnych úloh zohľadnite veľkosť modelu, dĺžku kontextu a vstupné či výstupné dáta.
Počítačové videnie
Prispôsobte výpočtový výkon GPU a prenos dát rozlíšeniu obrazu, video streamom a objemu spracovania.
Vysokovýkonné výpočty
Pre GPU akcelerované výpočty posúďte kompatibilitu aplikácie, numerickú presnosť a presuny dát.
Viac než GPU
Siete, úložiská a serverová infraštruktúra
Siete
Posúďte prevádzku medzi servermi, úložiskami a GPU spolu s požiadavkami na prenosovú kapacitu a latenciu. Návrh siete má zodpovedať rozloženiu úloh.
Zistiť viac →Úložiská a prístup k dátam
Naplánujte kapacitu a výkon čítania a zápisu pre dátové súbory, váhy modelov a kontrolné body. Do zadania zahrňte požiadavky na ochranu a uchovávanie dát.
Zistiť viac →Prostriedky hostiteľského servera
Vyvážte CPU, systémovú pamäť a GPU podľa potrieb predspracovania, načítania dát a aplikácie.
Zistiť viac →Proces nasadenia
Od požiadaviek k dedikovanému GPU prostrediu
01
Definujte úlohu
Uveďte modely, dátové súbory, výkonnostné ciele, softvérové požiadavky a plány rastu.
02
Dohodnite konfiguráciu
Prejdite výber GPU, pamäte, CPU, úložísk a sietí podľa dostupnosti hardvéru.
03
Nasaďte prostredie
Pred odovzdaním prostredia dohodnite rozsah nasadenia, zodpovednosti a kritériá overenia.
04
Naplánujte priebežnú podporu
Vyberte rozsah správy a podpory podľa potrieb tímu a vývoja úloh.
Časté otázky
Plánovanie AI infraštruktúry
O ktoré GPU NVIDIA môžem požiadať?
S naším tímom môžete prebrať konfigurácie H100, H200 a A100. Dostupnosť hardvéru a výslednú konfiguráciu je potrebné potvrdiť v ponuke.
Možno prostredie nakonfigurovať na inferenciu?
Áno. Uveďte model, očakávaný počet požiadaviek, dĺžku kontextu a cieľový čas odozvy, aby konfigurácia zodpovedala vašej inferenčnej úlohe.
Koľko GPU a pamäte potrebujem?
Jedna konfigurácia nevyhovuje všetkým modelom. Dimenzovanie závisí od veľkosti modelu, presnosti, veľkosti dávky, trénovania či inferencie a spôsobu rozdelenia práce v aplikácii.
Sú zahrnuté ovládače a AI frameworky?
Inštalácia softvéru nie je automaticky zahrnutá. Uveďte operačný systém, ovládače, frameworky a kontajnery, aby bolo možné dohodnúť zodpovednosti a rozsah nasadenia.
Čo mám uviesť v žiadosti o ponuku?
Uveďte spôsob využitia, veľkosť modelu a dát, preferovanú GPU platformu, pamäť, úložisko, konektivitu, požiadavky na podporu a požadovaný termín.
Pripravení na ďalší krok?
Prediskutujte svoje požiadavky na AI a GPU
Uveďte svoje úlohy a požiadavky na infraštruktúru, aby sme mohli pripraviť návrh konfigurácie.