Generální ředitel společnosti NVIDIA, Jensen Huang, oznámil na akci GTC Japan dosavadně nejnovější pokrok v oboru umělé inteligence. Ten zahrnuje novou grafickou kartu Tesla T4. Ta je speciálně navržena pro inferenční pracovní zatížení v datových centrech s vysokým rozlišením a využívá stejnou architekturu, jako velmi dobře známé grafické karty GeForce RTX 20.
Dle slov výrobce je karta dokonale uzpůsobena pro inferenční zatížení umělé inteligence, jako jsou neuronové sítě, které mohou zpracovávat video, řeč, vyhledávače a obrázky. Předchozí generace určena pro tento obor splnila svou roli, avšak nový model slibuje až dvanáctkrát vyšší výkon v rámci stejného vytížení sítě.
Nová Tesla T4 bude vybavena 16 GB paměti typu GDDR6. Ta poskytne pásmo o šířce až 320 GB/s, 320 jader Turing Tensor a 2 560 jader CUDA.
Stejně jako svůj předchůdce, tento low-profile model spotřebuje pouze 75 W a jeden serverový PCIe slot. Důležitou poznámkou je, že nepotřebuje externí napájení, jako například 6-pinový konektor.
Grafická karta je schopna současně dekódovat až 38 FullHD videí.
Platforma s názvem NVIDIA TensorRT Hyperscale je sbírkou různých technologií, které jsou společně zabalené do modelu T4. Jak se dalo očekávat, karta bude podporovat hlavní frameworky pro samotné učení, jako jsou PyTorch, TensorFlow, MXNet a Caffee2.