Nvidia, veri merkezleri için en hızlı kart olan tesla t4'ü piyasaya sürdü

Nvidia, veri merkezlerinde makine öğrenimi ve çıkarım için yeni GPU'sunu duyurdu. Yeni Tesla T4 kartı Turing mimarisine dayanıyor ve neredeyse tüm büyük bulut bilişim sağlayıcılarını kapsayan mevcut Tesla P4 modelinin halefi.

Nvidia Tesla T4 veri merkezlerinde devrim yapmak istiyor

Nvidia, Tesla T4'lerin P4'lerden önemli ölçüde daha hızlı olduğunu savunuyor. Örneğin, dil çıkarımı için, T4 bir CPU kullanmaktan 34 kat, P4'ten 3, 5 kat daha hızlıdır. Tesla P4 için maksimum verim, 4 bit tamsayı işlemleri için 260 TOPS ve kayan nokta işlemleri için 65 TOPS'tur. T4, standart bir 75 watt PCI-e kartında.

Nvidia'nın Turing mimarisinin ayrıntıları hakkındaki yazımızı okumanızı öneririz

En önemlisi, Nvidia bu yongaları AI çıkarım için özel olarak tasarladı, bu da Tesla T4'ü çıkarım yapmak için böyle verimli bir GPU yapan Turing'in yeni Tensor Core'u. Jensen Huang, yeni Tensor Core ve oyun, render ve AI operasyonları için neler yapabileceğini zaten konuştu. Toplamda, çip 320 Tensör Çekirdek Turing ve 2.560 CUDA çekirdeği içeriyor.

Nvidia, yeni çipe ek olarak, derin öğrenme modellerini optimize etmek için TensorRT yazılımında da bir güncelleme sunuyor. Bu yeni sürüm aynı zamanda, mevcut Kubernetes altyapısına sorunsuz bir şekilde bağlanan veri merkezi çıkarımı için tamamen kaplanmış bir mikro hizmet olan TensorRT Inference Server'ı da içeriyor.

Turing, en yeni oyunların grafik kaplamasını geliştirmek için ışın izlemeyi gerçek zamanlı olarak ilk kez kullanmasına izin vereceği oyun pazarında bile en yenilikçi Nvidia mimarilerinden biridir.

Techpowerup yazı tipi