Jim Kelleriň ýolbaşçylygyndaky çip kompaniýasy Tenstorrent, elýeterli bahadan gowy öndürijilik hödürlemegine garaşýan AI iş ýükleri üçin indiki nesli Wormhole prosessoryny çykardy.Kompaniýa häzirki wagtda bir ýa-da iki Wormhole prosessoryny ýerleşdirip biljek goşmaça PCIe kartoçkalaryny, şeýle hem programma üpjünçileri üçin TT-LoudBox we TT-QuietBox iş stansiýalaryny hödürleýär. Şu günki bildirişleriň hemmesi täjirçilik iş ýükleri üçin Wormhole tagtalaryny ulanýanlara däl-de, döredijilere gönükdirilendir.
“Önümlerimiziň köpüsini öndürijileriň eline bermek elmydama begendirýär. Wormhole ™ kartoçkalarymyzy ulanyp ösüş ulgamlaryny goýbermek, köp çipli AI programma üpjünçiligini ösdürmäge we ösdürmäge kömek edip biler "-diýdi Tenstorrent-iň baş müdiri Jim Keller.Bu satuwdan başga-da, ikinji nesil önümimiz bolan “Blackhole” -iň lentasy we kuwwaty bilen öňegidişligimizi görüp begenýäris. ”
Her “Wormhole” prosessorynda 72 Tensix ýadrosy bar (olaryň bäşisi dürli maglumat formatlarynda RISC-V ýadrosyny goldaýar) we 108 MB SRAM, 160 GW ýylylyk dizaýn güýji bilen 1 GGs-de 262 FP8 TFLOPS berýär. Bir çipli Wormhole n150 kartoçkasy 12 GB GDDR6 wideo ýady bilen üpjün edilendir we geçirijilik ukyby 288 GB / s.
Gurçuk prosessorlary iş ýükleriniň dürli zerurlyklaryny kanagatlandyrmak üçin çeýe ulalmagy üpjün edýär. Dört Wormhole n300 kartoçkasy bolan adaty iş stansiýasynda, prosessorlar programma üpjünçiliginde bitewi, giň Tensix ýadro ulgamy hökmünde peýda bolan bir birlige birleşdirilip bilner. Bu konfigurasiýa tizlendirijä şol bir iş ýüküni dolandyrmaga, dört işläp düzüjiniň arasynda bölünmäge ýa-da bir wagtyň özünde sekiz dürli AI modelini işletmäge mümkinçilik berýär. Bu göwrümliligiň esasy aýratynlygy, wirtuallaşdyrma zerurlygy bolmazdan ýerli derejede işlemegidir. Maglumat merkeziniň gurşawynda “Wormhole” prosessorlary enjamyň içinde giňeltmek üçin PCIe ýa-da daşarky giňelmek üçin Ethernet ulanar.
Işleýiş nukdaýnazaryndan Tenstorrent-iň ýeke çipli Wormhole n150 kartoçkasy (72 Tensix ýadrosy, 1 GGs ýygylygy, 108 MB SRAM, 12 GB GDDR6, 288 GB / s geçirijilik giňligi) 160W-de 262 FP8 TFLOPS, iki çipli Wormhole n300 tagtasy (128 Tensix ýadrosy, 1 GGs ýygylygy, 192 MB SRAM, jemi 24 GB GDDR6, 576 GB / s geçirijilik giňligi) 300W-de 466 FP8 TFLOPS berýär.
466 FP8 TFLOPS-den 300W goýmak üçin, ony AI bazaryň lideri Nvidia-nyň bu ýylylyk dizaýn güýjünde hödürleýän zady bilen deňeşdireris. Nvidia-nyň A100 FP8-i goldamaýar, ýöne iň ýokary öndürijiligi 624 TOPS (seýrek bolanda 1,248 TOPS) bilen INT8-i goldaýar. Deňeşdirmek bilen deňeşdirilende, Nvidia-nyň H100 FP8-ni goldaýar we 300W-de 1670 TFLOPS iň ýokary öndürijiligine ýetýär (seýrek ýagdaýda 3,341 TFLOPS), bu Tenstorrent-iň Wormhole n300-den düýpgöter tapawutlanýar.
Şeýle-de bolsa, bir möhüm mesele bar. “Tenstorrent's Wormhole n150” 999 dollara, n300 bolsa 1399 dollara satylýar. Deňeşdirmek üçin, bir Nvidia H100 grafiki kartoçkasy mukdaryna baglylykda 30 000 dollara satylýar. Elbetde, dört ýa-da sekiz Wormhole prosessorynyň hakykatdanam bir H300 öndürijiligini berip biljekdigini ýa-da ýokdugyny bilemzok, ýöne olaryň TDP-leri degişlilikde 600W we 1200W.
Kartalardan başga-da, Tenstorrent işläp düzüjiler üçin öňünden gurlan iş stansiýalaryny, şol sanda has amatly sowadyşly Xeon esasly TT-LoudBox-da 4 n300 kartoçkany we EPYC esasly Xiaolong bilen ösen TT-QuietBox) suwuk sowadyş funksiýasyny hödürleýär).
Iş wagty: Iýul-29-2024