Jim Kelleriň ýolbaşçylygyndaky çip kompaniýasy Tenstorrent, elýeterli bahadan gowy öndürijilik hödürlemegine garaşylýan, emeli intellekt iş ýükleri üçin täze nesil Wormhole prosessoryny çykardy.Kompaniýa häzirki wagtda bir ýa-da iki Wormhole prosessoryny ýerleşdirip bilýän goşmaça iki PCIe kartyny, şeýle hem programma üpjünçiligini işläp düzüjiler üçin TT-LoudBox we TT-QuietBox iş stansiýalaryny hödürleýär. Şu günki yglanlaryň hemmesi Wormhole platalaryny täjirçilik iş ýükleri üçin ulanýanlara däl-de, işläp düzüjilere gönükdirilendir.
“Önümlerimiziň has köpüsini işläp düzüjileriň eline bermek hemişe begendiriji. Wormhole™ kartlarymyzy ulanyp işläp düzüji ulgamlaryny çykarmak işläp düzüjilere köp çipli emeli intellekt programma üpjünçiligini ölçeklendirmäge we işläp düzmäge kömek edip biler” diýip, “Tenstorrent”-iň baş direktory Jim Keller aýtdy.Bu işe girizilişden başga-da, ikinji nesil önümimiz bolan Blackhole-yň lentasyny çykarmak we güýçlendirmek bilen baglanyşykly gazanan üstünliklerimizi görmek bizi begendirýär.”
Her bir Wormhole prosessory 72 sany Tensix ýadrosyny (şolaryň bäşisi dürli maglumat formatlaryndaky RISC-V ýadrolaryny goldaýar) we 108 MB SRAM-y öz içine alýar, bu bolsa 1 GHz-de 262 FP8 TFLOPS we 160W termal dizaýn kuwwatyny üpjün edýär. Bir çipli Wormhole n150 karty 12 GB GDDR6 wideo ýady bilen üpjün edilen we 288 GB/s geçirijilik ukybyna eýedir.
Wormhole prosessorlary iş ýükleriniň dürli zerurlyklaryny kanagatlandyrmak üçin çeýe ölçekleniş mümkinçiligini üpjün edýär. Dört Wormhole n300 karty bolan standart iş stansiýasynda prosessorlar programma üpjünçiliginde bitewi, giň Tensix ýadro ulgamy hökmünde peýda bolýan ýeke bir birlige birleşdirilip bilner. Bu konfigurasiýa tizlendirijiniň şol bir iş ýüküni dolandyrmagyna, dört işläp düzüjiniň arasynda bölünmegine ýa-da sekiz dürli AI modelini bir wagtyň özünde işletmegine mümkinçilik berýär. Bu ölçekleniş mümkinçiliginiň esasy aýratynlygy, onuň wirtuallaşdyrma zerurlygy bolmazdan ýerli derejede işläp bilmegidir. Maglumat merkezi gurşawynda Wormhole prosessorlary maşynyň içinde giňeltmek üçin PCIe-ni ýa-da daşarky giňeltmek üçin Ethernet-i ulanarlar.
Işleýiş babatda, Tenstorrent-iň bir çipli Wormhole n150 karty (72 Tensix ýadrosy, 1 GHz ýygylyk, 108 MB SRAM, 12 GB GDDR6, 288 GB/s geçirijilik ukyby) 160W-da 262 FP8 TFLOPS gazandy, iki çipli Wormhole n300 karty (128 Tensix ýadrosy, 1 GHz ýygylyk, 192 MB SRAM, jemi 24 GB GDDR6, 576 GB/s geçirijilik ukyby) bolsa 300W-da 466 FP8 TFLOPS-a çenli üpjün edýär.
466 FP8 TFLOPS-yň 300W-ny kontekste salmak üçin, ony AI bazarynyň lideri Nvidia-nyň bu termal dizaýn güýjünde hödürleýän zatlary bilen deňeşdireris. Nvidia-nyň A100-i FP8-i goldamaýar, ýöne ol INT8-i goldaýar, iň ýokary öndürijiligi 624 TOPS (seýrek bolanda 1248 TOPS). Deňeşdirmek üçin, Nvidia-nyň H100-i FP8-i goldaýar we 300W-da 1670 TFLOPS-yň iň ýokary öndürijiligine ýetýär (seýrek bolanda 3341 TFLOPS), bu bolsa Tenstorrent-iň Wormhole n300-den düýpli tapawutlanýar.
Şeýle-de bolsa, bir esasy mesele bar. Tenstorrent-iň Wormhole n150-si 999 dollara, n300-i bolsa 1399 dollara satylýar. Deňeşdirmek üçin, bir Nvidia H100 grafika kartynyň bahasy mukdaryna baglylykda 30,000 dollara deňdir. Elbetde, dört ýa-da sekiz Wormhole prosessorynyň hakykatdanam bir H300-iň öndürijiligini üpjün edip biljekdigini bilmeýäris, ýöne olaryň TDP-leri degişlilikde 600W we 1200W.
Kartlardan başga-da, Tenstorrent işläp düzüjiler üçin öňünden gurlan iş stansiýalaryny hödürleýär, şol sanda has arzan Xeon esasly TT-LoudBox-da işjeň sowadyjyly 4 n300 kart we EPYC esasly Xiaolong (suwuk sowadyjy funksiýasy) bolan ösen TT-QuietBox.
Ýerleşdirilen wagty: 2024-nji ýylyň 29-njy iýuly