tinybox punainen v2! 4x9070XT, yksi 15A pistoke. Millä hinnalla ihmiset ostavat?

Täysi kaistanleveys PCIe 4 x16 4 GPU:n välillä. 32-ytiminen EPYC-prosessori, 128 Gt RAM-muistia, 2 Tt NVMe.

Miksi itse asiassa käytän AMD:n kaistanleveystyökalua? Tässä on tinygradissa koodattu tunnelma. Täyttä P2P:tä GPU:iden välillä tuetaan varastossa olevassa AMD-ohjaimessa (toisin kuin tietyt muut vihreät yritykset, jotka estävät sen, koska ne ovat ilkeitä)

Hyvä dtype-tuki, 165 TFLOPS MMAPEAK bf16 acc f32:lle. 315 TFLOPS fp8:lle.

Hyvä dtype-tuki, 165 TFLOPS MMAPEAK bf16 acc f32:lle. 315 TFLOPS fp8:lle. Tämä on tietysti korttikohtainen.

Täysi tuki tinygrad AM -ohjaimelle, mikä tarkoittaa, että voit rmmod amdgpu ja se toimii edelleen! Python kartoittaa PCIe-palkit prosessiin ja ohjaa suoraan GPU:ta.

AMD on edistynyt paljon ROCm:n kanssa. Versio 7.1 on vakiona yhdessä uusimman PyTorchin kanssa. 133 saavutettu GEMM TFLOPS 165 MMAPEAKista ei ole huono, ja amdgpu-ohjain näyttää vakaalta RDNA4:ssä!

Tinygrad 13 linja GPUburn! Virtalähde on maksimissaan 304 W korttia kohden, joten se käsittelee sitä erinomaisesti ja tuskin kuultavissa toimistossa.

Tässä se on amdgpu:lla AM-ohjaimen sijaan. En tiedä, mistä on kyse pienitehoisesta tilasta, se on maksimiteho, ja katso niitä kylmiä lämpötiloja 10 minuutin palamisen jälkeen!

Näyttää tavalliselta numerolta tinybox, kaunis etunäyttö, iso napsautuspainike, rauhoittavat ympyrät.