TinyBox Röd V2! 4x9070XT, enkel 15A kontakt. Vilket pris köper folk till?

PCIe 4 x16 med full bandbredd mellan de 4 GPU:erna. EPYC-processor med 32 kärnor, 128 GB RAM, 2 TB NVMe.

Egentligen, varför använder jag AMD: s bandbreddsverktyg? Här är en vibe kodad i tinygrad. Full P2P mellan GPU:erna stöds på AMD-drivrutinen (till skillnad från vissa andra gröna företag som blockerar den eftersom de är elaka)

Bra dtype-stöd, 165 TFLOPS MMAPEAK för bf16 acc f32. 315 TFLOPS för fp8.

Bra dtype-stöd, 165 TFLOPS MMAPEAK för bf16 acc f32. 315 TFLOPS för fp8. Detta är naturligtvis per kort.

Fullt stöd för tinygrad AM-drivrutinen, vilket innebär att du kan rmmod amdgpu och det fungerar fortfarande! Python mappar PCIe BAR:erna i processen och driver GPU:n direkt.

AMD har gjort massor av framsteg med ROCm. Version 7.1 är standard, tillsammans med den senaste PyTorch. 133 uppnådda GEMM TFLOPS av 165 MMAPEAK är inte dåligt, och amdgpu-drivrutinen verkar stabil på RDNA4!

Tinygrad 13 linje Gpuburn! Med en maxeffekt på 304 W per kort hanterar PSU det bra och knappt hörbart på kontoret.

Här är det med amdgpu istället för AM-drivrutin. idk vad det handlar om om lågeffektstillstånd, det är maxeffekt, och titta på de iskalla temperaturerna efter att ha bränt i 10 minuter!

Ser ut som en standardutgåva tinybox, vacker frontskärm, stor klickknapp, lugnande cirklar.