Slechte gedrag van @_rexliu van @gen_analysis op LinkedIn aan de kaak stellen - amateuristische AI-afbeeldingsbewerking om iemands post te stelen en deze voor zichzelf op te eisen. Twee dagen geleden hebben vrienden van @exolabs een geweldige post uitgebracht met @nvidia + @Apple en beide hardware gebruikt om LLM's op het apparaat te versnellen. En toen zag ik een post op LI van @_rexliu, die beweerde dat ze "net gpt-oss-120B (QLoRA 4-bit) op een DGX Spark hebben gefinetuned..." (zie screenshots). Super bekende opstelling, opvallend vergelijkbare tafel, opvallend vergelijkbare plant op de achtergrond, opmerkelijk vergelijkbare kabelplaatsingen. En geen apparaatspecificatie van NVIDIA onder de sticker. (amateurfout) Ja.... Deze jongens hebben zeker @alexocheema's post op LI gezien die viraal ging, hebben de afbeelding van de post gestolen en deze AI-bewerkt, zodat ze wat onverdiende lof kunnen stelen voor het uitvoeren van deze coole innovaties. (En geen credits aan @exolabs) Dit soort AI-afbeeldingsbewerkingen om krediet te stelen zal steeds gemakkelijker en gebruikelijker worden. Wees voorzichtig daarbuiten.

Slechte gedrag van @_rexliu van @gen_analysis op LinkedIn aan de kaak stellen - amateuristische AI-afbeeldingsbewerking om iemands post te stelen en deze voor zichzelf op te eisen. Twee dagen geleden hebben vrienden van @exolabs een geweldige post uitgebracht met @nvidia + @Apple en beide hardware gebruikt om LLM's op het apparaat te versnellen. En toen zag ik een post op LI van @_rexliu, die beweerde dat ze "net gpt-oss-120B (QLoRA 4-bit) op een DGX Spark hebben gefinetuned..." (zie screenshots). Super bekende opstelling, opvallend vergelijkbare tafel, opvallend vergelijkbare plant op de achtergrond, opmerkelijk vergelijkbare kabelplaatsingen. En geen apparaatspecificatie van NVIDIA onder de sticker. (amateurfout) Ja.... Deze jongens hebben zeker @alexocheema's post op LI die viraal ging gezien, de afbeelding van de post gestolen en deze AI-bewerkt, zodat ze wat onverdiende lof kunnen stelen voor het uitvoeren van deze coole innovaties. (En geen credits aan @exolabs) Dit soort AI-afbeeldingsbewerkingen om krediet te stelen zal steeds gemakkelijker en gebruikelijker worden. Wees voorzichtig daarbuiten. @garrytan, je hebt slecht gedrag in je YC-cohorten.

Clustering NVIDIA DGX Spark + M3 Ultra Mac Studio voor 4x snellere LLM-inferentie. DGX Spark: 128GB @ 273GB/s, 100 TFLOPS (fp16), $3,999 M3 Ultra: 256GB @ 819GB/s, 26 TFLOPS (fp16), $5,599 De DGX Spark heeft 3x minder geheugensnelheid dan de M3 Ultra, maar 4x meer FLOPS. Door compute-bound prefill op de DGX Spark uit te voeren, memory-bound decode op de M3 Ultra, en de KV-cache via 10GbE te streamen, kunnen we het beste van beide hardware combineren met enorme versnellingen. Korte uitleg in deze thread & link naar de volledige blogpost hieronder.