Transformers v5:s första releasekandidat är ute. 🔥 Den största utgåvan i mitt liv. Det har gått fem år sedan den senaste majoren (v4). Från 20 arkitekturer till 400, 20 000 dagliga nedladdningar till 3 miljoner. Lanseringen är enorm, med tokenisering (inga långsamma tokenizers!), modellering och bearbetning.

Vi anställer en ingenjör som är dedikerad till ett av de viktigaste projekten i Transformers-teamet: 📣 uppskalning av testning och CI 📣. Med projekt som transformatorer, PyTorch eller vLLM som växer i storlek och omfattning, växer testinstallationen och CI tillsammans med det. Några siffror för att sätta det i perspektiv: - Transformatorer har 100-150k+ tester - Hela sviten tar 21 timmar - Över en maskinpark på många olika plattformar Att driva detta effektivt och tillförlitligt gör det till ett av de viktigaste projekten i vårt ekosystem. Det kräver att du regelbundet tar ett steg tillbaka för att designa om och skala systemet. I den här rollen arbetar du direkt med alla ingenjörer i teamet för att anpassa deras tester i din arkitektur. Du skulle ha fågelperspektiv och kommer att göra det möjligt för Transformers att skala genom de kommande åren. Vi har haft turen att ha @ydshieh som leder detta arbete; Vi letar efter en andra person som kan ansluta sig till teamet. Om du är någon som: - har erfarenhet av modern ML - behandlar CI och testning som ett eget effektfullt projekt snarare än som en eftertanke - tror på en tillväxtorienterad arkitektur, snarare än enskilda, atomprov i sig Hör då gärna av dig, jag vill gärna chatta.

oLLM: ett lätt Python-bibliotek för LLM-inferens byggt ovanpå transformatorer 🔥 Kör qwen3-next-80B, GPT-OSS, Llama3 på konsumentmaskinvara. Fantastiskt arbete av Anuar!