Populární témata
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
Matt Turck
VC na @FirstMarkCap. Moderátor: MAD Podcast; Organizátor: Data Driven NYC, autor: MAD Landscape.
. @lukaszkaiser @OpenAI, proč je generalizace stále jádrem tématu:
"Fascinuje mě zobecňování. Vždycky jsem si myslel, že to je klíčové téma ve strojovém učení obecně a při porozumění inteligenci. Předtrénink je trochu jiný... Nemusí to nutně zvyšovat zobecňování. Jen to spotřebuje víc znalostí."
"Tlačíme modely. Učí se věci, které jsou kolem toho, co je učíme. Stále mají omezení, protože nežijí ve fyzickém světě, protože nejsou moc dobří v multimodálním režimu, protože uvažování je ještě mladé a je tu spousta chyb v tom, jak to děláme."
"Někdo říkal, že je to jako jezdit rychle v mlze. Nikdy nevíš úplně jasno, jak daleko nebo blízko jsi."
Celá epizoda s Łukaszem níže – nebo si vyhledejte "MAD Podcast with Matt Turck" na YouTube, Spotify nebo Apple Podcasts.
27. 11. 01:07
Týdenní pochoutka k Díkůvzdání: epický rozhovor o Frontier AI s @lukaszkaiser spoluautorem knihy "Attention Is All You Need" (Transformers) a předním výzkumným vědcem ve společnosti @OpenAI pracujícím na modelech uvažování z éry GPT-5.1.
00:00 – Studený úvod a úvod
01:29 – "Zpomalení AI" vs divoký týden nových modelů na hranici
08:03 – Snadné řešení, infra, RL trénink a lepší data
11:39 – Co je to model uvažování, jednoduše řečeno
17:02 – Řetězec myšlenek a trénování myšlenkového procesu s RL
21:39 – Łukaszova cesta: z logiky a Francie do Googlu a Kurzweila
24:20 – Uvnitř příběhu Transformera a co vlastně znamená "pozornost"
28:42 – Od Google Brain k OpenAI: kultura, škálování a GPU
32:49 – Co bude dál s předtréninkem, GPU a destilací
37:29 – Dokážeme těmto modelům stále rozumět? Obvody, řídké a černé skříňky
39:42 – GPT-4 → GPT-5 → GPT-5.1: co se vlastně změnilo
42:40 – Po výcviku, bezpečnost a výuka různých tónů GPT-5.1
46:16 – Jak dlouho by měl GPT-5.1 přemýšlet? Tokeny pro uvažování a zubaté schopnosti
47:43 – Puzzle s tečkou pro pětileté dítě, které stále bourá hranicové modely
52:22 – Zobecňování, dětské učení a zda stačí rozum
53:48 – Beyond Transformers: ARC, LeCunovy myšlenky a multimodální úzká místa
56:10 – GPT-5.1 Codex Max, dlouhodobě fungující agenti a kompakce
1:00:06 – Budou modely make-upů sníst většinu aplikací? Analogie překladu a důvěra
1:02:34 – Co je ještě třeba vyřešit a kam by se AI mohla ubírat dál
2,08K
Top
Hodnocení
Oblíbené