Представляем Runtime v0.8, лучший фреймворк для создания быстрых и естественных разговорных AI-агентов. Что нового: ➤ Более быстрые агенты. Оптимизация Runtime значительно снижает задержку, делая взаимодействие LLM + TTS мгновенно отзывчивым. ➤ Мгновенная потоковая передача. Агенты теперь начинают потоковую передачу токенов/аудио немедленно, больше никаких неловких пауз при запуске. ➤ Умная остановка прерывания. Отменяйте выполнение в середине ответа для вмешательства, безопасности или контроля затрат. Агенты прекращают говорить в тот момент, когда вам это нужно. ➤ Библиотека шаблонов. Создавайте готовых к производству мультимодальных агентов за считанные минуты. Фильтруйте по модальности, SDK или случаю использования и запускайте из полнофункциональных проектов.

На прошлой неделе мы провели два мероприятия по Consumer AI в Сан-Франциско в рамках SF Tech Week от a16z. ➤ VIP-завтрак по Consumer AI. 50 партнеров и основателей венчурного капитала в комнате обсудили, какие продукты Consumer AI действительно начинают набирать популярность. @mbaierlentz (@lightspeedvp), @rob_rav (@mavenvc) и @JoshConstine (@SignalFire) поделились, почему вирусность почти всегда исходит от основателей на ранних стадиях, какие сигналы указывают на то, что стартап будет расти (или угасать), и почему ненужное переосмысление технологий — это ловушка. ➤ Ночь масштабирования Consumer AI Vibe с участием более 200 основателей, венчурных капиталистов и операторов. @KylanGibbs модерировал @cgyulay (@speak), @groeneyy (и @marvinvonhagen (@interaction). Мы говорили о том, что делает AI человечным: естественный ритм, память на протяжении сессий, выразительные голоса, безопасное, но не заблокированное творчество. Панелисты поделились успехами в области распознавания речи с акцентами, улучшениями задержки, функциями памяти, которые действительно способствуют удержанию, и уроками из функций, которые провалились. Огромное спасибо нашим со-хостам в TRMNL4 и со-спонсорам @GroqInc, @MistralAI и @rhobusiness за поддержку мероприятий. Это только начало. В Inworld мы удваиваем усилия в области Consumer AI — новое поколение опытов уже создается. Скоро мы запустим Accelerator для основателей, формирующих будущее — ссылка для предварительной регистрации #ConsumerAI #SFTechWeek #InworldAI #ConversationalAI