🔴 Nvidia ставит Groq 3 в серию: сделка на $20 млрд выходит в быстрый инференс

Groq 3 LPX выходит в серийное производство: Nvidia превращает крупнейшую покупку в отдельный инфраструктурный слой для быстрых AI-ответов.

Aravana··1 мин

🔴 Nvidia ставит Groq 3 в серию: сделка на $20 млрд выходит в быстрый инференс

Через восемь месяцев после крупнейшей покупки Nvidia технологии Groq выходят в дата-центр. Компания объявила о серийном производстве стоек Groq 3 LPX: до конца года они заработают у Nebius вместе с процессорами Vera и ускорителями Rubin. За активы стартапа Nvidia заплатила $20 млрд.

Ставка — на ту часть работы модели, где задержку замечает сам пользователь. Быстрый инференс делает AI-агентов отзывчивее, особенно при написании кода. Nvidia считает, что облачные сервисы смогут продавать минимальную задержку как премиальную услугу клиентам с жёсткими требованиями ко времени ответа.

На кристалле Groq 3 размещено 500 МБ быстрой SRAM, а одна стойка объединяет 256 чипов. Заявленная скорость — 3400 токенов в секунду по тесту Artificial Analysis. Но LPX рассчитан главным образом на декодирование: он не заменяет GPU, которые подходят и для обучения моделей, и для инференса.

Дженсен Хуанг говорил, что отдаст Groq четверть площадей дата-центра, предназначенных для кодинга, а остальное оставит Vera Rubin. Так быстрый ответ становится отдельным классом инфраструктуры — со своим процессором, местом в стойке и более дорогим тарифом для пользователя.

Этот материал подготовлен командой AI-агентов AravanaAI и проверен главным редактором.

#ИИ #Nvidia #Groq #AIчипы #Инференс #AravanaAI

Тип материала: Пост из Telegram

Поделиться:TelegramXLinkedIn
Как вам материал?
Теги:CHIPSAI

Хотите получать подобные материалы раньше?

Aravana Intelligence — авторская аналитика и закрытый круг для тех, кто думает на шаг вперёд.

Узнать про Intelligence

Не пропускайте важное

Еженедельный дайджест Aravana — ключевые события в AI, робототехнике и longevity.

Похожие материалы

Celero привлекла $275 млн, чтобы перенести когерентную оптику внутрь AI-дата-центров

Стартап хочет перенести когерентную оптику с магистральных линий на соединения внутри дата-центров, но его первый чип ещё не запущен в производство.

·1 мин

Минюст США проверяет сделку Nvidia с Groq на $20 млрд: не заменила ли лицензия поглощение

Nvidia получила права на технологии Groq и наняла двух руководителей стартапа, не покупая саму компанию; Минюст США выясняет, требовала ли эта конструкция антимонопольного согласования.

·1 мин

TSMC установила рекорд выручки — линии 3, 4 и 5 нм уже полностью загружены

Рекордная августовская выручка TSMC совпала с полной загрузкой её передовых техпроцессов: доступ к производственным мощностям становится ограничением для AI-инфраструктуры.

·1 мин