Google планирует представить новое поколение собственных ИИ-чипов, в частности для инференса – запуска уже обученных моделей, на конференции Google Cloud Next на этой неделе в Лас-Вегасе. Компания стремится усилить позиции в сегменте, где доминирует Nvidia, на фоне резкого роста спроса на ИИ-вычисления, пишет Bloomberg.
Заощаджуйте, отримуючи 6 журналів за ціною 4
Купуйте річну передплату на шість журналів Forbes Ukraine за 1 799 грн замість 2 400 грн. Читайте головні історії українського бізнесу, ексклюзивні рейтинги та глибоку аналітику в кожному номері.
Детали
- Чипы Google за несколько месяцев стали одними из самых востребованных в технологическом секторе, и их активно закупают даже конкуренты компании в сфере ИИ.
- Теперь компания делает ставку на отдельное направление – инференс, то есть быстрое выполнение запросов к уже обученным моделям, что становится критически важным из-за распространения чат-ботов и ИИ-агентов.
- С ростом спроса логично специализировать чипы отдельно для обучения моделей и для инференса, чтобы повысить скорость ответов, объяснил главный ученый Google Джефф Дин. Компания уже анонсирует новое поколение TPU, а детали об инференс-чипах могут появиться в ближайшее время.
Контекст
Сейчас эталоном для ИИ остаются GPU от Nvidia, особенно для обучения сложных моделей. В то же время рынок инференса быстро развивается, и новые игроки предлагают решения, сокращающие время ответа ИИ-систем. Nvidia также движется в этом направлении – недавно компания начала продавать новые чипы для более быстрого инференса.
Google имеет конкурентные преимущества: более 10 лет опыта разработки собственных чипов, значительные финансовые ресурсы и глубокая интеграция между командами, которые создают модели и «железо». Среди ведущих ИИ-разработчиков только Google производит чипы в больших масштабах.
Компания уже использует комбинацию TPU и GPU, а клиенты все чаще хотят работать с обоими типами. Интерес к TPU растет среди крупных ИИ-лабораторий, в частности из-за их эффективности в задачах инференса и работе с ИИ-агентами.
Среди партнеров Google – Anthropic, которая договорилась о доступе к 1 млн TPU, а также Meta, заключившая многолетнее соглашение на миллиарды долларов для использования чипов через Google Cloud. Другие компании, включая G42 и Citadel Securities, также тестируют TPU или ведут переговоры о сотрудничестве.
Google параллельно меняет подход к распространению чипов: позволяет клиентам использовать сторонние инструменты, как PyTorch, и тестирует размещение TPU непосредственно в дата-центрах клиентов, а не только в собственном облаке.
Рынок ИИ смещается от этапа обучения моделей к их практическому использованию, и именно инференс становится ключевым полем конкуренции.
