Google планує представити нове покоління власних ШІ-чипів, зокрема для інференсу – запуску вже навчених моделей, на конференції Google Cloud Next цього тижня в Лас-Вегасі. Компанія прагне посилити позиції у сегменті, де домінує Nvidia, на тлі різкого зростання попиту на ШІ-обчислення, пише Bloomberg.
Заощаджуйте, отримуючи 6 журналів за ціною 4
Купуйте річну передплату на шість журналів Forbes Ukraine за 1 799 грн замість 2 400 грн. Читайте головні історії українського бізнесу, ексклюзивні рейтинги та глибоку аналітику в кожному номері.
Деталі
- Чипи Google за кілька місяців стали одними з найбільш затребуваних у технологічному секторі, і їх активно закуповують навіть конкуренти компанії у сфері ШІ.
- Тепер компанія робить ставку на окремий напрям – інференс, тобто швидке виконання запитів до вже навчених моделей, що стає критично важливим через поширення чат-ботів і ШІ-агентів.
- Зі зростанням попиту логічно спеціалізувати чипи окремо для навчання моделей і для інференсу, щоб підвищити швидкість відповідей, пояснив головний науковець Google Джефф Дін. Компанія вже анонсує нове покоління TPU, а деталі про інференс-чипи можуть з’явитися найближчим часом.
Контекст
Зараз еталоном для ШІ залишаються GPU від Nvidia, особливо для навчання складних моделей. Водночас ринок інференсу швидко розвивається, і нові гравці пропонують рішення, що скорочують час відповіді ШІ-систем. Nvidia також рухається у цьому напрямі – нещодавно компанія почала продавати нові чипи для швидшого інференсу.
Google має конкурентні переваги: понад 10 років досвіду розробки власних чипів, значні фінансові ресурси та глибока інтеграція між командами, які створюють моделі й «залізо». Серед провідних ШІ-розробників лише Google виробляє чипи у великих масштабах.
Компанія вже використовує комбінацію TPU і GPU, а клієнти дедалі частіше хочуть працювати з обома типами. Інтерес до TPU зростає серед великих ШІ-лабораторій, зокрема через їхню ефективність у завданнях інференсу та роботі з ШІ-агентами.
Серед партнерів Google – Anthropic, яка домовилася про доступ до 1 млн TPU, а також Meta, що уклала багаторічну угоду на мільярди доларів для використання чипів через Google Cloud. Інші компанії, включно з G42 і Citadel Securities, також тестують TPU або ведуть переговори про співпрацю.
Google паралельно змінює підхід до розповсюдження чипів: дозволяє клієнтам використовувати сторонні інструменти, як-от PyTorch, і тестує розміщення TPU безпосередньо у дата-центрах клієнтів, а не лише у власній хмарі.
Ринок ШІ зміщується від етапу навчання моделей до їх практичного використання, і саме інференс стає ключовим полем конкуренції.
