Микрочиповая компания Groq недавно привлекла $640 млн инвестиций и уже готова посоревноваться с более крупными и опытными конкурентами, предложив ИИ-чипы собственной разработки и производства
Amazon інвестує мільярди доларів у ШІ, роботів та машинне навчання. Якими принципами й правилами керується компанія?
Дізнайтеся вже 22 листопада на Forbes Tech 2024. Купуйте квиток за посиланням!
В ходе демонстрации в Осло для членов норвежского парламента и руководителей технокомпаний Джонатан Росс столкнулся с непредсказуемой проблемой. Росс, 42-летний гендиректор микрочипового стартапа Groq, как раз показывал надежду компании для оживления интереса к ней: ИИ-бот, почти мгновенно отвечающий на вопросы. Но по каким-то причинам скорость бота немного отставала от ожидаемой. Росса это несколько выбило из колеи, ведь эта демонстрация была питчингом европейского дата-центра с чипами от Groq в основе.
Проблема была в потоке новых пользователей. За день до презентации Росса завирусился твит разработчика компании, в котором тот нахваливал «молниеносного ИИ-бота». Этот пост поощрил множество новых пользователей проверить это чудо, что перегрузило серверы Groq. Это, конечно, проблема, но приятная.
Когда Росс основал компанию восемь лет назад, то планировал разрабатывать ИИ-чипы специально для «inference» или «вывода». Этим термином в индустрии обозначают способность ИИ подражать мышлению человека, применяя изученные знания в новых ситуациях. На практике это позволяет вашему смартфону определять породу вашего пса по фото, которое он видит впервые, или генератору изображений представить Папу Франциска в куртке от Balenciaga. Это свойство существенно отличается от обучения огромным моделям, с которого и начинается ИИ.
До выхода ChatGPT от OpenAI в свет в конце 2022 года, вызвавшего ИИ-бум, спрос на супербыстрый «вывод» был ограничен, поэтому у Groq дела обстояли плохо.
«Groq много раз был на пороге смерти, – рассказывает Росс в лаборатории компании в Калифорнии, вспомнив время в 2019-м, когда у Groq денег оставалось всего на месяц работы. – Мы, видимо, создали Groq немного рано.
Но теперь, когда спрос на вычислительные мощности для ИИ-моделей настолько высок, что способствует нехватке электроэнергии по всему миру, у Groq появится шанс засиять. Компания может либо наделать шум в индустрии, либо стать привлекательной покупкой для опытных производителей чипов.
Инвестиции и конкуренты
В понедельник, 5 августа, компания рассказала эксклюзивно Forbes, что привлекла $640 млн в раунде финансирования Серии D по отметке $2,8 млрд. Еще в 2021 году Groq оценивали в $1,1 млрд. Этот раунд возглавила BlackRock Private Equity Partners, а присоединились к ней Cisco Investments и Samsung Catalyst Fund.
Спрос на мощные компьютеры стал настолько огромным, что рыночная капитализация Nvidia в 2023-м достигла $3 трлн, а выручка – $60,9 млрд. По сравнению с нею показатели Groq того же года кажутся неуверенными: продажи – $3,4 млн, а чистый убыток – $88,3 млн, согласно финансовым отчетам, просмотренным Forbes.
Но из-за роста интереса к чипам компании она прогнозирует несколько оптимистичные $100 млн продаж в этом году. Об этом рассказал источник Forbes, сомневающийся, что Groq удастся достичь этой цифры. Сама компания отказалась комментировать все эти показатели и прогнозы.
Ожидается, что рынок ИИ-чипов достигнет $1,1 трлн к 2027 году, а Росс считает, что сможет отхватить кусок 80-процентной доли Nvidia на рынке, сосредоточившись на функции «вывода». В этом году именно этот рынок составит около $39 млрд, а в следующие четыре года – $60,7 млрд, согласно данным исследовательской фирмы IDC.
Компании типа Groq рассчитывают на успех, потому что микрочипы Nvidia не создавались под ИИ. Когда гендиректор компании Дженсен Хуанг впервые представил свои графические процессоры в 1999 году, они разрабатывались для видеоигр с графикой высокого качества. Только по велению судьбы они оказались подходящими для тренировки ИИ. Groq и стартапы чипов нового поколения, среди которых Cerebras (оценка $4 млрд) и SambaNova ($5,1 млрд), видят в этом свою возможность.
Не только стартапы хотят сбросить с вершины Nvidia. Amazon и Microsoft также разрабатывают собственные ИИ-чипы. Микросхемы Groq, называемые языковыми процессорами, настолько быстры, что компания считает, что у нее есть шанс на успех. Потенциальным инвесторам Groq рассказывает, что ее процессоры в четыре раза быстрее, в пять раз дешевле и втрое энергоэффективнее, чем графические процессоры Nvidia, если использовать их для вывода. Nvidia отказалась это комментировать.
«Они предлагают более быстрый вывод, чем кто-либо на рынке, – говорит Эмиш Шах, соучредитель General Global Capital, которая неоднократно инвестировала в Groq.»
Способность ИИ к выводу позволяет генератору изображений представить Папу Франциска в куртке от Balenciaga.
Groq начала продавать свои микросхемы два года назад и с тех пор привлекла несколько важных клиентов. Argonne National Labs, федеральная исследовательская организация, чьи корни уходят в «Манхеттэнский проект», использует чипы компании для изучения ядерного синтеза. Aramco Digital, технологичная дочка саудовской нефтяной компании, тоже сотрудничает с Groq.
В марте Groq запустила GroqCloud, где разработчики могут снять доступ к чипам без необходимости покупать их. Чтобы привлечь пользователей, компания предложила бесплатный доступ – пришло 70 000 человек. Сегодня у платформы 350 000 пользователей и они продолжают подписываться.
30 июля компания ввела плату за пользование, а также наняла Стюарта Пенна, бывшего исполнительного директора Intel, на должность главного операционного директора, чтобы он масштабировал выручку и сделки. Пенн оптимистично настроен по поводу роста: более четверти обращений клиентов GroqCloud – это запросы на оплату большей вычислительной мощности.
«Чипы Groq очень мощные», – говорит главный ученый Meta Янн Лекун. Он ранее преподавал Россу компьютерную науку в Нью-Йоркском университете, а теперь присоединился к Groq как технический советник.
В прошлом месяце гендиректор Meta Марк Цукерберг объявил, что именно Groq станет поставщиком чипов для развития «вывода» новой модели Llama 3.1. Он назвал стартап «инновационным».
Сомнения и вызовы
Росс некоторое время работал в Google, где занимался «тензорными процессорами», оптимизированными для машинного обучения. Оттуда он ушел в 2016-м, чтобы основать Groq вместе с другим инженером из Google, Дугом Уайтменом, который был первым гендиректором стартапа. В этом году Groq провел раунд финансирования на $10 млн, возглавляемый венчурным фондом Social Capital. Впрочем, после того привлечения инвесторов все шло довольно тяжело. Уайтмен ушел через несколько лет, и он не ответил на просьбу о комментарии.
Скептиков будущего успеха Groq хватает. Один венчурный капиталист, пропустивший последний раунд финансирования компании, назвал подход Groq «свежим», но считает, что интеллектуальную собственность стартапа трудно будет защищать в долгосрочной перспективе.
Митеш Агравал, глава облачного отдела стартапа Lambda, развивающего ИИ-инфраструктуру, сказал, что не собирается брать на вооружение чипы Groq или еще чьи-то. «Трудно сейчас думать о чем-нибудь, кроме Nvidia», – сказал он.
Другие же подвергают сомнению то, насколько экономными будут затраты на масштабное производство чипов Groq.
Росс знает, что впереди его ждет непростой путь. «Мы будто новички года. Нам еще очень далеко до Nvidia, но все следят за тем, что мы делаем, и ждут нашего следующего шага», – говорит Росс.
Вы нашли ошибку или неточность?
Оставьте отзыв для редакции. Мы учтем ваши замечания как можно скорее.
