Ранней версии ChatGPT требовалось около 10 000 графических процессоров. Новая версия чата потребует в три-пять раз больше. Но сейчас рынок не может сделать такое их количество. Wall Street Journal рассмотрел, какова ситуация в техноиндустрии со снабжением этих незаменимых компонентов для дальнейшего развития ИИ. Forbes выбрал главное из материала.
Як мотивувати команду не збавляти темп у надскладних умовах? Дізнайтесь 25 квітня на форумі «Надлюди» від Forbes. Купуйте квиток за посиланням!
Графические процессоры жизненно необходимы для работы и развития систем генеративного ИИ. Сейчас из-за нехватки их на рынке за них идет настоящая борьба.
«Это сродни ситуации с туалетной бумагой во время пандемии. Выигрывает тот, у кого есть теплые связи на рынке», – объясняет Шэрон Чжоу, соучредительница и гендиректор Lamini, стартапа, который помогает компаниям создавать ИИ-модели типа чатботов.
Эти компоненты оказывают влияние на то, сколько облачного пространства могут предложить Amazon.com, Microsoft и другие провайдеры разработчикам ИИ. Чем сложнее модели, тем больше мощных серверов и пространства они требуют.
Конкуренция за процессоры
С проблемами обеспечения необходимых мощностей столкнулись даже те компании, у которых есть развитая сеть связей в мире технологий. Было бы лучше, если бы меньше людей пользовались ChatGPT, тогда процессоры были бы не так перегружены, отметил гендиректор OpenAI Сэм Альтман.
«Графические процессоры достать труднее, чем наркотики», – заявил владелец ряда передовых компаний мира Илон Маск.
Но репутация Маска очевидно ему помогает. Инсайдеры рассказывают, что в этом году стартапы, желавшие купить вычислительные мощности крупнейшего в мире разработчика программного обеспечения Oracle, получили отказ. Причина – один из покупателей скупил большинство свободных серверов компании. Стартапам сообщили, что этим покупателем является именно Маск. Он развивает свою альтернативу OpenAI, X.AI.
Без десятков тысяч передовых графических процессоров тренировка больших речевых моделей, лежащих в основе ИИ, будет продвигаться очень медленно. Графические процессоры компании Nvidia лучше всего подходят для большого количества одновременных вычислительных процессов.
По данным аналитиков UBS, ранней версии ChatGPT требовалось около 10 000 графических процессоров. По оценке Маска, новой версии чата потребуется в 3-5 раз больше.
Смогут ли производители удовлетворить спрос
Nvidia недавно сообщила, что наращивает производство графических процессоров. Но многие основатели ИИ-стартапов ожидают, что проблема с их нехваткой затянется по крайней мере до следующего года.
Из-за такого безумного спроса на ее продукцию, акции Nvidia выросли на около 167%.
Стоимость графических процессоров варьируется, но передовые модели от Nvidia ритейлеры кое-где продают примерно за $33 000. Однако на вторичном рынке цены могут быть еще выше из-за такого безумного спроса. Некоторые разработчики ИИ-стартапов покупают «облака», даже если они им сейчас не нужны. Все из-за боязни не иметь к ним доступа, когда возникнет потребность.
Учредители компаний и инвесторы говорят, что компаниям приходится ждать возможности воспользоваться серверами, за которые они уже заплатили.
«Оплата – не гарантия того, что ты получишь графические процессоры завтра или на следующей неделе», – рассказывает Аравинд Сринивас, гендиректор Perplexity AI. Приходится ждать более полугода.
Список ожидания системы с графическими процессорами огромен, компания спешит нарастить производственные мощности, отметил гендиректор одного из крупнейших производителей серверов Supermicro.
Вторичный рынок тоже преуспевает. Криптокомпании, закупившие большое количество микрочипов и графических процессоров во время бума майнинга, распродают их из-за спада рынка цифровых валют.
Вы нашли ошибку или неточность?
Оставьте отзыв для редакции. Мы учтем ваши замечания как можно скорее.
