Ранній версії ChatGPT потрібно було близько 10 000 графічних процесорів. Нова версія чат-бота вимагатиме у три-пʼять разів більше. Але наразі ринок не може виробити таку їх кількість. Wall Street Journal розглянув, яка ситуація в техноіндустрії з постачанням цих незамінних компонентів для подальшого розвитку ШІ. Forbes вибрав головне з матеріалу.
Amazon інвестує мільярди доларів у ШІ, роботів та машинне навчання. Якими принципами й правилами керується компанія?
Дізнайтеся вже 22 листопада на Forbes Tech 2024. Купуйте квиток за посиланням!
Графічні процесори життєво необхідні для роботи та розвитку систем генеративного ШІ. Наразі через нестачу їх на ринку за них точиться справжня боротьба.
«Це схоже на ситуацію з туалетним папером під час пандемії. Виграє той, у кого є теплі звʼязки на ринку», – пояснює Шерон Чжоу, співзасновниця та гендиректорка Lamini, стартапу, який допомагає компаніям створювати ШІ-моделі типу чат-ботів.
Ці компоненти впливають на те, скільки хмарного простору можуть запропонувати Amazon.com, Microsoft та інші провайдери розробникам ШІ. Що складніші моделі, то більше потужних серверів і простору вони вимагають.
Конкуренція за процесори
З проблемами забезпечення необхідних потужностей зіткнулися навіть ті компанії, які мають розвинену мережу звʼязків у світі технологій. Було б краще, якби менше людей користувалися ChatGPT, так процесори були б не такі перевантажені, відмітив гендиректор OpenAI Сем Альтман.
«Графічні процесори дістати важче, ніж наркотики», – заявив власник низки передових компаній світу Ілон Маск.
Але репутація Маска явно йому допомагає. Інсайдери розповідають, що цього року стартапи, які хотіли купити обчислювальні потужності найбільшого у світі розробника програмного забезпечення Oracle, отримали відмову. Причина – один із покупців скупив більшість вільних серверів компанії. Стартапам повідомили, що цим покупцем є саме Маск. Він розвиває власну альтернативу OpenAI, X.AI.
Без десятків тисяч передових графічних процесорів тренування великих мовних моделей, які лежать в основі ШІ, буде просуватися дуже повільно. Графічні процесори компанії Nvidia найкраще підходять для великої кількості одночасних обчислювальних процесів.
За даними аналітиків UBS, ранній версії ChatGPT потрібно було близько 10 000 графічних процесорів. За оцінкою Маска, нова версія чат-бота вимагатиме у 3–5 разів більше.
Чи зможуть виробники задовольнити попит
Nvidia нещодавно повідомила, що нарощує виробництво графічних процесорів. Але багато засновників ШІ-стартапів очікують на те, що проблема з їх нестачею затягнеться принаймні до наступного року.
Через такий шалений попит на її продукцію, акції Nvidia виросли на близько 167%.
Вартість графічних процесорів варіюється, але передові моделі від Nvidia ритейлери подекуди продають за приблизно $33 000. Проте на вторинному ринку ціни можуть бути ще вищими через такий шалений попит. Деякі розробники ШІ-стартапів купують «хмари», навіть якщо вони їм зараз непотрібні. Все через острах не мати до них доступу, коли виникне потреба.
Засновники компаній та інвестори кажуть, що компаніям доводиться чекати на можливість скористатися серверами, за які вони вже заплатили.
«Оплата – не гарантія того, що ти отримаєш графічні процесори завтра чи наступного тижня», – розповідає Аравінд Срінівас, гендиректор Perplexity AI. Доводиться чекати понад пів року.
Список очікування на системи з графічними процесорами величезний, компанія поспішає наростити виробничі потужності, відмітив гендиректор одного із найбільших виробників серверів Supermicro.
Вторинний ринок теж процвітає. Криптокомпанії, які закупили велику кількість мікрочипів і графічних процесорів під час буму майнингу, розпродають їх через спад ринку цифрових валют.
Ви знайшли помилку чи неточність?
Залиште відгук для редакції. Ми врахуємо ваші зауваження якнайшвидше.
