Гендиректор Meta Марк Цукерберг считает искусственный интеллект важным для долгосрочного роста компании. Впрочем, с удержанием талантливых разработчиков и ученых у него проблемы. Wall Street Journal проанализировал путь Meta в сфере ИИ, а также текущие успехи и неудачи компании. Forbes выбрал главное
Amazon інвестує мільярди доларів у ШІ, роботів та машинне навчання. Якими принципами й правилами керується компанія?
Дізнайтеся вже 22 листопада на Forbes Tech 2024. Купуйте квиток за посиланням!
В мае Белый дом собирал «компании, стоящие на передовой ИИ-инноваций», но компания Марка Цукерберга – Meta – не попала в список «избранных». Это несмотря на то, что 10 лет назад основатель и гендиректор тогда еще Facebook Марк Цукерберг подметил потенциал искусственного интеллекта и начал инвестировать немалые деньги в развитие этой технологии.
Начало ИИ-разработок в Meta
С 2013-го Цукерберг с тогдашним главным технологическим директором Facebook Майком Шрепфером лично занялись поиском ведущих «умов» отрасли, вошедших в новое исследовательское ИИ-подразделение компании. Они привлекли одного из ранних разработчиков ИИ – Яна Лекуна, преподавателя в Университете Нью-Йорка. Уже тогда его работы в области были общепризнанными.
Лекун делал акцент на науке и фундаментальных исследованиях, которые отражала созданная в Facebook культура. Выбирая сотрудников, он предпочитал ученых инженеров, сосредотачивался на академических результатах, как-то научные работы, а не на разработке продуктов для пользователей. Так компания стала привлекательной для талантливых исследователей, которые хотели поработать в передовой ИИ-лаборатории. Но такой подход также препятствовал коммерциализации созданных идей.
Исследователям не хватало единой стратегии и цели исследования, отмечают знакомые с тогдашней работой Facebook люди. Они продвигали собственные планы, занимаясь независимыми проектами разных направлений, а не выполняли единую для компании связную стратегию.
Теперь уже Meta медленно оснащала собственные дата-центры более мощными чипами, необходимыми для ИИ-разработок. Но ей не хватало четкой системы их распределения между инженерами и исследователями. Бывало так, что тысячи таких ценных компонентов просто пылились, рассказали некоторые источники.
В настоящее время Meta в процессе обновления дата-центров. Это может быть причиной определенного застоя в новых разработках ИИ. По состоянию на май суперкомпьютер Meta для ИИ-проектов содержит 16 000 чипов.
В 2020 году большие языковые модели (БЯМ) начали демонстрировать поразительные возможности, но исследователей Meta они поделили на два лагеря. Тех, кто призывал компанию инвестировать в разработку, и тех, кто считал, что этим моделям не хватает научной ценности.
Второй лагерь возглавил Лекун. Результат активного сопротивления ученого (уверенного, что БЯМ не приближают ИИ к уровню человеческого интеллекта) – исследователи Meta с противоположным мнением не могли заручиться необходимой поддержкой и ресурсами для дальнейших проектов с БЯМ.
Некоторым все же удалось добиться определенных результатов с небольшими ресурсами. Для одного проекта использовали около 1000 микрочипов и создали в 2022 году БЯМ под названием OPT. На другой ушло около 2000 чипов, в 2023-м он стал флагманской языковой моделью Meta – LLaMA. Ее призвание – помочь исследователям работать в области ИИ.
Компания дала доступ к LLaMA небольшой группе сторонних исследователей, но затем модель слили в сеть, что обусловило значительный взрыв инноваций. Это отличный пример цели компании делиться своими ИИ-технологиями, так отреагировали на это руководители Meta.
Однако за прошлый год Meta потеряла ряд своих ИИ-исследователей, работавших над этими и другими проектами генеративного ИИ, сославшись на выгорание или неуверенность в том, что компания сможет успеть за конкурентами. Шесть из 14 авторов исследовательской работы, легшей в основу LLaMA, ушли из компании или объявили о скором уходе в своих профилях в LinkedIn. Восемь из 19 соавторов работы, на которую опирается OPT, тоже покинули Meta.
Количество добровольных увольнений увеличилось после выхода ChatGPT в ноябре прошлого года.
ИИ-лихорадка сменила рынок труда в Кремниевой долине. LinkedIn сообщила, что на март количество объявлений о работе с упоминанием GPT увеличилось на 79% по сравнению с предыдущим годом. Спикер Meta сообщил, что компания продолжает нанимать ИИ-таланты.
ИИ-продукты Meta
После дебюта ChatGPT Цукерберг и директор продуктов Meta Platforms присоединились к главному технологическому директору Эндрю Босворту, чтобы вместе контролировать ИИ-инициативы компании.
Новая группа генеративного ИИ Meta занимается исключительно разработкой конкретных продуктов и инструментов, то есть очевидным переходом от научных исследований. Получены более 2000 заявок от сотрудников компании, желающих в нее войти. Теперь она состоит из сотен людей из разных отделов. По словам инсайдеров, оборудование забрали у исследовательского подразделения ИИ и отдали новой группе для тренировки новых генеративных ИИ-моделей.
В марте Цукерберг заявил, что «развитие ИИ и добавление его в каждый наш продукт» – самая большая инвестиция компании. Он надеется расширить технологию и в метавселенную.
На общем собрании компании Цукерберг объявил о ряде генеративных ИИ-продуктов, над которыми ведется работа:
- ИИ-агенты для Messenger и WhatsApp.
- ИИ-стикеры, которые пользователи могут создавать по текстовым запросам и делиться ими в чатах.
- Опция генерирования фото, позволяющая пользователям Instagram модифицировать свои фото с помощью текстовых запросов, а затем можно будет делиться ими в сторис.
Также Цукерберг рассказал о исключительно внутренних ИИ-инструментах для сотрудников. Один из них – Metamate – цифровой помощник, который получает информацию из внутренних источников и выполняет задания по запросу. Его уже испытывают.
А в пятницу Цукерберг объявил об ИИ-модели Voicebox, которая может вслух читать текстовые запросы с разной интонацией или исправлять аудиозаписи по текстовым запросам (например, она может убрать фоновый шум). Meta не сообщила о том, когда этот исследовательский проект будет доступен публике.
Цукерберг и другие руководители компании назвали ИИ «третьей ногой для Meta» вместе с глобальной связью, виртуальной и дополненной реальностью. Отставание в ИИ-разработках грозит Meta, которая задавала темп инноваций в Кремниевой долине, стать тяжелой и медленной по сравнению с конкурентами. Уже есть предостерегающие звоночки: в мае Белый дом не пригласил Meta на саммит компаний-лидеров ИИ.
Неприязнь к рискам
У компании Цукерберга остается немало вызовов. Годами правительство и СМИ тщательно следят за тем, как компания хранит данные пользователей. Это привело к нежеланию Meta рисковать, создало напряжение вокруг того, как и когда представлять ИИ-продукты.
В прошлом Meta приходилось считаться с репутацией при разработке и запуске больших языковых моделей, которые склонны выдавать неправильные ответы и оскорбительные замечания. По словам знакомых с вопросом людей, несколько лет назад ИИ-исследователи работали над чат-ботом под кодовым именем Tamagobot. Команду Meta поразили результаты проекта, но решили его не выпускать из-за шквала критики за распространение дезинформации на Facebook во время президентских выборов в США в 2016-м.
Когда Meta выпустила свой чат-бот BlenderBot 3 в августе 2022, к реакции публики также прислушались. За считанные недели после выпуска продукт раскритиковали за ложные утверждения, оскорбительные замечания и расистские комментарии, а сам бот назвал Цукерберга «жутким и манипулятивным». Проект не закрывали больше года для подведения итогов. За это время компания выпустила многие другие проекты, что указывает на готовность Meta к рискам.
Но все же нежелание рисковать снова дало о себе знать в ноябре 2022 года, когда компания выпустила Galactica – языковую модель, которая сосредоточена на науке. Проект закрыли через три дня после выпуска из-за шквала критики от ученых за неправильные и предвзятые ответы.
Через две недели после этого проекта OpenAI презентовала миру ChatGPT.
Вы нашли ошибку или неточность?
Оставьте отзыв для редакции. Мы учтем ваши замечания как можно скорее.