Американскому Forbes удалось взять интервью у не очень расположенного к разговорам с журналистами гендиректора OpenAI Сэма Альтмана. Он рассказал о модели ChatGPT, AGI (общем искусственном интеллекте) и Google Search.
Amazon інвестує мільярди доларів у ШІ, роботів та машинне навчання. Якими принципами й правилами керується компанія?
Дізнайтеся вже 22 листопада на Forbes Tech 2024. Купуйте квиток за посиланням!
Вас удивила реакция на ChatGPT?
Я взялся за это дело, потому что считал, что оно будет иметь успех. Правда, меня поразил масштаб нашего успеха. Но я надеялся, что людям понравится этот наш проект.
Президент OpenAI Грег Брокман сказал, что команда даже не была уверена, что чат следует запускать. Поэтому не все рассчитывали на успех.
Да, команда была не в восторге, но я очень настаивал на запуске этого проекта. Я полагал, что он сработает.
Когда-то вы говорили, что людей может удивить то, как на самом деле был разработан ChatGPT и как он работает. В чем может быть непонятность?
Прежде всего это то, что месяцев десять ChatGPT использовал API как базовую модель. (ChatGPT – это обновленная версия модели GPT-3, впервые выпущенной в 2020-м как API). Одна из неожиданностей состоит в том, что если внести мелкие коррективы, чтобы модель выполняла необходимую функцию, и определить правильную парадигму взаимодействия, то можно получить улучшенную версию модели. Дело не в фундаментально новой модели, а в маленьких, но важных коррективах. А люди этого не понимают и считают, что мы создали нечто совершенно новое.
Думаете, вам помог бум экосистемы ИИ? Считаете ли, что он создал лишний шум, который мешает?
Я бы сказал, что и то, и другое.
По-вашему, действительно существует экосистема, в которой другие компании, кроме OpenAI, выполняют важную работу?
Да, думаю, что это слишком большая задача для одной компании. На самом деле я надеюсь, что реальная экосистема действительно существует, потому что так лучше. Думаю, что в будущем должно быть несколько AGI (общий искусственный интеллект), поэтому я приветствую появление других компаний в нашей отрасли.
Вы замечаете параллели между тем, на какой стадии развития сейчас находится рынок ИИ, и, скажем, появлением облачных услуг, поисковиков и других технологий?
Думаю, что параллели можно найти почти между всем. Но у каждого вопроса есть свои небольшие особенности. Ошибка людей состоит в том, что они слишком сосредотачиваются на поиске сходств, а не на том, что отличает одну технологию от другой.
Очень легко говорить о нашей отрасли как о, например, облачной индустрии, в которой происходит борьба за доминирование между несколькими компаниями. В нашем случае, думаю, ИИ-компании будут предлагать очень разные продукты, поэтому мы не будем наступать друг другу на пятки.
Людей интересует, не заменит ли ChatGPT традиционные поисковики, такие как Google Search. Это вас вдохновляет? Увлекает?
Не думаю, что ChatGPT заменит Google. Но думаю, что однажды система ИИ сможет это сделать. Более того, я считаю, что люди не видят главного преимущества, когда сосредотачиваются на вчерашних новостях. Меня больше интересует то, что выходит за рамки простого поиска. Я не помню, что мы делали, когда у нас не было поисковиков.
Когда я был ребенком, у нас была энциклопедия «Британника» на диске.
О, я тоже помню. Но разработчики поисковиков не ставили своей целью разработать лучшую версию энциклопедии «Британники», а хотели сделать что-то кардинально другое. Так и мы не пытаемся заменить опыт пользования веб-поиском, а хотим подойти к нему с другой стороны и сделать более интересным.
Думаете, мы уже близки к появлению AGI? И как нам узнать, когда версия GPT или другой ИИ-технологии приблизилась к этой стадии развития?
Не думаю, что мы очень близки к AGI. Но о том, как его распознать, я думал немало в последнее время. Единственное, до чего я дошел за время моей работы с ИИ, – это не будет столь очевидным моментом. Это будет постепенный переход.
Грег Брокман сказал, что OpenAI не является антикапиталистическим проектом. Как вы балансируете между тем, чтобы быть коммерческой организацией с инвесторами, желающими прибыли, и более широкой целью OpenAI?
Думаю, что капитализм прекрасен. Я люблю капитализм. Из всех плохих систем в мире эта – самая лучшая, ну, или наименее плохая. Надеюсь, что мы найдем лучшее. Полагаю, если AGI действительно возникнет, то он может разрушить капитализм.
Грег Брокман, соучредитель и технический директор OpenAI Inc Фото Getty Images
Мы пытались создать структуру, которая не похожа ни на другую корпоративную структуру, потому что мы действительно верим в то, что делаем. Если бы мы считали, что делаем еще одну технокомпанию, то я бы применил весь свой предыдущий опыт, и мы просто создали бы действительно большую компанию. Но если мы действительно дойдем до AGI, то нам понадобится кардинально другая структура компании.
Я очень рад нашей команде и нашим инвесторам, ведь дела у нас идут очень хорошо, но не думаю, что одна компания должна владеть вселенной ИИ. Три вопроса требуют новых подходов: как мы будем делиться AGI, как делиться доступом к нему и кто будет им управлять.
С выпуском новых коммерческих продуктов как вы будете удерживать OpenAI открытым?
Думаю, что одним из важнейших для этого шагов является то, что мы сделали такие инструменты, как ChatGPT, открытыми. Google не открывает такие инструменты для публичного доступа, как и другие исследовательские лаборатории, – некоторые из них волнуются за безопасность. Но я убежден, что наше общество должно попробовать такие инструменты, чтобы понять их преимущества и недостатки.
Поэтому самое важное, что мы можем, так открыть такие инструменты миру, чтобы он понял, что будет дальше.
Кроме того, мы хотим предлагать все более мощные API, когда будем уверены, что они безопасны. Мы продолжим открывать код для таких вещей, как CLIP (визуальная нейросеть, выпущенная в 2021-м). Открытый код – именно то, что привело нас к буму генерации изображений.
Из недавнего – мы открыли код для Whisper и Triton (автоматическое распознавание голоса и язык программирования). Поэтому я верю в многостороннюю стратегию, открывающую миру новые продукты, сохраняя равновесие между рисками и преимуществами каждого конкретного продукта.
Что вы скажете людям, которых может беспокоить то, что вы связываете успех с Microsoft и его гендиректором Сатья Наделла?
Я скажу, что мы внимательно заключаем каждое соглашение так, чтобы оно соответствовало нашей миссии. Кроме того, Сатья и Microsoft великолепны. Думаю, что это технокомпания, наиболее близкая к нашим ценностям. Каждый раз, когда мы приходили к ним и говорили, что у нас возникла идея, которая выходит за рамки ранее оговоренного или негативно повлияет на их доходы, они всегда прекрасно к этому относились.
Сатья Наделла, главный исполнительный директор Microsoft Фото Getty Images
Так вы не считаете, что коммерческая сторона OpenAI будет конфликтовать с общей миссией компании?
Отнюдь. Можете спросить у кого-либо: я никогда не соглашаюсь с тем, что меня не удовлетворяет. Я бы не заключил соглашение, если бы думал, что оно будет противоречить миссии компании.
Вы не из тех, кто направо и налево кричит о том, что не хочет на этом заработать. Но в то же время нельзя сказать, что главная мотивация для вас – это заработать состояние.
Думаю, что в этом вопросе мы сохраняем баланс. Мы хотим, чтобы люди были успешными, зарабатывая доходы на собственных инвестициях, но все должно быть в меру. Если AGI появится, этот баланс изменится. Мы сейчас хотим донести до людей то, как мы будем делиться технологией с обществом.
Какой самый яркий случай использования GPT вам запомнился? Какой напугал вас больше всего?
Самый яркий случай трудно выбрать, ведь разнообразие применения технологии поражает. Скажу о самой полезной для себя вещи – это аннотация. Аннотации огромных статей или цепей е-листов оказались для меня более полезными, чем я мог представить. Также мне нравится, что я могу задать программистские вопросы программе или исправить с ее помощью код.
Из самого страшного? Меня все больше пугает и беспокоит, как часто генераторы изображений используют создание порно с целью мести. Думаю, что это наносит многим немалый вред.
Думаете, компании, разрабатывающие такие инструменты, ответственны за то, чтобы предотвратить такое использование их инструментов? Или это неизбежная часть природы человека?
Думаю, что и то, и другое. Всегда возникает вопрос контроля и ограничения. С одной стороны, было бы хорошо, если бы мы могли сказать компании, что это и вот то делать нельзя, но плохие вещи все равно будут случаться. Компании, берущие за основу чужой открытый код, тоже должны будут брать на себя часть ответственности.
Вы нашли ошибку или неточность?
Оставьте отзыв для редакции. Мы учтем ваши замечания как можно скорее.
