Категорія
Інновації
Дата

Загальний штучний інтелект може зруйнувати капіталізм. Інтервʼю Forbes із Семом Альтманом, гендиректором OpenAI

Сем Альтман /Getty Images

Сем Альтман дав ексклюзивне та рідкісне інтерв'ю американському Forbes. Фото Getty Images

Американському Forbes вдалося взяти інтервʼю в не надто охочого до розмов із журналістами гендиректора OpenAI Сема Альтмана. Він розповів про модель ChatGPT, AGI (загальний штучний інтелект) і Google Search.

Головні матеріали Forbes Ukraine у email-розсилці. Раз на тиждень на вашій пошті.

Вас здивувала реакція на ChatGPT?

Я зайнявся цією справою, бо вважав, що вона матиме успіх. Щоправда мене вразив масштаб нашого успіху. Але я сподівався, що людям сподобається цей наш проєкт.

Президент OpenAI Грег Брокман сказав, що команда навіть не була впевнена, що чат варто запускати. Тому не всі розраховували на успіх.

Так, команда була не в захваті, але я дуже наполягав на запуску цього проєкту. Я вважав, що він спрацює.

Колись ви говорили, що людей може здивувати те, як насправді було розроблено ChatGPT і як він працює. В чому може бути незрозумілість?

Перш за все це те, що місяців десять ChatGPT використовував API як базову модель. (ChatGPT – це оновлена версія моделі GPT-3, яку вперше випустили у 2020-му як API). Одна з несподіванок полягає у тому, що якщо внести дрібні корективи, щоб модель виконувала необхідну функцію, і визначити правильну парадигму взаємодії, то можна отримати покращену версію моделі. Справа не у фундаментально новій моделі, а в маленьких, але важливих корективах. А люди цього не розуміють і вважають, що ми створили щось абсолютно нове.

Думаєте, вам допоміг бум екосистеми ШІ? Чи вважаєте, що він створив зайвий шум, який заважає?

Я б сказав, що і те, і те.

На вашу думку, справді існує екосистема, в якій інші компанії, окрім OpenAI, виконують важливу роботу?

Так, думаю, що це надто велике завдання для однієї компанії. Насправді, я сподіваюся, що реальна екосистема дійсно існує, бо так краще. Думаю, що в майбутньому повинно бути кілька AGI (загальний штучний інтелект), тому я вітаю появу інших компаній у нашій галузі.

Ви помічаєте паралелі між тим, на якій стадії розвитку нині знаходиться ринок ШІ, і, скажімо, появою хмарних послуг, пошуковиків та інших технологій?

Думаю, що паралелі можна знайти майже між усім. Але в кожного питання є свої маленькі особливості. Помилка людей полягає в тому, що вони надто зосереджуються на пошуку подібностей, а не того, що відрізняє одну технологію від іншої.

Дуже легко говорити про нашу галузь як про, наприклад, хмарну індустрію, в якій відбувається боротьба за домінування між кількома компаніями. В нашому випадку, думаю, ШІ-компанії пропонуватимуть дуже різні продукти, тому ми не надто наступатимемо одне одному на пʼяти.

Людей цікавить, чи не замінить ChatGPT традиційні пошуковики, такі як Google Search. Це вас надихає? Захоплює?

Не думаю, що ChatGPT замінить Google. Але гадаю, що одного дня система ШІ зможе це зробити. Більше того, я вважаю, що люди не бачать головної переваги, коли зосереджуються на вчорашніх новинах. Мене більше цікавить те, що виходить за рамки звичайного пошуку. Я не памʼятаю, що ми робили, коли в нас не було пошуковиків…

Коли я був дитиною, у нас була енциклопедія «Британіка» на диску.

О, я теж це пригадую. Але розробники пошуковиків не ставили собі на меті розробити трохи кращу версію енциклопедії «Британіки», а хотіли зробити щось кардинально інше. Так і ми не намагаємося замінити досвід користування веб-пошуком, а хочемо підійти до нього з іншого боку і зробити цікавішим.

Думаєте, ми вже близькі до виникнення AGI? І як нам дізнатися, коли версія GPT чи іншої ШІ-технології наблизилася до цієї стадії розвитку?

Не думаю, що ми дуже близькі до AGI. Але про те, як його розпізнати, я думав немало останнім часом. Єдине, до чого я дійшов за час моєї роботи зі ШІ, так це до того, що це не буде таким вже очевидним моментом. Це буде поступовий перехід.

Грег Брокман сказав, що OpenAI не є антикапіталістичним проєктом. Як ви балансуєте між тим, щоб бути комерційною організацією з інвесторами, які хочуть прибутків, і ширшою ціллю OpenAI?

Думаю, що капіталізм чудовий. Я люблю капіталізм. З-поміж усіх поганих систем у світі ця – найкраща, ну, або найменш погана наразі. Сподіваюся, що ми знайдемо кращу. Гадаю, якщо AGI дійсно виникне, то він може зруйнувати капіталізм.

Грег Брокман, співзасновник і технічний директор OpenAI Inc /Getty Images

Грег Брокман, співзасновник і технічний директор OpenAI Inc Фото Getty Images

Ми намагалися створити структуру, яка не схожа на жодну іншу корпоративну структуру, бо ми дійсно віримо в те, що робимо. Якби ми вважали, що робимо ще одну технокомпанію, то я б застосував увесь свій попередній досвід, і ми б просто створили справді велику компанію. Та якщо ми дійсно дійдемо до AGI, то нам потрібна буде кардинально інша структура компанії.

Я дуже радий за нашу команду і наших інвесторів, адже справи в нас йдуть дуже добре, але не думаю, одна компанія повинна володіти всесвітом ШІ. Три питання вимагають нових підходів: як ми будемо ділитися AGI, як ділитися доступом до нього і хто ним керуватиме.

Із випуском нових комерційних продуктів як ви будете утримувати OpenAI відкритою?

Думаю, що одним із найважливіших для цього кроків є те, що ми зробили такі інструменти, як ChatGPT, відкритими. Google не відкриває такі інструменти для публічного доступу, як й інші дослідницькі лабораторії, – деякі з них хвилюються за безпеку. Але я переконаний, що наше суспільство має саме спробувати такі інструменти, щоб зрозуміти їхні переваги й недоліки.

Тому найважливіше, що ми можемо, так це відкрити такі інструменти світові, щоб він зрозумів, що буде далі.

Крім того, ми хочемо пропонувати все більш потужні API, коли будемо впевнені, що вони безпечні. Ми продовжимо відкривати код для таких речей, як CLIP (візуальна нейромережа, яку випустили в 2021-му). Відкритий код – це саме те, що привело нас до буму генерації зображень.

Із нещодавнього – ми відкрили код для Whisper і Triton (автоматичне розпізнавання голосу і мова програмування). Тому я вірю у багатосторонню стратегію, яка полягає в тому, щоб відкривати світу нові продукти, зберігаючи рівновагу між ризиками й перевагами кожного конкретного продукту.

Що ви скажете людям, яких може непокоїти те, що ви повʼязуєте свій успіх із Microsoft і його гендиректором Сатья Наделла?

Я скажу, що ми уважно складаємо кожну угоду так, щоб вона відповідала нашій місії. Крім того, Сатья і Microsoft чудові. Думаю, що це технокомпанія, які найбільш близька до наших цінностей. Щоразу, коли ми приходили до них і казали, що в нас виникла ідея, яка виходить поза рамки раніше обговореного або негативно вплине на їхні прибутки, то вони завжди чудово до цього ставилися.

Сатья Наделла, головний виконавчий директор Microsoft /Getty Images

Сатья Наделла, головний виконавчий директор Microsoft Фото Getty Images

Тож ви не вважаєте, що комерційна сторона OpenAI конфліктуватиме із загальною місією компанії?

Аж ніяк. Можете запитати в будь-кого: я ніколи не погоджуюся з тим, що мене не задовольняє. Я не уклав би угоду, якби думав, що вона суперечитиме місії компанії.

Ви не з тих, хто направо й наліво кричить про те, що не хоче на цьому заробити. Але в той же час не можна сказати, що головна мотивація для вас – це заробити статки.

Думаю, що в цьому питанні ми зберігаємо баланс. Ми хочемо, щоб люди були успішними, заробляючи прибутки на власних інвестиціях, але все має бути в міру. Якщо AGI зʼявиться, то цей баланс зміниться. Ми зараз хочемо донести до людей те, як саме ми будемо ділитися технологією із суспільством.

Який найяскравіший випадок використання GPT вам запамʼятався? Який налякав вас найбільше?

Найяскравіший випадок важко обрати, адже різноманіття застосування технології вражає. Скажу про найкориснішу для себе річ – це анотація. Анотації величезних статей або ланцюгів е-листів виявилися для мене кориснішими, ніж я міг уявити. Також мені подобається, що я можу поставити програмістські запитання програмі або виправити з її допомогою код.

Із найстрашнішого? Мене все більше лякає й непокоїть те, як часто генератори зображень використовують створення порно для помсти. Думаю, що це завдає багатьом немалу шкоду.

Думаєте, компанії, які розробляють такі інструменти, відповідальні за те, щоб запобігти такому використанню їхніх інструментів? Чи це неминуча частина природи людини?

Думаю, що і те, і інше. Завжди постає питання контролю й обмеження. З одного боку, було б добре, якби ми могли сказати компанії, що це і ось це робити не можна, але погані речі все одно будуть траплятися. Компанії, які беруть за основу чужий відкритий код, теж повинні будуть брати на себе частину відповідальності.

 

Матеріали по темі

Ви знайшли помилку чи неточність?

Залиште відгук для редакції. Ми врахуємо ваші зауваження якнайшвидше.

Виправити
Попередній слайд
Наступний слайд
Новий номер Forbes Ukraine

Замовляйте з безкоштовною кур’єрською доставкою по Україні