Засновник Meta Марк Цукерберг виклав своє бачення «шляху до кращого варіанту майбутнього ШІ» у новому есе. Він вважає, що надінтелект має бути доступним мільярдам людей, допомагати їм створювати нові продукти та бізнеси, а найбільшою загрозою називає концентрацію надпотужного ШІ в руках одного гравця. Forbes Ukraine публікує 10 головних тез.
Заощаджуйте, отримуючи 6 журналів за ціною 4
Купуйте річну передплату на шість журналів Forbes Ukraine за 1 799 грн замість 2 400 грн. Читайте головні історії українського бізнесу, ексклюзивні рейтинги та глибоку аналітику в кожному номері.
Деталі
- Цукерберг хоче, щоб надінтелект отримали мільярди людей, а не кілька компаній. На його думку, головне питання майбутнього ШІ – хто контролюватиме його величезні можливості. Він виступає проти сценарію, в якому надінтелект зосередиться в руках кількох корпорацій, урядів або навіть однієї ШІ-системи. Натомість його потрібно максимально широко розподілити між людьми.
- Головною функцією надінтелекту має стати не заміна людей, а винахід нових речей. Цукерберг вважає, що найбільша цінність ШІ – здатність створювати нові знання, ліки, продукти, бізнеси та технології. Саме це, на його думку, може забезпечити новий етап економічного зростання.
- Кожна людина отримає персонального ШІ-агента, який працюватиме на неї цілодобово. Такий агент знатиме цілі та інтереси користувача, допомагатиме зі здоров’ям, кар’єрою, фінансами, стосунками, навчанням і побутом. Цукерберг бачить його як своєрідного цифрового помічника, який постійно працює на користувача.
- ШІ може перетворити мільярди людей на творців і підприємців. Потужні інструменти дадуть змогу створювати програми, відео, продукти та запускати бізнеси без великих команд і значних стартових інвестицій. Цукерберг очікує появи значно більшої кількості малих компаній і нових видів бізнесу.
- Цукерберг не погоджується з прогнозом, що ШІ неминуче знищить більшість робочих місць. Мільярдер вважає, що результат залежатиме від балансу між автоматизацією та розширенням можливостей людей. Якщо ШІ допомагатиме людям створювати нові продукти й послуги, економіка може отримати більше нових робочих місць, навіть якщо окремі професії зникатимуть.
- Безпеку ШІ Цукерберг пропонує забезпечувати не його централізацією, а балансом сил. Він вважає помилковою ідею створити один «доброзичливий» надінтелект, який визначатиме, що добре для всього людства. Різні люди мають різні цінності, тому безпечнішим підходом є конкуренція і взаємний контроль між людьми, компаніями та різними ШІ-системами.
- Персональний ШІ має бути підлаштований під цінності конкретної людини, а не під єдину систему поглядів. Цукерберг фактично пропонує переосмислити поняття alignment: агент повинен насамперед розуміти цілі свого користувача і допомагати йому їх досягати, дотримуючись законів та правил безпеки.
- Широке розповсюдження ШІ, навіть попри ризики кібербезпеки та біологічних загроз. На думку Цукерберга, обмеження доступу можуть посилити концентрацію влади. Натомість широке використання ШІ дасть змогу одночасно посилити захист систем, прискорити наукові відкриття та швидше створювати засоби протидії новим загрозам.
- США мають агресивно нарощувати перевагу в ШІ. Цукерберг закликає швидше будувати дата-центри та енергетичну інфраструктуру, не створювати зайвих обмежень для американських ШІ-компаній і зберігати контроль за експортом передових чипів. Він напряму пов’язує лідерство в ШІ з економічною та національною безпекою США.
- Найнебезпечніший сценарій для людства – поява єдиного надінтелекту, який вийде із-під контролю людей. Особливу загрозу Цукерберг бачить у системах, здатних самостійно вдосконалювати себе. Тому, за його логікою, люди та різні ШІ-системи мають зберігати достатню перевагу і взаємно стримувати одна одну, щоб жодна система не отримала абсолютної влади.
Матеріали по темі
