Категорія: Новини
Дата: 01 травня 2023 15:46

«Хрещений батько ШІ» Гінтон пішов із Google. Він попереджає про небезпеку технології – NYT

Аніта Прасад

Forbes

Getty Images

Протягом пів століття піонер штучного інтелекту Джефрі Гінтон розвивав технологію, що лежить в основі чат-ботів, але нині він побоюється, що вона завдасть серйозної шкоди, пише The New York Times. Гінтон звільнився з роботи в Google, де пропрацював понад десять років.

Ключові факти

У понеділок, 1 травня, Гінтон офіційно приєднався до критиків, які кажуть, що компанії мчать назустріч небезпеці своєю агресивною кампанією створення продуктів на основі генеративного ШІ.
Доктор Гінтон сказав, що звільнився з роботи в Google, де пропрацював понад десять років і став одним із найшанованіших голосів у цій галузі, тому він може вільно говорити про ризики ШІ. За його словами, тепер він шкодує про роботу всього свого життя.
Гінтон вважає, що в міру того, як компанії вдосконалюють свої системи ШІ, вони стають дедалі небезпечнішими. «Погляньте, як це було пʼять років тому і як зараз, – сказав він. – Візьміть різницю та поширьте її наперед. Це страшно».
За його словами, до минулого року Google діяв як «належний розпорядник» технології, намагаючись не випускати те, що може завдати шкоди. Але тепер, коли Microsoft доповнила свою пошукову систему Bing чат-ботом, що кидає виклик основному бізнесу Google, Google прагне впровадити таку ж технологію.
Він безпосередньо стурбований, що ШІ згодом переверне ринок праці, а Інтернет буде наповнений фальшивими фотографіями, відео та текстом, і звичайна людина «більше не зможе знати, що правда».
Гінтон занепокоєний тим, що майбутні версії технології можуть стати загрозою для людства, оскільки окремі особи та компанії дозволяють системам ШІ не лише генерувати свій власний компʼютерний код, а й фактично запускати цей код самостійно.
«Ідея про те, що ця штука справді може стати розумнішою за людей – у це повірили лише небагато людей, – заявив він. – Але більшість з них думали, що це далеко. Я й сам так гадав, вважав, що це буде через 30-50 років чи навіть більше. Очевидно, більш я так не думаю».

Контекст

У 2012 році доктор Гінтон і двоє його аспірантів в Університеті Торонто, Ілля Суцкевер та Алекс Крішевський, створили технологію, яка стала інтелектуальною основою для систем ШІ. Дослідники побудували нейронну мережу, яка могла аналізувати тисячі фотографій і навчалася ідентифікувати звичайні обʼєкти, такі як квіти, собаки та автомобілі.

Google витратив $44 млн на придбання компанії, заснованої Гінтоном та студентами. І їхня система привела до створення все більш потужних технологій, включаючи нові чат-боти, такі як ChatGPT і Google Bard.

Лідери галузі вважають, що нові системи ШІ можуть мати таке ж значення, як поява веб-браузера на початку 1990-х років, і вірогідно призведуть до прориву в різних галузях, від дослідження ліків до освіти. Водночас інсайдери галузі стурбовані, що генеративний ШІ вже може бути інструментом дезінформації. Незабаром це здатне стати загрозою для робочих місць. Найбільше ж побоювання в галузі технологій – у майбутньому ШІ може становити небезпеку для людства.

Після того, як у березні стартап OpenAI із Сан-Франциско випустив нову версію ChatGPT, понад 1000 технологічних лідерів і дослідників підписали відкритий лист із закликом ввести шестимісячний мораторій на розробку нових систем, оскільки технології ШІ становлять «серйозні ризики для суспільства та людства».

Через кілька днів 19 нинішніх і колишніх лідерів Асоціації з розвитку штучного інтелекту, академічного товариства з 40-річною історією, випустили власний лист із попередженням про ризики, повʼязані з ШІ. До цієї групи входив Ерік Хорвіц, головний науковий співробітник Microsoft, яка розгорнула технологію OpenAI у широкому спектрі продуктів, включаючи пошукову систему Bing.

Тоді Гінтон, якого часто називають «хрещеним батьком ШІ», не підписав жодного з цих листів і сказав, що не хоче публічно критикувати Google чи інші компанії, доки не звільниться з роботи.

Матеріали по темі