«Хрещений батько ШІ» Гінтон пішов із Google. Він попереджає про небезпеку технології – NYT /Getty Images
Категорія
Новини
Дата

«Хрещений батько ШІ» Гінтон пішов із Google. Він попереджає про небезпеку технології – NYT

2 хв читання

Getty Images

Протягом пів століття піонер штучного інтелекту Джефрі Гінтон розвивав технологію, що лежить в основі чат-ботів, але нині він побоюється, що вона завдасть серйозної шкоди, пише The New York Times. Гінтон звільнився з роботи в Google, де пропрацював понад десять років. 

⚡️Ексклюзивно: спікер на форумі «Енергія бізнесу» – Деніел Єрґін, віце-голова S&P Global, письменник та лауреат Пулітцерівської премії. Він автор бестселерів про енергетику та світову економіку, зокрема «The Prize» і «The New Map». Вже 9 жовтня зустрінемося. 

Долучайтеся до форуму!

Ключові факти

  • У понеділок, 1 травня, Гінтон офіційно приєднався до критиків, які кажуть, що компанії мчать назустріч небезпеці своєю агресивною кампанією створення продуктів на основі генеративного ШІ.
  • Доктор Гінтон сказав, що звільнився з роботи в Google, де пропрацював понад десять років і став одним із найшанованіших голосів у цій галузі, тому він може вільно говорити про ризики ШІ. За його словами, тепер він шкодує про роботу всього свого життя.
  • Гінтон вважає, що в міру того, як компанії вдосконалюють свої системи ШІ, вони стають дедалі небезпечнішими. «Погляньте, як це було пʼять років тому і як зараз, – сказав він. – Візьміть різницю та поширьте її наперед. Це страшно».
  • За його словами, до минулого року Google діяв як «належний розпорядник» технології, намагаючись не випускати те, що може завдати шкоди. Але тепер, коли Microsoft доповнила свою пошукову систему Bing чат-ботом, що кидає виклик основному бізнесу Google, Google прагне впровадити таку ж технологію. 
  • Він безпосередньо стурбований, що ШІ згодом переверне ринок праці, а Інтернет буде наповнений фальшивими фотографіями, відео та текстом, і звичайна людина «більше не зможе знати, що правда».
  • Гінтон занепокоєний тим, що майбутні версії технології можуть стати загрозою для людства, оскільки окремі особи та компанії дозволяють системам ШІ не лише генерувати свій власний компʼютерний код, а й фактично запускати цей код самостійно. 
  • «Ідея про те, що ця штука справді може стати розумнішою за людей – у це повірили лише небагато людей, – заявив він. – Але більшість з них думали, що це далеко. Я й сам так гадав, вважав, що це буде через 30-50 років чи навіть більше. Очевидно, більш я так не думаю».

Контекст

У 2012 році доктор Гінтон і двоє його аспірантів в Університеті Торонто, Ілля Суцкевер та Алекс Крішевський, створили технологію, яка стала інтелектуальною основою для систем ШІ. Дослідники побудували нейронну мережу, яка могла аналізувати тисячі фотографій і навчалася ідентифікувати звичайні обʼєкти, такі як квіти, собаки та автомобілі.

Google витратив $44 млн на придбання компанії, заснованої Гінтоном та студентами. І їхня система привела до створення все більш потужних технологій, включаючи нові чат-боти, такі як ChatGPT і Google Bard. 

Лідери галузі вважають, що нові системи ШІ можуть мати таке ж значення, як поява веб-браузера на початку 1990-х років, і вірогідно призведуть до прориву в різних галузях, від дослідження ліків до освіти. Водночас інсайдери галузі стурбовані, що генеративний ШІ вже може бути інструментом дезінформації. Незабаром це здатне стати загрозою для робочих місць. Найбільше ж побоювання в галузі технологій – у майбутньому ШІ може становити небезпеку для людства.

Після того, як у березні стартап OpenAI із Сан-Франциско випустив нову версію ChatGPT, понад 1000 технологічних лідерів і дослідників підписали відкритий лист із закликом ввести шестимісячний мораторій на розробку нових систем, оскільки технології ШІ становлять «серйозні ризики для суспільства та людства».

Через кілька днів 19 нинішніх і колишніх лідерів Асоціації з розвитку штучного інтелекту, академічного товариства з 40-річною історією, випустили власний лист із попередженням про ризики, повʼязані з ШІ. До цієї групи входив Ерік Хорвіц, головний науковий співробітник Microsoft, яка розгорнула технологію OpenAI у широкому спектрі продуктів, включаючи пошукову систему Bing.

Тоді Гінтон, якого часто називають «хрещеним батьком ШІ», не підписав жодного з цих листів і сказав, що не хоче публічно критикувати Google чи інші компанії, доки не звільниться з роботи.

Матеріали по темі

Ви знайшли помилку чи неточність?

Залиште відгук для редакції. Ми врахуємо ваші зауваження якнайшвидше.

Попередній слайд
Наступний слайд