«Крестный отец ИИ» Гинтон покинул Google. Он предупреждает об опасности технологии – NYT /Getty Images
Категория
Новости
Дата

«Крестный отец ИИ» Гинтон покинул Google. Он предупреждает об опасности технологии – NYT

Getty Images

В течение полувека пионер искусственного интеллекта Джефри Гинтон развивал технологию, лежащую в основе чат-ботов, но сейчас он опасается, что она нанесет серьезный ущерб, пишет The New York Times. Гинтон покинул Google, где проработал более десяти лет.

Як мотивувати команду не збавляти темп у надскладних умовах? Дізнайтесь 25 квітня на форумі «Надлюди» від Forbes. Купуйте квиток за посиланням!

Ключевые факты

  • В понедельник, 1 мая, Гинтон официально присоединился к критикам, которые говорят, что компании мчат навстречу опасности посредством своей агрессивной кампании по созданию продуктов на основе генеративного ИИ.
  • Доктор Гинтон сообщил, что уволился из Google, где проработал более десяти лет и стал одним из наиболее уважаемых голосов в этой области, поэтому теперь может свободно говорить о рисках ИИ. По его словам, теперь он сожалеет о работе всей своей жизни.
  • Гинтон считает, что по мере того, как компании совершенствуют системы ИИ, те становятся все более опасными. «Посмотрите, как это было пять лет назад и как сейчас, – сказал он. – Возьмите разницу и спрогнозируйте ее вперед. Это страшно».
  • По его словам, до прошлого года Google действовал как «ответственный распорядитель» технологии, стараясь не выпускать того, что может нанести вред. Но теперь, когда Microsoft дополнила поисковую систему Bing чат-ботом, бросающим вызов основному бизнесу Google, Google стремится к внедрению такой же технологии.
  • Разработчик непосредственно обеспокоен тем, что ИИ впоследствии перевернет рынок труда, а Интернет будет наполнен фальшивыми фотографиями, видео и текстом, а обычный человек более не сможет отличить, что правда.
  • Гинтон обеспокоен тем, что будущие версии технологии могут стать угрозой человечеству, поскольку отдельные лица и компании позволяют системам ИИ не только генерировать собственный компьютерный код, но и фактически запускать этот код самостоятельно.
  • «Идея о том, что эта штука действительно может стать умнее людей – в это поверили лишь немногие, – заявил он. – Но большинство из них думали, что это в далеком будущем. Я и сам так думал, считал, что это наступит через 30-50 лет или даже более. Очевидно, теперь я так не думаю».

Контекст

В 2012 году доктор Гинтон и два его аспиранта в Университете Торонто, Илья Суцкевер и Алекс Кришевский, создали технологию, которая стала интеллектуальной основой для систем ИИ. Исследователи построили нейронную сеть, которая могла анализировать тысячи фотографий и училась идентифицировать обычные объекты, такие как цветы, собаки и автомобили.

Google потратил $44 млн на приобретение компании, основанной Гинтоном и студентами. И их система привела к созданию более мощных технологий, включая новые чат-боты, такие как ChatGPT и Google Bard.

Лидеры отрасли считают, что новые системы ИИ могут иметь такое же значение, как появление веб-браузера в начале 1990-х годов, и, вероятно, приведут к прорыву в различных отраслях – от исследования лекарств до образования. В то же время инсайдеры отрасли озабочены тем, что генеративный ИИ уже может быть инструментом дезинформации. В скором времени это способно стать угрозой для рабочих мест. Наибольшее же опасение в области технологий – в будущем ИИ может представлять опасность для человечества.

После того, как в марте стартап OpenAI из Сан-Франциско выпустил новую версию ChatGPT, более 1000 технологических лидеров и исследователей подписали открытое письмо с призывом ввести шестимесячный мораторий на разработку новых систем, поскольку технологии ИИ составляют «серьезные риски для общества и человечества».

Через несколько дней 19 нынешних и бывших лидеров Ассоциации по развитию искусственного интеллекта, академического сообщества с 40-летней историей, выпустили собственное письмо с предупреждением о рисках, связанных с ИИ. В эту группу входил Эрик Хорвиц, главный научный сотрудник Microsoft, развернувшей технологию OpenAI в широком спектре продуктов, включая поисковую систему Bing.

Тогда Гинтон, которого часто называют «крестным отцом ИИ», не подписал ни одно из этих писем и заявил, что не хочет публично критиковать Google или другие компании, пока не уволится с работы.

Материалы по теме

Вы нашли ошибку или неточность?

Оставьте отзыв для редакции. Мы учтем ваши замечания как можно скорее.

Исправить
Предыдущий слайд
Следующий слайд
Новый выпуск Forbes Ukraine

Заказывайте с бесплатной курьерской доставкой по Украине