В течение полувека пионер искусственного интеллекта Джефри Гинтон развивал технологию, лежащую в основе чат-ботов, но сейчас он опасается, что она нанесет серьезный ущерб, пишет The New York Times. Гинтон покинул Google, где проработал более десяти лет.
Ключевые факты
- В понедельник, 1 мая, Гинтон официально присоединился к критикам, которые говорят, что компании мчат навстречу опасности посредством своей агрессивной кампании по созданию продуктов на основе генеративного ИИ.
- Доктор Гинтон сообщил, что уволился из Google, где проработал более десяти лет и стал одним из наиболее уважаемых голосов в этой области, поэтому теперь может свободно говорить о рисках ИИ. По его словам, теперь он сожалеет о работе всей своей жизни.
- Гинтон считает, что по мере того, как компании совершенствуют системы ИИ, те становятся все более опасными. «Посмотрите, как это было пять лет назад и как сейчас, – сказал он. – Возьмите разницу и спрогнозируйте ее вперед. Это страшно».
- По его словам, до прошлого года Google действовал как «ответственный распорядитель» технологии, стараясь не выпускать того, что может нанести вред. Но теперь, когда Microsoft дополнила поисковую систему Bing чат-ботом, бросающим вызов основному бизнесу Google, Google стремится к внедрению такой же технологии.
- Разработчик непосредственно обеспокоен тем, что ИИ впоследствии перевернет рынок труда, а Интернет будет наполнен фальшивыми фотографиями, видео и текстом, а обычный человек более не сможет отличить, что правда.
- Гинтон обеспокоен тем, что будущие версии технологии могут стать угрозой человечеству, поскольку отдельные лица и компании позволяют системам ИИ не только генерировать собственный компьютерный код, но и фактически запускать этот код самостоятельно.
- «Идея о том, что эта штука действительно может стать умнее людей – в это поверили лишь немногие, – заявил он. – Но большинство из них думали, что это в далеком будущем. Я и сам так думал, считал, что это наступит через 30-50 лет или даже более. Очевидно, теперь я так не думаю».
Контекст
В 2012 году доктор Гинтон и два его аспиранта в Университете Торонто, Илья Суцкевер и Алекс Кришевский, создали технологию, которая стала интеллектуальной основой для систем ИИ. Исследователи построили нейронную сеть, которая могла анализировать тысячи фотографий и училась идентифицировать обычные объекты, такие как цветы, собаки и автомобили.
Google потратил $44 млн на приобретение компании, основанной Гинтоном и студентами. И их система привела к созданию более мощных технологий, включая новые чат-боты, такие как ChatGPT и Google Bard.
Лидеры отрасли считают, что новые системы ИИ могут иметь такое же значение, как появление веб-браузера в начале 1990-х годов, и, вероятно, приведут к прорыву в различных отраслях – от исследования лекарств до образования. В то же время инсайдеры отрасли озабочены тем, что генеративный ИИ уже может быть инструментом дезинформации. В скором времени это способно стать угрозой для рабочих мест. Наибольшее же опасение в области технологий – в будущем ИИ может представлять опасность для человечества.
После того, как в марте стартап OpenAI из Сан-Франциско выпустил новую версию ChatGPT, более 1000 технологических лидеров и исследователей подписали открытое письмо с призывом ввести шестимесячный мораторий на разработку новых систем, поскольку технологии ИИ составляют «серьезные риски для общества и человечества».
Через несколько дней 19 нынешних и бывших лидеров Ассоциации по развитию искусственного интеллекта, академического сообщества с 40-летней историей, выпустили собственное письмо с предупреждением о рисках, связанных с ИИ. В эту группу входил Эрик Хорвиц, главный научный сотрудник Microsoft, развернувшей технологию OpenAI в широком спектре продуктов, включая поисковую систему Bing.
Тогда Гинтон, которого часто называют «крестным отцом ИИ», не подписал ни одно из этих писем и заявил, что не хочет публично критиковать Google или другие компании, пока не уволится с работы.
Вы нашли ошибку или неточность?
Оставьте отзыв для редакции. Мы учтем ваши замечания как можно скорее.
