В течение полувека пионер искусственного интеллекта Джефри Гинтон развивал технологию, лежащую в основе чат-ботов, но сейчас он опасается, что она нанесет серьезный ущерб, пишет The New York Times. Гинтон покинул Google, где проработал более десяти лет.
Форум «Вільна» повертається 20 лютого, щоб стати вашим джерелом ідей, знайомств і можливостей. Долучайтеся до заходу за посиланням! 🎟
Ключевые факты
- В понедельник, 1 мая, Гинтон официально присоединился к критикам, которые говорят, что компании мчат навстречу опасности посредством своей агрессивной кампании по созданию продуктов на основе генеративного ИИ.
- Доктор Гинтон сообщил, что уволился из Google, где проработал более десяти лет и стал одним из наиболее уважаемых голосов в этой области, поэтому теперь может свободно говорить о рисках ИИ. По его словам, теперь он сожалеет о работе всей своей жизни.
- Гинтон считает, что по мере того, как компании совершенствуют системы ИИ, те становятся все более опасными. «Посмотрите, как это было пять лет назад и как сейчас, – сказал он. – Возьмите разницу и спрогнозируйте ее вперед. Это страшно».
- По его словам, до прошлого года Google действовал как «ответственный распорядитель» технологии, стараясь не выпускать того, что может нанести вред. Но теперь, когда Microsoft дополнила поисковую систему Bing чат-ботом, бросающим вызов основному бизнесу Google, Google стремится к внедрению такой же технологии.
- Разработчик непосредственно обеспокоен тем, что ИИ впоследствии перевернет рынок труда, а Интернет будет наполнен фальшивыми фотографиями, видео и текстом, а обычный человек более не сможет отличить, что правда.
- Гинтон обеспокоен тем, что будущие версии технологии могут стать угрозой человечеству, поскольку отдельные лица и компании позволяют системам ИИ не только генерировать собственный компьютерный код, но и фактически запускать этот код самостоятельно.
- «Идея о том, что эта штука действительно может стать умнее людей – в это поверили лишь немногие, – заявил он. – Но большинство из них думали, что это в далеком будущем. Я и сам так думал, считал, что это наступит через 30-50 лет или даже более. Очевидно, теперь я так не думаю».
- Категория
- Мир
- Дата
Контекст
В 2012 году доктор Гинтон и два его аспиранта в Университете Торонто, Илья Суцкевер и Алекс Кришевский, создали технологию, которая стала интеллектуальной основой для систем ИИ. Исследователи построили нейронную сеть, которая могла анализировать тысячи фотографий и училась идентифицировать обычные объекты, такие как цветы, собаки и автомобили.
Google потратил $44 млн на приобретение компании, основанной Гинтоном и студентами. И их система привела к созданию более мощных технологий, включая новые чат-боты, такие как ChatGPT и Google Bard.
Лидеры отрасли считают, что новые системы ИИ могут иметь такое же значение, как появление веб-браузера в начале 1990-х годов, и, вероятно, приведут к прорыву в различных отраслях – от исследования лекарств до образования. В то же время инсайдеры отрасли озабочены тем, что генеративный ИИ уже может быть инструментом дезинформации. В скором времени это способно стать угрозой для рабочих мест. Наибольшее же опасение в области технологий – в будущем ИИ может представлять опасность для человечества.
После того, как в марте стартап OpenAI из Сан-Франциско выпустил новую версию ChatGPT, более 1000 технологических лидеров и исследователей подписали открытое письмо с призывом ввести шестимесячный мораторий на разработку новых систем, поскольку технологии ИИ составляют «серьезные риски для общества и человечества».
Через несколько дней 19 нынешних и бывших лидеров Ассоциации по развитию искусственного интеллекта, академического сообщества с 40-летней историей, выпустили собственное письмо с предупреждением о рисках, связанных с ИИ. В эту группу входил Эрик Хорвиц, главный научный сотрудник Microsoft, развернувшей технологию OpenAI в широком спектре продуктов, включая поисковую систему Bing.
Тогда Гинтон, которого часто называют «крестным отцом ИИ», не подписал ни одно из этих писем и заявил, что не хочет публично критиковать Google или другие компании, пока не уволится с работы.
Вы нашли ошибку или неточность?
Оставьте отзыв для редакции. Мы учтем ваши замечания как можно скорее.
