Основатель Meta Марк Цукерберг изложил свое видение «пути к лучшему варианту будущего ИИ» в новом эссе. Он считает, что сверхинтеллект должен быть доступен миллиардам людей, помогать им создавать новые продукты и бизнесы, а самой большой угрозой называет концентрацию сверхмощного ИИ в руках одного игрока. Forbes Ukraine публикует 10 главных тезисов.
Заощаджуйте, отримуючи 6 журналів за ціною 4
Купуйте річну передплату на шість журналів Forbes Ukraine за 1 799 грн замість 2 400 грн. Читайте головні історії українського бізнесу, ексклюзивні рейтинги та глибоку аналітику в кожному номері.
Подробности
- Цукерберг хочет, чтобы сверхинтеллект получили миллиарды людей, а не несколько компаний. По его мнению, главный вопрос будущего ИИ – кто будет контролировать его огромные возможности. Он выступает против сценария, при котором сверхинтеллект сосредоточится в руках нескольких корпораций, правительств или даже одной ИИ-системы. Напротив, его нужно максимально широко распределить между людьми.
- Главной функцией сверхинтеллекта должна стать не замена людей, а изобретение новых вещей. Цукерберг считает, что величайшая ценность ИИ – способность создавать новые знания, лекарства, продукты, бизнесы и технологии. Именно это, по его мнению, может обеспечить новый этап экономического роста.
- Каждый человек получит персонального ИИ-агента, который будет работать на него круглосуточно. Такой агент будет знать цели и интересы пользователя, помогать с здоровьем, карьерой, финансами, отношениями, обучением и бытом. Цукерберг видит его как своеобразного цифрового помощника, который постоянно работает на пользователя.
- ИИ может превратить миллиарды людей в творцов и предпринимателей. Мощные инструменты позволят создавать приложения, видео, продукты и запускать бизнес без больших команд и значительных стартовых инвестиций. Цукерберг ожидает появления гораздо большего количества малых компаний и новых видов бизнеса.
- Цукерберг не согласен с прогнозом, что ИИ неизбежно уничтожит большинство рабочих мест. Известный программист считает, что результат будет зависеть от баланса между автоматизацией и расширением возможностей людей. Если ИИ будет помогать людям создавать новые продукты и услуги, экономика может получить больше новых рабочих мест, даже если отдельные профессии будут исчезать.
- Безопасность ИИ Цукерберг предлагает обеспечивать не его централизацией, а балансом сил. Он считает ошибочной идею создать один «доброжелательный» сверхразум, который будет определять, что хорошо для всего человечества. У разных людей разные ценности, поэтому более безопасным подходом является конкуренция и взаимный контроль между людьми, компаниями и различными системами ИИ.
- Персональный ИИ должен быть адаптирован к ценностям конкретного человека, а не к единой системе взглядов. Цукерберг фактически предлагает переосмыслить понятие alignment: агент должен прежде всего понимать цели своего пользователя и помогать ему их достигать, соблюдая законы и правила безопасности.
- Он выступает за широкое распространение ИИ, даже несмотря на риски кибербезопасности и биологические угрозы. По его мнению, ограничение доступа может усилить концентрацию власти. Зато широкое использование ИИ позволит одновременно усилить защиту систем, ускорить научные открытия и быстрее создавать средства противодействия новым угрозам.
- США должны агрессивно наращивать преимущество в области ИИ. Цукерберг призывает быстрее строить дата-центры и энергетическую инфраструктуру, не создавать лишних ограничений для американских ИИ-компаний и сохранять контроль над экспортом передовых чипов. Он напрямую связывает лидерство в области ИИ с экономической и национальной безопасностью США.
- Самый опасный сценарий для человечества – появление единого сверхинтеллекта, который люди утратят из-под контроля. Особую угрозу Цукерберг видит в системах, способных самостоятельно совершенствоваться. Поэтому, по его логике, люди и различные ИИ-системы должны сохранять достаточное преимущество и взаимно сдерживать друг друга, чтобы ни одна система не обрела абсолютную власть.
Материалы по теме
