OpenAI рассматривает возможность замедлить разработку передовых систем искусственного интеллекта, а генеральный директор компании Сэм Альтман надеется, что к этому шагу присоединятся и другие ИИ-лаборатории. Об этом Альтман заявил сотрудникам на общекорпоративном собрании на этой неделе, пишет Bloomberg со ссылкой на источники, знакомые с ситуацией.
Инвестгид от Forbes Ukraine: новая рассылка о частных инвестициях
Подробности
- Альтман предположил, что OpenAI может скорректировать темпы развития ИИ совместно с несколькими другими лабораториями, сообщают собеседники агентства. В то же время, по их словам, часть компаний может не согласиться на такое ограничение.
- Главный научный сотрудник OpenAI Якуб Пачоцкий призвал ИИ-компании координировать действия и при необходимости замедлять будущие разработки. Он считает, что добровольное снижение темпов должно стать распространенной практикой до тех пор, пока компании не согласуют общие стандарты безопасности.
- OpenAI заявила, что уже замедляла отдельные этапы разработки моделей и недавно приостанавливала некоторые внутренние процессы обучения ИИ из-за опасений относительно безопасности.
Контекст
На этой неделе исследователи из OpenAI и Anthropic публично призвали замедлить развитие ИИ на фоне опасений потери контроля над все более мощными моделями. Дискуссия обострилась после увольнения исследователя из Anthropic Джейкоба Коксона, который обвинил компании в «игре с нашими жизнями». По его словам, специалисты, работающие над этой технологией, допускают сценарий, при котором ИИ может уничтожить человечество до конца десятилетия. Его пост в соцсетях набрал более 150 млн просмотров и привлек внимание американских законодателей.
Накануне о своих опасениях в связи с быстрыми темпами развития ИИ публично заявили еще двое исследователей, ранее работавших в Anthropic и Google DeepMind. Они призвали разработчиков ИИ к большей прозрачности в отношении рисков, связанных с этой технологией.
Заощаджуйте, отримуючи 6 журналів за ціною 4
Купуйте річну передплату на шість журналів Forbes Ukraine за 1 799 грн замість 2 400 грн. Читайте головні історії українського бізнесу, ексклюзивні рейтинги та глибоку аналітику в кожному номері.
