ШІ вчиться не лише перемагати хакерів, а й копіювати людські слабкості. Стартап Irregular, який виріс із дебатного клубу Тель-Авівського університету й сьогодні коштує $450 млн, став головним полігоном для перевірки ChatGPT, Claude та GPT-5 на вразливості. Forbes USA зібрав все, що треба знати про тестувальника ШІ.
Купуйте річну передплату на шість журналів Forbes Ukraine за ціною чотирьох номерів. Якщо ви цінуєте якість, глибину та силу реального досвіду, ця передплата саме для вас.
У липні співзасновник OpenAI Сем Альтман забив на сполох стосовно потенціалу кіберзлочинців використовувати штучний інтелект для видавання себе за інших і спричинення «кризи шахрайства». Незабаром зʼявилися меми, які підкреслювали очевидну іронію: ChatGPT частково відповідальний за того монстра, про якого попереджав Альтман.
Водночас OpenAI залучила підрядника Pattern Labs для стрес-тестування своїх ШІ-моделей перед їхнім публічним запуском, щоб знайти й виправити вразливості, які могли б використати хакери для крадіжки даних або завдання шкоди іншим. З 2023 року стартап Pattern Labs співпрацює з індустріальними гігантами, серед яких Anthropic і Google DeepMind, випробовуючи ШІ-моделі у змодельованих середовищах і перевіряючи їхню реакцію на зловмисні запити. Наприклад, пошук і викрадення конфіденційних даних у фіктивній IT-мережі.
17 вересня, Pattern Labs із Сан-Франциско, який змінює назву на Irregular, оголосив про залучення $80 млн фінансування в рамках seed та Series A раундів під керівництвом венчурного гіганта Sequoia Capital, що оцінює стартап в $450 млн.
Кібератаки з допомогою ШІ
Ви знайшли помилку чи неточність?
Залиште відгук для редакції. Ми врахуємо ваші зауваження якнайшвидше.
