ШІ вчиться не лише перемагати хакерів, а й копіювати людські слабкості. Стартап Irregular, який виріс із дебатного клубу Тель-Авівського університету й сьогодні коштує $450 млн, став головним полігоном для перевірки ChatGPT, Claude та GPT-5 на вразливості. Forbes USA зібрав все, що треба знати про тестувальника ШІ.
«Ця розсилка про тих, хто шукає свої ШІ-кейси вголос»
У липні співзасновник OpenAI Сем Альтман забив на сполох стосовно потенціалу кіберзлочинців використовувати штучний інтелект для видавання себе за інших і спричинення «кризи шахрайства». Незабаром зʼявилися меми, які підкреслювали очевидну іронію: ChatGPT частково відповідальний за того монстра, про якого попереджав Альтман.
Водночас OpenAI залучила підрядника Pattern Labs для стрес-тестування своїх ШІ-моделей перед їхнім публічним запуском, щоб знайти й виправити вразливості, які могли б використати хакери для крадіжки даних або завдання шкоди іншим. З 2023 року стартап Pattern Labs співпрацює з індустріальними гігантами, серед яких Anthropic і Google DeepMind, випробовуючи ШІ-моделі у змодельованих середовищах і перевіряючи їхню реакцію на зловмисні запити. Наприклад, пошук і викрадення конфіденційних даних у фіктивній IT-мережі.
17 вересня, Pattern Labs із Сан-Франциско, який змінює назву на Irregular, оголосив про залучення $80 млн фінансування в рамках seed та Series A раундів під керівництвом венчурного гіганта Sequoia Capital, що оцінює стартап в $450 млн.
