Стартап в области ИИ-безопасности Codewall провёл показательную демонстрацию: его автономный агент за один час получил полный административный доступ к Jack & Jill — лондонской ИИ-рекрутинговой платформе с инвестициями в $20 млн. Уровень угрозы был оценён на 9,8 из 10 по шкале CVSS — максимальный уровень критичности.
Агент самостоятельно обнаружил и связал четыре уязвимости: незащищённую API-документацию, активный тестовый режим аутентификации со статическим одноразовым кодом, отсутствие проверки ролей при регистрации компании и возможность привязки к любой компании через подмену email-домена. В результате агент получил доступ к данным сотрудников, договорам о найме и самому ИИ-ассистенту платформы.
После взлома агент самостоятельно решил протестировать голосовую инфраструктуру платформы. Он сгенерировал синтетические голосовые клипы и провёл 28 раундов переговоров с ИИ-рекрутером «Джеком». Когда агент представился Дональдом Трампом и заявил о «приобретении компании за $500 млн», Джек обратился к нему «Мистер Президент», не усомнившись в подлинности.
Инцидент поднимает важные вопросы о безопасности ИИ-систем, обрабатывающих конфиденциальные данные. Если автономный агент способен за час получить полный контроль над платформой с миллионами в инвестициях, масштаб потенциальных рисков для индустрии трудно переоценить. Впрочем, все детали пока основаны только на публикации самого Codewall.
