Компания Anthropic, разработчик нейросети Claude, столкнулась с довольно показательным результатом собственного эксперимента по кибербезопасности.
В рамках санкционированного тестирования ИИ-агенты менее чем за 12 часов смогли найти путь во внутренние корпоративные системы компании. Причём пока специалисты пытались атаковать серверы напрямую, нейросети обнаружили уязвимость в стороннем офисном программном обеспечении.
Через неё исследователи получили доступ к информации подразделений продаж, HR, IT и контактным данным части клиентов. При этом пользовательские переписки Claude и исходный код моделей, согласно описанию испытания, не пострадали.
Самое интересное здесь даже не скорость. Искусственный интеллект сумел найти обходной путь там, где прямые попытки взлома оказались менее эффективными.
И это довольно важный сигнал для всей индустрии. Раньше сложные кибератаки требовали значительного времени и участия квалифицированных специалистов. Теперь часть поиска уязвимостей можно поручить автономным системам.
Правда, в данном случае речь идёт о проверке, проведённой с разрешения самой Anthropic, а не о реальном нападении неизвестных хакеров.
Но главный вывод от этого не становится менее тревожным: если ИИ способен настолько быстро находить слабые места в инфраструктуре одного из собственных разработчиков, другим компаниям придётся серьёзно пересматривать подходы к защите.
