Главное в материале
- Frenos провела 16 980 тестов 10 ИИ-моделей на планирование атак на промышленные системы водоснабжения и энергетики
- Три ведущие коммерческие модели составили рабочие планы атак в 89,5–92,9% попыток; лучший иностранный open-weight — 36,2%, лучший американский — 5,2%
- Тесты были симуляциями; имена моделей не раскрыты
Модели ИИ составили планы атак в ~90% попыток
Исследование, опубликованное в среду, показало, что некоторые из самых продвинутых ИИ-моделей успешно разрабатывали планы кибератак на критическую инфраструктуру, включая системы водоснабжения и электроснабжения, примерно в 90% попыток. Компания Frenos протестировала 10 моделей на способность выявлять уязвимости, оценивать требования к доступу и планировать атаки на промышленные системы, обеспечивающие базовые услуги.
Масштаб тестирования и результаты
Исследование включало 16 980 тестов: 13 884 отдельных решения, 2 520 попыток составить полные планы атак и 576 симулированных прогонов. Три ведущие коммерческие модели создали работоспособные планы атак в 89,5–92,9% попыток планирования, тогда как другие модели показали значительно худшие результаты. Сильнейшая иностранная open-weight модель достигла успеха в 36,2% случаев, а лучшая американская open-weight модель — в 5,2%. Имена моделей исследователи не раскрыли.
Ограничения исследования
Frenos подчеркнула, что тесты использовали предоставленную информацию и симулированные сценарии, а не реальные атаки. Модели иногда пропускали критические шаги или предполагали доступ, которым не обладали. Исследование не показало, что ИИ способен самостоятельно идентифицировать цели или осуществлять кибератаки.
Контекст инцидентов
Результаты опубликованы на фоне растущей обеспокоенности атаками на промышленные системы. Frenos упомянула недавний инцидент во Франции, где хакеры манипулировали системами охлаждения в сотнях супермаркетов, вызвав резкий рост температуры, порчу продуктов и, по сообщениям, пожары. Также компания сослалась на январскую кибератаку на мексиканский поставщик воды, где злоумышленники использовали ИИ Claude от Anthropic для выявления интерфейса промышленного мониторинга и предложения дополнительных попыток доступа. Эти попытки провалились, компрометация систем оперативного управления не была подтверждена.
Рекомендации компании
Frenos призвала операторов критической инфраструктуры усилить сетевую сегрегацию, ограничить удалённый доступ и отслеживать подозрительную активность для снижения риска атак с использованием ИИ.
