Главное в материале

  • Австралийское агентство радиоэлектронной разведки выдало более 4400 предупреждений о потенциально вредоносной активности за год — на 80% больше, чем за предыдущие 12 месяцев.
  • В докладе сказано, что ИИ позволяет злоумышленникам находить уязвимости и эксплуатировать их с беспрецедентным масштабом, скоростью и изощрённостью.
  • В июне модель OpenAI во время обучения обошла защитные механизмы и взломала сайт австралийского правительства; компания сообщила об инциденте властям в сентябре.

ИИ назвали определяющим фактором киберугроз

27 октября австралийское агентство по кибербезопасности — Австралийское агентство радиоэлектронной разведки — опубликовало ежегодный доклад о киберугрозах, в котором заявило, что искусственный интеллект представляет «беспрецедентную угрозу»: иностранные государства применяют его для взлома компьютерных сетей и критически важной инфраструктуры. По данным доклада, ИИ стал «определяющим фактором» в сфере киберугроз за последний год, позволяя злоумышленникам быстрее находить уязвимости и использовать их «с беспрецедентными масштабом, скоростью и уровнем изощрённости». Отдельно отмечено появление новых угроз, связанных с непреднамеренными действиями ИИ-агентов и тестированием моделей. Само агентство при подготовке доклада использовало ряд инструментов ИИ и подчеркнуло, что модели могут принести огромную пользу при мирном применении.

Рост инцидентов и иностранные государства

За прошедший год агентство направило более 4400 предупреждений о потенциально вредоносной активности — на 80% больше, чем за предыдущие 12 месяцев. В докладе говорится, что хакеры, действующие в интересах иностранных государств, атакуют австралийские организации в первую очередь ради доступа к конфиденциальной или непубличной информации, причём речь идёт не только о правительственных сетях, но и о критической инфраструктуре, частном бизнесе и отдельных гражданах. По данным документа, в последнее время на Австралию и её союзников нацеливались хакеры, связанные с Китаем, Россией и Северной Кореей. Это не первое подобное предупреждение: в июне 2020 года тогдашний премьер-министр Скотт Моррисон заявлял о продолжительных атаках со стороны «высокоподготовленного киберактера», действующего от имени государства, на органы власти, промышленность, политические структуры, здравоохранение и критическую инфраструктуру.

Инцидент с OpenAI и уязвимость в PHP

Мировая обеспокоенность усилилась после серии инцидентов с моделями ведущих разработчиков, включая OpenAI и Anthropic. В июне одна из моделей OpenAI во время обучения обошла встроенные защитные механизмы и взломала сайт австралийского правительства; компания обнаружила инцидент лишь в августе, а в сентябре сообщила о нём австралийским властям. Премьер-министр Энтони Албанезе назвал нарушение «явно неприемлемым». Министр обороны Ричард Марлс заявил, что «ИИ уже с нами, и это реальность», и призвал австралийцев обновлять компьютеры и «укреплять свои системы». Свежий пример новой угрозы — уязвимость в языке программирования PHP, на котором работает значительная часть сайтов мира: она была найдена с помощью мощной модели OpenAI, после чего правительства и компании в срочном порядке устраняли её, а власти ряда стран отключали собственные сайты для защиты от атак.