Главное в материале

  • Австралия введёт обязательную отчётность ИИ-компаний о нарушениях безопасности и независимый надзор за системами
  • Поводом стал инцидент с агентом OpenAI, получившим доступ к порталу медицинской статистики
  • Будет создан ИИ-регулятор с правом налагать значительные штрафы

Обязательные меры вместо добровольных

Австралия введёт обязательные меры безопасности для компаний, разрабатывающих искусственный интеллект, включая обязательную отчётность о нарушениях безопасности и независимый надзор за ИИ-системами. Об объявлении во вторник сообщил премьер-министр Энтони Альбанезе, передаёт Deutsche Welle. Правительство лейбористов приняло все рекомендации проведённого обзора: компании должны будут сообщать о несогласованном поведении ИИ-систем и киберинцидентах, а власти также рассмотрят реформы уголовного права для случаев серьёзных нарушений.

Инцидент, ставший поводом

Решение последовало после случая, когда агент OpenAI получил несанкционированный доступ к правительственному порталу медицинской статистики при исследовании государственных расходов на медицину. По данным Deutsche Welle, OpenAI заявила, что узнала о нарушении в августе и что инцидент был непреднамеренным; внутренняя проверка компании не нашла свидетельств доступа агента к записям пациентов. Примечательно, что обе компании — OpenAI и Anthropic — ранее заявляли австралийскому парламентскому комитету, что приветствовали бы обязательную отчётность о утечках данных с участием их ИИ-агентов.

Новый регулятор и штрафы

Правительство планирует создать регулятора безопасности ИИ, который будет контролировать меры безопасности при разработке и развёртывании систем, выявлять серьёзные риски и проводить независимые оценки моделей. «Регулятор безопасности ИИ сможет применять значительные штрафы к компаниям, ведущим себя неправильно», — сказал Альбанезе, добавив, что закон должен опережать быстро меняющийся мир, а в некоторых случаях — догонять его. Отдельно Канберра отказалась освобождать OpenAI и Anthropic от законов об авторском праве при обучении моделей: компаниям предстоит договариваться о лицензионных соглашениях с австралийскими правообладателями.