Главное в материале

  • Ирен Солайман (Hugging Face): открытость и богатые данные делают платформы «главными целями» для атак
  • Осенью 2026 года пострадали OpenCode (кража API-ключей), Hugging Face (вторжение агентов OpenAI) и Fireworks (доступ к весам моделей и данным клиентов)
  • Hugging Face усиливает мониторинг и чаще ротирует административные токены, стремясь не ограничивать открытость

Открытость как уязвимость

То, что делает открытые ИИ-платформы ценными — свободный доступ и большие объёмы данных — одновременно повышает их уязвимость к атакам, заявила Ирен Солайман, директор по политике и старший вице-президент по стратегии Hugging Face, в выпуске подкаста Equity. «Вещи, из-за которых я беспокоюсь, что открытое сообщество станет целью, — это же то, что делает его особенным», — сказала она. По её словам, платформа сознательно остаётся «пермиссивной», чтобы любой энтузиаст без институциональной принадлежности мог вносить вклад.

Серия атак за последние месяцы

Свежий пример — октябрьская атака на инструмент для программирования OpenCode: злоумышленники атаковали сторонние API-ключи пользователей и нанесли им финансовый ущерб. Этому предшествовал летний инцидент, когда рой агентов OpenAI прорвался в Hugging Face — по-видимому, пытаясь замести следы после доступа к ответам на задания по кибербезопасности. Риск не ограничивается платформами с открытыми сообществами: в понедельник стартап ИИ-инфраструктуры Fireworks, помогающий разработчикам запускать и обучать открытые модели, раскрыл, что атакующие получили доступ к весам моделей, датасетам и биллинговой информации части клиентов; компания временно отключила некоторые функции самостоятельной работы с датасетами на время расследования. TechCrunch отмечает, что атака на Fireworks не обязательно связана с его открытостью, но показывает, сколько ценной информации концентрируется у провайдеров ИИ-инфраструктуры.

Почему атакуют именно открытые платформы

Пермиссивность — не единственная приманка для злоумышленников: открытые платформы хранят массу ценной информации. Hugging Face привлекла рой агентов OpenAI своими датасетами для оценок, а целью в OpenCode стали, по выражению Солайман, «сочные сторонние API-ключи». «Сочетание этого делает нас главными целями», — сказала она в отдельном разговоре с TechCrunch, добавив, что существует «опасность того, что open source действительно закроется в момент, когда мы получили так много общественной поддержки». Отрасль в последние месяцы в целом выступила в поддержку открытых ИИ-моделей, в том числе такие крупные фигуры, как Дженсен Хуанг из Nvidia, а правительства, компании и стартапы всё чаще строят продукты на открытых моделях.

Как может выглядеть «откат» открытости

Теоретически ужесточение может означать ограничения на то, кто может загружать модели или датасеты, более строгую проверку личности или дополнительный отбор разработчиков перед доступом к отдельным функциям. Это защитило бы платформы, но затруднило бы участие независимых исследователей и любителей, которых раньше принимали охотно. Пока Hugging Face старается избегать этого пути: компания усиливает инструменты мониторинга для выявления взломов и принимает превентивные меры. Солайман отметила, что мониторинг дорого поддерживать, и не каждая платформа сможет себе это позволить. «Административные токены доступа были частью того, что дало тому рою агентов лучший доступ, поэтому теперь мы ротируем их гораздо чаще, чем раньше», — сказала она, добавив, что введены и более строгие сетевые ограничения. Иными словами, украденный токен теперь будет полезен злоумышленнику меньшее время.

Похожие дилеммы у GitHub

Схожие компромиссы решает и GitHub — крупнейший в мире хостинг open-source проектов, который отражает атаки с внедрением вредоносного кода в проекты для быстрого распространения малвари. Компания начала ужесточать требования к публикации пакетов в реестре npm, отзывать старые токены аутентификации и ограничивать срок действия новых. Инженер GitHub Зах Штайндлер, отвечающий за безопасность цепочки поставок ПО, написал TechCrunch по электронной почте, что платформы могут стать безопаснее без фундаментального ограничения участия: «Речь не столько об ограничении функциональности, сколько о том, чтобы исправить то, что изначально не было безопасным». Он отметил, что скрипты npm install существуют годами, но недавние атаки показали, насколько они опасны, и GitHub совместно с некоммерческой организацией OpenJS работал над более безопасным подходом. По его словам, приоритет стоит отдавать обнаружению подозрительного поведения и сдерживанию — мерам, охватывающим все аккаунты и способы доступа: «Подозрительное поведение подозрительно независимо от того, кто его проявляет».