Главное в материале

  • FlashProve даёт математическую гарантию, что вывод получен от конкретной модели, — по аналогии с криптографическими подписями email.
  • «Отпечатки» моделей не раскрывают их веса, поэтому коммерческие лаборатории могут их публиковать.
  • Система существует как открытый исследовательский проект: планов развёртывания в Anthropic или других лабораториях нет.

Что представила Anthropic

Компания Anthropic работает над открытой системой, позволяющей проверить, какая именно ИИ-модель выдала данный результат. Система называется FlashProve и описывается как «provable inference» — криптографическое доказательство, по сути математическая гарантия, что конкретный ответ получен от конкретной модели. Об этом сообщило издание TechCrunch со ссылкой на блог-пост, опубликованный во вторник, 3 ноября 2026 года.

Зачем это нужно

Принцип сравним с криптографическими подписями электронной почты, по которым получатель убеждается, что письмо действительно пришло от заявленного отправителя: FlashProve должна быть устойчива к попыткам выдать одну модель за другую — даже если подмену устраивает сама лаборатория, создавшая и обслуживающая модель. Исследователи отмечают, что система могла бы помешать ИИ-компании тайно подставлять более дешёвую модель для экономии или, наоборот, более дорогую для завышения показателей качества. Ещё один сценарий — проверка заявлений третьих сторон: как пишут авторы, разработчик может утверждать, что его библиотеку проверяла на уязвимости передовая модель кибербезопасности, или компания — что её бизнес-план одобрен подходящей моделью; вопрос в том, как пользователь может это проверить.

Как это устроено

Для работы системы ИИ-лаборатории должны публиковать «отпечаток» (fingerprint) каждой выпущенной модели, который затем сопоставляется с конкретными результатами и проверяется криптографически. Ключевой момент: отпечатки не раскрывают веса модели — внутренние числа, определяющие её поведение, которые создатели закрытых моделей вроде Anthropic и OpenAI держат в секрете. Это позволяет лабораториям публиковать отпечатки, не отдавая свой главный актив, а значит, система совместима и с коммерческими моделями. По замыслу разработчиков, проверка должна быть достаточно лёгкой, чтобы выполняться на локальном устройстве.

Статус проекта

Вместе с анонсом исследователи опубликовали детальную техническую спецификацию и рабочий код отдельных элементов системы, доступный под открытой лицензией на GitHub. При этом это именно исследовательский проект: развёртывать FlashProve в Anthropic или какой-либо другой лаборатории пока не планируется. «Этот исследовательский пост призван поделиться промежуточным прогрессом, а не завершённой исследовательской программой, — поясняют авторы. — Мы делимся этим с явной целью, чтобы другие посмотрели на то, что мы сделали, взяли это и улучшили». Таким образом, на текущем этапе речь идёт о промежуточных результатах и открытой заготовке для сторонних разработчиков, а не о готовом продукте или принятом решении о внедрении.