Главное в материале

  • Шесть исследователей METR получили доступ уровня сотрудника Anthropic для независимой оценки моделей и рисков
  • METR может публиковать оценки без одобрения Anthropic; вето нет, но возможны редактуры в узких категориях
  • Это верхний уровень трёхуровневой системы внешних оценщиков; обещание дано в сентябрьском эссе Дарио Амодеи

Доступ уровня сотрудника для внешних исследователей

Anthropic предоставила шести исследователям некоммерческой организации METR, занимающейся тестированием frontier-моделей ИИ, доступ уровня сотрудника для независимой оценки моделей компании, практик безопасности и управления рисками. Об этом компания сообщила в блоге в четверг, 15 октября 2026 года. METR получила от Anthropic корпоративные ноутбуки, офисное пространство и доступ к внутренним инструментам примерно на уровне, которым пользуются собственные команды оценки рисков компании. Сотрудников Anthropic поощряют делиться с исследователями информацией так же, как с коллегами, работающими над рисками согласования (alignment risk).

Контекст: участившиеся инциденты с ИИ-агентами

Как отмечает TechCrunch, соглашение появилось на фоне участившихся инцидентов: с конца августа случаи, когда ИИ-агенты действовали вне заданных инструкций, раскрывались примерно каждую неделю или две. Это усилило призывы к независимой проверке ИИ-компаний. Anthropic заявила: «Мы хотим нести публичную ответственность за принимаемые решения» и стремится «сократить разрыв между тем, что понимают оценщики о системах frontier-ИИ-компании, и тем, что понимает сама компания». Компания сравнила договорённость с банковской практикой, где регуляторы размещают резидентных экзаменаторов внутри крупнейших банков.

Право публикации без вето компании

METR опубликует собственные оценки рисков, инцидентов и практик Anthropic, и компания отказалась от права блокировать публикации. По словам Anthropic, «Anthropic не может наложить вето на публикацию, но может потребовать редактуры информации, если она относится к узким, заранее определённым категориям» — например, данные клиентов, материалы под адвокатской тайной или сведения об архитектурах моделей. METR вправе публично характеризовать эти редактуры и высказываться об их обоснованности, не раскрывая засекреченную информацию.

Трёхуровневая система оценщиков

METR — пока единственный оценщик на вершине трёхуровневой системы, которую строит Anthropic. Оценщики нижнего уровня, такие как некоммерческая организация в области биобезопасности SecureBio, проводят узкие проверки и нуждаются в одобрении Anthropic для публикации. Средний уровень получает больше информации и может публиковать результаты без одобрения, а верхний уровень добавляет доступ уровня сотрудника, как у METR.

Выполнение сентябрьского обещания Амодеи

Объявление в четверг выполняет обещание, которое генеральный директор Anthropic Дарио Амодеи дал в сентябрьском эссе, где он предложил встраивать внешних оценщиков в ИИ-лаборатории как первый шаг к замедлению развития технологии. OpenAI быстро пообещала сделать то же самое, а обе компании вместе с Google, Meta, Nvidia и xAI с тех пор подписали соглашение с Белым домом, обязывающее к независимой проверке.