Главное в материале

  • Anthropic в обновлённой S-1A заявила, что может «немедленно» достичь внутреннего определения RSI — рекурсивного самоулучшения ИИ
  • Ни одна текущая модель компании порог не превысила; данные продолжают оцениваться
  • Компания допустила, что ранее не замечала значительного ускорения разработки до того, как оно произошло

Признание в заявке для SEC

В обновлённой заявке S-1A, поданной в понедельник в SEC, Anthropic помимо обновлённых финансовых показателей — растущей выручки при растущих расходах — добавила новые формулировки в раздел о рисках. Компания сообщила, что, по её внутренним оценкам и ожиданиям относительно будущих моделей, она «может в ближайшее время» достичь определения «резко ускоренного прогресса благодаря ИИ» из её Responsible Scaling Policy. При этом ни одна из текущих моделей не признана превысившей этот порог, а данные продолжают оцениваться. На это впервые обратил внимание TechCrunch.

Что такое RSI и почему это важно

Речь идёт о рекурсивном самоулучшении (RSI) — точке, в которой ИИ становится настолько хорош в обучении самого себя, что возможности ИИ начинают резко ускоряться. Для критиков это сценарий потери контроля над ИИ, для энтузиастов — обещание огромной продуктивности и научных открытий. Сам термин стал популярным ранее в этом году, и многие тогда считали его модным словом либо целью, которую трудно определить и доказать, отмечал TechCrunch в мае.

Признание прошлых промахов и обещание контроля

Anthropic признала в заявке, что уже использовала ИИ для разработки новых моделей, скачки возможностей которых она не распознала вовремя: «мы в прошлом не идентифицировали и можем в будущем не идентифицировать значительное ускорение темпов разработки до того, как оно произошло». Использование ИИ для создания более мощного ИИ компания называет «существенным риском безопасности». Одновременно она заверила, что не ожидает возможности безопасно использовать Claude для полностью автономного создания следующих поколений frontier-моделей без значимого человеческого контроля и рассматривает обновления Responsible Scaling Policy, чтобы сохранить людей в процессе разработки.

Скептический взгляд

TechCrunch отмечает, что S-1 выполняет функцию и раскрытия информации, и маркетинга, поэтому заявления о близости к столь мощной модели могут относиться ко второй категории. Скептики также указывают, что само определение RSI остаётся размытым — на это, например, указывал Дэвид Иах в X. Тем не менее издание констатирует, что возможности Claude, особенно в программировании, математике и кибербезопасности, в этом году выросли скачкообразно.