Главное в материале

  • Box Content Retrieval использует эмбеддинги Nvidia Nemotron для поиска по метаданным
  • Nvidia ожидает четырёхкратное ускорение запросов, на 20% меньше ошибок и на 90% меньше токенов
  • Функция станет доступна клиентам Enterprise Advance в начале следующего года

Новая система поиска для агентов

На конференции разработчиков в четверг Box представила функцию Box Content Retrieval, которая встраивает эмбеддинг-систему Nvidia Nemotron в ядро продукта. Функция позволяет ИИ-агентам отвечать на запросы эффективнее, опираясь на метаданные, созданные Nemotron. По словам вице-президента Nvidia по генеративному ИИ-софту Кари Бриски, запросы будут выполняться в четыре раза быстрее, с 20% меньшим числом ошибок и на 90% меньшим расходом токенов.

Как это работает и для кого

Функция реализует проект Nvidia Nemotron Embed — открытые эмбеддинг-модели для улучшения автоматических систем поиска. В июльском релизе Nemotron такие модели возглавили бенчмарк RTEB, измеряющий качество поиска, что отмечено и в блоге Nvidia на Hugging Face. CEO Box Аарон Леви пояснил, что вместо чтения агентом каждого документа система возвращает наиболее релевантные фрагменты: «Это резко повышает релевантность нашей поисковой технологии для агентов». Система будет наиболее полезна в связке с активными агентами: Box приводит пример юристов, которые смогут быстрее находить нужные оговорки и прецеденты, поскольку эмбеддинги Nemotron отображают лежащие в основе концепции, а не просто ключевые слова, и находят связанные правовые темы при разной формулировке.

Доступность и барьер для конкурентов

Функция станет доступна всем клиентам Box Enterprise Advance с развёртыванием в начале следующего года. Хотя модели Nemotron свободно доступны, система во многом опирается на существующие метаданные Box и механизмы управления правами доступа, что затрудняет её воспроизведение с нуля. «Мы, вероятно, упаковываем пять разных технологий в один простой API», — рассказал Леви изданию TechCrunch.