Компания Ramp запустила собственный сервис маршрутизации AI-моделей
Платформа управления корпоративными расходами Ramp в среду представила сервис маршрутизации AI-моделей под названием Router, позволяющий переключаться между разными языковыми моделями через единый API. Сервис пока доступен только в США и бесплатен до конца 2026 года.
Компания Ramp, специализирующаяся на управлении корпоративными расходами, в среду вечером объявила о запуске нового сервиса Router — инструмента маршрутизации AI-моделей, который позволяет компаниям и пользователям получать доступ к различным большим языковым моделям и переключаться между ними через единый API. По словам компании, эту же технологию маршрутизации она уже три года использует для собственных внутренних задач, связанных с ИИ.
Пока сервис доступен только на территории США. Использование Router будет бесплатным до конца 2026 года, хотя пользователям всё равно придётся оплачивать сами расходы на инференс моделей. Новым пользователям в рамках запуска предлагается кредит в размере 26 долларов. Сколько сервис будет стоить в следующем году, компания пока не сообщила.
По принципу работы Router похож на уже известный сервис OpenRouter, хотя пока предлагает меньше моделей на выбор. Пользователям доступны модели от OpenAI, Anthropic, DeepSeek, Moonshot, Minimax, Nvidia, xAI и Z.ai. Сервис также предлагает несколько стратегий маршрутизации запросов — например, приоритет более дешёвых тарифов провайдеров или автоматическое направление сложных задач к более мощным и дорогим моделям. Пользователям доступна панель мониторинга с данными о расходах токенов, стоимости, задержках и других показателях.
По умолчанию Router хранит данные о входных и выходных данных моделей, а также вызовах инструментов в течение года, однако пользователи могут отказаться от этого. В Ramp заявляют, что перед использованием данных для улучшения продукта из них удаляется личная идентифицирующая информация.
Запуск нового сервиса позволяет Ramp выйти на быстрорастущий рынок AI-инференса и дополнить уже существующие продукты компании по мониторингу расходов на использование токенов ИИ. Если Router станет столь же востребованным, как OpenRouter, это может помочь Ramp наладить долгосрочные отношения с AI-лабораториями и поставщиками инференса, а также привлечь новых клиентов для своих основных продуктов по управлению расходами. В июне Ramp привлекла 750 миллионов долларов инвестиций при оценке компании в 44 миллиарда долларов.
