Jev API: как работать с моделью Jev, очередь, доступ в OpenRouter и цены на токены

{"choice": "Возврат и обмен", "probabilities": {"Оплата": 0, "Другое": 0, "Доставка": 0, "Возврат и обмен": 1}, "confidence": 1}

{"score": 1.7, "probabilities": {"0": 0, "1": 0.3, "2": 0.7}, "confidence": 0.55}

{"noul": 0.99}

Интерфейс Jev API позволяет разработчикам взаимодействовать с первой в своем роде моделью, которая оценивает состояние приложения и возвращает типизированные решения с вероятностью, а не сгенерированный текст. Если для ваших бизнес-задач выбрана модель jev, стоит учесть, что прямой вызов осуществляется на специальный эндпоинт, а в статусе беты она уже доступна в шлюзе OpenRouter под тестовым идентификатором. Цена использования предельно простая: $0.042 за 1 млн входных токенов и $0 за выходные токены, поскольку вывод совершенно не тарифицируется, как подтверждает официальный анонс TypeSafe.

По оценкам самих создателей, на специализированных сценариях принятия решений Jev работает в сотни раз быстрее и обходится многократно дешевле обычных генеративных LLM. Запрос на классификацию и оценку обрабатывается алгоритмом параллельно, что исключает ошибки формата вывода и текстовые галлюцинации, присущие классическим языковым нейросетям.

В этой статье мы подробно разберём формат запроса и ответа, рассмотрим типы вопросов Choice, Score и Noul, а также выясним, как на базе этих примитивов выстраивается очередь и маршрутизация решений. Вы узнаете, чем вызов через OpenRouter отличается от прямого взаимодействия с API, каковы точные лимиты и цены на токены, а также как они соотносятся со стоимостью популярных генеративных моделей вроде GPT-4o mini.

Что такое Jev и Jev API

Jev — первая публичная модель класса System One от TypeSafe AI, а Jev API — интерфейс, который на состояние приложения и типизированный вопрос возвращает структурированное решение с вероятностью вместо текста. В отличие от привычных чат-ботов, эта архитектура создана исключительно для детерминированного принятия решений внутри программного кода.

System One против генеративных LLM

Обычные LLM, относящиеся к парадигме System Two, генерируют связный текст токен за токеном, что неизбежно приводит к задержкам и высоким рискам нарушения формата вывода. Инструмент Jev осуществляет параллельную выборку и выдаёт типизированное решение за один мгновенный запрос.

Благодаря этому подходу система обеспечивает нулевой процент ошибок структурированного вывода «by construction». Финальный ответ всегда строго совпадает с заданной JSON-схемой, а типичные галлюцинации формата полностью исключаются на фундаментальном архитектурном уровне.

Кто стоит за Jev

Компания-создатель была основана в 2024 году, а её ключевой разработчик TypeSafe AI Diogo Almeida ранее трудился исследователем в OpenAI и выступал соавтором методики RLHF. К руководящей команде также присоединились Erik Gafni и Sasha Sheng, имеющие богатый опыт работы в корпорации Meta и её исследовательском подразделении FAIR.

Модель Jev была официально анонсирована в сентябре 2026 года как первая полноформатная представительница класса System One. В настоящий момент этот программный инструмент находится в статусе early access, что предполагает наличие очереди для получения ключей.

Когда нужен Jev, а когда обычная LLM

Разработанная архитектура идеально подходит для легковесных микрорешений, которые корпоративное программное обеспечение принимает миллионы раз в день. Основные сценарии применения охватывают следующие задачи:

• Интеллектуальная маршрутизация обращений клиентов в нужные департаменты.
• Строгая классификация входящих документов и пользовательских запросов.
• Автоматизированный скоринг рисков и приоритизация задач в бэклоге.
• Эскалация проблемных инцидентов и верификация машинного вывода.

Если вашему приложению всё же требуется генерация связного текста, ведение диалога или подробное объяснение хода мыслей, это остаётся задачей для традиционной LLM. В подобных случаях нейросеть Jev не заменяет генеративные текстовые алгоритмы, а лишь эффективно дополняет их в зоне строгой логики.

Как работать с Jev по API: эндпоинт, ключ и запрос

Работа с Jev идёт через один POST-эндпоинт /v1/systemone с Bearer-ключом, а тело запроса состоит из трёх полей — model, state и questions. Этот лаконичный интерфейс минимизирует накладные расходы разработчиков при интеграции алгоритма в существующий бэкенд.

Получение API-ключа и early access

Для прямого доступа к оригинальному эндпоинту требуется получить персональный ключ напрямую у TypeSafe, однако сейчас система находится в статусе early access, и инженерам приходится регистрироваться в листе ожидания. Чтобы обойти это временное ограничение, можно использовать платформы альтернативных провайдеров.

Среди таких шлюзов выделяются Vercel AI Gateway, Netlify, AIMLAPI и Cloudflare, а также популярный хаб моделей, предлагающий общие сведения об OpenRouter для быстрой интеграции. Часть перечисленных провайдеров предоставляет доступ без waitlist через свой собственный ключ, что заметно ускоряет тестирование продукта.

Структура запроса: model, state, questions

Формирование правильного запроса к Jev API включает строгую последовательность шагов по сборке валидного JSON-объекта:

1. Укажите поле model, передав в него идентификатор нужной версии алгоритма, например, jev-latest.
2. Сформируйте поле state, куда помещается всё состояние приложения в виде строки, объекта или массива, которое требуется оценить ИИ.
3. Заполните ключевое поле questions картой именованных решений, где каждый отдельный вопрос содержит свой тип и инструкции с критериями отбора.

Вопросов в рамках одного вызова может быть сразу несколько, и все они будут оцениваться моделью параллельно. Это избавляет сервер от необходимости выстраивать долгие цепочки последовательных вызовов.

export TYPESAFE_API_KEY="ваш_ключ"

curl -X POST https://api.typesafe.ai/v1/systemone \-H "Authorization: Bearer $TYPESAFE_API_KEY" \-H "Content-Type: application/json" \-d @- <<'EOF'{"model": "jev-latest","state": "Клиент: «Третий раз пишу, заказ так и не пришёл. Если завтра не будет — отменяю всё и пишу отзыв».","questions": {"department": {"type": "choice","instructions": "Какой отдел должен обработать обращение?","criteria": {"Возврат и обмен": null,"Доставка": null,"Оплата": null,"Другое": null}}}}EOF

Аутентификация

Безопасность API-запросов обеспечивается через стандартный HTTP-заголовок Authorization, в который передаётся строковое значение Bearer вместе с вашим ключом. При работе через оригинальный эндпоинт используется токен, выданный платформой TypeSafe AI.

Если вы обращаетесь к алгоритмам через OpenRouter, в заголовке необходимо передавать ключ самого шлюза агрегатора. При этом важно учитывать, что официальные SDK от TypeSafe не работают с OpenRouter напрямую — для этого потребуется использовать пакетный SDK выбранного шлюза.

Формат ответа и типы вопросов Choice, Score, Noul

Ответ Jev — это типизированное решение с распределением вероятностей и confidence, а вопросы строятся из трёх примитивов: Choice, Score и Noul. Модель принципиально не возвращает текстовых строк, требующих последующего сложного парсинга.

Что приходит в ответе

На каждый переданный в массиве запроса вопрос система формирует один строго структурированный ответ. Он включает в себя итоговое выбранное или вычисленное значение, детальное распределение вероятностей по всем заданным вариантам и общую оценку уверенности алгоритма, обозначаемую как confidence.

Если серверная интеграция осуществляется через шлюз Vercel, ключевая метрика confidence становится доступна разработчику через обращение к объекту result.providerMetadata.typesafe.confidence. Это позволяет легко извлекать уровень уверенности прямо из ответа стороннего провайдера.

Три типа вопросов

Инженер конструирует логику приложения, опираясь на три базовых типа вопросов, которые закрывают подавляющее большинство задач классификации:

• Choice — осуществляет выбор из множества вариантов (максимум до 255) с распределением вероятностей; типично применяется для определения точной категории продукта или профильного отдела поддержки.
• Score — производит оценку по заданной рубрике, включающей от 2 до 10 уровней градации; отлично подходит для определения уровня риска или приоритета технической задачи.
• Noul — вычисляет бинарную вероятность от 0 до 1, которая идеально ложится на да/нет-флаги и проверку наличия четких условий в документе.

Комбинируя эти математические примитивы в рамках одного единственного вызова API, можно получить максимально точную картину по любому входящему состоянию программной системы.

Очередь и маршрутизация решений на Jev

Очередь на Jev строится так: модель за один запрос возвращает решения о том, в какую очередь, с каким приоритетом и на какой этап направить объект, а низкая уверенность отправляет кейс на ручную проверку. Это превращает инструмент в безотказного диспетчера для высоконагруженных сервисов.

Как один запрос превращается в очередь и приоритет

Рассмотрим канонический пример от инженеров TypeSafe, где текстовое обращение пользователя в службу поддержки за один единственный вызов трансформируется в готовый план действий для CRM. Сначала нейросеть принимает решение об очереди с помощью примитива Choice, безошибочно определяя релевантный отдел для ответа.

Затем, в рамках того же самого вызова, параллельно вычисляется приоритет пользовательской заявки через вопрос типа Score, а необходимость проведения процедуры refund-review проверяется через тип Noul. Все эти параметры решаются мгновенно, а не ресурсоёмкой цепочкой запросов.

Порог уверенности и ручная проверка

Архитектурная механика эскалации инцидентов строится на последовательном анализе возвращаемых результатов. Сначала программное обеспечение бэкенда получает метрику confidence по каждому отдельному типизированному решению из ответа Jev.

Если этот числовой показатель оказывается ниже заданного программистом порога, скрипт автоматически маршрутизирует сложный кейс на ручной разбор живому оператору поддержки. Если уверенность алгоритма достаточно высока, корпоративная система самостоятельно ставит задачу в нужную очередь для исполнения.

Доступность Jev в OpenRouter и других шлюзах

В OpenRouter Jev доступна в бете под ID typesafe/jev-1.13 (и jev-latest) с контекстом 32 000 токенов, а помимо OpenRouter модель подключается через Vercel AI Gateway, Cloudflare и другие шлюзы. Широкая поддержка популярных агрегаторов полностью компенсирует временные ограничения прямого доступа к API.

Jev в OpenRouter: ID и особенности

На популярной платформе OpenRouter разработчикам доступны версии алгоритма jev-latest и jev-1.13. Точный идентификатор для вызова системы — typesafe/jev-1.13, при этом модель свободно обрабатывает контекстное окно размером 32 000 токенов, а базовая цена составляет $0.042 за 1M входных токенов.

Бесплатного тарифа на этой площадке для данного класса ИИ не предусмотрено. Также важно отметить текущий статус беты или альфы для decisions-эндпоинта, из-за чего продукт от TypeSafe AI не появляется в обычном визуальном списке текстовых text-моделей сайта.

Отличия OpenRouter от прямого API

При работе через API-посредника возникают некоторые технические нюансы, требующие адаптации серверного кода.

• Рабочее контекстное окно принудительно сужается вдвое по сравнению с оригинальным прямым API.
• Используется совершенно иное имя модели, отличающееся от официального.
• Применяется специфический формат выдачи системных ошибок в виде обёртки error.code и error.message.

Кроме того, разработчикам следует помнить, что официальные SDK пакеты от TypeSafe полностью не совместимы с эндпоинтом OpenRouter. Инженерам придется интегрировать специализированный клиентский SDK самого шлюза.

Vercel, Cloudflare и другие

В экосистеме Vercel AI Gateway алгоритм вызывается по внутреннему идентификатору typesafe-ai/jev. Интеграция стабильно работает через экспериментальный интерфейс evaluate API в последних версиях пакета AI SDK, используя стандартные поля model, state и questions.

Think of Jev as a frontier-intelligence function call: unstructured state in, typed probabilistic decisions out.Diogo Almeida, founder, TypeSafe

Дополнительным преимуществом платформы Vercel выступает официальная поддержка строгих политик Zero Data Retention и No Training для корпоративных клиентов. В качестве альтернативных надёжных каналов связи с Jev API также бесперебойно работают Cloudflare Workers AI, Netlify AI Gateway и инфраструктура агрегатора AIMLAPI.

Цены Jev на токены

Jev стоит $0.042 за миллион входных токенов и $0 за выходные, потому что модель не генерирует текст и тарифицировать вывод не за что. Финальная стоимость использования Jev формируется исключительно из объёма переданной информации. Платятся только входные токены, в то время как результат отдаётся бесплатно, поскольку он «too cheap to meter». Понятие входных токенов в данном контексте включает ваше базовое поле state, а также все текстовые инструкции, описания и детальные критерии для множества заданных вопросов.

Из-за отсутствия генеративной части архитектура модели исключает потребление серверных вычислительных ресурсов на рендеринг выходного текста. Счёт за работу Jev API зависит только от объёма отправляемого контекста приложения, а не от длины финального JSON-объекта с решениями. Это кардинально меняет подход к проектированию программной архитектуры: инженер может запрашивать десятки комплексных решений в одном единственном вызове. Если рассмотреть грубый пример расчёта стоимости для масштабного сценария клиентской поддержки, где средний размер state составляет около 1 000 токенов на один запрос, математика получается крайне выгодной. Один миллион подобных запросов сгенерирует примерно один миллиард входных токенов. При заявленном тарифе и полной нулевой оплате за вывод, суммарный счет за миллион токенов составит всего $0,042. Эти цифры являются строго ориентировочными и напрямую зависят от фактического размера передаваемого состояния.

Сравнение цен Jev с другими моделями

По входным токенам Jev в несколько раз дешевле GPT-4o mini, а за счёт бесплатного вывода и отсутствия генерации текста экономия на реальных сценариях многократно возрастает. Значительный разрыв в итоговых финансовых затратах формируется не только низкими базовыми тарифами, но и спецификой узконаправленной архитектуры System One.

Разница в базовых тарифах заметна при первом же сравнении спецификаций. Простое сопоставление прайс-листов показывает расхождение по стоимости входных данных примерно в три с половиной раза, в то время как полное отсутствие регулярной платы за генерируемый вывод у Jev формирует еще больший экономический отрыв от традиционных продуктов OpenAI.

Реальная экономия существенно превышает номинальную разницу цен за токен. По официальному заявлению TypeSafe, Jev до 193,6 раза быстрее и до 444,6 раза дешевле LLM на её стандартных рабочих сценариях, а сквозная задержка составляет всего 70–500 мс. Причина столь радикального отрыва заключается в том, что алгоритм принятия решений не тратит дорогие токены на пространное текстовое обоснование и громоздкую разметку JSON, однако стоит оговориться, что данные бенчмарки предоставлены самим вендором и отражают идеальные условия использования.

Латентность, контекст, лимиты и ограничения

Jev отвечает за 70–500 мс, поддерживает контекст 32k на OpenRouter и до 64k напрямую, а из ограничений — статус беты/early access, отсутствие бесплатного тарифа и невозможность генерировать текст. Эти эксплуатационные параметры необходимо внимательно учитывать при проектировании архитектуры программного продукта.

Скорость и контекст

Сквозная латентность обработки API-вызовов составляет от 70 до 500 мс, что с легкостью позволяет встраивать интеллектуальный инструмент в синхронные серверные потоки. Контекстное окно надёжно вмещает 32 000 токенов при маршрутизации запросов через OpenRouter и официально расширяется до 64 000 токенов на оригинальном прямом API.

Что касается интенсивности системных запросов, публичных жёстких rate limits вендор TypeSafe AI пока подробно не раскрывает. Архитекторам систем настоятельно рекомендуется уточнять технические ограничения по частоте вызовов непосредственно в документации API reference выбранного провайдера.

Ограничения и типичные ошибки

При коммерческом внедрении технологии критически важно помнить о ключевых технических нюансах:

• Алгоритм Jev принципиально не выдаёт текст и совершенно не подходит для классических чат-задач.
• Текущий статус early access и беты означает, что вполне возможны внезапные изменения в структуре API.
• На платформе OpenRouter объективно действует другой формат возврата ошибок и доступен ощутимо меньший контекст.
• Оригинальные официальные SDK от TypeSafe несовместимы с эндпоинтом OpenRouter.

Главный инженерный совет при интеграции сводится к необходимости всегда закладывать безопасный программный порог confidence. Если математическая уверенность алгоритма падает ниже этого уровня, следует обязательно программировать надежный fallback на ручную верификацию решения.

Доступ и оплата из России

Прямой коммерческий доступ к оригинальному API и услуги шлюзов-провайдеров, таких как OpenRouter, Vercel и Cloudflare, предоставляются зарубежными технологическими сервисами. Все расчеты на этих платформах производятся исключительно в твердой валюте.

Пользователям из РФ для регулярной оплаты счетов потребуется рабочий способ пополнения внутреннего баланса зарубежной банковской картой.

curl https://api.typesafe.ai/v1/systemone \
  -H "Authorization: Bearer $TYPESAFE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
  "model": "jev-latest",
  "state": "Клиент: «Вчера привезли электрочайник: колба треснула, коробка помята. Хочу поменять на новый».",
  "questions": {
    "department": {
      "type": "choice",
      "instructions": "Какой отдел должен обработать обращение?",
      "criteria": {
        "Возврат и обмен": null,
        "Доставка": null,
        "Оплата": null,
        "Другое": null
      }
    }
  }
}'

curl https://api.typesafe.ai/v1/systemone \
  -H "Authorization: Bearer $TYPESAFE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
  "model": "jev-latest",
  "state": "Клиент: «Третий раз пишу, заказ так и не пришёл. Если завтра не будет — отменяю всё и пишу отзыв».",
  "questions": {
    "anger": {
      "type": "score",
      "instructions": "Насколько клиент раздражён?",
      "criteria": [
        "Спокоен",
        "Недоволен",
        "В ярости"
      ]
    }
  }
}'

curl https://api.typesafe.ai/v1/systemone \
  -H "Authorization: Bearer $TYPESAFE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
  "model": "jev-latest",
  "state": "Вы выиграли iPhone 17! Перейдите по ссылке и введите данные карты до полуночи, иначе приз сгорит.",
  "questions": {
    "is_scam": {
      "type": "noul",
      "instructions": "Это мошенническое сообщение?"
    }
  }
}'

curl https://api.typesafe.ai/v1/systemone \
  -H "Authorization: Bearer $TYPESAFE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
  "model": "jev-latest",
  "state": "Вы выиграли iPhone 17! Перейдите по ссылке и введите данные карты до полуночи, иначе приз сгорит.",
  "questions": {
    "is_scam": {
      "type": "noul",
      "instructions": "Это мошенническое сообщение?"
    }
  }
}'

FAQ