Как тестировать модель Jev через Vercel: гайд по AI Gateway и AI SDK

curl https://api.typesafe.ai/v1/systemone \
  -H "Authorization: Bearer $TYPESAFE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
  "model": "jev-latest",
  "state": "Клиент: «Вчера привезли электрочайник: колба треснула, коробка помята. Хочу поменять на новый».",
  "questions": {
    "department": {
      "type": "choice",
      "instructions": "Какой отдел должен обработать обращение?",
      "criteria": {
        "Возврат и обмен": null,
        "Доставка": null,
        "Оплата": null,
        "Другое": null
      }
    }
  }
}'

curl https://api.typesafe.ai/v1/systemone \
  -H "Authorization: Bearer $TYPESAFE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
  "model": "jev-latest",
  "state": "Клиент: «Третий раз пишу, заказ так и не пришёл. Если завтра не будет — отменяю всё и пишу отзыв».",
  "questions": {
    "anger": {
      "type": "score",
      "instructions": "Насколько клиент раздражён?",
      "criteria": [
        "Спокоен",
        "Недоволен",
        "В ярости"
      ]
    }
  }
}'

curl https://api.typesafe.ai/v1/systemone \
  -H "Authorization: Bearer $TYPESAFE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
  "model": "jev-latest",
  "state": "Вы выиграли iPhone 17! Перейдите по ссылке и введите данные карты до полуночи, иначе приз сгорит.",
  "questions": {
    "is_scam": {
      "type": "noul",
      "instructions": "Это мошенническое сообщение?"
    }
  }
}'

curl https://api.typesafe.ai/v1/systemone \
  -H "Authorization: Bearer $TYPESAFE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
  "model": "jev-latest",
  "state": "Вы выиграли iPhone 17! Перейдите по ссылке и введите данные карты до полуночи, иначе приз сгорит.",
  "questions": {
    "is_scam": {
      "type": "noul",
      "instructions": "Это мошенническое сообщение?"
    }
  }
}'

Тестирование Jev через Vercel сводится к трем базовым шагам: необходимо получить API-ключ в разделе настроек платформы, установить нужный npm-пакет и вызвать функцию оценки, после чего можно попробовать jev в своих рабочих проектах. Модель Jev доступна через Vercel AI Gateway под идентификатором typesafe-ai/jev с ценой 0,042 доллара за миллион входных токенов и контекстным окном 32 000 токенов. Вы передаете состояние — текст диалога, системный лог или тикет — и типизированные вопросы, а в ответ получаете выбор, оценку или вероятность булева утверждения.

Платформа дает три пути для интеграции: через AI SDK прямо в коде, через прямые HTTP-запросы к специальному эндпоинту и через визуальный браузерный интерфейс, где ничего писать не нужно. Для всех вариантов достаточно получить всего один ключ доступа.

В статье детально разберем каждый способ, типы вопросов Boolean, Choice и Score, структуру возвращаемого ответа с вероятностями, а также цену и лимиты бесплатного тарифа. Мы также рассмотрим частые ошибки конфигурации, включая customer_verification_required, из-за которой сетевой запрос падает даже на бесплатном плане.

Что такое Jev и почему его тестируют через Vercel

Инструмент Jev создан компанией TypeSafe AI, этот Jev является оценочной моделью для структурных решений, а для интеграций Jev доступен через интерфейс Vercel AI Gateway. Разработка позиционируется как легковесный инструмент для классификации и оценки качества работы других нейросетей, а не как генератор связного текста. Запуск инструмента через платформу Vercel позволяет быстро внедрить оценку в существующие приложения. Облачный провайдер здесь выступает исключительно удобным каналом доставки и единым протоколом взаимодействия.

Jev как System One оценочная модель

Архитектура системы предполагает работу в режиме System One, что означает моментальную реакцию на входящие данные без длительного ожидания токенов. Модель принимает состояние, которое может представлять собой транскрипт разговора, кусок программного кода или обращение в техническую поддержку. Вместо сочинения ответа алгоритм оценивает состояние по критериям и возвращает вероятности.

Применение такого подхода охватывает несколько ключевых задач в разработке:

• Выбор подходящего инструмента агентом в сложных пайплайнах.
• Логика рабочих процессов, определяющая программные действия continue, retry или stop.
• Автоматический скоринг риска входящих пользовательских запросов.
• Применение строгих guardrails для проверки вывода больших нейросетей.

Связка TypeSafe AI и Vercel

Оригинальный разработчик TypeSafe AI спроектировал всю архитектуру алгоритма, тогда как популярная облачная платформа взяла на себя дистрибуцию. Инструмент Jev был запущен на Vercel AI Gateway 15 сентября 2026 года и в первые сутки его подключила значительная часть платных команд, что стало быстрейшим внедрением в истории шлюза. Такой рост объясняется простотой использования и высокой потребностью рынка в дешевых аналитических системах.

Платформа Vercel в этой связке не выступает создателем алгоритма, а предоставляет эндпоинт и тарификацию. Инженерам не нужно заключать дополнительный договор с авторами нейросети — достаточно использовать активный аккаунт в облачном сервисе. Это ускоряет процесс проверки гипотез и внедрения оценочных пайплайнов в коммерческие проекты.

Три способа протестировать Jev через Vercel

Протестировать систему можно тремя путями: на уровне кода Jev тестируется через функцию experimental_evaluate из пакета ai, визуальный браузерный плейграунд Jev обращается к сетевому эндпоинту ai-gateway.vercel.sh/v4/ai/evaluation-model, и в целом Jev доступен через сервис Vercel AI Gateway для прямых запросов. Выбор конкретного метода зависит от технических навыков пользователя и стадии проекта. Кому-то необходимо просто оценить качество классификации, а кто-то готов встраивать логику прямо в продакшен.

Первый способ подразумевает использование официального пакета и написание скриптов на TypeScript или JavaScript. Это основной путь для инженеров, которые строят микросервисы и хотят типизировать возвращаемые структуры. Пакет берет на себя формирование запросов и валидацию ответов. Этот метод идеально подходит для полноценной интеграции в рабочие проекты.

Второй метод предполагает отправку прямых запросов к серверу платформы с помощью curl или любого HTTP-клиента. Вариант оптимален, если вы пишете на языке, отличном от JS/TS, например на Go, Rust или Ruby. Здесь инженеру придется самостоятельно формировать JSON-тело и обрабатывать заголовки. При этом важно учитывать, что Python-роут и OpenAI-совместимость через этот эндпоинт полностью отсутствуют.

Третий путь создан для визуальной отладки без написания скриптов. Браузерный плейграунд Jev отправляет запросы напрямую из браузера на соответствующий эндпоинт с заголовком ai-model-id: typesafe-ai/jev. Пользователю достаточно вставить свой токен авторизации и начать работу в интерфейсе. Вариант отлично подходит аналитикам для быстрой проверки промптов.

Как получить API-ключ и подготовить окружение

Любое тестирование Jev требует API-ключ AI Gateway, который выдается в панели управления облачной платформы. Процесс подготовки локального окружения состоит из нескольких шагов, которые нужно выполнить до написания первой строчки кода. Инфраструктура имеет строгие правила верификации, поэтому пропустить настройку биллинга не выйдет.

Получение токена происходит в панели управления. Для этого необходимо авторизоваться в своем дашборде, перейти в раздел AI Gateway, открыть вкладку API Keys и сгенерировать новую строку. Секретный ключ следует сразу скопировать в безопасное место, так как интерфейс не покажет его целиком повторно.

Привязка карты оплаты обязательна для всех аккаунтов. Даже на бесплатном тарифе команда Vercel без привязанной карты оплаты получает ошибку customer_verification_required, поэтому карту нужно добавить до первого запроса. Это ограничение введено для борьбы с ботами и защиты вычислительных мощностей.

Настройка локальной среды требует установки пакета. После успешного сохранения токена необходимо подготовить сам проект. Для этого инженеру потребуется:

• Выполнить команду npm install ai для установки пакета, причем нужна актуальная версия.
• Задать полученный токен в переменной окружения export AI_GATEWAY_API_KEY.
• Для существующих облачных проектов использовать команды vercel link и vercel env pull для подтягивания переменных.

Первый запрос к Jev через AI SDK по шагам

Для интеграции важно понимать, что программно Jev тестируется через функцию experimental_evaluate из пакета ai, при этом Jev идентифицируется как строка typesafe-ai/jev. Процесс инициализации требует правильного импорта и структурирования передаваемых данных. Для теста Jev используется функция experimental_evaluate из пакета ai, куда передаются model: ‘typesafe-ai/jev’, state и объект questions с типами boolean, choice или score.

Минимальный пример

Создание базового скрипта начинается с импорта нужных модулей. Вам потребуется функция, которая принимает параметры запроса и возвращает типизированный ответ. Имя алгоритма должно быть указано в точности, иначе шлюз не сможет найти нужный эндпоинт.

1. Импортируйте метод в проект: import { experimental_evaluate as evaluate } from 'ai'.
2. Подготовьте состояние state, например, текстовую расшифровку разговора с клиентом.
3. Сформируйте вызов evaluate, строго указав model: 'typesafe-ai/jev'.
4. Внутри объекта questions создайте ключ refunded.
5. Задайте type: 'boolean', пропишите текстовые instructions и добавьте объект criteria с правилами для true и false.

В этом скрипте поле state содержит контекст, который анализирует алгоритм. Поле questions определяет, что именно мы хотим узнать, а instructions и criteria задают жесткие рамки для первый вызов модели и последующих оценок. Разработчик обязан четко прописывать критерии исходов.

Несколько вопросов в одном запросе

Особенность системы заключается в том, что алгоритм считает несколько вопросов параллельно в рамках одного сетевого вызова. Это означает, что можно отправить один объемный лог и попросить платформу одновременно оценить его по десяти разным параметрам.

Например, при анализе тикета в службу поддержки можно за один проход определить целевой отдел с помощью типа choice и оценить критичность проблемы через тип score. Объект questions будет содержать два ключа — department и severity, каждый со своими инструкциями и строгими критериями.

Такой подход обеспечивает существенную экономию ресурсов и снижает задержку сетевого ответа. Один вызов отдает сразу несколько ответов, что критически важно для высоконагруженных сервисов. Обработка всех вопросов происходит на стороне серверов без необходимости дублировать входные токены.

Типы вопросов: Boolean, Choice и Score

Для выполнения аналитических задач Jev поддерживает типы вопросов Boolean, Choice и Score, которые закрывают большинство потребностей маршрутизации. Эти три типа вопросов позволяют гибко настраивать логику приложения, получая предсказуемые числа вместо случайного текста. Разработчику необходимо заранее выбрать формат и описать критерии срабатывания для всех возможных вариантов.

Тип Boolean применяется для оценки истинности конкретного утверждения. Он проверяет, произошло ли какое-то событие в тексте, или соответствует ли лог заданному условию. На выходе система возвращает вероятность от 0 до 1, показывая степень уверенности в положительном ответе. Критерии в этом случае задаются через описание условий для состояний true и false.

Тип Choice используется для классификации состояния и выбора одного значения из заранее определенного именованного набора. Формат идеально подходит для категоризации обращений, определения тематики текста или выбора нужного инструмента. Инструмент поддерживает до 255 различных вариантов в одном запросе. Для каждого варианта в объекте criteria необходимо прописать подробное текстовое описание для сопоставления.

Тип Score предназначен для оценки входящих данных по строго упорядоченной рубрике, состоящей из 2–10 уровней. Это отличный выбор для определения уровня токсичности сообщения, оценки качества обслуживания или выставления приоритета задачи. При настройке запроса разработчик задает критерии для каждого уровня, а алгоритм отдает взвешенную оценку.

export TYPESAFE_API_KEY="ваш_ключ"

curl -X POST https://api.typesafe.ai/v1/systemone \-H "Authorization: Bearer $TYPESAFE_API_KEY" \-H "Content-Type: application/json" \-d @- <<'EOF'{"model": "jev-latest","state": "Клиент: «Третий раз пишу, заказ так и не пришёл. Если завтра не будет — отменяю всё и пишу отзыв».","questions": {"department": {"type": "choice","instructions": "Какой отдел должен обработать обращение?","criteria": {"Возврат и обмен": null,"Доставка": null,"Оплата": null,"Другое": null}}}}EOF

Что возвращает Jev: структура ответа и вероятности

После обработки запроса Jev возвращает типизированные ответы с вероятностями, отражающими распределение по заданным исходам. Нейросеть не занимается генерацией текста, поэтому структура возвращаемого объекта жестко привязана к типам вопросов, которые были переданы в вызове. Это избавляет от необходимости писать регулярные выражения для парсинга.

Структура ответа строго зависит от выбранного типа. Каждый из трех доступных форматов формирует свой набор полей в итоговом JSON-объекте. Разработчики получают готовые числа, которые можно сразу использовать в условных операторах.

• При использовании Choice ответ содержит строку с выбранным вариантом в поле choice и детальный объект probabilities, где расписаны шансы для вариантов.
• Для типа Score возвращается поле score, представляющее взвешенное по вероятности среднее значение, а также распределение в probabilities.
• Запросы типа Boolean выдают поле probability, содержащее число от 0 до 1.

Вероятностное распределение помогает принимать решения при неуверенности алгоритма. Если система сомневается, распределение будет размазано по нескольким вариантам. Анализируя эти числа, можно поставить программный порог: если максимальная вероятность ниже заданного значения, запрос автоматически отправляется на ручную проверку оператору.

Тестирование Jev в браузерном плейграунде без кода

Для быстрой проверки гипотез браузерный плейграунд Jev обращается к эндпоинту ai-gateway.vercel.sh/v4/ai/evaluation-model без необходимости поднимать локальный сервер. Этот инструмент представляет собой статичную HTML-страницу, которая не имеет собственного бэкенда. Все сетевые операции выполняются исключительно на стороне клиента, что гарантирует приватность передаваемых данных.

Плейграунд отправляет стандартный POST-запрос на сетевой эндпоинт. В заголовки запроса автоматически подставляются Authorization: Bearer со значением вашего ключа, ai-model-id, а также служебные параметры ai-gateway-protocol-version и ai-gateway-auth-method. Тело запроса формируется из визуальных блоков и содержит объект с полями state и questions.

Процесс работы состоит из нескольких простых кликов. Пользователю необходимо вставить свой токен в поле, выбрать готовый пресет или заполнить текстовое поле состояния. Затем добавляются вопросы нужных типов, прописываются инструкции и критерии в соответствующих ячейках формы.

После нажатия кнопки Evaluate браузер отправляет данные и моментально выводит результат. В интерфейсе отображаются финальные вердикты, детальное распределение вероятностей по каждому вопросу, общая сетевая задержка и количество затраченных токенов. Секретный ключ хранится только в оперативной памяти вкладки, а в localStorage он попадает исключительно по галочке Remember.

Цена, бесплатный тариф и лимиты

В рамках коммерческой эксплуатации Vercel AI Gateway тарифицирует Jev по минимальной ставке за миллион входных токенов; модель Jev имеет контекстное окно в 32000 токенов, а команда без карты оплаты получает ошибку customer_verification_required. Ценовая политика радикально отличается от привычных генеративных сетей, так как здесь отсутствует этап формирования текста.

Цена и окно

Актуальная стоимость модели Jev делает ее одним из самых дешевых решений на рынке аналитики. Модель Jev доступна через Vercel AI Gateway под идентификатором typesafe-ai/jev с ценой 0,042 доллара за миллион входных токенов и контекстным окном 32 000 токенов. Такого контекста хватает для обработки крупных логов.

Оплата взимается исключительно за входные токены — то есть за длину переданного состояния и текста самих вопросов. Поскольку генерация текста отсутствует, выходные данные представляют собой лишь JSON с цифрами. Именно поэтому каждый сетевой запрос обходится невероятно дешево.

Бесплатный тариф и его ограничения

Для инженеров, желающих познакомиться с технологией, предусмотрен бесплатный план. На бесплатном тарифе действуют жесткие рейт-лимиты на количество запросов в минуту, а пакетная обработка нескольких вопросов в одном вызове идет заметно медленнее, чем на коммерческих планах.

Главная особенность бесплатного доступа заключается в обязательной верификации платежного средства. Без привязанной карты профиль будет неизбежно получать системный отказ. Важно учитывать, что базовая цена могла измениться после промо-периода, поэтому стоит регулярно проверять актуальный тариф на странице платформы.

Частые ошибки и отличие Jev от обычной LLM

При настройке окружения команда без карты оплаты получает ошибку customer_verification_required, но помимо конфигурации важно помнить, что Jev возвращает типизированные ответы с вероятностями, так как алгоритм Jev является оценочной моделью для структурных решений. Понимание этих особенностей позволяет избежать часов отладки.

Типичные ошибки

Большинство проблем при интеграции связано с невнимательным чтением официальной документации и игнорированием ограничений платформы. Разработчики часто пытаются обращаться к системе как к привычным генеративным сетям.

• Отсутствие верификации биллинга вызывает отказ с кодом, требующим добавления карты.
• Использование неверных типов вопросов, когда вместо boolean передаются альтернативные имена из TypeSafe API, которые обертка не поддерживает.
• Попытка применить Python-совместимый доступ или библиотеки OpenAI через данный шлюз всегда заканчивается сбоем маршрутизации.
• Использование устаревшей версии пакета ai, так как для работы функции оценки требуется строго версия 7 и выше.

Чем Jev отличается от LLM

Ключевое отличие заключается в формате выдачи данных. Система отдает типизированные структуры с вероятностным распределением над заданными исходами, а не генерирует свободный текст. Этот алгоритм специально спроектирован для принятия строгих программных решений.

По данным запуска, инструмент работает во много раз быстрее и обходится значительно дешевле классических больших языковых моделей на задачах оценки и классификации. В итоге для задач жесткой маршрутизации этот специализированный инструмент гораздо эффективнее, однако он совершенно не способен писать код или вести диалог.

FAQ