Jev 101
开始指南
搜索
中文 EN
平台 ✦ 90大纲用你的流量校准阈值

便宜 vs 贵模型路由

用 Jev 判难度/风险，再由代码路由模型。

适用人群：负责多模型技术栈的平台／AI 工程师。步骤：（1）状态 = 用户请求（+ 风险标签）。（2）用 Choice 判断难度／风险，或用 Score 评估复杂度。（3）代码选择小型 LLM、前沿模型或弃答。预期效果：仅在需要时消耗前沿模型的令牌。

来源：LangChain · Building a harness with Jev ↗ 文档 / 来源 ↗
1

复制提示词（保留英文原文效果最好）。

2

在代码里实现——调用 System One / Jev，由你的程序组合答案。

3

回答它的设置问题——大多数提示词会先采访你，然后进入固定节奏。

提示词

提示词 
Audience: platform / AI eng.
Steps:
1) State: user request, tools, budget, risk tags.
2) Choice difficulty/risk or Score complexity; Noul needs_strong_model.
3) Code routes cheap vs frontier vs abstain/human.
Expected effect: spend frontier tokens only when justified.

需要授权：typesafe-sdkllm-gateway

它是怎么搭起来的

来源：LangChain · Building a harness with Jev · confidence-routing · awesome-jev-usecases · Harness。

将置信度视为类别之外的第二个维度：置信度高时使用低成本默认模型；置信度低时升级至前沿模型／人工。社区运行框架的数字均为作者自报。

来源（第二轮补充）

为什么它好用

运行框架模式：System One 决定何时值得为 System Two 付费。

本案例收集自公开的 Jev 社区，版权归原作者所有。提示词属于参考资料：运行前请先审阅内容， 并且不要让机器人超出你实际授予的权限行事。