配方 30 动手实践 10 分钟 更新 2026年10月26日

Clairic 与 Jev 处理 100 封退货邮件(UnlockJapan)

外链 UnlockJapan 的 Takuma Yoshida 文章(2026-10-26):在 100 封退货/退款邮件上,用四种布局组合 Cloudflare Clairic、TypeSafe Jev 1.14 与 Claude Haiku 5.5,并给出准确率、成本与按置信度分流的结果。

这份指南指向哪里

Takuma Yoshida 在 UnlockJapan 发布了 Clairic and Jev on 100 return emails: four experiments(2026-10-26)。任务是按店铺政策对退货/退款邮件分类。政策生效前,必须先读出「发生了什么」以及「顾客想要什么」。实验以不同布局组合 Cloudflare 的 Clairic 抽取模型、TypeSafe Jev(jev-1.14.0)与 Claude Haiku 5.5。

作者在这 100 封邮件上报告的要点:

  • 不含 Clairic 的六步 Jev + Python 布局约 78% 准确率,单例约 0.3 秒、每 100 例约 1.5 日元;Haiku 约 91%、3.0 秒、8.1 日元。
  • 该布局里,Jev 的决策与政策代码在全部 100 例上一致;差错来自读信,而不是类型化决策步骤。
  • 按置信度分流有帮助:在一种博客式布局上,Jev 置信度 ≥ 0.8 的案例准确率约 95%(100 中的 39)。只把这些高置信度案例交给 Jev、其余给人,整体准确率从仅人工的 73% 提到约 80%,人工时间从 30.0 降到 20.8 分钟(阈值是看完结果后划的)。
  • 带 Clairic 的读信布局约 68–77%;把 Clairic 读信换成 Jev+Python 后准确率接近(77% → 78%),成本约降到六分之一(每 100 例 8.8 → 1.5 日元)。

本页仅为非官方手册入口——主张请对照原文与 TypeSafe 文档 核验。结果因任务和数据集而异。

建议带走的点

  1. 把读懂杂乱邮件与按固定政策做决策拆开,并分别测量。
  2. 优先按置信度分流:只自动处理高置信度 Jev 案例,其余升级人工。
  3. 在「决策」这一段,类型化决策模型可以比通用大模型更快更便宜,即便端到端准确率暂时落后。

原文