Jev 与 Ollaya
Ollaya 与 Ollama 无隶属关系,也与 TypeSafe 无隶属关系。
Jev 是 TypeSafe 托管的 System One API。Ollaya 是独立的本地运行时,为开源决策模型提供 TypeSafe 兼容 HTTP。Ollaya 与 Ollama 无隶属关系,也与 TypeSafe 无隶属关系。
本页只转述各方文档中的接口说明,不构成背书。
各自是什么
Jev 是 TypeSafe 托管的 System One 模型:状态 + 类型化问题进入,结构化答案返回。官方调用 POST https://api.typesafe.ai/v1/systemone 与 TypeSafe SDK。Python SDK 读取 TYPESAFE_API_KEY,默认模型 jev-latest。
Ollaya 是本地服务与命令行,用于拉取并服务 开源 决策模型。其 FAQ 写明借用了 Ollama 的使用体验(单一二进制、pull / run / serve、Modelfile、本地 REST),把该模式用在决策模型而非生成式语言模型上。这是交互类比,不是隶属关系。
Ollaya 文档中的职责是在你的硬件上运行这些开源模型,并暴露 TypeSafe 形状的端点。兼容范围写明覆盖 API,而不是 TypeSafe 的模型。
文档中的接口
| TypeSafe Jev | Ollaya | |
|---|---|---|
| 产品类型 | 托管 System One 模型 | 本地运行时 + 模型库 |
| 官方站点 | typesafe.ai · 文档 | ollaya.dev |
| 决策端点 | api.typesafe.ai 上的 POST /v1/systemone | 默认 127.0.0.1:11435 上的 POST /v1/systemone(及 /v1/decisions);另有原生 POST /api/decide |
| 列出模型 | TypeSafe 账户内模型 | GET /v1/models — 本机已拉取 的模型 |
| 默认监听 | 托管 | 127.0.0.1:11435(紧挨 Ollama 默认 11434,可并存) |
Ollaya 写明 TypeSafe Python SDK 0.7.1 在设置以下变量后可不改代码使用:
export TYPESAFE_BASE_URL=http://localhost:11435
export TYPESAFE_API_KEY=local
export TYPESAFE_DEFAULT_MODEL=laya
local 只是占位。除非服务端设置了 OLLAYA_API_KEY,否则 Ollaya 接受任意密钥。若不设 TYPESAFE_DEFAULT_MODEL,SDK 仍会发送默认的 jev-latest,而 Ollaya 并不会拉取该模型。
Ollaya 列出的模型族
常见问题 列出可运行的开源族(各有作者与许可证),含 laya(Convai Innovations)、decider(Mapika)、nli(Moritz Laurer)、gliclass(Knowledgator)、kev(Jared Palmer)、decision(vLLM Semantic Router 贡献者)、qwen3guard(Qwen 团队)、von(Victor Hugo Panisa)、winnow(EldanRing)、jevk5(alibiserikbay)。权重从作者 Hugging Face 仓库按 commit 固定并校验 sha256。Ollaya 写明不重新托管这些权重。
Ollaya 文档中的平台
- Linux x86-64 与 ARM64,glibc 2.38 或更新
- Apple silicon 上的 macOS
- Windows 10 / 11 的 64 位 x86:桌面应用走 CPU;命令行在检测到 NVIDIA GPU 时使用它(常见问题)。WSL 2 + Linux 安装器是可选路径。
- Docker 镜像
ghcr.io/ollaya-dev/ollaya(NVIDIA 用:cuda)
不需要 GPU。在 x86-64 Linux 与 Windows 上,命令行在检测到驱动 R580 或更新(CUDA 13)的 NVIDIA GPU 时使用它(常见问题)。WSL 2 是可选的。
官方安装路径:桌面应用;Linux/macOS 用 curl -fsSL https://ollaya.dev/install.sh | sh;Windows 用 irm https://ollaya.dev/install.ps1 | iex;或 Docker 镜像。