基础设施
jev-router
@prismhq★ 3PythonMIT更新于 2026-09-17
基于LiteLLM,使用TypeSafe的Jev选择模型的开源LLM路由器。
英文原文
Open-source LLM router that uses TypeSafe's Jev to pick a model, on top of LiteLLM
prismhq/jev-router ↗
这个项目没法在这儿跑
它的 question 组合是运行时拼出来的,或者代码里没有直接写出来,所以没法原样搬过来。源码链接在上面,可以自己去看。
同类的其他项目
- simple-jev ▶ — 将任意开源模型转换为分类器或jev端点。
- typesafe-ai-benchmark ▶ — 这是一个模拟 typesafe ai 结构化输出的 LLM 网关,类似一个冒牌 Jev。
- Nemotron_Jev ▶ — Nemotron Diffusion Decision Lab 是一个用于扩散决策研究的实验平台。
- jcm-router ▶ — 本地代理,使用 TypeSafe Jev 根据消息选择 Claude 模型和计算资源,路由子代理,保持主聊天缓存不变。
- tiershift ▶ — 将每次 LLM 调用转到能处理的最便宜模型,路由由 TypeSafe Jev 约 180 毫秒内决定,无需训练数据,策略用 YAML 编写,支持 TypeScript 和 Python。
- jev-workbench ▶ — 在 TypeSafe 的 Jev 上构建版本化判断函数,后端通过 HTTP 调用,coding agent 通过 MCP 调用,密钥保存在本地。
- ailerix ▶ — TypeSafe 模型路由器,Jev(System One)将每个请求存入类型化目录路由。
- jev-model-router ▶ — 基于 Vercel AI Gateway 的 Jev (TypeSafe) 模型路由器。