基础设施

jev-router

@rajdhakad98264TypeScriptMIT更新于 2026-09-19

基于成本的 LLM 路由器,使用 TypeSafe 的 Jev 快速分类,选择能处理查询的最便宜模型,无需调用 LLM。

英文原文

Cost-aware LLM router that picks the cheapest model capable of handling a query, using TypeSafe's Jev for fast classification instead of an LLM call.

rajdhakad9826/jev-router

它在哪儿调用了 Jev

import { score, TypeSafeClient } from "@typesafe-ai/sdk";

src/jev/classifier.ts:2

链接指向我们抓取当天的那个 commit,行号是准的。

这个项目没法在这儿跑

它的 question 组合是运行时拼出来的,或者代码里没有直接写出来,所以没法原样搬过来。源码链接在上面,可以自己去看。

同类的其他项目