TokenSpend

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
TokenSpend
访问
25
32077

为 120 个模型配置路由,并查看每次请求的成本


TokenSpend 可将 LLM 请求路由至 21 家供应商的 120 个模型,并兼容任意 OpenAI-compatible 客户端,只需更改模型名称即可切换。每次调用都会返回包含模型、Token 用量、成本和延迟的明细收据;你可自带供应商密钥免费使用路由,也可按原价购买额度(加收 5% 费用),Token 不加价且不存储提示词。对于使用 coding agents 的团队,它还能将支出关联到已合并的 pull requests。