注册以创建你的 Inferock 账户,然后选择你的运行方式。使用 Inferock Watch,你连接自己的提供商密钥。使用 Inferock Serve,你通过 Inferock 预付,模型和服务条款在入门引导期间确认。Inferock Dedicated 在配置前按协议进行配置和定价。创建账户本身并不会使模型、区域或容量可用。
工具概况
快速了解工具核心信息
什么是Inferock
提供可问责的大语言模型推理服务,含每次调用回执与损失报告,并按约定条款对符合条件的客观故障给予有上限的服务额度补偿。适用于需要调用追溯与故障问责的 LLM API 场景。
你是「Inferock」的开发者?
徽标是「万智云集」的收录证明,也是品质认证;嵌入官网即为产品挂上权威背书,还能为详情页带回访客、提升热度指数。
哪些人适合使用Inferock
为什么选择Inferock
如何使用Inferock
Inferock资费标准
- 使用自有供应商密钥的 Inferock 可观测性服务
- 供应商单独向您计费,Inferock Watch 在自有密钥上免费
- 包含质量、延迟和成本可见性
- 每月推理性能报告
- 密钥和供应商账单保留在您手中
- 自有供应商密钥上不收取 Inferock Watch 费用
- 无服务器推理,按 Token 付费
- 模型费率包含供应商使用费和 Inferock 服务费
- 所有账户按实际供应商成本收取 10% 总服务费
- 加密推理用量在 30 天内计费
- 通过 Inferock 预付,无需供应商 API 密钥
- 包含推理可观测性
- 按模型显示输入、缓存输入和输出费率
- 符合约定条款的合格故障可获得非现金服务额度
- 在合格预付用量消耗时开始计费
- 预留容量,按协议定价
- 一份容量报价,包含 Inferock 服务
- 在约定的容量报价下由 Inferock 计费
- 在 Inferock Dedicated 上运行工作负载,价格、承诺和服务级别按部署约定
- 报价中显示配置、计费单位和总价
- 包含可观测性
- 服务级别和任何服务额度由协议定义
- 按容量协议规定开始计费,资金在配置前覆盖容量承诺
资费说明
- •无席位订阅费。
- •Inferock Serve 和 Inferock Dedicated 为其用量包含可观测性。
- •可用性、计费开始和服务条款在激活前确认。
- •Inferock Serve 所有账户按实际供应商成本收取 10% 总服务费。
- •Inferock Serve 加密推理用量在 30 天内计费。
常见问题
关于本工具的常见疑问解答
Inferock 是可靠且可问责的大语言模型推理。你将选定的模型调用路由到 Inferock;它记录独立的逐调用回执,并且在 Inferock Serve 模式下,可根据约定条款对符合条件的客观提供商故障应用有界服务抵扣。
Inferock Dedicated 是专用推理:专用于你的工作负载的容量,其配置、价格、承诺和服务级别在容量配置前为你的部署约定。Inferock 根据约定的容量报价向你计费。要开始,请创建你的账户,然后与我们讨论你的工作负载。
Inferock Watch 在你自己的提供商密钥上免费。Inferock Serve 对每个账户按实际供应商成本收取 10% 的总服务费。Inferock Dedicated 定价为按协议。
Inferock 记录请求路径、提供商响应、时序、用量、计费上下文和故障证据。报告显示什么失败了、花费了多少,以及该行是仅报告还是有资格获得 Inferock Serve 服务抵扣。支持。
注册赠金(如果为你的账户记录)是一次性赠礼,与因符合条件的 Inferock Watch 故障而获得的赠金分开。领取它不需要信用卡、提供商连接、付费层级或最低消费。再次登录或切换产品不会增加另一笔注册赠金。在 Credits 中查看记录金额、剩余余额、已应用或已过期金额以及该条目的到期日期。注册赠金不可兑现且会过期。它可以用于 Inferock Serve 上符合条件的供应商成本;服务费仍为现金。
停机、提供商超时、空输出、截断输出、当存在模式时的无效结构化输出或工具调用参数,以及具有可观察证据的重大计费或缓存异常。
抵扣需要经过验证、已计费、未收回的故障。拒绝、未计费调用和完全收回的成本不获得抵扣。钱包上限为 1,000 美元,每个日历月最多可应用 1,000 美元;服务费仍为现金。
在本地运行 inferock-bench,将计量的提供商 API 流量通过它发送,并查看回执。回执首先显示已花费美元、账单范围内的资金损失、时间损失和发票核对风险敞口,然后将提供商认可的可收回金额、认可差距和发票核对风险敞口详情分开保留。它保留 token 用量、成本、故障、重试和计费完整性证据;它不替代提供商发票记录。回执 + 账本。
首先区分使用量、token 构成、重试、失败调用、缓存行为和定价。`inferock-bench` 可以记录通过本地代理的计量流量,并显示逐调用的 token 用量、成本、故障、重试、缓存信号、已花费/资金损失/时间损失/发票核对风险敞口标题以及发票核对风险敞口详情。它无法解释它未看到的流量的提供商收费,也不替代提供商发票。比较文档化的定价阶梯。
仅针对它观察到的流量。如果调用通过了 `inferock-bench`,本地回执可以显示测量的请求、响应、用量、时序、重试和成本证据。如果提供商密钥在代理之外被使用,bench 无法重建该未观察到的流量。撤销暴露的密钥,保留提供商仪表板和发票记录,并使用 `inferock-bench` 测量未来的计量调用。查看观察到的证据出现在哪里。
Inferock 记录该调用的提供商响应、用量字段、时序、交付内容、错误状态和价格证据。当存在收费证据时,它可以显示失败、不完整、超时或 504 调用的账单范围内资金损失。当证据仅为发票核对信号(例如面临风险的缓存折扣)时,回执将其标记为发票核对风险敞口而非资金损失。如果提供商暴露的收费证据太少,回执会标明该限制,而不是编造退款主张。查看文档化的抵扣条件。支持。
Inferock 可以为 OpenAI token、用量、重试和故障问题保留本地证据。它报告证据强度,将账单范围内资金损失与提供商认可的可收回金额和认可差距分开,并将发票核对风险敞口排除在资金损失总额之外,而不是将每个不匹配都宣布为多收费。
Inferock 可以记录 Anthropic 用量字段、交付输出、定价证据以及可用的 token 交叉核对信号。结果是回执级证据链,而不是自动指控。
将 inferock-bench 用作 localhost 代理,并将你的 SDK 基础 URL 指向它。提供商密钥保留在本地,bench 为支持的 OpenAI、Anthropic、Gemini 和固定版本的 OpenRouter 调用记录 token 用量和成本证据。遵循首次调用指南。
是的。inferock-bench 是用于开发和评估流量的本地 LLM 成本跟踪代理。它将提供商调用转化为逐调用回执,包含已花费美元、账单范围内资金损失、时间损失、发票核对风险敞口、故障证据和计费完整性信号。
它是测量代理,不是提供商范围的支出防火墙。对于通过本地 bench 路由的流量,它记录重试、重复请求证据、token 用量、时序和成本,因此重试循环或智能体运行会留下回执。内置测试流程在开始提供商调用前显示估算和支出上限。你的提供商账户仍需要自己的密钥控制、配额和计费限制。查看网关限制行为。
公开基准测量真实提供商流量上可观察的可靠性和计费信号。除非某次运行明确报告可比较的测量数据和覆盖范围,否则它不是提供商排名。
它记录通过 bench 路由的调用的时序,并可以根据配置的阈值报告延迟。它可以从客户端可见的证据显示调用缓慢、超时或失败。它无法看到提供商内部队列或证明内部原因,除非提供商暴露该证据。检查记录的时序证据。
它可以记录请求的模型、暴露的模型/版本字段、输出形态、拒绝信号、延迟和配置的漂移探测。只有当存在经批准的基线、阈值或真实标准时,质量变化才会成为有用的证据。像“模型变差了”这样的宽泛抱怨在回执拥有该基线之前仅作报告。
不作为一般的路径内故障类别。事实性需要真实标准:参考答案、检索语料库、数据库结果、人工标签或下游验证器。没有这些,Inferock 只能标记较弱的信号。
故障类型、事件计数、估算成本、证据和补救状态。打开脱敏的示例评分卡。
用户口碑
真实用户评价
