1通过统一 API 调用多个 LLM 模型进行对比测试
- 1在 OpenRouter 官网注册账号,获取 API 密钥。
- 2在代码中设置 API 请求,将模型参数分别设为不同模型(如 mistral-7b、gpt-3.5-turbo),并使用同一提示词发送请求。
- 3比较各模型的响应结果,选择最适合你任务的模型。
2实现模型故障转移,提高应用稳定性
- 1在 OpenRouter 控制台或 API 请求中配置模型路由策略,指定主模型和备用模型。
- 2在请求中启用故障转移选项,设置超时和重试条件。
- 3当主模型不可用或超时时,OpenRouter 自动将请求路由到备用模型,确保服务不中断。
3控制数据隐私,选择不训练模式
- 1在 OpenRouter 设置中,将数据策略配置为“不用于训练”模式。
- 2在 API 请求中附加相关参数(如 `privacy: true`)以覆盖默认设置。
- 3确认请求头或响应中显示数据策略已生效,确保你的数据不会被用于模型训练。
