1智能客服工单自动路由
- 1调用 Jev AI 的路由 API,将用户工单文本作为输入,指定输出类型为部门标签(如技术、账单、售后)。
- 2API 返回每个部门的概率值,选择概率最高的部门作为路由目标。
- 3将工单自动分配至对应部门队列,并记录置信度低于阈值的工单供人工复核。
2用户生成内容实时审核
- 1在用户提交评论或帖子时,调用 Jev AI 的内容审核 API,输入文本并指定输出类型为违规类别(如垃圾广告、仇恨言论、正常)。
- 2根据 API 返回的概率决策,若违规概率超过预设阈值,则自动拦截并提示用户。
- 3将拦截记录及概率值存入审核日志,供后续模型优化与人工抽检。
3AI 应用输出安全防护栏
- 1在 AI 模型生成回复后,调用 Jev AI 的防护栏 API,输入回复文本并指定输出类型为安全/不安全。
- 2若 API 返回不安全概率高于阈值,则触发预设的降级策略(如替换为安全话术或转人工)。
- 3将不安全样本及概率反馈至开发团队,用于调整防护栏阈值或优化提示词。
