1在用户生成内容平台中实时过滤有害评论
- 1在平台后端集成 ContentMod 的 API，将用户提交的评论内容发送至检测接口。
- 2根据 API 返回的有害内容判定结果（如是否包含仇恨、骚扰、暴力等），自动决定拦截、标记或放行。
- 3对判定为有害的评论，自动隐藏并通知用户或管理员进行复核。
2为社区论坛自动审核帖子与回复
- 1配置 ContentMod 的自动化规则，设定需要检测的内容类型（如帖子标题、正文、回复）。
- 2当新帖子或回复发布时，触发 ContentMod 进行实时扫描。
- 3若检测到有害内容，自动将其移入审核队列，并发送告警给版主。
3在客服聊天系统中实时拦截辱骂或威胁信息
- 1将 ContentMod 的 API 接入客服聊天消息处理流程。
- 2对每一条用户发送的消息进行有害内容检测。
- 3若检测到辱骂、威胁等有害信息，立即阻止消息发送，并提示用户遵守社区准则。