敏感词过滤-文本审核-敏感词审核-违禁词审核-敏感词检测-违禁词检测
【摘要】 本服务提供智能文本审核,精准识别违禁词、色情低俗、恶意推广、辱骂攻击及低质灌水内容,并校验广告法合规性,适用于评论过滤、注册信息筛查、文章发布等场景,保障内容安全与平台合规。
前言
对文本中的违禁词、色情低俗、恶意推广、辱骂攻击、低质灌水等内容进行智能识别与广告法合规校验,适用于用户评论过滤、注册信息筛查、公开发布文章内容审核等场景。
热门使用场景
-
社区 UGC 内容智能审核
针对用户评论、留言、发帖等互动内容进行实时敏感词过滤,精准识别违禁信息、辱骂攻击、低俗灌水及恶意推广内容,维护社区交流环境合规有序。 -
用户注册与昵称合规筛查
对用户账号昵称、个性签名、注册资料等信息进行自动校验,拦截含违规敏感词、恶意引导及广告法违禁表述的内容,保障平台账号体系规范安全。 -
自媒体与文章内容合规检测
面向公众号推文、资讯稿件、营销文案等文本内容,全面检测广告法违禁词、低俗色情、恶意推广等违规信息,降低内容发布合规风险。
API介绍
请求参数
| 名称 | 类型 | 必须 | 说明 |
|---|---|---|---|
| text | String | 是 | 审核的文本 |
详见此处
返回示例
{
"code": 200, // 返回码,详见返回码说明
"msg": "成功", // 返回对应的描述
"taskNo": "40525341889422111006", // 本次请求号
"charge": true, // 计费标志
"data": {
"result": "2", // 审核结果类型,可取值1、2、3、4,分别代表1:合规,2:不合规,3:疑似,4:审核失败
"resultMsg": "不合规", // result对应的描述
"resultItems": [ // 不合规项,合规时不返回
{
"nonComplianceType": 2, // 详见不合规类型
"msg": "存在文本色情不合规", // 不合规描述
"hits": [{ // 命中的词
"probability": 0.972112, // 不合规项置信度,范围:0至1,数字越大,可能性越高
"words": [ // 送检文本命中词库的关键词。
""
],
"wordHitPositions": [ // 送检文本命中词库的详细信息,为Object的列表,keyword、positions、label三个字段。
{
"positions": [
[
4,
6
]
],
"label": "100400", // 关键词命中的细分标签,详见label字段描述。
"keyword": "" // 命中的词
}
],
"modelHitPositions": [ // 送检文本命中模型的详细信息,包含位置信息及置信度信息。
// 位置信息:命中模型的违规内容在送检原文中的位置(从0开始计算):“开始位置”、“结束位置”;
// 置信度信息:命中模型对应的置信度分数
[
0,
4,
0.9721
]
]
}]
},
{
"nonComplianceType": 4,
"msg": "存在恶意推广不合规",
"hits": [{
"probability": 0.96125,
"modelHitPositions": [
[
0,
4,
0.9616
]
]
}]
},
...
]
}
}
【声明】本内容来自华为云开发者社区博主,不代表华为云及华为云开发者社区的观点和立场。转载时必须标注文章的来源(华为云社区)、文章链接、文章作者等基本信息,否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱:
cloudbbs@huaweicloud.com
- 点赞
- 收藏
- 关注作者
评论(0)