敏感词猎手:用AgentArts工作流一键扫描文档风险

举报
空间案例小助手 发表于 2026/06/25 09:21:26 2026/06/25
【摘要】 本案例基于AgentArts企业级智能体开发平台,结合MaaS平台大模型能力,构建内容敏感词检测工作流应用。通过6个节点的可视化编排,实现文档上传、内容提取、敏感词判断与定位的自动化审核流程,让内容风控从人工逐行排查变为工作流一键扫描。

案例介绍

在内容合规审核场景中,人工逐行排查文档中的敏感词既耗时又容易遗漏。一篇数千字的文章,审核人员往往需要反复阅读、逐词比对敏感词库,效率低下且标准不一;面对海量文章、评论、合同等文本,传统人工审核更是力不从心,漏审风险随时可能演变为合规事故。本案例通过华为开发者空间AgentArts企业级智能体开发平台,构建"敏感词猎手"工作流应用,实现文档内容审核的自动化与智能化,让风险词汇无处藏身。

本案例基于华为开发者空间,采用AgentArts企业级智能体开发平台结合MaaS平台大模型,构建内容敏感词检测工作流。案例完整演示了从工作流创建、节点配置、试运行验证到发布API调用的全流程操作,帮助开发者快速掌握AgentArts工作流编排能力。

案例技术选型:

  • AgentArts开发平台:华为云企业级智能体开发平台。提供可视化工作流编排、插件市场、模型管理等一站式AI应用构建能力,支持任务型工作流和对话型智能体两种创建模式。本案例中作为核心开发平台,通过任务型工作流编排实现敏感词检测的自动化流程。
  • 华为云MaaS平台:华为云ModelArts大模型服务平台。提供DeepSeek-V4-Flash等丰富预训练模型,支持OpenAI兼容接口快速接入。本案例中为工作流提供大模型智能能力,驱动内容提取与敏感词分析等核心AI节点。

通过AgentArts工作流编排与MaaS大模型的深度融合,实现文档敏感词检测的自动化场景,让内容审核告别人工逐行排查,开启智能风控新时代。

001.png


本案例中的敏感词检测工作流共包含 6 个节点:

  1. 【开始】节点:负责接收被检查的文件以及敏感词词库。
  2. 【内容读取器】节点:底层调用“文件解析(Read_File)”插件,用于提取被检查文件中的原始文本内容。
  3. 【内容提取器】节点:底层为一个大模型,通过 MaaS 平台提供的模型能力,对被检查的文件内容进行总结与归纳整理。
  4. 【判断】节点:判断被检查文件中是否包含敏感词。若包含,则将信息传递给【内容搜查器】节点;若不包含,则直接传递给【结束】节点。
  5. 【内容搜查器】节点:接收【判断】节点传递的信息,分析文件中的具体敏感词,并将分析结果输出给【结束】节点。
  6. 【结束】节点:接收并输出敏感词分析的最终结果。
【声明】本内容来自华为云开发者社区博主,不代表华为云及华为云开发者社区的观点和立场。转载时必须标注文章的来源(华为云社区)、文章链接、文章作者等基本信息,否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

评论(0

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。