整理近年来关于《人工智能》的标准和评估规范（1）

前言

我们在人工智能领域研发、开发和应用时，需要有专业性的标准、标准化的指标、或评估规范等，在网上查找了一段时间，发现很多资料并不可靠，或简单介绍，让人头大呀；这里整理了一些比较专业的资料，分享给大家。

主要包括：

1. 人工智能安全标准白皮书（2019）

2. 人工智能标准化与开源研究报告（2019）

3. 人工智能伦理风险分析报告（2019）

4. 人工智能标准化白皮书（2018）

5. 中国人工智能开源软件发展白皮书（2018）

6. 人工智能 深度学习算法评估规范（2018）

一、人工智能安全标准白皮书（2019）

1）来源

全国信息安全标准化技术委员会

大数据安全标准特别工作组

2）更新时间：2019年10月

3）前言

       需要加强人工智能发展的潜在风险研判和防范，维护人民利益和国家安全，确保人工智能安全、可靠、可控。人工智能（Artificial Intelligence，简称AI）经过60多年的演进，已发展成为研究和开发用于模拟、延伸和扩展人类智能的学科。近年来，在算法、算力和数据三大因素的共同驱动下，人工智能进入加速发展的新阶段，成为经济发展的领头雁和社会发展的加速器。目前世界主要国家均把人工智能作为国家发展战略。2017年我国发布《新一代人工智能发展规划》，将发展新一代人工智能上升至国家战略高度。随着人工智能在相关行业和人民社会生活中的深度融合应用，由此带来的国家安全、社会伦理、网络安全、人身安全和隐私保护多个层面的风险和挑战，也引起了社会的广泛关注。

人工智能安全标准化是人工智能产业发展的重要组成部分，在激发健康良性的人工智能应用、推动人工智能产业有序健康发展方面发挥着基础性、规范性、引领性作用。《新一代人工智能发展规划》中明确提出了“要加强人工智能标准框架体系研究，逐步建立并完善人工智能基础共性、互联互通、行业应用、网络安全、隐私保护等技术标准”，切实加强人工智能安全标准化工作，是保障人工智能安全的必由之路。

为推动人工智能技术健康、快速、安全、有序的发展和推广应用，全国信息安全标准化技术委员会（以下简称“全国信安标委”）下设的大数据安全标准特别工作组启动了《人工智能安全标准化白皮书》编制工作，本白皮书主要围绕人工智能本身的安全，详细分析人工智能发展现状，面临的主要安全威胁和风险挑战，梳理总结国内外人工智能安全法规政策和标准化组织标准化工作进展。在此基础上，对人工智能安全标准化需求进行深入辨析，提出人工智能安全标准框架和标准化工作建议。

4）编写单位

中国电子技术标准化研究院
清华大学
北京百度网讯科技有限公司
华为技术有限公司
三六零科技集团有限公司
阿里巴巴（中国）有限公司
中国移动通信集团有限公司
中国人民大学
浙江蚂蚁小微金融服务集团股份有限公司
国际商业机器(中国)有限公司
北京天融信网络安全技术有限公司
联想（北京）有限公司
上海依图网络科技有限公司
深信服科技股份有限公司
深圳市腾讯计算机系统有限公司
北京三快在线科技有限公司（美团点评）
奇安信科技集团股份有限公司
陕西省网络与信息安全测评中心
北京猎户星空科技有限公司
中国科学院大学自动化研究所
四川大学
内蒙古自治区大数据发展管理局
维沃移动通信有限公司
北京大学
北京神州绿盟信息安全科技股份有限公司
阿里云计算有限公司
上海观安信息技术股份有限公司
OPPO广东移动通信有限公司
中国平安保险（集团）股份有限公司

5）目录

一、人工智能概述…………………………………………………………… 1
  1.1 人工智能迎来第三次发展浪潮 ………………………………… 1
  1.2 人工智能技术与应用进展显著 ………………………………… 2
  1.3 人工智能产业链初具规模 ……………………………………… 4
  1.4 我国人工智能应用场景广阔 …………………………………… 6
  1.5 人工智能总体发展水平仍处于起步阶段 ……………………… 7
二、人工智能安全法规政策和标准化现状………………………………… 9
  2.1 人工智能安全法律法规和政策 ………………………………… 9
    2.1.1 国际国外情况 ……………………………………………… 9
    2.1.2 国内情况 …………………………………………………… 15
  2.2 主要标准化组织人工智能安全工作情况 ……………………… 17
    2.2.1 ISO/IEC JTC1 ……………………………………………… 17
    2.2.2 ITU-T ……………………………………………………… 18
    2.2.3 IEEE ………………………………………………………… 18
    2.2.4 NIST ………………………………………………………… 21
    2.2.5 TC260 ……………………………………………………… 22
    2.2.6 其他标准化组织 …………………………………………… 25
  2.3 人工智能伦理道德工作情况 …………………………………… 26
三、人工智能安全风险分析与内涵………………………………………… 29
  3.1 新的攻击威胁 …………………………………………………… 29
  3.2 人工智能安全隐患 ……………………………………………… 31
    3.2.1 算法模型安全隐患 ………………………………………… 31
    3.2.2 数据安全与隐私保护隐患 ………………………………… 33

3.2.3 基础设施安全隐患 ………………………………………… 36
    3.2.4 应用安全隐患 ……………………………………………… 37
    3.2.5 人工智能滥用 ……………………………………………… 38
  3.3 安全影响 ………………………………………………………… 39
  3.4 人工智能安全属性和内涵 ……………………………………… 41
四、人工智能安全标准体系………………………………………………… 44
  4.1 人工智能安全标准化需求分析 ………………………………… 44
  4.2 人工智能安全标准与其他领域标准的关系 …………………… 46
  4.3 人工智能安全标准体系 ………………………………………… 46
    4.3.1 人工智能基础性安全标准 ………………………………… 47
    4.3.2 人工智能数据、算法和模型安全标准 …………………… 48
    4.3.3 人工智能技术和系统安全标准 …………………………… 48
    4.3.4 人工智能管理和服务安全标准 …………………………… 49
    4.3.5 人工智能测试评估安全标准 ……………………………… 50
    4.3.6 人工智能产品和应用安全标准 …………………………… 50
五、人工智能安全标准化工作建议………………………………………… 51
附录A 人工智能相关安全标准 ……………………………………………… 55
  A.1 TC260人工智能安全标准研究项目 …………………………… 55
  A.2 TC260人工智能安全相关标准 ………………………………… 56
  A.3 ISO/IEC JTC1/SC42人工智能安全相关的标准 ………………… 57
附录B 人工智能应用安全实践案例 （排名不分先后）  ………………… 58
  B.1 百度人工智能安全实践 ………………………………………… 58
  B.2 猎户星空人工智能安全实践 …………………………………… 61

B.3 清华大学人工智能安全实践 …………………………………… 63
  B.4 依图人工智能安全应用实践 …………………………………… 66
  B.5 IBM人工智能安全实践 ………………………………………… 69
  B.6 深信服人工智能安全实践 ……………………………………… 72
  B.7 360 人工智能安全实践 ………………………………………… 75
  B.8 阿里巴巴人工智能安全实践 …………………………………… 78
  B.9 华为人工智能安全实践 ………………………………………… 82
参考文献  …………………………………………………………………… 85

6）资料下载

链接：https://pan.baidu.com/s/1CQOiObjZrc_k5_KEghLHyA 
提取码：xwng

7）版权申明：资料来源中国电子标准化研究院的官网

http://www.cesi.cn/201911/5733.html

二、人工智能标准化与开源研究报告（2019）

1）来源    

国家人工智能标准化总体组

2）更新时间：二零一九年四月

3）前言：

背景及目的

自 2013 年以来，随着深度学习技术的不断发展，引发了新一轮人工智能热潮，诸如：AlphaGo、刷脸支付、无人驾驶、AR、无人超市等应用层出不穷。大量资本和并购的涌入，加速了人工智能和产业的结合，人工智能甚至有可能成为是继蒸汽机、电力和计算机之后，人类社会的第四次革命。人工智能（Artificialintelligence，AI）是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。在历史上，人工智能有过很多个定义，但是迄今为止没有一个官方的、统一的、正式的定义。人工智能最早由麻省理工学院的 John McCarthy 在 1956 年的达特矛斯会议上提出的：人工智能就是要让机器的行为看起来就像是人所表现出的智能行为一样。

世界各国纷纷将发展人工智能作为抢抓下一轮科技革命先机的重要举措。随着人工智能领域国际竞争的日益激烈，2017 年国务院印发《新一代人工智能发展规划》，提出我国新一代人工智能发展的指导思想、战略目标、重点任务和保障措施，为部署构筑我国人工智能发展的先发优势，加快建设创新型国家和世界科技强国构建了基础。

本报告中的开源指源码公开、源数据公开及其他成果形式（如软件、系统或平台架构等）的公开。近年来开源技术蓬勃发展，诸如计算机视觉开源社区OpenCV、开源数据集 ImageNet、开源智能终端操作系统 Android 和其他大量开源工具及平台，无不表明开源创新与协同有力推动了产业进程。同理，人工智能尤其是深度学习相关的开源蓬勃发展，也将对我国人工智能相关产业产生积极影响。

第一，人工智能开源有助于支撑人工智能领域形成高端产业集群优势，逐步引领世界前沿技术的发展。
第二，人工智能开源有助于吸引更多人才进入人工智能产业，建设多层次人才培养体系。
第三，人工智能开源有助于推动人工智能广泛应用，加快推动人工智能与各行业的融合创新和赋能。

4）编写单位 （排名不分先后）

中国电子技术标准化研究院                     中国科学院自动化研究所
华为技术有限公司                                   北京深睿博联科技有限责任公司
腾讯计算机系统有限公司                        成都四方伟业股份有限公司
京东数字科技控股有限公司                     英特尔（中国）有限公司
威麟信息技术开发（上海）有限公司      国际商业机器（中国）投资有限公司
深圳前海微众银行股份有限公司             机械工业第六设计研究院有限公司
浪潮软件集团有限公司                            深圳市商汤科技有限公司
重庆邮电大学                                         华夏芯(北京)通用处理器技术有限公司
南京云问网络技术有限公司                    西门子（中国）有限公司
中国电力科学研究院有限公司                金税信息技术服务股份有限公司
深圳云天励飞技术有限公司                    上海智能制造系统创新中心有限公司
重庆中科云从科技有限公司                    天津天大康博科技有限公司
苏州苏相机器人智能装备有限公司

5）目录

第一章 概述..................................................................................................................1
1.1 背景及目的....................................................................................................1
1.2 本报告的价值................................................................................................2
1.3 本报告的脉络梳理与导读............................................................................3
第二章 AI 产业现状及开源面临的宏观问题..............................................................4
2.1 AI 产业现状及产业链....................................................................................4
2.1.1 基础层................................................................................................5
2.1.2 技术层................................................................................................6
2.1.3 行业应用层........................................................................................7
2.2 AI 开源所存在的问题....................................................................................9
2.2.1 法律道德问题....................................................................................9
2.2.2 潜在锁定风险..................................................................................10
2.2.3 安全问题..........................................................................................10
2.2.4 标准统一问题..................................................................................10
2.2.5 版本兼容性问题..............................................................................11
2.2.6 行业问题..........................................................................................11
第三章 AI 开源生态现状............................................................................................12
3.1 AI 开源全栈（聚焦机器学习及深度学习）..............................................12
3.1.1 芯片使能..........................................................................................13
3.1.2 分布式集群......................................................................................15
3.1.3 大数据支撑......................................................................................16
3.1.4 数据管理..........................................................................................17
3.1.5 模型格式..........................................................................................18
3.1.6 深度学习框架..................................................................................18
3.1.7 机器学习框架..................................................................................19
3.1.8 知识图谱（知识库）......................................................................20
3.1.9 强化学习..........................................................................................20

3.1.10 模型中间表示层 IR........................................................................21
3.1.11 端侧推理框架................................................................................22
3.1.12 高级 API..........................................................................................23
3.1.13 开放数据集....................................................................................24
3.1.14 分布式调度....................................................................................26
3.1.15 可视化工具....................................................................................27
3.1.16 模型市场........................................................................................27
3.1.17 应用类项目....................................................................................28
3.2 开源组织......................................................................................................32
3.2.1 开源中国..........................................................................................32
3.2.2 开源社..............................................................................................33
3.2.3 OpenI 启智开源开放平台...............................................................35
3.2.4 Linux 基金会.................................................................................... 36
3.2.5 OpenStack 基金会........................................................................... 37
3.2.6 Apache 基金会.................................................................................38
3.3 组织/机构参与开源的角色及目的............................................................ 39
第四章 AI 开源技术目前在落地中存在的问题与差距............................................40
4.1 AI 在应用时的总体工作流..........................................................................41
4.1.1 概述..................................................................................................41
4.1.2 经过抽象的工作流实现..................................................................44
4.1.3 实际应用的 AI 工作流应具备的特点.............................................47
4.2 当前 AI 技术在行业应用中的现状及问题.................................................48
4.2.1 交通领域..........................................................................................48
4.2.2 油气领域..........................................................................................50
4.2.3 公共安全领域..................................................................................52
4.2.4 工业领域..........................................................................................55
4.2.5 电力领域..........................................................................................58
4.2.6 金融领域..........................................................................................60
4.2.7 医疗领域..........................................................................................62

4.3 问题总结及应对思路..................................................................................64
4.3.1 AI 开源软件的数据支持..................................................................65
4.3.2 AI 开源软件的算法..........................................................................66
4.3.3 AI 开源软件的分布式基础设施......................................................67
第五章 AI 数据开放及协同........................................................................................69
5.1 AI 数据的关系和需求..................................................................................69
5.1.1 面对的挑战......................................................................................69
5.1.2 AI 数据开放和协同中的相关方......................................................71
5.2 AI 数据开放和协同中相关行业分析..........................................................72
5.2.1 政府角度分析..................................................................................73
5.2.2 医疗行业分析..................................................................................74
5.2.3 金融行业分析..................................................................................76
5.2.4 交通行业分析..................................................................................77
5.2.5 物流行业分析..................................................................................78
5.2.6 制造行业分析..................................................................................80
5.2.7 教育行业分析..................................................................................81
5.2.8 石油行业分析..................................................................................82
5.3 AI 数据开放和协同的可行性......................................................................83
5.3.1 顶层设计..........................................................................................83
5.3.2 法律法规..........................................................................................84
5.3.3 数据治理..........................................................................................85
5.3.4 开源数据平台建设..........................................................................85
5.4 潜在解决方案..............................................................................................86
5.4.1 中心化模式......................................................................................87
5.4.2 混合型模式......................................................................................89
5.4.3 去中心化模式..................................................................................90
5.4.4 没有初始数据的模式......................................................................92
第六章 AI 领域开源与标准的关系............................................................................93
6.1 开源与标准联动的案例..............................................................................93

6.1.1 容器..................................................................................................93
6.1.2 大数据文件格式..............................................................................94
6.1.3 OPNFV（网络功能虚拟化）.......................................................... 95
6.2 AI 领域开源与标准联动的思考..................................................................96
6.3 本次标准机遇研究的范围与内容..............................................................97
6.3.1 行业应用标准..................................................................................98
6.3.2 AI 平台标准......................................................................................98
6.3.3 安全标准........................................................................................104
6.3.4 应用智能化水平评估....................................................................105
6.4 制定人工智能标准中要考虑的因素........................................................106
6.4.1 伦理与社会关注............................................................................106
6.4.2 监管与治理因素............................................................................107
6.4.3 把握开源与标准平衡，促进创新与产业发展............................108
结 语..........................................................................................................................109
附录 A........................................................................................................................110
表 A.1 AI 开源项目社区活跃度指标统计........................................................110
附录 B.........................................................................................................................113
表 B.1 第五章技术术语表................................................................................113
表 B.2 第六章技术术语表................................................................................115

6）资料下载

链接：https://pan.baidu.com/s/1av4ZHASA12FyMmtBTv5RVQ 
提取码：3641

7）版权申明：资料来源中国电子标准化研究院的官网

http://www.cesi.cn/201904/5037.html

三、人工智能伦理风险分析报告（2019）

1）来源    

国家人工智能标准化总体组

2）更新时间：二零一九年四月

3）前言：

人工智能伦理研究的背景与意义

我国人工智能的应用范围极广。从行业应用的角度看，在制造、物流、医疗、教育、安防等行业都有广泛应用。以制造业为例，当前的制造业不论是生产、流通还是销售，都正趋于数据化、智能化。大数据和人工智能技术可以协助企业分析生产过程中的全链路数据，实现生产效率、库存周转率、设备使用效率提升等目标。在智能制造进程中，工业机器人成为人工智能的典型代表，成为智能制造的重要实现端之一。就物流行业而言，人工智能的技术应用主要聚焦在智能搜索、推理规划、模式识别、计算机视觉以及智能机器人等领域。如今，现代物流企业纷纷尝试利用人工智能技术优化物流环节、提高物流效率。人工智能还能够帮助企业根据市场销售情况、供应链生产情况、物流配送、仓储库存水平，甚至每个环节的容错概率等等进行精准排产，最大限度利用已有资源。人工智能在医疗健康主要的应用领域则包括五个方面：临床决策支持、临床辅助诊疗系统、患者管理、辅助手术和患者照护的自动设备，即各种机器人、医疗机构的管理以及新药的研发。

人工智能在自动驾驶、医疗、传媒、金融、工业机器人以及互联网服务等越来越多领域和场景下得到应用，一方面带来了效率的提升、成本的降低，，另一方面，人工智能系统的自主性使算法决策逐步替代了人类决策，而这种替代有时非但没有解决已有的问题，还让已有的问题更难解决，甚至给社会带来了全新的问题。这些问题不仅仅引发社会的广泛讨论，更是限制人工智能技术落地的重要因素。

4）编写单位 （排名不分先后）

中国电子技术标准化研究院                          北京九天微星科技发展有限公司
中国人民大学                                                国家电网有限公司
北京理工大学                                                苏州中德宏泰电子科技股份有限公司
深圳市腾讯计算机系统有限公司                    中国航空综合技术研究所
北京航空航天大学                                         上海电器科学研究所（集团）有限公司
大成律师事务所                                             北京爱奇艺科技有限公司
京东数字科技控股有限公司                           北京西普阳光教育科技股份有限公司
昆山炫生活信息技术股份有限公司                华为技术有限公司
美国科文顿柏灵律师事务所                           中国船舶重工集团公司第七一六研究所
美团点评 西门子（中国）有限公司

5）目录

第一章 人工智能伦理研究的背景与意义..................................................................1
第二章 国内外人工智能伦理发展现状......................................................................3
2.1 国外发展现状................................................................................................3
2.2 国内发展现状................................................................................................6
第三章 人工智能技术的伦理风险..............................................................................8
3.1 算法相关的伦理风险....................................................................................9
3.1.1 算法安全............................................................................................9
3.1.2 算法可解释性..................................................................................10
3.1.3 算法决策困境..................................................................................14
3.2 数据相关的伦理风险..................................................................................15
3.2.1 隐私保护..........................................................................................15
3.2.2 个人敏感信息的识别和处理..........................................................17
3.3 应用相关的伦理风险..................................................................................19
3.3.1 算法歧视..........................................................................................19
3.3.2 算法滥用..........................................................................................24
3.4 长期和间接的伦理风险..............................................................................26
3.4.1 算法与就业......................................................................................26
3.4.2 算法与产权......................................................................................27
3.4.3 算法与竞争......................................................................................27
3.4.4 算法责任..........................................................................................28
第四章 人工智能伦理原则........................................................................................29
4.1 人类根本利益原则......................................................................................31
4.2 责任原则......................................................................................................31
第五章 伦理风险评估及其管理................................................................................33
5.1 人工智能伦理风险评估指标......................................................................33
5.1.1 算法方面..........................................................................................33
5.1.2 数据方面..........................................................................................34
5.1.3 社会影响方面..................................................................................34

5.2 行业实践指南..............................................................................................35
5.2.1 风险管理框架..................................................................................35
5.2.2 风险管理流程..................................................................................37
5.2.3 对相关人员进行培训......................................................................39
5.2.4 定期进行风险评估..........................................................................39
第六章 结论................................................................................................................40
附录：国外有关人工智能基本原则的文献..............................................................42

6）资料下载

链接：https://pan.baidu.com/s/1tgt27qIQFJLc0xYL3fccrw 
提取码：s593

7）版权申明：资料来源中国电子标准化研究院的官网

http://www.cesi.cn/201904/5036.html

由于华为云的博客最多只能写2万字，只能在 整理近年来关于《人工智能》的标准和评估规范（2） 介绍剩下的内容了。

( •̀ ω •́ )y