中科院软件所薛云志解读《中国人工智能开源软件发展白皮书》

　　2018年7月1日，中国人工智能开源软件发展联盟成立大会在北京顺利召开。本次大会作为2018中国国际软件博览会的平行论坛，是由工业和信息化部、北京市人民政府共同主办，并由中国电子技术标准化研究院、中国人工智能开源软件发展联盟(筹)具体承办。另外，环球 作为战略媒体参与大会前期筹备与大会宣传。大会主题是“开源引领 标准支撑 推动人工智能产业发展”。

在此次大会上，中科院软件所薛云志研究员针对《中国人工智能开源软件发展白皮书》进行解读。

以下是原文速录：

尊敬的何积丰院士，尊敬的各位领导，各位专家，下面我代表编写组向大家汇 一下《人工智能 深度学习法评估规范》

第一个背景，我们所熟悉的很多领域，前面几位领导、专家都提到在数据，在很多领域都有着非常广泛的应用。

第二个背景，虽然现在应用的背景很多，可以看到在很多场合，这些应用是，我们可以看到一些应用，对深度学习算法比较熟悉，这是一个问题。像左边的这些图非常典型的，我们把一张图和这样一张照片做一个图型的分类器，这是一个理论性的成果，在实际上面也有，在特斯拉，其实事故发生的原因，是一辆白色的大挂车它转弯的时候入到特斯拉的摄像头里，它就认为那里什么都没有，所以导致了自动驾驶没有采用任何动作，直接撞上去。这些研究成果和实际的应用成果，在现在人工智能自动算法有越来越多的问题。我们也可以看到在国际上也好，在AI的战略评估中有很多布局，像类似于美国的人工智能研究发展战略规划，他提出了7个战略，其中4个都是跟测试和标准有关。在国内的是去年人工智能发展规划，用了很长的篇幅去提到，在人工智能算法测试平台。

第四个方面，我们在前面的工作中遇到的，我们曾经尝试使用现有的一些系统考核软件测试标准，尝试去做深度学习算法，其实现在的标准和规范没法应用过来，我们也和业界专家分析了很久，发现过去软件主要是程序，我们写出来程序，但是现阶段深度学习算法，因为我们深度学习算法是一个神经 络，程序设计好以后，再把它训练出来，它的行为特征和过去软件行为特征就是不一样，所以说导致现在的这些已有的在可靠性，在质量方面的标准，无论是国内的国际标准基本都没有办法完整的应用到这方面来。

所以在这些背景上，我们尝试去做深度学习算法方面的评估规范，在目前规范当中，主要侧重在做可靠性，当然后续我们也进一步的会把一些信用等等都做好，目前这个规范，先给大家介绍目标，目标主要想把深度学习算法能够正确的实施了一个新的功能，同时要确保深度学习算法在它失效的时候，不要引起严重的失效，引起严重的问题，做这个标准的思路是，我们从它的后果来出发，一个算法，从目标所造成的倒推去做，同时也和实际的软件开发过程来结合起来，和整个深度学习算法开展周期，我们把它分成需求、设计、运行几个阶段去做。

规范使用，这里包含算法的审查和分析，动作都已经包含了，同时我们也在请教各个相关方开发，希望各个相关方在框架之下，那在整个规范的评估体系是这样，我们一共提出了7个应急指标，这些指标共同组成了深度学习的评估体系，涵盖了我们算法的方方面面都算了，不同角度区分，第一个方面是算法功能，这个包含了一般所说的算法的视觉化，涉及到准确率、自然语言处理等等。

第二个是跟传统的软件开发相关的，涉及到代码识别。

第三个这可能是深度学习，设计的范围是不是好。

第四个训练数据集成共享，它的行为特征。

第五个方面是样本，包括在前面也向大家介绍过，现在还没完全数据驱动的方式不可避免的问题，我们怎么去解决这个问题。

第六个方面关于软硬件平台的依赖，因为现在在做深度学习算法不仅仅是在CPU上，在GPU上也会涉及到很多，以及在各种深度学习的框架上去做，不同的平台是不是会对我们可靠性造成影响也是需要着重考虑的。

第七个环境数据，对整个环境数据，深度学习算法运行以后，在设计的时候，在训练的时候那些数据是不是一样的，因为很多情况下，发现我们数据不一样，算法的可靠性，我们需要对它心里有数，所以我们把整个数据分成七个一级指标。

这七个一级指标，我们分别在需求、设计、实践和运行阶段都分别做了描述，也分别建立了每个活动所需要的深入关键的动作以及输出，都有一个相对比较框架性的要求。