克日，据媒体报道，美国国防高级研究设计局(DARPA)现在正在起劲资助其中的一部门变为“白盒”。

　　智能署理和军事操作职员在注释大规模数据和控制逐渐增进的军事自助系统时,可能会异常依赖于机械学习手艺。现在美军希望确定，它们并不是在盲目地依赖着这些人工智能算法。

　　DARPA 的项目经理 David Gunning说：“我们现在真的面临着AI手艺的大爆炸。”

　　David Gunning正在着力于资助一些可以对它们自身手艺和推算举行注释的AI手艺的开发。 他示意，其事情的重点主要就是机械学习和深度学习。

　　深度学习和其他机械学习手艺已经如暴风雨一样洗礼了整个硅谷，这些手艺很大的改进了语音识别和图像分类手艺。这些机械学习手艺也逐渐被用于更多的领域中，比如说执法执行和医药，这些一旦发生错误就会造成严重后果的领域。

　　虽然深度学习可以异常好地找到数据中的模子，然则现在我们照样不领会它是若何做到的。从数学的角度出发，深度学习对数据的学习历程是异常庞大的。以是在许多时刻，这些学习历程并不能被人们明白。

　　深度学习稀奇难以注释，注释其他机械学习手艺也可能同样具有挑战性，David Gunning说：“这些模子都异常地不透明，以是很难让人们注释，尤其是当他们不是AI领域的专家的时刻。”

　　由于深度学习稀奇的庞大，以是它显得更为神秘。简朴来说，深度学习是受启发于脑神经元对输入信息举行响应从而学习的历程。许多层的模拟神经元和突触都被符号上了数据，这些神经元和突触的行为在学习的工程中不停被调整，直到它们学会若何举行识别。

　　比如说，直到他们学会若何识别一种图片中的猫。然则通过机械学习出来的模子，是被数百万个神经元作为加权特征的值而编码的，以是磨练一遍这个模子是异常具有挑战性的。当一个深度学习网络可以识别一只猫的时刻，我们并不知道这个学习系统到底是聚焦在这个图片中的猫须，猫咪的耳朵，照样猫咪的毯子上的。

　　通常，机械学习是否透明可能并不是很主要，然则对于一个试图识别潜在目的的情报官员来说，他在使用的机械识别手艺是否透明就很主要了。David Gunning说：“在一些关键性的应用上，是需要注释的。”

　　David Gunning弥补说道，军方现在正在开发许多自助系统，毫无疑问这些系统将很大程度上依赖于机械学习手艺，比如说深度学习、自动驾驶汽车、无人机。这些系统也将在未来的几年中逐渐投入到使用中，这些系统对军事领域的影响也会越来越大。

　　可注释性并不是只对验证效果有用，它同样也可以防止事情失足。一个通过单纯的关注图片纹理部门而学会对猫咪举行分类的图片分类系统，很可能就会被一个毛茸茸的地毯而误导。以是提供算法的注释，可以让研发职员提高其系统的健壮性，也可以辅助依赖于这些算法的系统制止许多错误。

　　DARPA 正在资助13个差别的研发团队，这些团队正在致力于探索一系列的方式，让AI手艺加倍透明，加倍容易注释。

　　一个正在受资助的团队来自于Charles River Analytics——一家为林林总总的客户开发高科技工具的公司。它们的客户之一就是美国军方。这个团队现在正在致力于开发包罗注释器的新的深度学习系统，比如说可以符号与图片分类最相关的图片区域的学习系统。这个团队的研究职员也在对计算机的接口举行探索，他们希望找到可以让机械学习系统在处置数据，举行可视化，甚至自然语言处置时，变得加倍明确的计算机接口。

　　来自德州农工大学 Xia Hu 教授示意，这些研究同样对其他正在应用人工智能手艺的领域异常主要，比如说医药、执法和教育领域。若是这些机械学习算法，没有合理的注释或者推算历程的话，许多专家不会信赖由这些机械学习所发生的效果。这也是为什么许多领域的专家，拒绝使用机械学习或者深度学习手艺。