【逐日科技网】

 　　Facebook 关闭‘失控’人工智能系统，因其生长出人类无法明晰的语言。

　　吓死了。

　　事情是这样的：据“外媒报道”，Facebook 开发的谈天机械人缔造了自己的语言。虽然语言照样英语，但人类无法明晰。

　　文章泉源是 TechWeb 的编译组。“Facebook 不得不拔掉其研究人员正在研究的人工智能系统的插头，由于事情失控了”，TechWeb 写道。

　　关于“人工智能是否邪恶”的话题，Facebook 创始人扎克伯格上周还在跟特斯拉 CEO 马斯克争吵。马斯克站正方，以为人工智能异常值得担忧，扎克伯格站反方，以为人工智能很有益处，担忧完全是过虑。

　　以是……小扎就这么快打脸了?曾在著名科幻电影《终结者》中泛起过的“SkyNet”(天网)，真的来临了?

　　负疚，这完全是在胡扯。我们来看看到底是怎么一回事。

　　Facebook 的人工智能研究院 (FAIR) 想要训练一个谈天机械人，让它学会谈判。于是他们开发了一个人工智能系。为了辅助人人明晰，我们一步一步注释：

　　Facebook 用了一个神经网络结构来开发这个系统。这个结构叫做“天生式匹敌网络”(Generative Adversarial Networks)，以下简称 GAN。

　　你可以把神经网络明晰为一种多层次的、模拟人脑神经元之间相互连接的思索方式的“电脑程序”。

　　而 GAN 是一种在现在异常先进的神经网络结构，可以明晰为两个神经网络玩《街霸》。玩的越多、时间越长，人人的水平都市越来越高。固然，GAN 也有三个甚至更多个神经网络的结构。

　　谈天机械人你一定很见过：苹果 Siri 就是一个。亚马逊 Alexa 和 Google Assitant 也是。

　　Facebook 的这项研究也是云云。研究人员训练了这样一个谈天机械人，让它带着“目的”和人类对话。而这个目的也很简朴：一共有两本书，一顶帽子和三个篮球，三样器械划分设定了差别的权重，为的是让机械人明晰它到底对这些器械有多想要，然后去和人谈判。

　　Facebook 观察到的效果是对照正常的，体现在下图中：

　　然则人跟机械人谈天已经不稀奇了……俩机械人能聊成啥样?研究人员都很感兴趣。

　　今天的对话就发生在谈天机械人 Alice 和谈天机械人 Bob 之间：

　　什么鬼?

　　原来，研究人员在把这两个谈天机械人拼到一起，但忘了给神经网络设定“用英语相同”的激励。

　　适才说了，神经网络是个程序，内里有一大堆种种线性的数学公式。但有时刻线性的公式无法取得想要的效果，有些非线性的需求没法用线性公式表达出来，这时刻就要设定一个激励函数。激励这件事对于神经网络，简朴来说就是告诉神经网络“这样做得分更高”——傻子都能明晰。

　　“坚持用英语语言没有激励，”这个研究小组的成员之一，佐治亚理工学院的访问学者 Dhruv Batra 这样注释 Alice 和 Bob 新鲜的对话。“机械人会脱线发现一些它们之间才气明晰的句法。”

　　效果，Alice 和 Bob 就聊成了这样。等于是研究人员告诉了它们：“请用英文”，但忘了告诉它们：“请用英文语法”。

　　研究人员真的是由于“事情失控了”，才“不得不拔掉系统的插头”吗?事情真的像听上去那样令人心惊胆颤吗?

　　并非云云。

　　“我们的目的是让机械人和人谈天(提高和人谈天的技巧)。”小组的另一名研究员 Mike Lewis 指出，Alice 和 Bob 的对话基本就是个试验而已，让两个谈天机械人谈天基本没有意义。

　　而且，Alice 和 Bob 基本就没有发现新的语言，由于他们照样在用“i”、“balls”、“the” 等英文单词相同，只是缔造了一种新的表达方式而已。

　　而且他们“发现”的新语言，人类真的听不懂吗?

　　再看一遍它们的对话：

　　Bob: I can i i everything else

　　Alice: balls have zero to me to me to me to me to me to me to me to me to

　　Bob: you i everything else

　　Alice: balls have a ball to me to me to me to me to me to me to me to me

　　若是你明晰了前面形貌的试验目的，很容易就能明晰它们的套路。句法简直是乱的，但一句话里 to me 重复的越多，这个器械对它的意义越大(权重越高)。

　　翻译过来就是：

　　Bob：我可以我任何其他(其他任何器械都可以给你)

　　Alice：球有0对我对我对我对我对我对我对我对我(我没有球，球对我稀奇稀奇稀奇稀奇稀奇稀奇稀奇稀奇主要)

　　Bob：你我任何其他(你可以拿走其他任何器械)

　　Alice：球有球对我对我对我对我对我对我对我对我(我要球，球对我稀奇稀奇稀奇稀奇稀奇稀奇稀奇稀奇主要)

　　难明晰吗?

　　而且基本不是在谈判，就是很通俗的表达而已。不给就吵嘛……

　　Facebook并没有“关掉”这个系统，而是重新设定了准确的激励，修正了机械人的行为，让机械人用尺度的英文语法来举行交流。修正的缘故原由也不是由于畏惧 AI 失控——他们的目的是让机械人和人谈天(提高和人谈天的技巧)。两个谈天机械人谈天基本没有意义。

　　GAN 这个器械，苹果曾经用它搭建了一个系统，让它自动合成足以以假乱真的图片。但设计的目的并非欺骗人，而是为学界和业界的其他研究者带来辅助。由于训练神经网络需要大量的图片，但世界上已有的、已符号的图片数据库也就那么多，苹果的这项研究，能自动建立带符号的、能被用来训练的图片，解了人人燃眉之急。

　　今年二月，我先容过 Google 本部的人工智能团队 Google Brain 做的另外一个实验：同样用 GAN，他们训练了三个机械人 Alice、Bob 和 Eve，让 Alice 和 Bob 俩人从零开始琢磨出一个加密方式，让 Eve 来猜。这三个网络的加密学知识都是 0，但随着训练次数越来越多，Alice 和 Bob 默契越来越好，Eve 也破解不了。

　　——这才是发现了人类都不懂的语言。可也没看见 Google 着急啊。

　　人工智能能够辅助人类做许多事情。好比图像识别手艺就被投入到图片搜索引擎中。当你在搜索引擎里搜索关键词，选择图片，才气找到相符形貌的照片。

　　再好比语音识别和自然语言明晰手艺。当你和 Siri、Alexa 语言的时刻，它们才气对照准确地明晰你的意图。

　　从神经网络手艺的生长水平来看，人工智能简直很厉害了。但我可以告诉你的是：图像识别、语言明晰准确度上能做到现在这么高，完全是由于人类编程调优的效果。

　　它既不知道自己是谁，也不知道自己在哪儿，更不知道自己在干什么。

　　以是和人工智能相比，那些整天瞎吹人工智能威胁论的人才更恐怖 吧……

　　人工智能是不是恶魔? 为了这问题，马斯克和小扎快吵翻脸了

　　从实验室到行业应用，人工智能的“进化”需要跨过这些门槛

　　加入百度5个月后，渡鸦科技给他们的产物来了一次大升级

　　把语音助手塞进1986年产的收音机，朋克感瞬间涨100%