(原题目：用AI监测员工大脑流动：一种未来形而上学)

　　漫画/刘俊

　　科技考察

　　设想一个人的大脑出于善意的目的而被监控，这里边实在隐藏着很大的伦理风险。人性是不能试探的，就如神圣是不能试探的一样。

　　据报道，海内有工厂引进员工脑电波扫描系统，敷设在工人帽子上的传感器追踪脑电波。在工人整个值班时代，传感器会连续网络脑流动数据，通过对这些数据的剖析，能获悉工人的焦躁、抑郁和消极心态。此时把工人送去休息，或许有利于生产效率和企业的人文建设。

　　据该报道，海内某电力公司从2014年起最先对员工使用情绪监控手艺，今后盈利增长了约20亿人民币。

　　另外，据美国媒体报道，上海一家医院采用了脑造影术，是很先进的前沿手艺。该系统对病人的脑部流动举行扫描，借助智能监测摄像头剖析他的脸部，同时在病床下面安装一种确定机体运动和姿势的传感器。

　　这可以说明，用人工智能监测大脑，在手艺上已经成为可能。那么，我们是否可以依赖脑电波扫描系统?若是系统犯错，或者数据解读错误，责任将由谁负担?

　　在我看来，这个手艺是靠谱的，至少从原理上来讲，有很强的可行性。至于这一系统的准确性详细能到达若干，还很难说。我只能说，这个系统从手艺操作角度来说，是没有多大障碍的。接下来就是要看更多的实践效果。这就像一种新的药物研发历程一样，药物研发出来之后，还需要几年的临床试验。

　　这一人脑监控手艺的研发已经基本完成了，然则，还需要通过“临床”来网络更多的数据，由于人工智能是靠两条腿驱动的——一条腿是算法，另一条腿是数据。再好的算法，若是没有大量的数据作支持和配合，这样的算法都是瘸腿的。

　　此外，正如所有的规则都不能能百分之百同等。详细到这个系统上，系统简直会存在一定的失误率，不能能百分之百准确，然则只要将失误率控制在一个可控局限之内，就是可以接受的。

　　在此之前，我就做过人工智能在未来生涯中可能饰演什么角色的剖析，明确提出了医生极可能失业的展望——这主要是基于机械对人身体监测的作用而做出的结论。

　　与此差别的是，我今天所谈的问题是对人脑的监控与诊断。固然不是判断你是否脑血管有破损可能，大脑是否萎缩，而是实时监控你的大脑流动、情绪状态以及所思所想。

　　也就是说人的头脑，被机械所掌控，并据此调整你的现状与行为模式。听起来有些取笑，但未必不是现实。

　　然则，设想一个人的大脑出于善意的目的而被监控，这里边实在隐藏着很大的伦理风险。人性是不能试探的，就如神圣是不能试探的一样。

　　若是一个人明确地知道自己的头脑被他人掌控，势必带来一个硬币的两个面——他可能被迫变得更自动和努力于事情，提高效率;也可能伴随着消极头脑的状态，以便自我隐匿和珍爱。至于下班后能不能切换回来是很成问题的，长此以往下去，人将变得拒绝思索、住手提高。

　　根据道德的要求成为一个“心中无不能与人言者”的楷模是人的追求，在现实中能够做到哪一步，个体间差异极大。

　　固然，也有学者以为极难借助脑造影术解读心理情绪状态，而且就现在在工厂举行实验所取得的成就，也可能具有相对性。对此，我们照样抱着审慎的乐观态度拭目以待吧。

　　□刘兴亮(DCCI互联网研究院院长)