以马斯克Neuralink公司开发的产品为代表，脑机接口技术正在走入我们的生活。面对如此快速发展的黑科技，一组研究人员认为，现在就应该认真考虑其带来的后果。本周发表在Nature上一篇由27位作者(包括来自谷歌和中科大的作者)署名的评论文章指出，当下需要处理4大个伦理优先事项：隐私权和知情同意权、主观能动性和身份认同、体制增强和偏见。

　　曾经被视为科幻的画面已经走进现实，并且走入日常生活，而这也引发了一些担忧。脑机接口(BCI)，比如马斯克的公司Neuralink在开发的产品，有遭受“黑客AI”攻击的危险，一个人的思维、决策和情感都有可能受AI操控，违反他们自己的意志。

　　本周发表在Nature上的一篇由27位神经科学家、临床医师、伦理学家和机器智能工程师(包括来自谷歌和中科大的作者)共同写作的评论文章，以《神经技术和人工智能的四个伦理重点》为题，对此进行了探讨。作者在论文中举例，假设一名参与脑机接口试验的被试，内心不太喜欢与他一起工作的研究人员，而读取他思维的AI可能把这视为一种命令，于是伤害他周围的研究人员，而被试至始至终并没有发出过这样的命令。

　　研究人员写道：“科技的发展意味着我们正走在通往一个新世界的道路上，在这个世界里，我们可以解码人们的精神活动，直接操纵他们的意图、情感和决策背后的大脑活动机制;人们能直接通过思考和他人交流;强大的计算系统直接连接到人们的大脑上，帮助人类和世界交互，极大地增强他们的智能和体力。”

　　“现在就应该认真考虑这可能带来的后果。”

　　为了防止脑机接口被恶意操控或入侵的情况发生，这组研究人员表示，当下需要处理4大个伦理优先事项：隐私权和知情同意权、主观能动性和身份认同、体制增强和偏见。

　　下面是发表在Nature上的文章，由Nature上海办公室翻译。

　　4个AI与神经科技带来的伦理问题，我们该如何应对?

　　原文以Four ethical priorities for neurotechnologies and AI为标题，发布在2017年11月9日的《自然》评论版块上

　　27位神经科学家与技术专家，临床医师，伦理学家和机器智能工程师共同表示，人工智能和脑-机接口必须尊重和保护人的隐私、身份认同、能动性和平等性。

　　想象一下这样一种场景：一名瘫痪男子参加一项脑机接口的临床试验，他的大脑被植入一枚芯片，芯片与一台电脑相连。科学家训练该电脑来解读他用大脑预演动作所产生的神经信号。电脑生成的指令能移动一个机械臂。

　　有一天，这名男子对这个试验组感觉很不耐烦。他的机械臂夺过一位研究助理的杯子，把它捏碎了，还伤到了那位助理。他道了歉，说这肯定是因为脑机接口装置故障，但他不得不怀疑自己的不耐烦是否也在这起事故中起到了一定的作用。

　　这个场景是虚构的，但也说明了我们这个社会或许将要面对的一些挑战。

　　一个有脊髓损伤的人(右)为一个虚拟的自行车比赛做准备，参赛者使用大脑信号来操纵虚拟臂。BSIP/UIG/GETTY

　　眼下，脑机接口技术主要聚焦于临床疗效，比如帮助有脊髓损伤的病人。这项技术已经能让使用者完成一些相对简单的运动任务——比如说移动计算机光标，或者控制电动轮椅。更甚者，通过人的功能性核磁共振成像，研究者们已经可以在一个较基础的水平上解读人的神经活动，比如说某个个体正在想一个人，而不是一辆车。

　　或许要再等上几年甚至数十年，脑机接口和其他神经技术才能成为我们日常生活的一部分。但科技的发展意味着我们正走在通往一个新世界的道路上，在这个世界里，我们可以解码人们的精神活动，直接操纵他们的意图、情感和决策背后的大脑活动机制;人们能直接通过思考和他人交流;强大的计算系统直接连接到人们的大脑上，帮助人类和世界交互，极大地增强他们的智能和体力。

　　这样的进步有望变革很多疾病的治疗，从脑损伤、瘫痪到癫痫和精神分裂，并能让人类拥有更好的生存体验。但这种科技也可能加剧社会不平等，给企业、黑客、政府或者其他任何人带来剥削和操控大众的新手段。这或将深远地影响人类的几个核心特征：私密的精神生活，个体能动性，以及对于人类是被身体束缚的实体的理解。

　　因此，现在就应该认真考虑这可能带来的后果。