微软CEO：为防止AI做坏事需设定“自毁开关”

来源：发布日期：2016/07/01已有 3662 人浏览

据国外媒体Quartz报道，微软CEO萨蒂亚-纳德拉谈到了他对人工智能的看法：AI在帮助人类实现效率最大化的同时，还需呵护人类的自尊心、保护人类的隐私。但是为了预防机器人做意想不到的坏事，人类需要为AI设置“自毁开关”。

机器人革命的征兆若隐若现，伊隆-马斯克等人和一些知名科学家十分关注机器人发展将对人类带来的影响。他们的观点是，我们应认真考虑与人工智能共处意味着什么，他们认为，人工智能很轻易就会超越人类的智力。

微软CEO萨蒂亚-纳德拉在美国知名网络杂志Slate发表了一篇专栏文章，文中他提出了对人工智能的10点看法。其实纳德拉正在撰写的一本书中也谈到人工智能。

以下是他的观点概要：

1. AI必须用以协助人类。纳德拉援引了科幻小说作家艾萨克-阿西莫夫的机器人三大定律。这些定律的核心内容是机器人不应伤害人类。纳德拉的提议更为深入：机器人的程序设定应是积极帮助人类。他写道，机器人应该是“协同机器人，或co-bot。”

2.AI必须是“透明”的。人类必须透彻理解机器人。他表示，“机器人将获得对人类的一些认识，人类也必须了解机器人。”

3.AI必须最大限度地提高效能，同时不伤害人类的自尊心。技术和AI应推动多样化以及人类之间的互通互联，而不是造成人类相互疏远——从历史来看，很不幸的是，彼此疏离正是人类所擅长的。

4.AI应该保护人类隐私，不能予以曝光。

5.“AI需设定问责算法，这样人类能够避免机器人造成意想不到的伤害。”也就是说，AI需要设置“自毁开关(kill switch)”，以预防机器人做了意想不到的坏事。

6.必须防止AI产生偏见，AI应代表每个人的意愿，而不是某一群体的意愿。

7.为了推动人工智能的正常发展，人类必须具备的四点特质中第一点是拥有同感能力。纳德拉指出，要创造出能够真正理解人类的机器人，人类首先需确保能够彼此理解他人的“想法和感受。”

8.我们还需要投资教育，开发和资助培训项目，以确保AI的潜在益处更容易为人类所享有。纳德拉举例，“机动织机在1810年就被发明出来，但经历了35年才对服装业造成变革性影响，因为当时训练有素的技工数量不足，无法满足需求。”

9.人类需要保持创造力，这是人类拥有的特质之一。而机器将能够深化人类创造成果的应用，这也是许多AI研究者的探讨领域。

10.保留判断权和承担责任。“我们或许愿意接受电脑做出的诊断结果或法律决定，”纳德拉写道，“但我们将依旧指望人类为结果承担最终责任。”