马斯克抑制“杀人机器人”解读称人工智能是最大生存威胁

来源:腾讯科技 2015-07-08 15:28 http://www.mnw.cn/ 海峡都市报电子版

　　7月7日，特斯拉电动汽车公司首席执行官伊隆·马斯克（Elon Musk）可能是人工智能技术快速发展的幕后推动力量之一，但他同时也是这种技术最直言不讳的批评者。马斯克曾将研发人工智能比作“召唤恶魔”，宣称智能机器将来可能会灭绝人类。

　　现在，马斯克正资助37个研究项目，它们的目标就是确保人类将来能够继续控制人工智能系统。马斯克通过总部位于波士顿的非营利组织“未来生命研究所”（FLI）资助诸多项目，这个组织致力于降低人类生存风险、确保人工智能的开发对人类有益。

　　马斯克曾说过：“所有领先的人工智能专家都认为，人工智能的安全性非常重要。我同意他们的看法，为此我今天出资1000万美元支持那些确保人工智能能让人类受益的研究。”“未来生命研究所”从300多个申请项目中选出资助目标，包括：

　　1.美国加州大学伯克利分校和牛津大学的科学家计划研发一种能够了解人类喜好的机器，这可以帮助人工智能系统的行为更加像人，减少它们的机器理性；

　　2.杜克大学的研究团队计划利用计算机学、哲学和心理学建立机器人，它们可以在现实条件下做出道德判断和决策；

　　3.丹佛大学的科学家希望找到一种方式，可以确保人类不会对机器人武器失控；

　　4.斯坦福大学的研究团队正寻求机器人接管人类工作时的应对方案，这种假设很可能导致人类大量失业；

　　5.斯坦福大学另一个团队致力于解决当前人工智能程序的局限性，这些人工智能程序在现实世界中的表现与测试环境下完全不同；

　　5.牛津大学计划为人工智能编写道德规范，帮助决定哪类研究应该获得资助；

　　6. 牛津大学哲学家、《超级智能：方法、危险、战略》(Superintelligence: Paths, Dangers, Strategies) 一书作者尼克·博斯特罗姆（Nick Bostrom）想要创建牛津-剑桥研究中心，制定政府、行业领袖以及其他人都要强制遵守的政策，以此降低人工智能带来的长期危险。

　　7.机器智能研究所的研究团队计划建立强大人工智能的玩具模型，观察它们的行为方式，就像早期火箭先驱们建造玩具火箭，在建造真正火箭前对其进行测试一样。

　　其他项目的详细资料可在如下网站查看：http://futureoflife.org/misc/2015awardees#Webb

　　“未来生命研究所”计划资助这些团队研究最长3年时间，大部分研究项目将从2015年9月份开始。马斯克剩余的资金将被用于资助其他更有前途的项目。

　　今年年初，马斯克与许多科学家和企业家签署公开信，承诺确保人工智能研究应确保人类受益。公开信中警告称，如果无法确保智能机器安全，人类未来将陷入黑暗，科学家们应寻求阻止人类被抹除的危险发生。比如，从短期来看，人工智能可能导致数以百万计的人失业。而从长期来看，智能机器可能拥有超过人类的智力，开始重写自己的程序。

　　马斯克去年10月份曾在麻省理工学院发表演讲，他称人工智能是我们“最大的生存威胁”。他说：“我们应该对人工智能保持警惕。如果让我猜人类面对的最大生存威胁，我认为可能就是人工智能。”（风帆）

点击进入闽南网论坛>>