麝香警告杀人机器人与# 038调速器；其他AI的危险

2017年7月17日由Steve Hanley & nbsp；

Elon Musk曾在普罗维登斯、罗得岛全国州长协会会议上发表主题演讲，上周末。他利用这个机会提醒他经常关注人工智能小组，称它是“我们面临的最大风险是一种文明。”&nbsp；在适当的政府法规缺位，麝香恐艾能进展到杀人机器人漫游世界的城市，使他们甚至比芝加哥更危险。

杀人机器人&amp；人工智能

麝香警告杀人机器人与# 038调速器；其他AI的危险 ”直到人们看到机器人去街上杀人，他们不知道如何作出反应，因为它看起来是那么的飘逸，”他说。“人工智能是一种罕见的情况，我认为我们需要主动调节，而不是被动。因为我认为我们是在AI调节反应时间，太late.”

以澄清，若有所思地调节人类的威胁在灾害发生之前可能在其他情况下是有益的，但AI提供了另一个层次的关注。

“normally，法规成立的方式，而很多不好的事情发生，有公众的强烈抗议，许多年后，监管机构设置规范的行业，”他说。“这需要永远。这在过去是不好的，但不是代表文明存在的根本风险的东西。人工智能是人类文明存在的根本风险。

Musk说，政府高层，他希望在Mars建立星际殖民地的一部分是有一个B计划，为人类社会注入一次AI机器人接管地球。州长被musk’s而直率的言论感兴趣，向他询问如何处理通过调节人工智能提出了挑战。“the首先要做的就是尽可能的学习，了解问题的性质，”他说。他强调，AI最近击败人类游戏“go，”的壮举，曾经被认为是几乎不可能的。

黑客自主汽车跑

电动汽车进行对话的一部分，与麝香告诉省长，最大的风险来自自主车是一个&nbsp；“宽hack”舰队，控制软件。作为最后的美国大选和最近的网络攻击，如想哭病毒已昭然若揭，任何数字设备或数据库连接到Internet是容易受到邪恶的人在调皮捣蛋的攻击。

2015、一架客机被故意飞到法国阿尔卑斯山脉的一个精神错乱的飞行员，造成飞机上的每个人都。后来，人们问为什么航空公司不能在飞行中数字化控制飞机以防止此类灾难发生。答案是，这样的系统确实是可能的但从未实施，黑帽黑客可以对飞行中的飞机，导致它崩溃的危险。麝香只是担心这样的事情可能发生在自动驾驶汽车…或整个自驾车队。

马斯克补充说，在20年内，拥有一辆不自己开车的汽车将相当于今天拥有一匹马的人。“把它作为一种运输方式是不寻常的。”

在下面的视频中看elon’s备注，开始在43分钟。