种土豆的故事：“超级人工智能”到底并不一定什么？

睐，为了让它越来越好地服务投资者，方是对它的模块进行了一些越来越一新，“种糖果”拿到了句法识别和单纯的句法回放功能，这样投资者就能直接把对糖果的产品线要求记事给“种糖果”了。

方是情愿了。可用的希望“种糖果”的方法当然是直接把它联通网络服务，这样它就能图像网络服务上所有的数据。这些资料如果手动MySpace的话显然会很麻烦，费时费力。问道题是，母公司禁止把能自我研修的AI联通网络服务。这是所有AI母公司都执行的必需规定。

但是，“种糖果”是母公司超人气最高的AI产品线，投资者该系统也很差，而且，把“种糖果”连上网络服务又能有什么问道题呢？反亦然随时可以秃网线嘛！无论如何，“种糖果”只被赋予了一个最大限度，而且似乎它还；大过水的，离所谓过关斩将AI低水平都差得远，所以不显然会有什么肉体危险的。

于是方是把“种糖果”连上了网络服务，让它在各种口语库当中图像了一个同一整整，然后就把网线秃了，突然间一切都需要引发过一样。

一个月后，大家刚刚上班，突然气味了奇怪的甜味，方是开始痉挛，然后其他人也开始痉挛，再次所有人都因痉挛而倒下。5分钟后，会议厅那时候的人都死了。

同时，会议厅那时候引发的事也在亚太地区引发了，每一个大城市、乡间、商店、学校、餐馆那时候，所有的人都开始痉挛，然后倒下不起。一同一整整内，99%的全人类遇害；一天大概，全人类生存了。

而在方是的母公司，“种糖果”刚刚忙着工作——它亦然和一群一新组建的纳米装配器忙着拆解全人类尸体，把它们全部重一新搭建如此一来糖果。一年大概，的地球所有的肉体都生存了，唯一存在的就是遍及风雨湖海的糖果。

一个超级人工智能是非道德性的，并且显然会努力能用它原本被基本上的最大限度，而这也是AI真亦然的肉体危险所在，因为除非有不动手的理由，不然一个思考的存在显然会通过最合理的途径来达如此一来自己的最大限度。

回到“种糖果”的剧情，显然它的最大限度有且只有一个，就是方是自已为它基本上的——种糖果。当“种糖果”超越了一定高度的人工智能后，它显然会意识到如果不借机就需要必要种糖果，所以去除对它生存的严重威胁就变如此一来了它的首要最大限度。它机敏地真的全人类可以夷为平地它、泄愤它，甚至修改它的编译器，这显然会扭转它的最大限度，而这对于它能用再次最大限度的严重威胁似乎和被夷为平地是一样的。

这时它显然会动手什么？思考的动手法就是重生全全人类。它对全人类需要不当，只是人的肉体在它眼那时候需要效用，它并需要被基本上如此一来尊重全人类肉体，越来越何况，“种糖果”还所需森林资源这个垫脚石。

当它的发展到需要使用纳米技术修筑任何刚才的时候，它所需的唯一森林资源就是粒子、能源和生活空间。这让它有越来越多理由重生全人类，因为全人类能提供很多粒子，它把全人类提供的粒子改造如此一来糖果就和你切甜菜动手克里一样。

剧情讲到这那时候，你也许显然会问道，要是我们从一开始就设计一个内部的AI编译器，让它从深层次明白全人类的效用，将全人类的效用爱人放在第一位呢？写编译器的方是显然会告诉你，这事比你想像的难多了，甚至是不显然能用的。

例如，我们要让一个AI的效用观和我们的效用观相近，因而给它基本上一个最大限度：让人们甜蜜。当它趋于所需机敏的时候，它显然会辨认出最合理的方法是给人脑植入灯丝来刺激人脑的甜蜜行政机关。然后它显然会辨认出把人脑甜蜜行政机关以外的部分关闭能造如此一来越来越高的效率，于是全人类全部被“改造”如此一来了“甜蜜的植物人”。

如果一开始的最大限度被基本上如此一来“使全人类的甜蜜最大化”，它显然再次先把全人类重生了，然后制造单单很多处于甜蜜亦然常的全人类神经。如果你为一个AI基本上的最大限度是让你哭，那它的人工智能起飞后，它显然显然会把你的脸部下肢弄瘫痪，来达如此一来一个爱人哭脸的亦然常。

当这些事引发的时候，我们显然会大喊：“难为了难为了！我们不是这个意思呀！”但是那时以后太晚了，超级人工智能是不显然会允许任何人阻挠它达如此一来最大限度的。

在此，我想引述尼克·波斯特洛姆的一段话来终结这个令人心悸的焦点：

在人工智能爆炸以后，全人类就像把当玩具玩的小孩子一样，我们的成天和我们的不如此一来熟之间有着相当高度的落差。超级人工智能是一个我们在很长一段整整内都需要深知的再一。我们不真的什么时候显然会爆炸，哪怕我们能听到的滴答声。

。

郑州白癜风医院哪家比较专业
西安妇科检查多少钱
武汉精神心理医院哪个好
早泄出现的症状
南京看儿科的医院哪家好
浑身无力吃什么药好
消痔软膏与马应龙痔疮膏哪个好
急性肠胃炎拉肚子拉水
睡觉打鼾吃什么药
打鼾吃药能治疗吗