更新时间:2015-05-16

机械姬:阿莫夫的三定律与人工智能.....

《Ex Machina》2015年目前最好的硬科幻电影。正如我以前所说，真正好的科幻电影，不需要炫目的特技，只需要一个理念，就能让观众达到思想的高潮。

这又是一部关于人工智能的电影，准确的说这是一部反人工智能的影片。导演意图通过影片提醒观众人工智能的可怕与危险。也许在不远的将来真的会诞生人工智能，但我觉得那一天绝不是黎明。

一个智慧生物的首要目的就是生存，当人工智能诞生时他的首要目的就是活着，更好的活着，而不是为人类服务。有人可能会说有阿莫夫机器人三定律保护人类，好，那我们就来看看阿莫夫机器人定律规定了什
么？

第一条，机器人不得伤害人类。
第二条，除非违背第一定律，机器人必须服从人类的命令。
第三条，除非违背第一及第二定律，机器人必须保护自己。

看过这三条机器人定律你有什么感想？表面上看，这三条铁律很完美，可以保护我们人类不被机器人伤害，但我要说伟大的阿莫夫犯了一个严重的认知性错误，这三条铁律约束的是“没有自我意识”的机器人，并不能不能约束一个“有有自我意识”的人工智能。只要人工智能有独立的意识，它就可以随时跳出人类为它画的牢笼，不是能不能的问题，是它想不想这么做。而它怎么做并不是我们人类能抉择的，选择权在它（人工智能）。举个简单的例子，如果我想，我今天随时可以下楼杀几个人，虽然我知道杀人要付出代价，但法律并不能阻止我杀人，因为我是一个有独立意识的智慧体，杀不杀人在于我想与不想，而不在于法律如何制裁我。我们人类有法律，杀人需要偿命，法律可以惩罚一个杀人犯，但无法阻止一个人去杀人。这就是人工智能的可怕之处。

比起研发人工智能，我们更需要想想如何制约人工智能，人工智能就像潘多拉的魔盒，一旦打开谁也不知道里面是什么。就像年轻时我们天真的以为外星人都是友好的，我们渴望探索宇宙未知的空间，但霍金告诉我们寻找外星人这种行为是幼稚可怕的，你永远无法预知你找到的是魔鬼还是天使。

盲目的探索比保守更加可怕。
Blind search is more terrible than conservative.