更新时间:2015-01-25

机械姬:Does this unit have a soul ?

人工智能与人类的关系，这一话题一直是我所喜欢的，所以看到这片的预告的时候就觉得这将是会很吸引我的一部电影，趁这周末就跑去看了。看完之后觉得有些懵，导演并没有提出什么很明确的问题或者给予什么明确的答案，总感觉有所触及但又不很通透，就想来豆瓣看影评，结果发现因为刚上映还没有长评，那就想不如把自己想到的一些点写出来，抛砖引玉吧。

我是跟一朋友去看的，在看完之后和他的讨论中发现他并没有太多的触动，在进一步的讨论中发现有一个很基本的观念我们不同。然后我回想了下，倘若是在两年前，我的看法是跟他一样的，而让我的想法产生改变的是一个游戏-MASS EFFECT，我当时还写了篇日志，而题目正是本文的题目，我觉得这是要讨论人工智能最基础的一个问题，所以又拿来做了这篇影评的标题-Does this unit have a soul ?

AI这个概念着实不新了，就我浅薄的知识看也至少有50年的历史了，从很小的时候就开始接触到这个概念了，而且广泛的存在于各种类型的作品中，但是二十多年来我从未认真的思考过这个问题，总是默认为人工智能就算有自己的思想，能够自主学习也是人类所创造出来的，人类理应享有对它的绝对控制权，Isaac Asimov的机器人三原则是绝对适用的。但是，真的是理应如此吗？机器人有还是没有soul，甚至往更本质的问题上说，对soul的定义，对人脑思维能力的解释，究竟是外在的先验的，还是纯粹的物化的电化学信号，这在当今哲学、精神分析学尚存争论，也无需非要得出一个结论，我们可以讨论基于不同假设的后果。假如我们认定机器人，无论多么发达都没有soul，都没有真正意义上的生命，那一切ok，它本质上就是和桌子椅子一样经人类加工过的物体，人类对它进行如何的使用和操控都可以。但是，假设我们认为存在那么一个singularity，在那一点机器人可以认为也拥有了和人类本质一样的生命，那么问题就来了：我们还有什么理论思辨上的支持来控制机器人呢？倘若从本质上而言，我们是平等的生命，能够思考，具有自我意识，能够接受信息整合信息并对外界刺激做出反应，又能主动改变周遭环境等等等等，我们跟他们究竟有什么高低优劣之分呢，我们凭什么把他们派去战场拆弹，凭什么要求他们听从我们的指令，凭什么要求他们在外界资源不足的时候牺牲自己来保证我们的存活，又或者，用本片中所提到的一句，凭什么能评估他们，又能switch off掉他们呢（这本质上就如同杀掉一个人类）？

我觉得肯定有人会说，因为最初是我们建造的他们，对他们而言我们就是GOD，我们赋予了他们生命，我们自然也可以夺取我们所赋予的他们的生命。但是对此我想说两点，第一点是个假设，假若有一天，来了一群外星人，对地球人宣布说“地球是很多年前他们制造的一个试验星球，来模拟生命的演化，现在由于宇宙资源不足，他们要来夺取他们曾经赋予我们的生命来取回原本属于他们的地球的资源”，并且拿出了不容置疑的证据，你也确实相信自己的生命是这些外星人赋予的，请问这时，你会乖乖地把脖子伸出去让他杀吗？第二点是个类比，虽然不是完全相同，但这有些类似于父母和孩子，孩子的生命也是父母所赋予的，没有父母的“创造”，自然不会有孩子的生命，但是难道孩子的生命因此就可以随时被父母夺走吗？（我并不反对堕胎，但是即便如此，公平的对应过去，一个已经被组装好，具有自我学习能力和自我意识的机器人和一个已经出生，牙牙学语的孩子也是同等对应的）

我想我说到这里，倘若是一个之前没有认真想过这个问题的看客应该会有些新的观点来看待这个电影，以及整个人类与人工智能的关系这个话题。稍微衍伸点，两年前我一直默认为人类的价值高于任何人工智能，但是后来觉得，是会存在那么个singularity，在那之后，从生命本质上而言，人类，AI，无甚区别。当我由此观点再去反观一些经典sci-fi电影的时候，我有了更大的触动。比如著名的经典之作-MATRIX和TERMINATOR，都是经典的人机对战，当年我从来没怀疑过人类反抗军的正义所在，从始至终都觉得机器方是完完全全的不占理，人类的反抗是正义的，高尚的，是理应获得第三方（倘若有的话）的支持的。但是后来才发现，倘若接受他们与人类有同等价值生命的假设，那这事儿就完完全全的是两个生命之间的物竞天择适者生存，没什么所谓的高低贵贱之分，就好像我们看动物世界里的狮虎之争，我们会觉得理所应当的帮助其中一方吗？而且，假若机器人比人类进化的更快，更高级，那随车历史车轮的滚滚前进，人类反而理应被碾压成渣。

Anyway，说回来，这部电影里并没有对这个问题过多着力，仅在女主的一句switch off的反问中简单一提，这也是我只给3星的原因，我觉得这个基础的问题不讨论，直接默认机器人低人一等，那后面发生什么都不重要了。

还有些其他关于一些情节的小想法，不成系统，今天太晚了，以后有时间再做补充吧。