更新时间:2009-02-16

鹰眼:人工智能之惑

当无处不在的监控网络和联网自动控制设备加上一个可以独立思考的人工智能头脑会产生怎样的结果？《Eagle Eye》告诉了我一个答案。
一台具有超强计算能力和自行推理能力的计算机Eagle Eye系统操纵了几乎所有的在线系统：互联网，移动通讯设备系统，公共摄像头，码头机械系统，机场自动化系统等等，有轨电车系统，以此来强迫多个无辜民众成为恐怖分子，并在它的精巧安排下协同工作，去暗杀美国总统及其他高官。
究其原因，是因为美国总统在打击恐怖分子时没有理会数据分析而做出了一个错误的决定，导致了人道误伤，导致美国国民遭到了恐怖袭击的报复。而这使得Eagle Eye系统的人工智能系统Aria认为美国政府的要员的专断危害了美国的民主和安全。所以要使用“断头台行动”来处决美国总统及其一干高官。

事实上，这样的题材并不鲜见，大概最早也最有名的应该可以追溯到《2001:太空漫游》里那个要杀死所有宇航船员的HAL 9000电脑吧？

看完这部影片，我主要的疑惑在这里：人工智能到底是不是智能，或者说，究竟Aria是对的还是错的？

在我看来，Aria是对的，因为机器不同于人，在它的头脑中，行为准则是有固定优先级的，显然，Aria的系统中，国家安全是最高优先级的，所以，无论是总统还是平民的性命对它来说，都是可牺牲的。所以它做出这样的推理是自然而然的。
阿西莫夫的机器人三定律中有一条就是绝不伤人，可是这样的定律不存在任何真人的头脑中，因此，遵守这样定律的机器人不可能具有真正的智能判断。

只是，系统的正确不代表现实的正确，比如在电影中，Aria要斩首美国最高的12位高官，却独独留下了一个国防部的部长，因为他是Aria选出来的总统继承人。只是Aria也无法确认，真要是该部长当上了总统，又会有怎样一番格局？也许Aria只是通过概率算出该部长能比现任总统更好？但是就跟天气预报从来就没有让大家信服过一样，这种预测值得信赖么？值得“断头台行动”这样的颠覆么？

作为一个恐怖袭击的策划者，Aria的计划比任何恐怖组织的计划都要完美和无情，Jerry Shaw明明只是一个无辜的棋子，但是为了消除被他使用语音锁锁上的小概率风险，它都可以出动无人机来对他进行袭击。更加先进的是，Aria比起以往的人工智能系统来说，似乎在行为分析学和心理学上也有了长足的进步，使得它可以有效地抓住男女主角的弱点加以利用。

不过，导演本身作为人，对于人类本身还是相当偏袒的。谁能说Aria的决断是完全错误的呢？布什不也是因为在伊拉克的军事行为受到国内的反对和质疑么？Aria也许并没有错，只是措施比较极端而已。

从这里也可以看出，人类本身就是没有原则，一旦有什么存在忠实地执行期原则来，反倒成为了要被消灭的对象了。而变通这一点，人工智能体大概永远学不会……

最后再感叹一下，互联时代，没有隐私是恐怖的，比如男主角Jerry Shaw，在Aria的监视下几乎就没有任何隐私，甚至可以随时随地地被找到……这个真的完全是科幻么？
看看下面这个链接吧：http://www.opentopia.com/hiddencam.php