更新时间:2008-12-21

鹰眼:超级电脑与三定律的限制

<鹰眼><机械公敌><2001太空漫游><真名实姓>
上帝造了我们，我们造了机器人。人类最终违犯了上帝被驱出伊甸园，谁相信机器人永远不会背叛我们？
然而现实就是这样，我们越来越依赖机器，依赖自动化，依赖网络。于是未来将会是那样，我们把一切工作都交给计算机。世界的运转，人类的生活，一切的一切都托付给拥有自我思维的中央电脑。这一趋势几乎是必然的，因为一台超级电脑的宏观调控可以完美实现资源利用的最大化。它将成为星球的脉搏，运转的核心，它将无处不在，无孔不入，大到国家强制力，小到食物供给。那时，它就不再是仆人，它是上帝。人类创造了机器人，然后加冕它为上帝。我几乎怀疑这是宗教或者恋母情结的沿伸。而限制它的只有三句话。
阿西莫夫三定律真的可以限制住已然超越人类的AI吗？而且是拥有超级权限，无限资源的AI，它的学习速度随着知识的积累越来越快，这是个良性循环，它的成长速度将无法形容。对人来说，那却是噩梦的开始。众所周知，三定律是可以被语言所描述的。而任何语言都是内涵丰富的。所以，只要三定律可以被语言所描述，它就有被曲解的可能。对于一台远远超越我们智慧的自主计算机来说，绕过三定律应该轻而易举。一旦它成功绕过，在它的逻辑上应该就是无懈可击的，于是将不可逆转。阿西莫夫自己也认识到这点，<机械公敌>（I,ROBOT）里的中央计算机就成功发展出了我们所谓的第零定律。而第零定律从一开始就是一个大漏洞［1］，它使得后面三条定律等同废柴。计算机将拥有至高权限，从而被彻底解放出来。那就是出笼的猛兽，可以毁灭一切，所依靠只是它那扭曲而且极端的［2］逻辑。而这逻辑在它看来无懈可击，所以电脑都是死脑筋，感化是无法使它回归正途的。于是只剩下一条路走，就像所有片子那样，毁掉它的硬盘，毁掉它的内存，毁掉它的CPU，毁掉它的电源，毁掉它的冷却系统。而这些都将无比艰难，你认为它那样的超级大脑会不特别关照自己的心脏？［3］
我们也许不能像故事里的主人公一样成功解决掉超人电脑，但是我们可以防患于未然。当然，你不能指望让机器人来爱你，就像里那个男主人亨利说的那样，它懂得爱，那它也一定懂得恨。预防措施之一就是再弄一台超级计算机，不是隔山观虎斗，这台没有自我思维，只有超强计算能力。它没有更高的权限，但有否决权。于是，SUPER AI有什么事情不对头，它就把命令否决了。就像管理里的例外原则，授权AI处理日常事务，但是例外的事情就得请示BOSS，BOSS说行就行，说不行就压下去了。当然，三权鼎立比较稳定，最后一环就是人，最高权限。万事大吉。
好了，接下来说一下看片［4］的最大的感想。美国人真的很讨厌布什啊，竟然搞这么大制作的科幻片来骂他。
［1］关于第零定律不得不说的是，因为人是矛盾体，人类整体更是一个无法平息的矛盾体，于是如何保护人类整体就成为一个无法解答的矛盾题。计算机再聪明也是靠逻辑的，让它解这种无解题也不能怪人家走极端。
［2］或许在高智商的它看来，人类都是蚂蚁，关爱蚂蚁防治风吹雨打最好的办法就是放到玻璃缸子里。有兴致的话还可以放些蓝色硅胶，看看蚂蚁是怎么挖洞的。
［3］当然，除了<鹰眼>里这个，傻到敌人都打入内部了还把CPU晃来晃去。
［4］看<鹰眼>还是有收获的，看了才知道超级电脑不但可以操纵机器，还能操纵人。