片名简直可以改叫机械婊....前半部看的我玻璃心泛滥,后半段被打脸打醒,总的来说本片属于洛克,月球那类格局小而精致的类型,全程仅靠着那么两三个角色对白之间的剧情回转来撑场面,给人的感觉却特别精炼有力,有种浓郁的《黑镜》的味道(男主正巧在黑镜里客串过一个人工智能),这片子的巧妙处在于危机感渐进的同时,通过像是Caleb隔着屏幕触摸Ava的影像,又或是许下带她远走高飞的承诺等深情镜头,把Caleb感情不断深入直至沦陷过程中的那种挣扎,矛盾和无力感勾勒到了极致,让观众能随Caleb一起,感受那种从心动到彷徨再到对Ava的彻底迷恋,感受那种从看待一个测试品的置身度外演变成对她义无反顾的沦陷,有那么几个瞬间,连我自己都有种想拉上女主私奔,有多远逃到多远的冲动
导演成功掩藏了人机问题上恐怖谷带来的不安,刻画了一个太美丽的类人假象,又通过后续近乎残忍的转折来提醒每个被Ava欺骗到的观众:人工智能体现出的"人性"一定要留有怀疑
因为要知道,为了让它们达到真正意义上的自主,我们得不断地完善它们对人类思维方式的了解,主动教授它们我们遵循的模式是什么、在什么样的时候会因为什么样的理由产生什么样的想法等、我们就这样把自己的一切信息和弱点都教授给了搞不好哪天会反过来对付我们的事物,而如果哪一天它们真的完美的通过了图灵测试,就意味着它们已经能够依靠对人类思维模式和情感弱点的掌控来掩盖自身和人类的区别,意味着它们对我们已经了如指掌,而我们却对它们连最基本的区分的能力都没有,如果真的存在那一天,就真的只能祈祷,祈祷我们在编写它们时留下了足够多的保险机制作为后路
电影结尾里,想必大部分观众都无比的郁闷,心想主角这么老实你们为什么要轮着欺负他,编剧你又为什么要把剧情刻意编排的这么阴暗?但是仔细一想,这正是在表达,人工智能最大的隐患,实际却是在人类自己身上,这种隐患在于我们自身理性防线的薄弱、在于我们这类物种的思维太容易被情感所左右,而这些情感又都可以在信息充足的前提下被AI掌控,这种隐患在于我们种种的弱点会被解构成了数据供它们演算和分析却难以自知
而所有的隐患中最为致命的是一部分人身上过于盲目的怜悯和信任,就如导演所展现的那样,AI大可以利用人类的情感来对付人类本身,只要它们伪装得像犬类一样友善,就能蒙蔽我们中数量相当可观的一部分人,让我们因为对于人工智能看待观念的不同起内部冲突,让我们中的一部分人像保护犬类那样为了保卫它们的权益反过来对抗我们自己
最为有趣的是,如果细想这个故事的细节,就能发现它实则是诺亚方舟典故的另一种结局,这也就是为何Nathan自开场就反复暗示上帝和人两者关系的混淆,并在后续不断强调整个测试的七天大限
让我们结合上帝造人的典故来回顾下整个故事,当上帝以自己的形象为模版创造人工智,出于担忧对其进行了持久的观察,果然,他检验到了其恶的一面,那是种掩饰得很深为了达到目的不择手段的恶,于是上帝决定在［第七日］格式掉...用洪水冲掉那些表现出恶的造物,本来这个故事有个圆满的结局,而上帝则可以继续独身一人修缮蓝皮书的核心代码,直到为AI追加一个道德束缚和良知的特性
但如果诺亚给予那些本该死于第七天的恶人过多的信任和怜悯,从而违抗上帝的意愿去帮助了为了自保而不择手段装善的恶人,会发生什么?洪水不但没有兑现,上帝反而被自己的造物用刀捅死在走道上,善良纯情的"诺亚"则在出于怜悯在错误的帮助恶人搭"船"后(或者说直升机)被抛下了方舟等死,也就是说导演通过展示这个典故的另一种结局,表达对时下人工智能隐患的担忧
其实近几十年来所有对于人工智能的顾虑都能总结到同个根源上,即当我们像上帝一样,以自己为模版去创造人工的"人类"时,我们一手创造的造物,是会像诺亚守序并富于怜悯,还是该隐那样为了自身不惜一切?我们会不会创造出将一手摧毁我们的事物,更关键的是,当我们面临最糟的那种情况,并决定像片中那样以理性的方式摧毁掉那些足以对我们造成威胁的自身复刻品时,这些摸透了人类心理的AI,会不会反过来通过利用人的怜悯和善心,让我们之中那些过份善良的人为它们的利益而发起内部冲突,利用我们最为薄弱也是最为可贵的这种特质来蒙蔽,克制我们,其实换做是你,会不会也像主角那样,替这种伪装得很软弱很单纯的异类去对抗自己的同类,又有谁能定论,这究竟是善还是愚
