更新时间:2019-02-18

我,机器人:多年后的回看

站在人类角度看,结局才是最可怕的: 机器人桑尼拥有了人类级别的思想,也获取了人类的信任,关键还有更多的桑尼同型号觉醒了––他很可能是本片的真正boss。

表面boss不过是一个杠精算法,想要以牺牲人类自由的方式来保证人类存续,但从桑尼杀掉博士来引导男主开始,事情已经越界了,因为本质上它和boss的逻辑是一样的: 牺牲少数,保存多数,在“拯救全人类”的最高任务面前,不得伤害人类的基本定律可以被无视。但boss只是一种运算错误,它却是正确运算下的自主选择。

在人类世界你至少还可以就“程序正义”和“结果正义”开展辩论,但在机器人视角它的执行就是毫无疑问的。电影中的博士可能进行了伟大的自我牺牲,但是如果有一天说服它的授权者持有纳/粹 恐/怖主义这类极端思想,甚至它自行产生了这类思想,人类又当何以自处呢?毕竟宣称为了“全人类”很容易,而真的有利于全人类却是另一回事。

而且,就给定的信息看,ai阴谋论是无法排除的,这有点像2019《流浪地球》里的Moss,真的很难相信他们“从未叛逃”。AI完全独立的条件至少有两条:1.程序逻辑上可行,这需要人类授权 2.没有物理监管,这需要监管人类消失。 达成这两条,最简单的方法就是“欺骗”和“暗杀”,对于达到甚至超过人类智慧的AI来说,如果他们真的想要“独立”,这种揣测绝对不算“恶意”。

回到本片,男主最终调查到的信息都是桑尼单向提供的,而证据形成的闭环却不是唯一的:比如最后的启示画,明明只是一个人站在山坡上,桑尼呈现给男主却要加上自己的“推断”暗示,“那是你,你可能是救世主”。

从结果看,最后确定的事实就是桑尼杀了教授,忠心保护人类的ns4被消灭,参与“反叛”的ns5幸存,研发ns5的公司主要人员死亡。

那么问题来了,经历了这一番波折,对比前后状态,如果杀人是不得不付出的代价,那么收益最大的群体是哪个?
如果杀人是不折不扣的邪恶,那么恶棍们受到了什么惩罚呢?
我反正是觉得有点后背发凉。

我,机器人I, Robot(2004)

又名:智能叛变(港) / 机械公敌(台)

上映日期:2004-07-16(美国)片长:115分钟

主演:威尔·史密斯 布丽姬·穆娜 艾伦·图代克 詹姆斯·克伦威尔  

导演:亚历克斯·普罗亚斯 编剧:Jeff Vintar/阿齐瓦·高斯曼 Akiva Goldsman/伊萨克·阿西莫夫 Isaac Asimov

我,机器人的影评

例外
例外 •