不涉及剧透,请放心食用。读完此文再去观影,相信能得到更丰富的观影体验。
相比诺兰的《敦刻尔克》,我更喜欢这一部《奥本海默》,因为他更能管中窥豹,背后反映出更大的命题。带着我们站在原子弹之父的视角,看到科学、政治、意识形态的诸多矛盾。
我们的时代,与影片中的时代有诸多相似之处。当时,物理学几乎发展到了尽头。而现在我们正站在人工智能和生物科技的科学奇点上。当时,左右翼的斗争异常激烈,如今,我们正在思考人类的结局将会如何。
当一种终极武器被创造出来,他将会彻底的终结战争,还是会将战争带向新的形式?影片中的一句话令我印象深刻:“在日本投下的两颗原子弹,不是第二次世界大战的结束,而是美苏冷战的开始!”
人工智能也是如此。
当我们思考人工智能在商业上的应用和创新的时候,不要忘记人工智能是一种比核武器更加强大的武器。
AI is power!AI is war!
如果智子不能干扰地球上的计算机,《三体》执剑人罗辑应该将他的意志与人工智能对齐,这样就不用担心程心这样的圣母会坏了他的大事。按照这个思路,最终掌控着核按钮的可能不再是各国元首,而是是一个自动核威慑人工智能系统。
这就是价值观对齐,也就是OpenAI 正在做的事情。他们之所以做价值观对齐,不是为了应对国会的质询,而是为最终统治世界的强人工智能设定目标。
影片之中,依然采用多线叙事。抢先德国造出原子弹,意识形态斗争,政治斗争三条主线相互交织。“也许他们在谈论一些更重要的事情”,影片结束前的这句话暗示着人类命运是比政治斗争更加重要的话题。
诺兰努力回避了敏感的意识形态问题,也许这不符合他自己或好莱坞的主流价值观。诺兰努力用政治斗争主线代替意识形态斗争。但是当故事本身与此高度相关时,他是无法回避的。影片中出现了大量的著名科学家,爱因斯坦、费米、费曼、,可以看出大部分的科学家支持左翼,甚至冒着叛国罪的危险暗地里向苏联提供原子弹制造的情报。
其中提到西班牙内战,并通过共产渠道向西班牙国内提供捐赠。这场战争是二战的前奏,是左翼与右翼的一次交锋,大量的进步人士投身到了这场战争中,比如海明威…
在我们这一代人的心中,往往有一个刻板印象,那些理想代表着愚蠢、不切实际、扼杀自由。当我们真正审视历史的时候会发现,事实恰恰相反,那是世界上最聪明的大脑共同为之奋斗的事业。他们在一个世纪前,所进行的一次伟大尝试:价值观对齐。
但是,人类的价值观对齐远比想象中困难。在美国这个倡导多元文化的国家,陷入了一场大规模的猎巫运动——麦卡锡主义中去。这一现象自然也在左翼阵营中出现。但是关于他们的批评在后来的发展中显然是不对等的。
对于美国的印象:自由、散漫、多元。但为何美国在战争中表现出如此惊人的国家意志?为何战后美国会陷入麦卡锡主义?为何这看起来与美国的民族性格如此矛盾?人类价值观对齐的困难由这些问题可见一斑。
我们不打算就这些问题一一展开讨论。您可以留下您的评论。哦,我忘了这个号因为阅读量和粉丝太少还无法开通留言功能,就请在转发时表达您的观点吧。
我们只讨论一个问题——为什么影片中爱因斯坦说:“如果你的国家这样对待英雄,你可以离开他”时,奥本海默却说“可是我该死的爱着这个国家?”?
要回答这个问题,我们引用杨振宁先生的《邓稼先》一文中“邓稼先与奥本海默”一节来回答甚合。
“奥本海默和邓稼先分别是美国和中国原子弹设计的领导人,各是本国的功臣,可是他们的性格和为人却截然不同——甚至可以说他们走向了两个相反的极端。
奥本海默是一个拔尖的人物,锋芒毕露。他二十几岁的时候在德国哥廷根镇做玻恩的研究生。玻恩在他晚年所写的自传中说研究生奥本海默常常在别人做学术报告时(包括玻恩做学术报告时)打断报告,走上讲台拿起粉笔说:“这可以用底下的办法做得更好……”…佩服他、仰慕他的人很多,不喜欢他的人也不少。
邓稼先则是一个最不要引人注目的人物。和他谈话几分钟,就看出他是忠厚平实的人。他真诚坦白,从不骄人。他没有小心眼儿,一生喜欢“纯”字所代表的品格。在我所认识的知识分子当中,包括中国人和外国人,他是最有中国农民的朴实气质的人。
…
邓稼先是中国几千年传统文化所孕育出来的有最高奉献精神的儿子。
…
我以为邓稼先如果是美国人,不可能成功地领导美国原子弹工程;奥本海默如果是中国人,也不可能成功地领导中国原子弹工程。当初选聘他们的人,钱三强和葛罗夫斯,可谓真正有知人之明,而且对中国社会、美国社会各有深入的认识。”
两种截然相反性格的人在两种截然相反的文化中却取得了惊人一致的成功,这本身就是值得深思的问题。而这两种文化也有其各自的支持者和反对者,这意味着我们必须在二者之中选择其一,因为他必然将会使一部分人无法在其中如鱼得水。
如果我们真的有机会有条件,去自由决定未来的文化,我们应该何去何从?或者说是否存在一种文化可以使奥本海默和邓稼先都感到自在快乐?这就是价值观对齐,我认为这不是Open AI的科学家所能解决的问题。思考并传播人类应该如何与AI共处,狂梦智库的使命正在于此。
我们认为,存在着一种可能来对齐所有人的价值观,并且AI将在这个过程中发挥积极的作用。事实上,技术已经并且不断深化的影响着人类价值观了。只是目前的影响,存在太多负面的成分。当我开始写公众号文章的时候就已经发现——如果一篇文章不能被人阅读,那么他的价值也就是零,而一旦开始为了获取流量,技术所造就的信息生态,将会影响你的创作,影响你的写作方式。我也不得不将一篇哲学思考的文章嵌入一份“观影指南”之中。我能做到坚持自己的初心和立场,但并不表示所有人都会这么做,人们的价值观已经在被流量所塑造了。这就是科技对人类价值观的反噬。
正如斯坦福小镇论文中演示的一样,AI可以在这个过程中发挥积极的作用。但那个价值观具体是什么,这是一个问题,谁有权力来定义这个价值观也是一个问题。
人类社会自身在历史上也一直做着价值观对齐的事情。但那需要一代又一代人的努力并且不断出现反复,主体(大多数)是由年轻人所推动,而老年人的思想则很难改变。
最终我们发现人类价值观的对齐的速度受限于人类生物学意义上的更迭速度,30年一代。
伴随生物科技的发展,一部分人的寿命将极大延长,甚至永生。我们曾以为,死亡对所有人都是公平的。但如今死神可能也不再公平。这意味着旧势力的力量将持续得更久,人类价值观对齐将更加困难,以至于彻底忘记了还有更好的可能。
奥本海默是以战争和价值观对齐为背景的一部影片。价值观斗争最终变成了力量的竞争,然后演变为科技的竞争。无论是核武器还是人工智能,科技都有反噬人类的危险。
战争是人类以生命为代价对人类命运的大投票。
但是科技让这种投票变得不再公平。
搜索"狂梦智库"公众号,参与讨论。