从 podcast 知道的这个片，先回顾一下里面讲到的几点。

播客：[Hard Fork] ChatGPT Transforms a Classroom + Is 'M3GAN' Real? （链接不能发）

1. Moravec's paradox，一些对人类来说很容易的事情，对 AI 来说很难，反之亦然。比如 M3GAN这个程度的知识库和对话功能不难（ChatGPT已经差不多了），但一些模仿人类走动和跳舞的能力还得等20年再说。

2. paperclip problem，哲学家 Nick Bostrom 提出来的实验概念，大致是，你设计一个 AI，让它生产回形针，这是唯一指令。于是它会忠实执行，溶掉所有金属制品，消灭人类以消除原料竞争，为了唯一的任务可以毁灭地球。

3. 机器人杀手离我们说近不近，说远不远，2022年，San Francisco Police Department 试图将机器人列入武器清单，引起很多争论（这里讲的机器人还只是遥控机器人，但在军事领域，武器的自动化走向智能化不可避免）。

讲回电影，人类部分我感觉几个点还是可以的，比如儿童（其实成人也是）会与“玩具”形成难以解开的 attachment，甚至影响家庭和社会交往，不过我不太确定 attachment 程度与“拟人”程度之间有简单的函数关系。有人认为小女主 Cady 最后的“变心”太突然，我倒觉得正常，我们人类在特殊情况下也是可以断然关闭 attachment 的，就是这么没有心。另一个真实点就是，人类小孩比 AI 可怕多了。

AI部分，确实机器学习很大程度对人类来说是黑匣子，不一定遵循人类的预期，但 M3GAN 脱离人类控制，生出自我意志，遵循的完全是人类的思维逻辑，而且是最简单古板的逻辑（背叛→复仇），说到底只是一个机器骨骼大力皮实的人类。不知道是 AI 确实整不出超越人类理解的逻辑，还是编剧缺乏想象力。

“开放性”结尾让人忍不住吐槽“拍成这样还想整续集呢”，不过，不管电影有没有续集，现实中的 M3GAN 一定会春风吹又生，因为人类即便确信有一天会被 AI 干掉，仍然会锲而不舍争分夺秒地发展 AI，在作死的道路上一路狂奔。