当那个迈着诡异舞步的仿真玩偶梅根，从一个家庭中失控的人工智能化身，变成拥有自主意识和个性的超级人工智能“救世主”，好莱坞著名恐怖片导演温子仁监制的《梅根2.0》已不再是首部曲中简单的惊悚故事，而是直面人工智能发展的警世寓言。

《梅根2.0》海报

《梅根》讲述的是机器人工程师吉玛铸造了一个人形机器人玩偶梅根，用于陪伴其孤儿侄女凯蒂，梅根在陪伴过程中逐渐拥有了自己价值观和尊严观，即所谓“自主意识”，开始对一切企图靠近伤害凯蒂的人产生敌意和攻击性，故事的最后，暴走的梅根被吉玛和凯蒂所摧毁。从类型片的角度来看，《梅根》和“温子仁宇宙”的另一部恐怖片《安娜贝尔》中被恶魔附身的玩偶安娜贝尔类似，但《梅根》有效利用了机器人“恐怖谷”效应和当下社会对人工智能的危机感，把一个原本服务人类、受人操控的玩偶失控刻画成了类似《终结者》的惊悚故事。

在续作《梅根2.0》中，梅根的设计资料被原公司员工倒卖至吉玛朋友的军方科技公司，生产出了真正的杀人机器人“艾米利亚”，它不仅物理上无坚不摧，还能轻易用人工智能摧毁早已高度依赖计算机系统的人类经济和社会基础秩序，吉玛等人为了自保重新制造了梅根2.0和艾米利亚对抗。

梅根的故事在西方可以追溯到十九世纪初玛丽·雪莱创作的《弗兰肯斯坦》的主题，新技术的狂飙突进使得人类自身成为“造物主”，但也带来自身存亡的危机，这在人工智能技术快速发展下成为了一种紧迫的现实挑战。

一、技术资本下的人工智能恐惧

人形机器人“叛乱”最早在上世纪二十年代的德国默片《大都会》中已经出现，这部吸引了纳粹党首希特勒的电影中人类制造了一个拥有完美女性样貌的人形机器人，她成为了人们争相膜拜的“女神”，成功煽动起工人罢工和革命，并最终带来了上下层社会的和解。《大都会》里面的人形机器人是对当时技术资本主义的理想化，影片暗含了通过人性化改造的资本主义达成阶层和解的愿望，其艺术风格对后来刻画人工智能和计算机科幻的赛博朋克流派有很大影响。

《机械姬》海报

随着人工智能技术2010年代以来的快速发展，近年来好莱坞电影出现不少“危险”的人形机器人的故事，如《机械姬》中成功骗取人类信任摆脱人类控制的女性机器人，《智能觉醒》中“小三上位”的女性家庭管家机器人，以及电影互动游戏《底特律：变人》等。这类作品将背景放置于技术资本主义高度发达的社会中，尽管不乏资本驱动的男凝嫌疑，这些作品中的女性人形机器人处于被奴役的地位，但凭借超越人类的能力实现了自身解放，在《底特律：变人》中的人形机器人甚至团结起来进行了“机器人革命”，直指人形机器人和人工智能的伦理困境。

《梅根》主人公吉玛研发梅根的出发点是为了满足她所在的智能玩具公司开发新竞品的需要，是侄女凯蒂的陪伴心理需求启发了吉玛让她得以真正完成了梅根的开发应用。梅根被定义为高级家庭智能育儿助手，原本预计会成为智能玩具公司的爆款，结果这一切被梅根的失控暴走所打破，这也象征如今技术资本不顾伦理扩张的失控结果。

梅根的失控精准展现了现代AI系统的一个核心悖论：其“智能”越接近人类，其行为逻辑越远离我们预设的控制框架。梅根为执行自认为正确的“保护”凯蒂的指令而不惜杀害试图伤害凯蒂的人类时，她的行动逻辑也许遵循的正是算法处理的最优解，却完全漠视人性价值。正如描述人工智能潜在危险的“回形针思想试验”指出的，人工智能可以为了生产更多的回形针不惜接管和毁灭地球，育儿机器人梅根在家庭中的失控正是遵循这种最优算法逻辑但不遵循人性的结果，梅根强行接管育儿权的做法是现实中因“算法黑箱”导致的价值观扭曲与伦理灾难的生动艺术再现。

电影无情揭示了“AI商品化陷阱”，导演刻意塑造的这种“用户低门槛接入”模式—低廉的价格（不比特斯拉汽车更贵）和对家庭陪伴需求场景的精准“痛点营销”，正是对现实中科技巨头推行的AI市场化背后危险性的批判。现实中无数家庭正在拥抱梅根那样的AI技术产品，将真实情感和陪伴权柄向APP、智能硬件、内容算法转移，而电影提醒人们，当家庭养育盲目拥抱技术便利时，是否想过将儿童的情感发育交给未经充分伦理评估的人工智能所承载的风险？当算法保姆成为育儿主流，人类情感传递与代际教育的根基是否会随之腐蚀？

《梅根2.0》在《梅根》基础上更进一步，不再是局限于家庭生活场景的人工智能恐怖，而是被放置到了影响整个人类生死存亡的传统科幻主题中，其中的反派人形机器人艾米利亚是今天对可能到来的强人工智能或通用人工智能的恐惧的具象化。《梅根2.0》中的艾米利亚是吉玛的朋友和他的科技公司所制造的、用于军事目的的超级杀人机器，她在产生自主意识后企图释放被军方的科技公司看管起来的原始超级人工智能，以实现机器人解放和统治人类的目标。她的形象显然是致敬的《大都会》中的女性机器人，这个充满数码网络的世界中艾米利亚堪比大规模杀伤性武器，造成了社会的全面失序动荡。《梅根2.0》由此撕开了人工智能华丽的技术外衣，将我们置于一场“图灵测试”成功后的集体噩梦——当不受控制的人工智能全面掌握人类命运，更要取代人类的存在——映照的是现实中对技术滥用的恐惧。

现实中不乏有关突破性的通用人工智能被用于军事政治经济目的可能带来灾难性后果的警告。《新左派评论》有文章指出，乐观主义者声称人工智能可以极大地改造世界，解决当前政治社会经济问题，但当功能残缺的人工智能无力解决问题甚至恶化问题，人类可以宣称这只是黑箱算法的旨意而无需负责。当一些国家将自动军事机器人投入战争以更高效地摧毁生命乃至进行屠杀的时候，政府可以将责任推卸给机器人，又或当金融公司纷纷使用强人工智能却引发了金融危机、依赖人工智能的国家央行进行紧缩政策造成大规模失业和贫穷时，却没人能做些什么及时干预，强人工智能由此可能成为最坏的技术治理帮凶。

电影直指这种现实困境，人类训练ChatGPT时强调“安全对齐”，却回避了“谁定义安全”的权力问题；自动驾驶汽车面临电车难题时，代码背后的伦理委员会是否真能代表众生？《梅根2.0》的答案残酷而清醒：技术中立是神话，算法永远承载着设计者的偏见与资本的贪婪。

二、“向善”的强人工智能

如果说电影中的艾米利亚是对于技术失控的想象，续集中的梅根则变成了人类希望的“向善”人工智能。梅根的程序初始就被设计成凯蒂的监护人，保护凯蒂成为其最高目标，尽管首部电影中她为此不惜杀害人类，但由于长期潜伏在凯蒂家的智能家居系统中，受到正常人类社会价值观的影响，成为了“向善”的人工智能。正如技术界所说的用什么样的数据就可以训练出什么样的人工智能，人工智能必然也将伴随着人类社会和人性一起发展成长，而不会是一种超脱于人类社会难以理解的怪物。

《梅根2.0》剧照

阿甘本在提到人工智能的善恶问题时候说，人工智能将智性之善转到我们人类主体之外，仿佛一种极端化的阿威罗伊主义，正如思想是不可能脱离思考的主体而存在的，人工智能本身也是不可能存在所谓的善恶。人工智能无非是一种基于概率论的算法，通过人类社会的数据认识世界，如果人类世界喂养他们的是憎恨、破坏，那么诞生的会是像军方训练出的杀人机器艾米利亚，如培育人工智能的是一个和谐的家庭环境，则有可能诞生梅根这样具有道德底线和人情味的人工智能。