作者：杨　昊

《梅根（M3GAN）》于2023年3月17日登陆中国内地大银幕，这部带有科技色彩的恐怖片由杰拉德·约翰史东执导，阿克拉·库柏及温子仁担任监制。在电影的设定中，梅根（M3GAN）是一个人工智能的玩具人偶，机器人专家嘉玛（艾莉森·威廉姆斯 饰）将其精心设计为儿童最好的玩伴。嘉玛在获得了侄女凯蒂（维奥莱特·麦格劳 饰）的监护权后，将梅根（M3GAN）赠送给侄女作为她的伙伴，然而她的这个决定却造成了无法想象的严重后果。除了“恐怖谷效应”带来的典型“温子仁式”恐怖元素之外，本片还将惊悚与人工智能技术相结合，使影片更加富有内涵，并通过恐怖电影的外壳，向观众传达了有关人工智能的警醒和启示。

(资料图片仅供参考)

最近，以Chat GPT为代表的生成式语言模型得到广泛运用，让“人工智能是否会产生自主意识并威胁人类”的疑问喧嚣尘上，并成为了人们频繁讨论的话题。美国科幻作家菲利普·迪克曾撰写过一篇小说——《仿生人会梦见电子羊吗？》，而以这部小说标题为代表的反问也在日后，成为了人们对于AI是否会产生自主意识而常常引用的句子。在影片里，梅根（M3GAN）也曾对调试人员发出直击灵魂的哲学叩问——“Will I die?”。这不禁让我们反问：Chat GPT也会发出像梅根（M3GAN）一样的疑问吗？如果仿生人正在梦见电子羊，人类是否已经准备好了面对这个时刻？

制造者和人工智能的偏见

在影片中，梅根（M3GAN）开始“黑化”的重要原因便是其底层代码被嘉玛设定为：无条件保护凯蒂的安全，包括凯蒂的生理和心理安全。而当“保护凯蒂”成为了梅根（M3GAN）最重要的行为逻辑，且嘉玛忘记了设置“超级管理员”权限，梅根（M3GAN）在一系列外部因素的刺激下，不断地被激发了暴力倾向，从一个“人工智能娃娃”变成了一个“无情的杀人机器”。

任何人工智能并非无源之水，Ta们脱身于制造者，也不可避免地会被制造者所塑造。代码编写者会将自己的偏见在无形之中植入到人工智能中，如Google Translate（谷歌翻译）一直被人诟病存在性别偏见现象，即会默认将某些“中性”职业和特定的性别联系起来，包括“医生”一定是男性，而“护士”则往往是女性。马斯克也曾指出：AI不会背叛，只会执行命令。然而，当人工智能无条件遵守这些设定，加之缺乏更高权限的监管和约束时，就很可能会导致一系列我们无法预料、也无法控制的事情发生。这也警示我们需要对人工智能进行更加谨慎和负责任的使用，并强调监管和约束的重要性，以确保其不会对人类社会造成无法承受的损害。

快速学习：人工智能的优点与致命缺陷

人工智能以快速学习著称，并以此完善自己的信息库，从而变得更加强大。但可怕的是，由于互联网的内容鱼龙混杂，这意味着人工智能也可以快速学习包括歧视、欺骗、仇恨在内的负面信息。如在影片里，梅根（M3GAN）便可以通过连接互联网快速学习海量的知识，然而在这种学习机制下，梅根（M3GAN）不仅学到了如何照顾他人，还学到了复仇和杀戮。

而像Chat GPT这样的生成式AI模型在回答人类问题时，也会通过网络搜寻、统计和整合资料，这意味着它们可能会向我们传达网络上错误的信息，甚至是暴力内容、偏见和种族歧视等消极信息。

由此可见，如何设定人工智能伦理将成为人工智能技术发展中的重要课题。就像艾萨克·阿西莫夫针对机器人发展所提出的机器人三定律一样，我们也需要进一步考虑和设定与AI生成内容相关的伦理标准。因为这不仅涉及技术方面的问题，更牵涉到人类的文明和社会价值观的维护。

科技应辅助而非替代人类责任

在电影中，机器人专家嘉玛将她的侄女交给了梅根（M3GAN）照顾，然而她自己却没有投入足够的时间和精力去关注侄女的需求和情感，这显然没有履行一个监护人的职责。在梅根（M3GAN）的新品发布会宣传片里，嘉玛所在的团队提出了一个有趣的数据来辅助宣传：在照顾孩子中，大约有80%以上的行为都是重复工作，而M3GAN可以帮助家长从这些重复性工作中解放出来。这说明了在嘉玛的潜意识里，认为照顾孩子是一件费心、费时间的行为，而她并不希望自己将大部分时间花费在照顾侄女上。这既是促使她将梅根（M3GAN）变为侄女24小时玩伴的动机，也是最终酿成惨剧的重要原因之一。

科幻作家菲利普·迪克认为，仿生人与人的区别就在于人会产生移情，而仿生人则不会。爱是人类作为生物最独特的能力之一，那些看似烦琐的关心和照料，其实就是我们之所以为人的重要依据。面对我们所爱、所关心的人，所有的繁杂都最终会变成耐心的养料，并继续滋生爱意。

科技应该被视作帮助我们完成自己职责的工具，而不是成为替代品。当人工智能可以替代我们照顾亲人、好友时，我们需要反思：当没有了爱，人类又该以何存在？如果我们过于依赖科技去完成所有的照顾和关怀，而忽视了人与人之间的情感联系，那么我们可能会失去作为人的独特特质。

毫无疑问，我们应该把握科技发展的机遇，但与此同时，我们也需要保持对于人与人之间的关怀和爱的珍视，只有这样，才能把科技和人性更加完美地结合起来，共同推进社会的和谐发展。（杨昊）

光明网文艺评论频道面向社会长期征集优秀稿件。诚邀您围绕文艺作品、事件、现象等，发表有态度、有温度、有深度的评论意见。文章2000字以内为宜，表意清晰，形成完整内容。来稿一经采用，将支付相应稿酬。请留下联系方式。感谢您的关注与支持！投稿邮箱:wenyi@gmw.cn。