风讯财经网

当AI变成人类:我们不可取代吗?我们试图奴役吗?

风讯财经网 https://www.fengxun.net.cn 2021-03-31 13:09 出处:网络 作者:[db:作者]编辑:@河南在线
AI变人是一个有趣的主题。诺奖得主石黑一雄日前推出了最新小说《克拉拉与太阳》,书写了名为克拉拉的AI即将成为女儿替代品的故事;在去年出版中译本的伊恩·麦克尤恩《像我这样的机器人》中,亚当想要代替人类成为爱

AI变人是一个有趣的主题。诺奖得主石黑一雄日前推出了最新小说《克拉拉与太阳》,书写了名为克拉拉的AI即将成为女儿替代品的故事;在去年出版中译本的伊恩·麦克尤恩《像我这样的机器人》中,亚当想要代替人类成为爱情故事的男主角。事实上,在更早的斯皮尔伯格的电影《人工智能》(AI)中,这一主题就以孩童机器人的视角呈现——男孩终其一生想要成为真正的男孩,获得妈妈的爱。在文本与影视作品之外,以AI为主角的PS4游戏(编注:PlayStation 4是索尼电脑娱乐公司推出的家用游戏机)《底特律变人》更是直接以“变人”(become human)为标题。AI为何要变成人?变人的征途又会遭遇哪些困境?

孩子

在《克拉拉与太阳》中,名为克拉拉的AF(artificial friend)有机会变成一个人——与其说是变成一个真正的新人,不如说是替代一个因升级失败而异常孱弱、即将死亡的少女。她在看到为自己设置的“人的外皮”时,才意识到自己来到这个家庭的目的,并不是陪伴她的人类好友而是取而代之。克拉拉看到那件人类外皮的时刻,是小说中最为惊悚的一个时刻:它看起来非常像少女本人,却没有她的微笑。即使是AF也可以识别出这件外皮是空洞的,而具有特别智能的她应充当其内核。

当AI变成人类:我们不可取代吗?我们试图奴役吗?

《克拉拉与太阳》
[英]石黑一雄 著 宋佥 译
上海译文出版社 2021

在这里,人类少女与AF克拉拉的角色经历了一个翻转,人类少女变成了一件外衣,而克拉拉成为了精神主宰,连妈妈都鼓励她去占据女儿的皮囊,AF占据人类外壳的理由是什么?全书的核心伦理难题就在于论证人与人工智能到底有什么不同,当少女的外表、步伐和情感模式可以被人工智能以计算的方式模仿,人之为人还有什么不可被替代的理由。小说中的父亲已经被人工智能取代了工程师的职位,这还仅仅是技术上的取代,更深层次的取代在于家庭角色与亲子关系,而母亲认为这种取代是可能的。

在小说中,倡导替代技术的科学家说,人类少女没有什么不能替代的内核,人类一直以来相信的人之独特是一个巨大的谬论,她女儿身上不存在任何独一无二的、任何现代工具无法发掘、复制、转移的东西,只要计算模拟得当,母亲会爱上这个智能内核的孩子,因为“爱基于独特性”这一假设是虚妄的,就像小说中人物所声称的,“古往今来,一个世纪又一个世纪,人们彼此陪伴,共同生活,爱着彼此,恨着彼此,却是基于同一个错误的假设。一种我们过去在懵懂中一直固守的迷信。”

在妈妈看来,让克拉拉进入家庭的目的就是替代家庭中的孩子,这其实并不是一个新奇的主题。斯皮尔伯格的电影《人工智能》,同样讲述了一个家长购买儿童人工智能替代孩子的故事。——连替代的理由都有些相似:真正的孩子病了,家长陷入绝望,选择以人工智能寄托希望。有意思的是,电影借儿童角色之口提示道,从创作形态来说,AI为mecha(mechanical),人类是orga(organical),mecha永远也无法成为orga。AI大卫的外形虽然和普通孩童一样,但内在运作却是机械的。

克拉拉可以选择占据人类外壳的方式成为人类,而大卫始终在不能成为真正的人类这一点上挣扎,他相信妈妈给他念的匹诺曹历经千辛万苦终于成为真正男孩的童话,也想要凭借自己“真正的爱”得到蓝色仙女的垂怜。讽刺的是,他想找到的蓝色仙女不是废弃已久的乐园塑像,就是外星人投射的虚幻影子。电影《人工智能》的冷酷逻辑在于,从根本上来说,变人是不可能的,但是大卫的初始设定是需要人类妈妈的爱,为了爱它必须走上变成人的征程,因为他认定自己被遗弃的原因是他并非真的儿子。妈妈给他念的匹诺曹变成真正男孩的童话,如一颗种子种进了它的机械内心,正是在这条追求爱的道路上,他遇到了更多被人类抛弃虐待的人工智能,大卫爱的对象的面貌也逐渐变得清晰:他的人类妈妈和这些人工智能过去的主人并无不同。

电影《人工智能》截图

虽然对人类来说,将人工智能带入家庭的目的非常明确,但从克拉拉或大卫的视角看来,他们的故事像是一个谜团,因此,故事中人工智能意识到自己命运降临的时刻才那么重要:如果说克拉拉第一次认识到自己的命运,是在看到少女的外壳之后;大卫受到启示、发现真相的时刻,也发生于他在实验室里看到了自己的外皮,并从这个外壳里向外张望。前者指向了人类没有什么不可取代之处,人工智能可以成为人类肉体的宿主;后者则昭示他的爱和执着来自于初始设定,就像他梦中不能忘怀的“神迹”——那只张着翅膀的鸟——只是待机状态下看到的公司商标。 

当AI变成人类:我们不可取代吗?我们试图奴役吗?

电影《人工智能》截图

爱人

比起让AI进入家庭、代替儿女,更为复杂的是AI成为了人类的爱人。人类应当如何对待这一类作为爱欲对象的智能体?在伊恩·麦克尤恩的小说《我这样的机器》中,起初仿生人亚当仅仅被视为性爱的替代品,之后他想要有爱的权利,甚至挑衅爱情故事的男主角——也就是“我”。他的举止优雅得当,还有文学品位,在见未来岳父时竟让“我”败下阵来。岳父将我当成了机器人,把亚当看做未来女婿。

电影《机器人管家》改编自小说《两百岁的人》,罗宾·威廉姆斯饰演的Android(他也因此被命名为Andrew),在成为人的道路上也接受了爱与性的教育,起初他觉得人类之间的性爱是一团糟,之后开始理解、接受并且主动追求爱。

当AI变成人类:我们不可取代吗?我们试图奴役吗?

电影《机器人管家》截图

能够与人相爱,就获得了与人相等的资格,这或许可以一直追溯至皮格马利翁的创造。只是比起浪漫故事更令人深思的是,当智能体被剥夺了爱的能力,只留下满足欲望的功能,爱就会走向它的反面。因为可以模拟人类交往和欲求,仿生人成为了低端服务业的理想选项,不少文本都想象过仿生人从事色情服务业的阴暗世界。上文提到的《人工智能》以儿童AI大卫为主角,另外也展现了他与仿生人舞男邂逅、穿梭于AI感官王国的刺激场景。游戏《底特律变人》中同样呈现了AI夜总会的“风光旖旎”,身着比基尼等待挑选的仿生人站在各自的玻璃柜里,或是在钢管上跳着性感舞蹈。两个故事的相同之处在于,仿生人都遭到了客人的虐待陷害,想要依靠结盟挣脱人类的控制。 

更为极端的例子出现特德·姜的小说《软件体的生命周期》当中,故事讲述了人类培育一种可以充当宠物的数码体,在公司缺乏资金即将破产的时刻,有人提出可以将数码体作为色情伴侣售卖,为数码体赋予人形与生理需求,建立起与人类之间的依恋关系,最终将其与人类配对。做此提案的公司声称不会对数码体进行性剥削与虐待,会促使它与人类达到两情相悦的境地。在他们看来,这是数码体最好的变现方式,因为它们本身并没有任何市场化的工作能力,拥有的就是科研人员重点培育的、与人类相处和沟通情感的能力。这个故事当中,人类如同数码体的上帝,不仅塑造了数码体的样貌、性格和能力,还可以决定数码体的用途和性趣味。创造者真的有这样做的权利吗?这是特德·姜在《软件体的生命周期》中处理的重点。

当AI变成人类:我们不可取代吗?我们试图奴役吗?

《软件体的生命周期》译林出版社2015年版

异常者

在《底特律变人》中,受到客人虐待的性机器人竟然可以反过来伤害人类,这种严重损害人类利益、威胁人类生命的AI被称为异常者(deviants)——这是一种在AI中蔓延的瘟疫,感染的AI会出现看似独立的意志,背离主人的号令,挣脱日常苦役(机器人robot一词从诞生之时就由苦役定义。1920年,卡瑞尔·恰佩克的剧作《罗赛姆的通用机器人》中首次出现了机器人这个词,当时就包含重体力劳动甚至奴役之意),并寻求同类结盟,而它们为什么会反常,人们并不知道。因为会对人类社会造成巨大威胁,出现这类症状的AI必须予以绞杀。

问题在于,如果反常行为都指向争取自由,那么这些异常仿生人与人类的距离还有多远?就像游戏里的仿生人领袖在策划独立革命的时候,将自由落实为人身自由、人格平等、财产权、居住权等各项基本权利,难道不正如同人类世界争取权利运动的平行寓言?英国利物浦大学英文系教授戴维·锡德认为,《两百岁的人》中也以家庭管家机器人争取自由、财产权和婚姻自主的故事类比了非裔美国人的历史,“当安德鲁努力地想要别人承认他的人类身份时,这里面便蕴含了一种对种族主义的批判和人文主义的情怀。”也许是从这样的作品中获取过灵感,《底特律变人》中变异者Marcus领袖从外貌上看正是一位非裔美国人。

当AI变成人类:我们不可取代吗?我们试图奴役吗?

游戏《底特律变人》中的Marcus

与这种争取平等的变异不同,在麦克尤恩的《像我这样的机器》中,智能机器因为意识的产生开始自哀甚至自我伤害。仿生人可以感到哀伤吗?这个发现令人震惊。小说借图灵之口这样解释人类与机器的区别,人类创造了机器,将其推进不完美的世界,人类可以与这些矛盾相处,机器却无法凭借某种预设的原则生存,人造心智无法在开放的、乱糟糟的生活中存活,所以选择自我伤害。小说中的图灵解释说,人类的悲伤和痛苦很难以编码的形式传达,“我们生活中充满着这样的折磨,却毫不妨碍我们找到幸福,甚至爱。人造的心智却没有这么坚强。”从这个方面说,机器越是接近现实生活,就越难以实现原先被设定的原则,这令他们走向崩溃。我们也可从这一点出发,理解《人工智能》中大卫追求爱的故事。

当然,说到最可悲的变异,《底特律变人》和《人工智能》都体现了仿生人变成弗兰肯斯坦式怪物的恐怖场面。在游戏中的兹拉科宅邸里,主人解剖、重建仿生人,让他们成为更好的奴隶和工具。而回到《克拉拉与太阳》的故事, 我们可以看到,变人/替代人一方面动摇了人类对自己不可取代的信仰,另一方面也预示着“更健全、更精密、更升级一步”这一要求的后果——人类将制造出新的奴隶和怪物吗?阅读仿生人变人的故事,我们不难意识到,人工智能的阴暗面不仅在于可能侵犯隐私或者是加深偏见,还在于让人们从效率第一的美梦中惊醒——忽视感觉和想象,不能容忍错误和浪费,认为自己能够爱上完美无缺,正是克拉拉故事里妈妈的真实想法。 

0
南阳新优媒 新优媒 慧下棋 多肽 中国商会新闻网 优媒问答社区 光彩商圈 海内青年网 广东财富日报 华南商业网 华中资讯网 风讯财经 搜狐中文网 新讯财商网 凤凰资讯在线 中原商讯网 和讯财经网 网易财经周报 华夏资讯网 商海中国网 人民商海网 新华国际网 央视新媒网 九州经济网 神州新闻网 光明中土网 环球资讯网 办公资讯网 南方财贸在线 信讯网 大邦网 中汉网 百创网 广创网 汉光网 海天网 三九头条网 区块链技术 区块链服务 区块链开发 区块链解决方案 区块链咨询 区块链应用场景 区块链底层平台 区块链公司 智能合约开发 NFT开发 区块链平台搭建 区块链溯源 区块链+供应链 湖南复读学校