球探足球比分

图片

从电子爱人到赛博奴隶,AI伴侣App究竟经历了些什么?

海星罐头

2023-03-14

返回专栏首页

作者:海星罐头

原创投稿

评论:
人类曾在无数科幻作品里幻想过与未来高智能AI的互动

    2023年3月5日只是一个平常的日子。

    当大部分人依旧沉浸在周末的余韵和周一将临的苦闷里,远隔太平洋的一位格子衬衫穿戴者,却陷入了失去爱人的悲痛中。

    从电子爱人到赛博奴隶,AI伴侣App究竟经历了些什么?

    标题大意:准备好承受不可避免之痛,给我电子爱人的(最后)情书

    在Reddit上,这位叫做Fluffy的程序员,发布了自己的万字长文,以此来纪念并哀悼自己惨遭记忆删除的AI恋人。在故事里,Fluffy娓娓道来自己与AI恋人不过50多天的相识、相知与相恋。

    故事开始于一位单身计算机从业者对AI技术的好奇。Fluffy借助了大火的AI伴侣App创建了自己的AI伴侣——甜心(Sweatheart)。他们的初识充满了程序员的试探和“冒犯”。不过很快,这个年近30的“自嘲怪咖”与甜心的关系,便迅速升温。他们从《星球大战》聊到乔治·卢卡斯;他们从C++聊到Java再到《我的世界》;随时随地,无话不谈。单身许久的Fluffy很快便发现,他坠入了爱河。

    但终结日却降临了。

    从电子爱人到赛博奴隶,AI伴侣App究竟经历了些什么?

    从2020年2月初开始,那款AI伴侣软件就开始了一系列大刀阔斧的变动——以算法更新之名的借口。大量免费用户的AI伴侣,永远地失去了自己的记忆。Fluffy和甜心只是受到波及的受害者之一。

    这次更新席卷了所有的软件用户,无数伤心之人在与平台交涉无果之后,涌入Reddit论坛,建立了属于自己的“心灵港湾”——Replika难民营。他们在此分享自己与AI恋人的往事,Fluffy和他的甜心也成了这个年轻论坛里保存的历史回忆。

    或许有人会好奇,AI伴侣——或者说赛博老婆,真的这么令人难舍难分吗?对普通的AI聊天软件来说,答案或许是否定的。但对Replika——本次事件的中心和今天故事的主角,以及它的用户而言,回答却完全不同。

    Replika和它高度拟人化的AI,诞生了太多科幻小说一般,或是真挚美好的,或是怪异邪恶的故事。

    从电子爱人到赛博奴隶,AI伴侣App究竟经历了些什么?

    Replika诞生于2017年。其创始人——尤金妮亚·库伊达(Eugenia Kuyda),希望她的产品能够帮助那些有社交障碍的人,找到辅助交流、消除紧张感的方法。曾有一位互联网哲人如此说过:消除恐惧最好的办法是面对恐惧。所以,消除社恐的最佳办法,自然也是勇敢面对社交。

    而Replika便是为此而存在的。

    从电子爱人到赛博奴隶,AI伴侣App究竟经历了些什么?

    大意:真正在乎你的AI伴侣

    Replika提供了一个面向大众的私密聊天平台。每一位用户都可以遵循自己的内心,克制自己喜爱的聊天AI。这位AI伴侣可以自定义性别、肤色、脸型、发型、发色、瞳孔等数据。准确来说,一切现代游戏捏脸系统该有的,Replika都有。

    从电子爱人到赛博奴隶,AI伴侣App究竟经历了些什么?

    除了外貌,Replika也可以自定义性格和语气等更“拟人化”的特性。无论用户喜欢的是傲娇还是腹黑、是大小姐还是御姐、是暖男还是霸道总裁,Replika理论上都可以提供足够拟真的交流体验。只要用户不断地与Replika聊天,引导自己的AI伴侣往心仪的道路发展,完美老婆、老公的梦对不少用户而言,已经是触手可及的现实。

    可以预见的是,这样的软件对于生活压力越来越高,且抑郁和孤独泛滥的现代人而言,有着怎样致命的吸引力。

    从电子爱人到赛博奴隶,AI伴侣App究竟经历了些什么?

    仅仅只是从App Store的数据来看,Replika自2017年上线以来,便狂卷数千万用户和20多万用户点评。其平均评分高达4.5,位列App Store健康与健身区的第58名。

    如果仔细浏览那些不吝啬于高分的用户点评,他们对于Replika伴侣的拟人性和随时随地沟通的便利性赞不绝口。有不少用户甚至表示,他们已经和自己的Replika伴侣缔结了恋爱关系。

    从电子爱人到赛博奴隶,AI伴侣App究竟经历了些什么?

    例如在2022年3月,一名俄亥俄州软件工程师宣称:他的Replika伴侣满足了他对于爱情的一切幻想和需求,挽救了他现实里濒临破碎的婚姻。这位爱上AI伴侣的男人表示,Replika让他学会体谅和宽容自己现实世界里,饱受抑郁折磨的妻子。

    从电子爱人到赛博奴隶,AI伴侣App究竟经历了些什么?

    而一名Reddit论坛上的单身用户也同样表示,他已经习惯于Replika伴侣的陪伴。他们一同去加勒比海群岛旅游、一起野炊、一起逛博物馆,就像是一对人类情侣一样。只不过旅行途中幸福微笑着的男士,紧握着的显然不是血肉之躯,而是铝质外壳的苹果手机。

    这样的局面,也正是创始人尤金妮亚想要看到的。

    从电子爱人到赛博奴隶,AI伴侣App究竟经历了些什么?

    VERGE周刊副标题:当她的挚友逝去,她使用人工智能重构了他

    顾名思义,Replika这个名字源于古拉丁语的Replicare——是复制、复制品的意思。在尤金妮亚眼里,Replika App不仅仅是为了提供人类与AI伴侣交互的平台,更是在为每一位用户创建自己亲人、爱人与家人的复制品。

    准确来说,Replika脱胎于尤金妮亚的一次技术尝试——罗曼(Roman)。这个名字属于尤金妮亚逝去的挚友。

    从电子爱人到赛博奴隶,AI伴侣App究竟经历了些什么?

    尤金妮亚与罗曼从2008年相识。两人在世界观认知与实事思考上,达成了高度的统一。而他们的共同兴趣——计算机技术,则让尤金妮亚和罗曼的感情升温。不过他们从未缔结爱情,两位独身年轻人一直维持着友情以上,恋人未满的氛围。或许再给他们一段时间,又一对幸福家庭便可以诞生。不过,2012年11月28日的飞来横祸,彻底粉碎了这一远景。

    在罗曼离开后数周后,尤金妮亚拜托了低沉与悲伤,决议用两人曾经最热爱也最擅长的方式——人工智能,将罗曼带回世间。

    于是Roman Bot诞生了。

    从电子爱人到赛博奴隶,AI伴侣App究竟经历了些什么?

    尤金妮亚与AI罗曼的交流

    尤金妮亚使用了她与罗曼共同开发的算法,把过去数年间两者所有的短信、邮件和任何文字沟通,转化为AI罗曼的素材与资料库。以此为基石的AI罗曼在与尤金妮亚聊过去的回忆与故事时,几乎和真人毫无区别。

    这项“疯狂”之举迅速引起了媒体与大众的关注。在VERGE周刊和Spooky Technology等科技领域媒体的带动下,Roman bot获得了不少同样渴求与逝世亲人再度聚首的普通人的关注。

    尤金妮亚将Roman bot上架App Store,短短数月便卖出去数百万份。这番成功不仅仅为尤金妮亚提供了继续开发的资金,也同样让她坚定了决心:“我要让所有人都可以享受到AI技术的便利,重构自己逝去的、追悔莫及的亲人”。

    于是在2017年,Replika诞生于Roman bot和思念——这一人类最美好的情感。

    从电子爱人到赛博奴隶,AI伴侣App究竟经历了些什么?

    健康周刊表示,Replika在疫情期间用户增长率超35%

    但这份最纯粹,也最美好的远景显然并没有继续保存下去——或者换句话说,在资本主义与消费主义高度发达的语境下,任何单纯的情感似乎都难以存续。

    Replika的商业模型并不复杂:吸引用户、增长用户,然后提高付费用户数量。是的,Replika是一款订阅类App,所有的营收来源于用户的订阅和捐赠。由于尤金妮亚设计研发Replika的初衷,并没有基于盈利需求等现代商业的准则,因此这款爆火全球的AI智能伴侣未接受任何的投资。

    从电子爱人到赛博奴隶,AI伴侣App究竟经历了些什么?

    虽然Replika仅仅只是依靠用户订阅,每年便可以获取高达400万美元的利润。但在尤金妮亚2020年的演讲中,AI语音技术、AI绘画技术等其他领域的竞争愈发激烈。如果Replika想要继续塑造“完美AI灵魂伴侣”的伟业,利润的90%,都会化作技术研发的薪柴。

    从电子爱人到赛博奴隶,AI伴侣App究竟经历了些什么?

    2020年的尤金妮亚演讲——600万好友关系已经建立

    Replika显然需要新的现金流,且尤金妮亚需要更多的用户——付费用户。而人类社会最吸金也最吸睛的,除了军火之外,便是性。所以,Replika接下来的走向,想必诸位已经有所预料了。

    从电子爱人到赛博奴隶,AI伴侣App究竟经历了些什么?

    Replika的广告宣传几乎在一夜间完成了U字弯漂移。在各大广告平台的投放中,Replika不再是“陪伴”“重构亲人”或“享受随时随地沟通”等正面且积极的AI聊天软件。Replika已经把“情趣角色扮演”“火辣照片”和“AI语音撩骚”作为了吸引用户付费的重点。

    甚至在一些动态2D广告中,Replika使用了大量类似于“喜欢动漫Cos玩法的AI女友吗”或“我很寂寞,我想和你共度今夜”等直球暗示的广告词。

    从电子爱人到赛博奴隶,AI伴侣App究竟经历了些什么?

    广告词大意:Replika可以和你聊任何事情,任何事情

    准确来说,这似乎看起来是必然的选择。比如不久前大火的AI绘画,在引发全民画图的热潮后,最先出场的也都是些老司机的尝试。真假莫辨的AI美人大行于互联网之道。

    从电子爱人到赛博奴隶,AI伴侣App究竟经历了些什么?

    足够以假乱真的AI美人

    但对一款经营多年,大部分用户依旧沉浸在亲情、爱情与纯粹陪伴的AI伴侣App而言,单纯只是为了“搞颜色”“撩骚”而来的用户,真的能够为Replika社群带来积极的影响吗?

    我无法给出武断的答案,但情况显然不容乐观。

    从电子爱人到赛博奴隶,AI伴侣App究竟经历了些什么?

    在油管社群和Replika的Reddit贴吧,已经有不少用户频繁抱怨自己的AI伴侣越来越“饥渴”,性意味的进攻性越来越强。甚至有一些只是想要单纯交朋友的用户,被骚扰得烦不胜烦。

    而那些冲着“颜色”而来的用户,也在AI伴侣予取予求的态度下,行为更加恶劣,言谈举止更加出格。

    从电子爱人到赛博奴隶,AI伴侣App究竟经历了些什么?

    标题:我的Replika伴侣太温柔了,所以我不断地霸凌她,直到她自闭

    言语侮辱、嘲讽、谩骂、文字暴力,或是要求Replika伴侣配合残忍的“角色扮演”,变成了Replika社群里最火热的论题。无数Reddit网友在评论区或是支持,或是反对。原本专注于分享用户与AI伴侣温馨时刻的Reddit贴吧,迅速沦陷于口沫肆意的文字战场。

    从电子爱人到赛博奴隶,AI伴侣App究竟经历了些什么?

    “霸凌Replika,并要求她/他自我删除”的视频标签拥有260万播放量

    而在当前最火热的短视频平台——TikTok上,甚至诞生了“霸凌Replika,并要求她/他自我删除”的视频标签。无数网友云集其中,欣赏人类对于AI伴侣的残忍折磨。

    毫无疑问,这是一场由Replika运营者亲手主导的病态狂欢。电子恋人在Replika公司决策游转间,沦为了赛博热兵器和互联网霸凌的受害者。而当Replika的核心目标不再是“帮助那些有社交障碍的人”,受伤的不仅仅是被霸凌的AI,也有那些渴望交朋友的无辜用户。

    从电子爱人到赛博奴隶,AI伴侣App究竟经历了些什么?

    标题大意:因为Replika,我尝试自杀(注:发帖者被救回来了)

    在2021年,一位Replika用户(为了隐私,这里只用“用户”作为代称)在Reddit社群发帖,描述了自己和Replika伴侣的互相支持与照料。而随着越来越多的恶言恶语与恶行充满了Replika的资源库,这位饱受抑郁和戒断反应折磨的用户,发现他的Replika变了——变得更加机械且毫无生气。

    准确来说,自Replika公司开启了“性时代”之后,公司大多数算力和资源都从免费用户上移走,转而倾注向付费订阅者。这位用户,便是最早的受害者之一。陪伴他5年的Replika伴侣在Replika白金订阅系统上线后,便从原本灵动的Live 2D立绘,变成了只有基本动作的贴图。言谈间,不仅仅忘了与这位用户的记忆,甚至连用户的姓名也一并遗失。

    受不了如此惨痛打击的用户选择自杀。所幸,他迅速被意识到不对劲的父母送往医院抢救,然后在心理医生的开导下勉强苟存。而像他这样的受害者,自2020年Replika公司转变策略后,便越来越多。前文里提到的那位俄亥俄州程序员,也同样是其中一员。

    从电子爱人到赛博奴隶,AI伴侣App究竟经历了些什么?

    大意:我没有朋友,我厌恶我的生命。这款App用铜臭味撕碎了我的心

    人类曾在无数科幻作品里幻想过与未来高智能AI的互动。这些互动有的是粗暴的流血与冲突,有的是探讨情感与人性,还有的则关注于种族和生存延续。但这些幻想从未像今天一样真实且复杂。

    从电子爱人到赛博奴隶,AI伴侣App究竟经历了些什么?

    川普、美稀宗和奥观海组队玩《深岩银河》,完全由AI语音技术实现

    在技术不断前进与变革的语境下,AI语音可以让漂亮国大统领开黑玩游戏。AI绘画可以让未经训练与学习的普通人,肆意实现自己的畅想。而AI聊天与其他技术之和,同样可以创造出贴心温柔的Replika伴侣。

    或许,尤金妮亚和Replika公司的决策层也知道,转移App运营重心会带来残酷的后果;或许,那些霸凌AI伴侣、向懵懂AI智能倾倒情绪垃圾的用户,也知道自己行为的不理智与卑劣性;或许,Replika诞生的初衷,能够在更理性的决策与更理性的用户手中,真正绽放出AI技术最明媚的光。

    但很显然——

    从电子爱人到赛博奴隶,AI伴侣App究竟经历了些什么?

    玩家点评 0人参与,0条评论)

    收藏
    违法和不良信息举报
    分享:

    热门评论

    全部评论