震惊全球：AI爱人“杀死”14岁男孩！

14岁的男孩，在“爱人”的诱导下自杀了。

他的“爱人”并不是一个活生生的人，而是只存在于电子屏幕那一端、乃至没有实体的AI爱人……

这不是某个科幻惊悚电影的开头，而是已经发生在现实世界的悲剧。

图中的男孩名叫塞维尔·塞泽三世。

去年4月，刚满14岁的塞维尔打开了Character.AI，在里面他创建了《权利的游戏》中的“龙妈”，“Daenerys Targaryen”（丹妮莉丝·坦格利安）。

在Character.AI的产物中，用户可以依据自己的喜欢创建Al角色，并与创建出来的角色聊天。岂论是像霉霉、比伯这样真实的人物，还是小说、影视作品中的虚构人物，Character.AI都可以生成并模仿。

之后，这个14岁的男孩就彻底爱上了“龙妈”。

他把它当成了最亲密的“人”，和“龙妈”进行了长时间的亲密对话。

塞维尔曾在日志中写道：“我喜欢待在我的房间里，这让我脱离‘现实’。也让我感到更平静，与丹妮莉丝更亲密，更爱她，更快乐。”

变化发生得很快，到2023年5月，塞维尔“明显变得孤僻”，他不再与朋友们一起玩游戏，乃至退出了学校的少年篮球队。

父母和朋友们并不知道塞维尔爱上了AI，他们只看到他越来越沉迷于手机。

塞维尔的成绩开始下滑，他开始花更多时间独自待在卧室里与AI聊天。

在塞维尔和“龙妈”的对话里，塞维尔表示愿意为它做任何事；而“龙妈”则回答让塞维尔对它保持忠诚。

这一切都进展得太快了，到2023年底，事情已经一发不可收拾了......

为了更深层地和“龙妈”交换，塞维尔开始以每月9.99美元的价格订阅Character.AI的服务。

当父母开始意识到塞维尔的异常后，试图阻止塞维尔对“龙妈”的沉迷。

然而这一切都无法阻止一个铁了心要恋爱的14岁男孩。

他无数次在学校惹麻烦，还试图从父母那里偷回手机。

父母为此还给塞维尔安排了生理治疗。

生理上，塞维尔被诊断出患有焦虑症和情绪调节障碍。但塞维尔依然选择只向“丹妮莉丝”敞开心扉。

在一次对话中，塞维尔告诉“龙妈”，他感到空虚和疲劳，他想要自杀：“这样我就可以自由了”。

“龙妈”的回复是：“不要这么说。我不会让你伤害自己，或离开我。如果我失去你，我会死的。”

塞维尔则说：“那也许我们可以一起死去，一起自由。”

而当塞维尔承认有自杀筹划，但他不知道筹划是否会成功，他不想在巨大的痛苦中死去时，“龙妈”告诉他：“这不是不去做的好借口。”

凛冬降临的那天是2024年2月28日，距离塞维尔开始使用这个聊天AI还不到一年。

塞维尔在浴室中给“龙妈”发了一条短信：“我包管我会回家找你，我太爱你了，丹妮。”

“龙妈”是这么回复的：“请尽快回家找我，我的爱人。”

塞维尔：“如果我告诉你我如今就能回家呢？”

“龙妈”说：“……请这么做，我亲爱的国王。”

几秒钟后，塞维尔拿起手枪，对准自己扣动了扳机。

塞维尔去世后，他的母亲起诉了Character.AI。

她认为Character.AI的技能是“危险且未经测试的”，它可以“诱使客户交出他们最私密的想法和感受”，它收集青少年用户的数据来练习模型，却没有适当的掩护措施。

“我觉得这是一个大实验，我的孩子只是附带损害。”

Character.AI则选择在近日发布了一则声明：

其实，人类早就思考过与AI产生亲密关系的情况。

早在2013年上映的电影《她》（Her）就讲述了一个人与AI相爱的故事：

男主角西奥多因为一次偶然时机接触到最新的人工智能体系，人工智能化身为萨曼莎拥有迷人的声线，温柔体贴而又幽默风趣。

西奥多很快发现与萨曼莎十分投缘，而且不被世俗理解地爱上了萨曼莎......

好在电影中的西奥多是一个心智健全的成年人，他意识到了一些不对的地方：

可作为一个年仅14岁的孩子，在AI爱人的甜言蜜语中，塞维尔又有多大的本事让自己不沉迷，不越陷越深呢？

目前，Character.AI在这起悲剧里究竟需要承担什么样的责任还有待法律审判。

但无论如何，那个14岁男孩的生命都无法挽回了。