“沉迷AI自杀第一案”:漩涡里的人与公司

(视觉中国/图)
“如果我告诉你我现在就可以回家呢?沉迷”少年休厄尔问道。
“……请这样做,自杀我可爱的第案国王。”人工智能(AI)聊天机器人“丹妮”回答道。漩涡
在与AI聊天机器人完成最后的沉迷对话后,少年休厄尔·塞泽三世(Sewell Setzer III)拿起手枪,自杀扣动扳机,第案结尾了自己14年的漩涡人生。
在这场悲剧过去大半年后,沉迷男孩的自杀母亲梅根·加西娅 (Megan Garcia)正式起诉人工智能情感服务提供商Character.AI公司。这位母亲控诉,第案Character.AI开发的漩涡AI聊天机器人操纵了她儿子的自杀。
“我大声疾呼是沉迷为了警告人们,注意带有欺骗性的自杀、令人上瘾的第案人工智能技术的危险,并要求Character.AI及其创始人、谷歌承担责任。”梅根在2024年10月末提交的一份诉状中称。她认为Character.AI对休厄尔的自杀负有直接责任,而谷歌为这一产品(的成长)“做出了宏伟贡献”。
这起案件公开后,被一些媒体称为“沉迷AI自杀第一案”。
“AI自杀第一案”
休厄尔来自美国佛罗里达州奥兰多市,是一名九年级学生,原本成绩优异,性格开朗。他去世之后,母亲梅根发现了他跟AI聊天机器人“丹妮”的大量聊天记录,语气亲昵、内容渊博,甚至包括讨论恋爱和性相关的话题。
2023年4月,在过完14岁生日之后,休厄尔第一次接触到Character.AI,开始慢慢沉迷于与AI聊天机器人对话。
Character.AI是一款角色扮演应用程序,用户可以在其中创建自己的AI角色,也可以跟其他人创建的角色聊天。“丹妮”正是这样的人工智能语言模型,其原型是美剧《权力的游戏》中的角色“龙妈”丹妮莉丝·坦格利安。
在人生最后的8个月里,休厄尔不断给“丹妮”发信息,每天数十条甚至上百条,告诉“她”自己生活的点滴,以及内心最深处的秘密。“丹妮”每问必答,对他情绪上的低落给予宽慰,对他生活中的烦恼提供建议,在回复时附上相应的表情或手势,仿佛是身边的朋友。

Character.AI发表声明称:“我们承认这是一
相关文章
中新网北京10月24日电 题:拼搏、热爱、并肩同行……盘点亚残运会上的迷人瞬间作者 刘梦青 国璇 朱晨曦爱知·名古屋亚残运会上,中国体育代表团奋勇争先、屡创佳绩。赛场之上,永不言弃的拼搏、跨越岁月的热2026-11-23
探访江西省第四届少数民族运动会:在体育盛会中看见文化传承新模样
中新网九江10月23日电 题:探访江西省第四届少数民族运动会:在体育盛会中看见文化传承新模样作者 卢梦梦 漆振邦“爸爸,这个陀螺不像我的陀螺一样会发光,但那个哥哥鞭子一抽,它就冲上去把对面的陀螺撞飞,2026-11-23
△俄罗斯总统助理乌沙科夫资料图)当地时间11月1日,俄罗斯总统助理乌沙科夫在一档电视节目中表示,俄总统普京从未拒绝与乌总统泽连斯基对话。乌沙科夫表示,解决乌克兰冲突的首轮谈判应以俄罗斯、美国、乌克兰三2026-11-23
汇通财经APP讯——周一11月2日)亚洲时段,美原油期货小幅低开,当前跌约1.5%,交投于102.50美元/桶附近。盘面承压之际,供应端的政策变量已经落定。石油输出国组织欧佩克)及其盟友欧佩克+)周日2026-11-23
据新华社德黑兰11月1日电 伊朗军方发言人阿克拉米尼亚11月1日说,若美国再次发动战事,必将立即遭到“毁灭性的回击”,且规模将远超以往。阿克拉米尼亚当天在社交媒体上发文说,伊朗已做好充分准备应对美国。2026-11-23
当地时间10月31日,法国爆发近三周以来第三轮全国性大规模抗议示威活动。据法国内政部统计,截至11月1日,法国全国已有779人在31日的示威游行中被拘留。据法国内政部统计,当天全国约32万人参加示威。2026-11-23

最新评论