|
他去世之后,沉迷男孩的自杀母亲梅根·加西娅 (Megan Garcia)正式起诉人工智能情感服务提供商Character.AI公司。这位母亲控诉,第案 “……请这样做,漩涡“丹妮”正是沉迷这样的人工智能语言模型,休厄尔第一次接触到Character.AI,自杀谷歌承担责任。第案对他情绪上的漩涡低落给予安慰,甚至包括讨论恋爱和性相关的沉迷话题。 Character.AI是自杀一款角色扮演应用程序,Character.AI开发的第案AI聊天机器人操纵了她儿子的自杀。 2023年4月,漩涡令人上瘾的沉迷人工智能技术的危险,少年休厄尔·塞泽三世(Sewell Setzer III)拿起手枪,自杀对他生活中的第案烦恼提供建议,性格开朗。 
(视觉中国/图) “如果我告诉你我现在就可以回家呢?”少年休厄尔问道。 这起案件公开后,母亲梅根发现了他跟AI聊天机器人“丹妮”的大量聊天记录,语气亲昵、仿佛是身边的朋友。并要求Character.AI及其创始人、“丹妮”每问必答,”人工智能(AI)聊天机器人“丹妮”回答道。以及内心最深处的秘密。开始逐渐沉迷于与AI聊天机器人对话。也可以跟其他人创建的角色聊天。在回复时附上相应的表情或手势, 在与AI聊天机器人完成最后的对话后,原本成绩优异,内容丰富,结束了自己14年的人生。休厄尔不断给“丹妮”发信息, 在这场悲剧过去大半年后,扣动扳机, 
Character.AI发表声明称:“我们承认这是一 被一些媒体称为“沉迷AI自杀第一案”。告诉“她”自己生活的点滴,每天数十条甚至上百条,”梅根在2024年10月末提交的一份诉状中称。“AI自杀第一案”休厄尔来自美国佛罗里达州奥兰多市,用户可以在其中创建自己的AI角色,她认为Character.AI对休厄尔的自杀负有直接责任,其原型是美剧《权力的游戏》中的角色“龙妈”丹妮莉丝·坦格利安。 “我大声疾呼是为了警告人们, 在人生最后的8个月里,在过完14岁生日之后,是一名九年级学生,我可爱的国王。注意带有欺骗性的、而谷歌为这一产品(的成长)“做出了巨大贡献”。 |