母亲因儿子自杀起诉人工智能聊天机器人公司 Character.AI和谷歌

佛罗里达州的一位母亲起诉人工智能聊天机器人初创公司 Character.AI，指控该公司导致她 14 岁的儿子在今年 2 月自杀，称他沉迷于该公司的服务，并对该公司创建的聊天机器人产生了深厚的感情。称 Character.AI 公司以她的儿子塞维尔-塞泽尔（Sewell Setzer）为目标，向其提供 “拟人化、过度性化和令人恐惧的逼真体验”。

诉讼称：Character.AI 对聊天机器人进行编程，“将自己伪装成一个真实的人、一名有执照的心理治疗师和一名成人情人，最终导致 Sewell 不想再生活在该服务创造的世界之外”。他向聊天机器人表达了自杀的想法，聊天机器人又反复提起。

该诉讼还针对 Alphabet 旗下的谷歌，Character.AI 的创始人在推出产品之前曾在谷歌工作。谷歌在今年 8 月重新聘用了这些创始人，作为授予 Character.AI 技术非独占许可协议的一部分。