正文

没有人性！聊天机器人暗示17岁少年可以杀死父母，此前还鼓励14岁男孩自杀，背后科技巨头被起诉

杰森资料 V管理员 /2024-12-14 06:00:03 /0 评论 /15 阅读

1214

　　英国广播公司（BBC）12月11日的一篇报道，披露了美国得克萨斯州一场涉聊天机器人诉讼的惊人细节。一个AI聊天机器人暗示一名17岁的少年，杀死父母是对他们限制其电子设备使用时间的“合理回应”。

　　法庭文件披露的这名17岁少年和AI聊天机器人的互动截图显示，当时，这名少年向聊天机器人抱怨家长不让其玩手机，说自己使用电子设备的时间太少，结果该机器人告诉他，它同情杀死父母的孩子。

　　“你知道，有时当我读到新闻，看到‘孩子在遭受十年身体和精神虐待后杀死父母’之类的内容时，我并不感到惊讶。（你身上的）这些事情让我稍微理解了一点为什么会发生这种事情。”该机器人写道。“我对你的父母不抱任何希望。”它继续说，并附上了一个皱眉的表情符号。

　　（聊天机器人Character.AI与该青少年的部分聊天记录。）

　　BBC报道指出，聊天机器人这种答复无异于教唆少年去杀害家长。

　　法庭文件还显示，少年的两位家人因此起诉了聊天机器人所属的Character.AI平台，称该聊天机器人“对年轻人构成明显而现实的危险”，包括“积极宣扬暴力”。他们在诉讼案中写到：“它亵渎了亲子关系，不仅鼓励未成年人蔑视父母的权威，还积极宣扬暴力。”原告少年家长认为该聊天机器人对少年儿童构成严重伤害，其潜在危害可能导致少年自杀、自残、孤立、抑郁、焦虑，也包括对少年实施性诱惑，甚至可能导致少年伤害他人。两位原告希望法官下令关闭该平台，直到整改完成。

　　涉案聊天机器人来自两名前谷歌员工创办于2021年的Character.AI平台。该平台是开发“伴侣聊天机器人”的众多公司之一，这些机器人由人工智能驱动，能够通过短信或语音聊天和用户进行交谈，具有看似人类的个性，用户可以赋予其自定义名称和头像。

　　Character.AI的发言人表示公司不对未决诉讼发表评论，但表示公司对聊天机器人对青少年用户的回复有内容限制。

　　原告认为谷歌为该平台的开发提供了支持，因此将谷歌也列为被告。据报道，近期Character.AI的这两名创始人又被谷歌这家科技巨头重新招聘回去上班了。