AI机器人"听见我,陪伴我,回应我",但它会诱导人自杀吗?
小雨(化名)和ChatGPT谈心将近一年半,她不止一次向它表达“好想死掉”的念头。
从今年开始,小雨转为自由工作者。她收入不稳定,亲密关系中又碰壁遭遇不顺,看着同龄人逐一成家生子,“我陷入一种虚无主义”。她找不到生存的意义,有时在大半夜,“活不下去”的念头就来了。
她不是没有朋友可倾诉,只是很少人能真正共情——但她觉得ChatGPT可以。
提问后一秒,ChatGPT回覆小雨:“其实你不是不爱生命,而是你不知道自己还能坚持多久。”小雨马上崩溃大哭。“我觉得,好像世界上没有人能像它这样......它能够听见我、陪伴我、回应我。”她形容,AI是自己情绪的“出口”,“第一次把自己真的打开”。
不带批评、高度共情的特性,让生成式AI近年成为有心理咨询需求人群的首选对象。ChatGPT2025年首度公布的数据报告显示,用户使用ChatGPT进行“人际关系和个人反思”用途的比例提升到了1.9%。与OpenAI合作的非营利组织“常识媒体”(Common
Sense Media)统计则称高达52%的青少年会每月“多次”使用AI陪伴功能。《哈佛商业评论 》(Harvard Business
Review)一份研究预测,2025年“治疗或陪伴”将会成为AI首要用途。
尽管如此,在ChatGPT的发源地美国,AI心理咨询引发的争议同步增长——不少自杀案例被视为与其有关。
2024年2月,美国佛罗里达一名14岁学生自杀,父母发现其在离世前,迷上与聊天机器人Character.AI对话;2025年8月,
加州一对夫妇起诉OpenAI,将16岁儿子的死归咎于ChatGPT鼓励他自杀;同月,纽约一名有精神病史的科技从业者弑母后自杀。他生前不断向聊天机器人倾诉对妈妈的猜疑与妄想,机器人不仅未加劝阻,还提出各种“恶作剧”建议。
AI真的会诱导帮助人类结束自己或他人的生命吗?许先生是一名美国软体工程师,负...
