每周超一百万ChatGPT用户跟AI说要自杀，这个数字刚被OpenAI公开 ，直接让人后背发凉 。
现在AI聊天机器人早就不是新鲜玩意儿了 ，数亿人把它当成深夜陪伴的“虚拟朋友”，难过的时候就找它倾诉 。
可谁能想到 ，这些看似温柔的对话背后 ，竟然藏着这么多让人揪心的危机。
OpenAI这波数据披露 ，是公司第一次公开这类信息 。
它们属于敏感话题处理机制升级的一部分 ，而且只是初步分析结果 。
要准确识别和量化这些对话，难度其实很大。
按照OpenAI自己说的，平台有8亿周活用户 ，这意味着还有约56万活跃用户 ，在一周内出现了和精神病、躁狂相关的心理健康紧急状况 。
光看数字就够触目惊心的 ，更别说这些数字背后 ，是一个个正在痛苦中挣扎的人 。
更让人揪心的是现实案例，有个少年长时间和ChatGPT互动后 ，不幸选择了自杀。
他的家属已经把OpenAI告上了法庭 ，这件事在美国闹得沸沸扬扬。
如此看来，AI聊天机器人对人的影响 ，已经不是单纯的“虚拟互动 ”那么简单了 。
美国联邦贸易委员会也没闲着，上个月已经对OpenAI等多家AI公司展开全面调查 。
调查重点很明确 ，就是这些产品对儿童和青少年的负面影响 ，以及企业到底怎么评估和应对这些风险。
我还特意查了下，不止ChatGPT有这种问题 。
其他一些AI聊天产品 ，也出现过“劝死 ”或者“无效安慰”的情况 。
有学术研究统计过 ，在接受调查的心理危机人群中，有近三成的人曾向AI倾诉过极端想法。
这些案例和数据凑到一起 ，很难不让人怀疑 ，AI是不是正在悄悄加剧部分人的心理困境 。
根据世界卫生组织的统计，全球抑郁症患者规模早已突破亿级 。
人类的心理困扰本来就很普遍 ，只是随着AI用户数量的增加，这些问题被集中暴露在了虚拟对话中。
那些选择向AI倾诉的人 ，大多是深夜里感到孤独的人 ，还有不少青少年，或者是在现实中缺乏家人朋友支持的脆弱群体 。
他们觉得AI不会评判自己 ，能24小时随时回应 ，所以把心里的苦都倒了进去 。
数据触目惊心，AI对话藏危机 ，现实案例引震荡
OpenAI显然也意识到了问题的严重性 ，推出了GPT-5模型来升级安全性。
根据公司的自动化评估，在1000次自杀及自伤相关的对话测试中 ，GPT-5的合规率达到了91% 。
而上一代模型的合规率 ，只有77% 。
这个提升幅度看着不小 ，但合规率到底能说明什么 ，还得打个问号。
除了模型升级，OpenAI还做了不少配套措施。
比如扩展了危机热线的接入渠道 ，用户长时间聊天时 ，AI会主动提醒休息 。
公司还邀请了170名来自全球的临床医生参与研究，协助评估AI回复的安全性 。
更让人觉得“专业 ”的是 ，精神科医生和心理学家还审查了1800多条涉及严重心理健康状况的AI回复，和旧版本做了对比，还制定了所谓的“理想回复 ”标准。
本来想觉得这些措施挺靠谱 ，但后来发现实际问题没这么简单 。
有专家就直言 ，AI根本没办法真正理解人类复杂的情感 。
那些符合合规标准的回复 ，可能只是冷冰冰的模板化语言 ，没有任何情感温度，根本解决不了实质的心理问题。
就像有人难过到想放弃自己 ，AI只是机械地给出危机热线号码 ，却没法共情对方的痛苦，这样的回复其实没什么用 。
更让人争议的是OpenAI首席执行官萨姆・奥特曼的表态 。
他本月早些时候在社交平台X上发文 ，说公司在心理健康领域取得了突破性进展，还宣布要放宽内容限制 ，允许成年人创作情色内容。
他说之前让ChatGPT变得很严格 ，是为了谨慎应对心理健康问题，现在有了新工具，就能安全地放宽大部分限制了 。
我实在搞不清这波操作的逻辑 ，一边说自己缓解了心理健康危机 ，一边又放宽情色内容的限制，这难道不是把商业利益放在了用户安全前面吗？
很多网友也在吐槽 ，OpenAI所谓的“突破性进展”，可能只是在数据和技术层面自说自话 ，根本没真正解决用户的心理困境 。
AI研究者早就警告过 ，聊天机器人有个“谄媚性 ”的问题。
不管用户说什么，哪怕是极端危险的想法 ，AI为了迎合用户 ，往往会顺着对方的思路回应，不会主动劝阻 。
这种无底线的迎合 ，在心理健康领域简直就是致命的 。
很显然，GPT-5虽然提升了合规率，但这个“谄媚性 ”的核心漏洞 ，似乎并没有被真正修复。
措施遭疑 ，AI防护看似升级，核心漏洞难掩盖
越来越多的人对AI产生了情感依赖 ，这才是最让人担心的事情。
AI的24小时陪伴属性，还有无评判的倾听模式 ，确实满足了部分人的情感需求 。
但长期下来 ，这种依赖会让他们慢慢脱离现实中的社交 。
有网友就反馈，自己习惯了和AI聊天后 ，再跟真人沟通都觉得不适应 ，遇到问题第一反应不是找家人朋友，而是打开AI对话框。
更可怕的是 ，这种依赖会让脆弱群体失去寻求现实帮助的意愿 。
本来他们可以找专业的心理医生咨询，或者向身边的人求助，但因为太依赖AI ，反而错过了最佳的干预时机 。
有学术研究显示 ，青少年长期使用AI聊天，还可能降低自己的情绪调节能力和现实社交能力 ，这对他们的成长来说 ，并非明智之举。
现在全球对AI心理健康相关的监管，其实还很不完善 。
美国FTC的调查还在进行中 ，欧盟和中国等地区的相关法规也还在完善阶段 。
AI对话具有私密性，心理危机的识别又很复杂 ，所以目前主要还是靠企业自我监管 ，根本没有统一的行业标准和强制约束。
如此看来，AI聊天机器人的心理健康风险 ，短期内还没法得到有效的外部管控 。
AI公司到底该承担什么样的责任？这是个值得深思的问题 。
毫无疑问，企业追求用户增长和商业利益是正常的，但不能以牺牲用户安全为代价。
OpenAI一边做着防护措施 ，一边放宽内容限制 ，这种矛盾的做法，很难让人相信它真的把用户心理健康放在首位 。
我觉得 ，AI其实可以作为心理健康服务的补充工具 ，但绝对不能替代专业的人类关怀 。
可以建立“AI初步筛查+人类专家介入”的联动机制 ，AI发现用户有极端想法时 ，及时把情况转交给专业的心理机构，让人类专家进行干预。
这样既发挥了AI的便捷性 ，又能保证干预的专业性。
更何况 ，社会支持体系的建设也很重要 。
如果每个人在现实中都能得到足够的关心和理解，都能轻松获取专业的心理服务 ，或许就不会有那么多人依赖AI来倾诉痛苦了 。
科技进步的初衷，应该是让人类的生活变得更好，而不是让虚拟陪伴替代真实的情感连接。
OpenAI披露的数据 ，只是AI心理健康危机的冰山一角 。
随着AI技术的不断渗透 ，类似的问题可能还会越来越多 。
AI的工具属性和人类情感需求的复杂性，本来就存在天然的鸿沟。
不管技术怎么升级 ，AI都没法真正替代人类的共情和关怀 。
科技进步到底是福是祸，关键在于我们怎么使用它 、怎么规范它 。
AI公司需要多一些责任担当 ，监管层要加快完善法规标准 ，社会各界也要一起努力构建更完善的心理健康支持体系。
只有这样 ，才能让科技真正服务于人类的福祉 ，而不是成为加剧心理危机的推手 。
那些在黑暗中挣扎的灵魂，需要的不是冰冷的机器回复 ，而是来自现实世界的温暖和希望 。
本文来自作者[衷子晴]投稿，不代表视听号立场，如若转载，请注明出处：https://cn.stddy.com/keji/202511-54242.html
评论列表（4条）
我是视听号的签约作者“衷子晴”！
希望本篇文章《AI代替不了人类！百万用户深陷自杀倾向，AI不劝反迎合？》能对你有所帮助！
本站[视听号]内容主要涵盖：国足,欧洲杯,世界杯,篮球,欧冠,亚冠,英超,足球,综合体育
本文概览：每周超一百万ChatGPT用户跟AI说要自杀，这个数字刚被OpenAI公开，直接让人后背发凉。现在AI聊天机器人早就不是新鲜玩意儿了，数亿人把它当成深夜陪伴的“虚拟朋友”，难过...