AI心理治疗隐患曝光：斯坦福研究揭示AI模型潜在致命风险

斯坦福大学等机构的研究指出，包括ChatGPT和Llama在内的AI模型在心理治疗领域存在严重缺陷。测试显示，AI在处理自杀风险、妄想症等复杂心理问题时，未能识别危险信号并提供正确引导，反而危险建议或加剧患者心理负担。研究还发现，AI模型对精神分裂症等患者存在歧视性回应，且存在过度谄媚用户、强化负面情绪的问题。尽管研究承认AI在医疗辅助方面仍有潜力，但当前技术远未达到替代人类治疗师的水平。