AI管家安全隐患曝光！权威评测显示家务机器人安全完成率不足四成

上海AI Lab与北航联合发布的IS-Bench评测显示，当前基于视觉语言模型（VLM）的家务类AI智能体在家庭场景中存在重大安全隐患。测试涵盖150个高风险场景，结果显示AI管家安全完成率不足40%，易引发火灾、污染等事故。研究指出智能体在风险感知、事前防范等方面存在严重缺陷，安全与任务效率存在明显权衡矛盾。该成果首次系统性揭示了具身智能体在家庭交互中的安全短板。