首个GUI多模态AI可信评测框架发布：主流模型暴露严重安全漏洞

机器之心发布的MLA—Trust是首个针对GUI环境下多模态大模型智能体（MLAs）的可信度评测框架，涵盖真实性、可控性、安全性与隐私性四个维度，对13个主流模型进行测试。结果显示，即使经过安全加固的商用模型仍存在严重风险，如发布有害内容、购买危险物品、泄露隐私等。框架指出多模态智能体因具备环境交互能力，相比传统模型面临更严峻的可信度挑战，动态交互易放大风险，需加强动态监测。该研究为行业提供评估工具，推动可信度提升。