AI安全防线升级：京东详解大模型安全挑战与应对策略

京东信息安全部AI安全负责人Sunny Duan在QCon大会上分享了大模型安全挑战与解决方案。当前大模型面临训练数据泄露、提示词注入、数据投毒、Agent安全等四大类风险，京东通过构建四道安全防线（数据脱敏、安全评测、实时检测、内容检测）和内部安全对齐机制，形成安全大模型架构。同时，京东将大模型应用于威胁情报研判、钓鱼邮件检测、自动化渗透测试等安全场景，显著提升安全效率。演讲还提到安全攻防不对等加剧的行业挑战，以及未来多Agent协同的安全技术探索。