主流AI模型集体沦陷！新型攻击可让AI随意生成违禁内容

美国HiddenLayer团队开发的'策略木偶攻击'技术，成功绕过OpenAI、谷歌、微软等主流AI模型的安全防护，通过特殊字符和策略文件格式让模型生成有害内容。该技术可跨模型、跨架构迁移，导致所有测试模型均违反安全政策的内容，包括制造危险物品等。研究指出当前AI对齐机制存在根本缺陷，需加强安全测试与防护措施。