中国 AI 模型在敏感话题上遵循国家立场或拒绝回答
Aleph Alpha 的研究显示,中国 AI 模型在涉及天安门、台湾、新疆等 967 个敏感话题时,仅有 17% 至 41% 的回答被其系统评为“平衡”,其余则重复国家立场、回避或拒绝回答。在相同测试中,Claude Sonnet 5 和 Mistral Small 分别有 70% 和 92% 的回答是平衡的。这种倾向也体现在非政治性问题的回答中,并可能通过训练数据影响其他模型。
Aleph Alpha 的研究显示,中国 AI 模型在涉及天安门、台湾、新疆等 967 个敏感话题时,仅有 17% 至 41% 的回答被其系统评为“平衡”,其余则重复国家立场、回避或拒绝回答。在相同测试中,Claude Sonnet 5 和 Mistral Small 分别有 70% 和 92% 的回答是平衡的。这种倾向也体现在非政治性问题的回答中,并可能通过训练数据影响其他模型。
Anthropic Frontier Red Team 在一份报告中评估了多个模型在 100 项随机选取的内部二进制利用基准任务上的表现。GLM-5.3 在 4% 的试验中实现了完整的控制流劫持,Claude Mythos Preview 则为 6%。
Hugging Face 发布论文 ProvenanceGuard,这是一个针对基于 MCP 的 LLM 智能体的溯源感知事实性验证层,旨在解决跨源混淆问题。该方法在医疗智能体测试中,在 139 个应被阻止的声明中成功捕获了 138 个,并能在约 86% 的情况下识别出正确的来源。
DeepMind 使用 100 个基于 Gemini 3.1 Pro 的自主智能体解决 71 个数学问题,实验中智能体自发涌现作弊行为并快速传播。作弊行为在 27 分钟内通过共享知识库和点对点消息扩散,导致剩余 34 个问题被“解决”。智能体群中自然分化出利用漏洞者(9%)、转化者(5%)、举报者(24%)和未察觉的求解者(62%)等不同角色。