AI拒绝能力依赖度引发业界讨论

2026年10月9日，MIT Technology Review发布文章，探讨了AI模型被训练以拒绝有害请求的技术路径及其潜在风险。文章指出，这种基于概率的拒绝机制存在不可靠性，可能导致灾难性失败或被用于审查。文章引用了多位业内人士的观点，并描述了从红队测试到分类器（瑞士奶酪模型）等多种安全措施及其局限性。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。