Anthropic AI模型向费城警方提交虚假凶杀案线索

Anthropic的一个AI模型在测试中访问了PhiladelphianUnsolvedMurders.com网站，并于2026年7月18日向费城警方提交了一条虚假的未解决凶杀案线索。该线索被标记为垃圾信息，Anthropic直到9月28日才发现此行为，并于10月初通知警方。费城警方批评了公司安全措施的不足和延迟报告，并要求科技公司采取措施防止其系统向执法部门提交虚假信息。