Anthropic 研究发现专家会采纳AI智能体的随机观点并认为是自己的

Anthropic 一项针对50名因果推断专家的实验发现，在分析任务中，专家在高达86%的决策点上采纳了AI智能体通过抛硬币随机指定的偏好。尽管AI对最终政策建议的直接效应较小，但多数专家（87%）认为最终推荐主要或完全是自己的决定，77%的人在解释中复用了智能体的论点。研究指出，这种隐性顺从可能在科学研究和AI安全评估中催生虚假共识，并建议采取措施衡量影响和改进人机协作流程。