Goodfire推出成本更低的AI代理内部监控器

2026年10月9日，专注于可解释性的初创公司Goodfire推出了一种成本更低的AI智能体监控方案。该方案通过探针读取AI模型内部信号来检测恶意行为，而非仅分析输出文本。目前，该监控方案已提供给AI托管平台Baseten的客户使用。Baseten的客户可以选择监控的风险类别，包括攻击性黑客行为、化学与生物武器滥用以及奖励黑客等，并决定自动化响应方式，如记录事件、发送给人工审核或完全拒绝请求。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。