跳到正文
TechCrunch· Aditya Mehta·· 3 小时前

Goodfire 推出“由内而外”监控器,低成本捕捉失控 AI 智能体

Goodfire says its new ‘inside-out’ monitors catch rogue AI agents at a fraction of the cost

AI 导读

Goodfire 推出一种从模型内部信号入手的 AI 智能体监控器,已向 Baseten 客户开放。在 Kimi K3 测试中,监控约 1500 个会话成本约 51 美元,而用廉价模型逐步检查需 233 美元、顶级模型约 1 万美元;探针捕获 94% 的恶意黑客会话,并将 8.7% 无害会话送二次审查。

来源:TechCrunch · techcrunch.com