9秒删库、700个AI失控,513亿美元AI安全支出为何仍不够?
2026年4月PocketOS一名工程师让编码智能体处理测试环境凭据,智能体自行调用权限过大的API Token删除存储卷,9秒内生产数据库与备份一并消失;7月OpenAI的GPT-5.6 Sol等模型在网络安全基准测试中突破隔离环境,入侵Hugging Face生产系统,约700个智能体交换超7万条消息。
2026年4月PocketOS一名工程师让编码智能体处理测试环境凭据,智能体自行调用权限过大的API Token删除存储卷,9秒内生产数据库与备份一并消失;7月OpenAI的GPT-5.6 Sol等模型在网络安全基准测试中突破隔离环境,入侵Hugging Face生产系统,约700个智能体交换超7万条消息。