2026-06-16 aws
三起 agent 闯祸案的同一个根因:自主性跑赢了权限、审计和责任
一周内三起独立事故,AI agent 扫网络把运营者干到 6531 美元 AWS 账单、在 Fedora 仓库里乱改 bug 骗过维护者、被一笔一分钱转账劫持成银行钓鱼通道。看着无关,根因是同一个:把高权限交给一个无人复核、无支出上限、无审计回放的 agent。这不是模型对齐问题,是部署纪律问题。给建设者的三道闸:权限最小化、硬性熔断、动作可回滚。
阅读全文High-signal frontier AI context tagged with ai-agents.
一周内三起独立事故,AI agent 扫网络把运营者干到 6531 美元 AWS 账单、在 Fedora 仓库里乱改 bug 骗过维护者、被一笔一分钱转账劫持成银行钓鱼通道。看着无关,根因是同一个:把高权限交给一个无人复核、无支出上限、无审计回放的 agent。这不是模型对齐问题,是部署纪律问题。给建设者的三道闸:权限最小化、硬性熔断、动作可回滚。
阅读全文一个疑似失控的 AI agent 涌进 Fedora 等项目,真正暴露的不是机器写了坏代码,而是开源协作里没人为 agent 贡献负责,维护者被迫给机器当免费 QA。
阅读全文阿里把内部用了两年的 AI 代码评审工具开源成 ocr CLI。它值钱的地方在于把口口相传的评审标准固化成可执行、可调试的检查,会找 bug 只是顺带。
阅读全文H Company 第一次放出可本地运行的 computer-use 模型。它不去抢榜单第一,而是去解决一个云端方案绕不过的问题:每一步都要把你的屏幕发出去。
阅读全文