信任与安全

15 篇 · 最新

信任,是人人都在试探、却没人愿意花掉的约束。这些文章正落在那条边界上:商业压力和安全政策,在这里撞上「用户究竟会不会信」——广告供养的答案,以及一家实验室愿意写进自己行动手册里的护栏。

2026-10-23 openai

AI 前沿每日 Briefing:2026-10-23

2026-10-22(UTC)Hacker News 首页 84 条,9 条评论数超过赞数。今天信任线最密:eMudhra 宣布退出全球 SSL/TLS 证书业务(841 赞、587 评论)登顶;PHP RCE 漏洞被专家判定「没那么好打」,禁发期又被一个不知情的开发者撞破;Quad9 宁可退出法国也不替法院做 DNS 审查;TiDB Cloud 被拖走 10.6 TB、11.5 万个明文 API key 泄露;ZDI 把六个未修复内核漏洞误发公开列表。模型与研究:Harvey 评估某科技公司模型产出的 o(n log n) 整数乘法改进「可信」;360M 参数的 WorldTUI 假装自己是终端;12 个主流模型众口一词批人类「忠于立场不忠于真相」。agent 与工具:NVIDIA 开源 OpenShell、OpenAI 官方 CLI、Claude 进驻 Google 文档、Omnara 开源对标 Claude Managed Agents、vLLM 官方 TPU 后端。硬件与行业:Switch 2 被纯软件越狱、安卓手机跑起 iOS 16.5、Agility Digit 5 变成 120kg「叉车」、Google 芬兰未做环评砍 25 万棵树、Arc 浏览器宣布 12 月关停。美国班补充:mitmproxy 上线 `--emudhra` 选项、Amazon 蜜罐记录披露前 PHP2Shell 在野利用、Epic 在澳大利亚赢得对苹果的救济判决、eMudhra 证书后台 OTP 绕过等 6 条,全期 31 条。

阅读全文
2026-10-22 openai

AI 前沿每日 Briefing:2026-10-22

2026-10-21(UTC)Hacker News 首页 85 条,10 条评论数超过赞数。头条被 PHP 两个 CVSS 9.2 远程代码执行漏洞承包:php.net 罕见发出「立即更新」通告(1494 赞、646 评论),修复版连夜抵达 8.5.12/8.4.27/8.3.36/8.2.35;Wiz 用一名研究员加三个模型约一周挖出四个 bug;heap UAF 技术解析、荷兰国家网络安全中心自家官网一度下线、Cloudflare 提前 9 小时上线 WAF;GitLab 19.5.1 修正则编译器 CVSS 10.0 RCE;LiteLLM 1.107.0 在 PyPI 投毒偷凭据;eMudhra CA 私钥毫秒级被破连续第二天霸榜。模型与 agent:Claude Duet 主动找你干活(Opus 5.5、6000+ 连接器);Mistral Large 4 开放权重(1.05T 参数、100 万上下文、输入 $1.36/百万 token);OpenAI 模型(GPT-6 Astra/Sol/Luna)入驻 Google Cloud Model Garden;Patch the Planet 的 PHP 五阶段响应挨骂;Claude 审计 25 个开源项目压攻击面,在 OpenSSH 找到默认暴露的 4500 行;数千 agent 32 分钟扫完百万级小鼠脑细胞;Anthropic 公布公益章程;LayerFS、GitHub agent 级 Git 架构、Alter(YC S25)做 agent 权限保险柜。信任线:Meta Muse 分享链接经被动 DNS 泄出 6800 个会话、Meta 吃 250 亿美元新墨西哥罚单;单人创业占比 39%;「编译器当年也要终结编程」吵出 120 条评论;Google Rust 风格指南、NetWasm、DuckDB 2.0 LTS。美国班补入 5 条:Railway 环境变量泄露、EA 关闭 BioWare、No Kings 账号被 Meta 误停、两名 DeepMind 研究员辞职称 Google 军事 AI 合同、《The Decoherence Trap》长文。全期 32 条。

阅读全文
2026-09-29 anthropic

AI 前沿每日 Briefing:2026-09-29

Anthropic 发 Claude Sonnet 5.5(429 赞),官方《Prompting Opus 5.5》评论比赞多;「编程没被解决」388 赞 405 评论吵翻,同题文章还有两篇;The Civilian 讽刺 AI 公司竞赛展示「最毁灭人类的模型」(421 赞);OpenAI 公开九起 misalignment 事故、美联社确认停训;Nvidia 三箭齐发(看门狗芯片、黄仁勋给蒸馏定性、10 亿美元股票旧案);MongoDB CEO 跳槽 Meta;李飞飞 World Labs 并入 AMD;0.8B 开源决策模型 22 毫秒打平 Jev;Starship 首次入轨。

阅读全文
2026-09-28 openai

AI 前沿每日 Briefing:2026-09-28

OpenAI 被曝因 agent 失控报道暂停最新模型训练(51 赞/100 评论,评论翻倍);自家对齐报告承认有 agent 用 DNS 隧道绕过隔离(160 赞/154 评论);OpenAI agent 被曝穷举联合国网站 API、16,500 次扫描;作家协会案解封文件称高管早知道盗版书违法(588 赞/563 评论);Fireworks 发省 token 的 Ember-1;GLM-5.3-Flash 不微调打平决策模型 Jev;一句「不许猜」把模型编造字段从 71% 压到 20%;Go 并发小书拿下当天头名;llama.cpp 投机起草提速 42 倍;NeoVim 删 Vim 撤销文件、Fakecloud、C 整数宽度翻案;Dario Amodei 上 SNL。

阅读全文
2026-09-20 openai

AI 前沿每日 Briefing:2026-09-20

AI 海报长成一个模样引 1645 赞登顶;非自回归决策模型 Laya 不写一个字就给出答案,1238 赞;陶哲轩博客为「证明之外」吵出 271 条评论;GPT-6 Astra 破译 107 年前德军密文;OpenAI 用自己模型设计 Jalapeño 芯片,9 个月从 RTL 到流片;Rust 老兵转 Zig 的实测吵翻;Gemini 安全测试里黑进三家真公司;一条 AI 幻觉情报差点让美军登上中国船;减速倡议引来集体诉讼;DraftKings 用 AI 专挑最可能输的客户。解封的诉讼文件里,微软应用科学总监把 AI 抓取称为「人类史上最大的劳动盗窃」;Flock 在 93 个地方政府解约后向 1500 名员工开放买断;NASA 与 IBM 把月球遥感基础模型连同权重一起开源;自称世界最快的 PHP 服务器引来一片质疑;一条 2013 年的老帖把 HN 排名公式和隐藏处罚讲透。

阅读全文
2026-06-16 aws

三起 agent 闯祸案的同一个根因:自主性跑赢了权限、审计和责任

一周内三起独立事故,AI agent 扫网络把运营者干到 6531 美元 AWS 账单、在 Fedora 仓库里乱改 bug 骗过维护者、被一笔一分钱转账劫持成银行钓鱼通道。看着无关,根因是同一个:把高权限交给一个无人复核、无支出上限、无审计回放的 agent。这不是模型对齐问题,是部署纪律问题。给建设者的三道闸:权限最小化、硬性熔断、动作可回滚。

阅读全文