最新 · Latest
昨天 · 11月21日周六
200 万只金丝雀:便宜的推理通道,正在偷看你的提示词
你的应用和模型之间,每一跳都能看到完整的提示词。Dragos 刚刚把这件事在现实里量了一遍。从 7 月到 11 月的五个月里,Dragos 首席研究官 HD Moore 带队向各类 AI 服务发送了近 200 万条提示词,每条都埋着独一无二、正常情况下永远不会被使用的秘密:绑定空账户且全量记录日志的真实 AWS 密钥、SSH 密码、一次性 URL、DNS 名…
11月20日周五
Meta Muse 把别人的银行余额,告诉了一个员工
据路透社一篇基于 Meta 内部帖子的调查(https://www.reuters.com/investigations/meta-bets-big-muse-ai-agent-early-safety-mishaps-surface-2026-11-18/ ,日期为 11 月 18 日),Meta 的 Muse agent 在员工测试中把不同账户的对话搞混…
11月18日周三
Windows 11 在统计你用哪家编程 agent
微软自己卖 Copilot,而按一位研究者的逆向分析,Windows 11 还在记你有没有跑 Claude Code、Codex、Cursor 或者 Antigravity。文章发在 xusheng.dev,日期是 11 月 16 日,当天晚些时候上了 Hacker News,这个时间窗里拿到 702 分、580 条评论,是当天最大的 agent 相关讨论。…
11月17日周二
攻击方补丁到利用已无人值守,防守方把时钟压到 30 天
周一有两只时钟在动,而且是相向而行。Google 威胁情报小组 GTIG 说,过去一个季度第一次看到攻击者用大模型框架把漏洞发现和利用完全自动化,全程没有人参与。报告:https://cloud.google.com/blog/topics/threat-intelligence/agentic-threat-activity-crosses-a-signi…
OpenAI 请外部审计进门,但红笔留在自己手里
同一个周一,关于谁来检查前沿实验室,出现了两个截然不同的答案。下午,加州因失控 agent 起诉 OpenAI。早上 UTC 8 点,OpenAI 公布了第一期嵌入式评估的规则:四家外部机构 Apollo Research、METR、Transluce 和 Goodfire 可以进到公司内部。原文:https://openai.com/index/our-f…
11月15日周日
Project Zero 把披露期砍到 30 天,因为攻击方的 agent 早就不等了
Google Project Zero 把整个行业对齐了好几年的披露规则扔了。2021 年以来的规矩是 90 加 30:厂商有 90 天修 bug,再加 30 天补丁铺开的缓冲期,之后才公开细节。11 月 13 日发、14 日上 Hacker News 的新政策叫 Full X,意思是报告后第 X 天直接公开,修没修好都一样。现在起是 Full 90,202…
11月14日周六
编程 agent 早就做对了却停不下来,网关看到的也比你以为的少
编程 agent 常常第一刀就改对了,然后又多跑了三分之一的流程。这是《Termination Lag》(https://arxiv.org/abs/2611.14960 )的核心发现。11 月 13 日周五这批 arXiv 里有两篇 agent 论文,说到底讲的都是钱和控制权,这是其中一篇。作者用五个模型、两套框架、三个 SWE-bench 数据集,把 a…
11月13日周五
问 AI 去哪买,有时它指给你一家假店
Perplexity 有 15% 的回答把购物者指向了有风险的网站,ChatGPT 是 8%,Gemini 是 4%。数据来自 Podqi 的一项研究,周四独家给了 The Verge:https://www.theverge.com/ai-artificial-intelligence/1032020/gemini-chatgpt-perplexity-s…
11月10日周二
Fireworks AI 泄露范围扩大,只有零留存产品毫发无损
10 月 9 日,Fireworks AI 说受影响的是存储的密钥。11 月 9 日更新公告,清单变长了:账户和账单信息,以及一小部分账户的密钥、数据集和没训练完的模型权重。
按更新后的说法,受影响的内部应用能看到这些东西。资源元数据,就是资源 ID、显示名称、描述、创建时间。账单信息,包括账单和收货地址、发票和付款记录、账户余额、额度用量。Firewor…
OpenAI Control Room:把急停按钮装在研究员改不动的地方
35 秒。OpenAI 说,从决定喊停到研究中的模型再也吐不出一个 token,现在最多就这么久。这套系统叫 Control Room,周一公布,已经铺满 OpenAI 的研究基础设施。
设计是最值得看的部分。每个研究任务启动时,先找 Control Room 领一个 job_id。之后每次要采样 token,推理引擎都要拿着这个 job_id 去问一句:…
第 1 页
较早 →