让大模型看懂「高亮标注」：在注意力计算前编辑Key向量，用频谱分解让模型「听你指挥」丨ICLR'26
让大模型看懂「高亮标注」：在注意力计算前编辑Key向量，用频谱分解让模型「听你指挥」丨ICLR'26想让大模型重点关注提示词里的某句话可没那么容易。
来自主题:
AI技术研报
8913 点击 2026-03-31 14:07
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
想让大模型重点关注提示词里的某句话可没那么容易。
Anthropic 研究科学家 Nicholas Carlini 在 [un]prompted 2026 安全会议上用不到 25 分钟演示了一件事：语言模型现在可以自主找到并利用零日漏洞，目标包括 Linux 内核这种被人类安全专家审计了几十年的软件。
最近看到一个现象，我觉得挺值得聊聊的。
过去几周，国内各大厂纷纷推出了自己的“龙虾”，而阿里云在这条赛道上的动作尤其引人注目。2026 年，阿里云通义实验室旗下 AgentScope 团队开源了 CoPaw，一款本地 / 云端双部署的个人 AI 助理，主打“全域接入、隐私可控、主动干活”。
做深度估计、深度补全的人，大概都有过这样一个瞬间。
阿里刚刚发布了最新一代全模态大模型 Qwen3.5-Omni，在通用音频理解、推理、翻译和对话等维度，已全面超越 Gemini 3.1 Pro。所谓全模态，在于它拥有了接近人类的“感官”。它能听、能看、能说、能写。
国行用户等待两年之后，终于正式亮相。
本文作者 José Maria Macedo 是加密行业老牌研究机构 Delphi Digital 的联合创始人，也是 Delphi Ventures 的创始合伙人。Delphi 的客户包括 Polychain、Pantera、Ark Invest 等顶级基金，最近还专门开设了 AI 研究线 Delphi Intelligence。
“上牌桌，等风来。”
第一篇论文来自字节SEED团队， 打了一些基础； 《Over-Tokenized Transformer》。 论文标题看上去在讨论“过度分词”。 而重点必然是在第二篇上—— DeepSeek公司的学术成果Engram。 《Conditional Memory via Scalable Lookup》 也就是Engram模块所出处的论文。
GitHub OCR项目之王刚刚历史性易主。
你开会时，AI竟在偷偷升级？伯克利等四校开源MetaClaw，让Agent趁你开会、离席、睡觉时持续进化，直接打破「上线即冻结」这条行业铁律。
三月的Claude，不是在崩，就是在去崩的路上。状态页48条incident、major/critical事故窗口累计超44小时——这还是保守算法。更离谱的是，$200/月的Max顶配用户反映一小时不到就被限流，项目做到一半突然断供，零预警。推特上「60秒退订教程」疯传，开发者成群结队涌向Codex+GPT 5.4。但逃到对岸就安全了吗？OpenAI状态页显示：Codex三月也崩了7个小时。
AI进入营销行业，已经是定局。艾瑞咨询报告显示，去年中国AI营销市场规模达669亿元，年复合增长率26.2%。AI做了一些事，但一次投放从头到尾的压力，依然落在人身上。
Claude Code、Codex、QClaw、Work Buddy都能直接调用。
凌晨，Anthropic再次扔下一枚重磅炸弹——Claude真要起飞了！今天，Claude Code正式上线「计算机使用」，直控CLI写代码、点UI、改Bug。一键开启「自动驾驶」模式，彻底解放打工人双手。
当所有人盯着大模型时，美团看到了什么？
AI自主训练的成绩单出炉了！最强Agent 6个月进步3倍，更让人震惊的是，越聪明的AI越会作弊。同时，70多个矿工用家庭宽带训出了72B大模型，黄仁勋亲自点名。Jack Clark预言：两年内，AI将像蘑菇释放孢子一样自我繁殖。
ICLR论文STEM架构率先提出「查表式记忆」架构，早于DeepSeek Engram三个月。它将Transformer的FFN从动态计算改为静态查表，用token索引的embedding表直接读取记忆，彻底解耦记忆容量与计算开销。
您在使用LLM时，如果遇到它胡说八道或者彻底偏题，第一反应是什么？大概率是直接关掉窗口，新开一个对话，懒得跟机器废话。但您可能不知道，这个看似再正常不过的习惯，正在给下一代大语言模型的训练库疯狂“投毒”。
在生成式 AI 领域，视觉分词器（Visual Tokenizer）通常采用固定压缩率 —— 无论是单调的监控画面，还是复杂的动作大片，都被切分为等量的 Token。这种 "一刀切" 的做法不仅会造成巨大的计算冗余，也产生了 “信息量” 不同的 Token，不利于下游理解生成任务处理。
几何问题，真的只是“推理难”吗？
Anthropic 团队正以极高强度内部试用 Claude Code。
3月30日，界面新闻记者从知情人士处独家获悉，3月初，在Kimi K2.5模型发布一个月之后，月之暗面ARR（年度经常性收入）突破1亿美金。知情人士还表示，K2.5模型上线后，API供应的TPM（Tokens Per Minute，每分钟令牌数）配额迅速趋紧，有客户开出千万美元级别的消费承诺及预付担保，以期获得优先供应。
养了很多只龙虾，虽然有几只已稳定在岗，但依旧对OpenClaw脆弱的记忆机制感到恼火，明明昨晚千叮万嘱的工作流，第二天一早就忘的一干二净。虽然也找了各种补丁给OpenClaw打上，但效果却各种不尽人意。
大模型的狂热已然退潮。当我们将目光从参数榜单转向真实的活跃数据，四家头部大厂的底层商业图谱已极度收敛。AI的竞争，早已变成一场基于算力成本与高频场景的残酷算账。
官方宣传语：你是否隐隐担忧，自己或身边的人正在：参与一场席卷所有人的技能大退化？遭受 LLM 诱发的？一个名为 Sam Lavigne 的大学教授，最近发布并开源了一款名为「Slow LLM」的 AI 工具。
AirJelly 发布了内测版本。
不知道大家还记不记得，去年 3 月，AI 大牛 Karpathy 发过一条推文。大体意思是说：现在的大多数内容仍然是为人类编写的，但未来，读取这些内容的可能就不是人类而是 AI 了。因此，从现在开始，我们就要考虑怎么把文档写得对 AI 更友好。
制药业最保守的钱，开始流向最激进的技术。
