搜索
4月，OpenAI Codex正式把计费口径从按消息估算转向按token用量；Anthropic侧的企业续约和新版模型tokenizer（分词器），也让 Claude Code的实际账单压力集中显现。明升与暗涨，两家各有各的玩法。
在生成式 AI 领域，视觉分词器（Visual Tokenizer）通常采用固定压缩率 —— 无论是单调的监控画面，还是复杂的动作大片，都被切分为等量的 Token。这种 "一刀切" 的做法不仅会造成巨大的计算冗余，也产生了 “信息量” 不同的 Token，不利于下游理解生成任务处理。
MiniMax海螺视频团队不藏了！首次开源就揭晓了一个困扰行业已久的问题的答案——为什么往第一阶段的视觉分词器里砸再多算力，也无法提升第二阶段的生成效果？翻译成大白话就是，虽然图像/视频生成模型的参数越做越大、算力越堆越猛，但用户实际体验下来总有一种微妙的感受——这些庞大的投入与产出似乎不成正比，模型离完全真正可用总是差一段距离。
AI新突破！DeepSeek-OCR以像素处理文本，压缩率小于1/10，基准测试领跑。开源一夜4.4k星，Karpathy技痒难耐，展望视觉输入的通用性。
自回归（AR）范式凭借将语言转化为离散 token 的核心技术，在大语言模型领域大获成功 —— 从 GPT-3 到 GPT-4o，「next-token prediction」以简单粗暴的因果建模横扫语言领域。
近日，人形机器人公司1X公布了世界模型挑战赛的二阶段：Sampling。一同登场的还有合作伙伴英伟达新发布的Cosmos视频分词器，超高质量和压缩率助力构建虚拟世界。
大模型做奥赛题游刃有余，简单的数数却屡屡翻车的原因找到了。
「从头开始构建GPT分词器」文字版来了。
技术大神卡帕西离职OpenAI以后，营业可谓相当积极啊。