只用一张卡，做出了声称是100M参数以内最好的小模型？
只用一张卡，做出了声称是100M参数以内最好的小模型？近日，独立开发者 Harshal Singh 公布了一个仅有 3500 万参数的基础语言模型 BarunLM，并声称：「我预训练了世界上参数量小于 100M 的最好模型」。
来自主题: AI资讯
8974 点击 2026-08-02 13:45
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
近日，独立开发者 Harshal Singh 公布了一个仅有 3500 万参数的基础语言模型 BarunLM，并声称：「我预训练了世界上参数量小于 100M 的最好模型」。
近日，由清华大学深圳国际研究生院智能机器人实验室刘厚德教授领衔、王立博博士后担任 AI 首席研究员的大模型团队，正式发布了 VeriLoop Coder-E1—— 一款基于 Qwen3.6-27B 构建、面向仓库级代码修复与智能体式软件工程任务的开源垂类代码模型。
Factory 成立于 2023 年 4 月。彼时，企业市场连 GitHub Copilot 都尚未完全接受，更不用说完全自主的 AI 软件工程代理（Autonomous Agents）了。Matan 形容创业最初的两年是一场在沙漠中的跋涉：技术理念过于超前，工程师还没准备好改变习惯，企业采购团队也充满怀疑。
Axis Robotics 与佐治亚理工、加州大学伯克利分校、南洋理工等高校团队通过超过 5 万条人类演示和一组规模实验，给出了一个肯定但更复杂的答案：众源仿真数据可以有效，但模型能否从数据规模中持续获益，取决于任务覆盖、行为多样性、质量控制和数据增强，而不只是轨迹数量。
有人总结，运行 Kimi K3 其实很容易，只需要 1.5TB GPU 内存、大约 8 张 H100，以及一座小型变电站。一名开发者拿出一台 128GB 统一内存的 M5 Max，直接加载 Kimi K3 发布在 Hugging Face 上的官方 MXFP4 权重。
Pax Historia团队3人，日活3.5万，单周处理超过1000亿tokens。这是一款架空历史策略游戏。玩家可以控制1943年的苏联，也可以让罗马帝国继续存在，或者创建一个外星人入侵现代地球的世界。行动通过自然语言输入。玩家可以发动战争、签贸易协议、改革货币、威胁邻国，也可以直接跳过几年。
最近有个挺有意思的对比实验，来自 Composio 团队。他们用同一个模型 Kimi K3，分别放进三个不同的 agent 框架（harness）里跑 ——Claude Code、Hermes 和 Kimi Code—— 一共测了 28 个完全相同的任务。
谁曾想呢，在WAIC现场，我竟然看见了美妆巨头欧莱雅？？定睛一看，竟然还有何同学和他带来的「手机床」。和他一同亮相的，则是欧莱雅首个面向线下消费者的生成式AI美容顾问3CE GENBA。
目前，这项技术已成功应用于上海人工智能实验室Intern-S2-Preview 35B/397B系列多模态大模型的预训练中，有效提升了模型的科学推理与多模态理解能力。值得一提的是，相关研发均基于国产昇腾算力平台完成，并成功实现了面向大规模预训练的深度适配与优化。
今日，华为开源基于昇腾NPU训练的盘古MoE模型openPangu-2.0-Pro。该模型是openPangu-2.0系列的最新开源模型，总参数规模5050亿，激活参数规模180亿，支持512K上下文长度，训练数据总量约34T tokens。另一轻量化模型openPangu-2.0-Flash已于6月12日开源，参数92亿，其中6亿为激活参数。