AI资讯新闻榜单内容搜索-MoE

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
搜索: MoE
别再让计算等着搬权重了!KTransformers让CPU直接参与MoE微调计算

别再让计算等着搬权重了!KTransformers让CPU直接参与MoE微调计算

别再让计算等着搬权重了!KTransformers让CPU直接参与MoE微调计算

清华大学MADSys实验室与趋境科技主导提出开源KTransformers-FineTune(KT-FT),让CPU直接参与MoE专家计算并优化布局与线程调度,使LoRA微调吞吐达到传统卸载范式的2.5~21.2倍。

来自主题: AI技术研报
10303 点击    2026-10-17 11:56
卡加了,吞吐为何没跟上?大模型推理中的等待,有了新解法

卡加了,吞吐为何没跟上?大模型推理中的等待,有了新解法

卡加了,吞吐为何没跟上?大模型推理中的等待,有了新解法

香港科技大学周子杰团队与华为 2012 实验室理论部提出 BalanceRoute,通过建模与短期负载预测减少 MoE 模型解码的跨组同步等待,其已部署于 MathBot-Pie,并在 96 张昇腾 910C NPU 实验中使解码吞吐提升约 15%。

来自主题: AI技术研报
8277 点击    2026-10-17 11:55
Dense 改 MoE、剪枝再提速:Agnes 开源 287 亿参数音视频生成模型

Dense 改 MoE、剪枝再提速:Agnes 开源 287 亿参数音视频生成模型

Dense 改 MoE、剪枝再提速:Agnes 开源 287 亿参数音视频生成模型

AI 视频越来越逼真,生成它的算力却并不便宜。复杂的动作、连贯的镜头和细腻的画面,背后都需要大量计算。一旦进入批量制作,反复生成、修改和重试的开销便会累积,成为创作者与视频平台必须考虑的成本。

来自主题: AI资讯
9218 点击    2026-10-14 12:14
美国开源的新希望,对标智谱的上一代模型

美国开源的新希望,对标智谱的上一代模型

美国开源的新希望,对标智谱的上一代模型

英伟达投资的Reflection发布开源模型Beam,采用MoE架构,专注代码、推理和Agent任务,官方称其以GLM-5.2三分之一至四分之一的推理算力取得相当成绩,但原始能力仍落后部分前沿开源模型,计划月底以Apache 2.0放出权重。

来自主题: AI资讯
9225 点击    2026-10-06 16:53
一出手就表现惊艳!国产开源大模型又杀出一匹黑马

一出手就表现惊艳!国产开源大模型又杀出一匹黑马

一出手就表现惊艳!国产开源大模型又杀出一匹黑马

至知创新研究院开源了采用稀疏 MoE 架构的代码与复杂任务导向大模型 IQuest-Q1,该模型总参数约 320B、激活参数仅约 15B,在代码生成、终端操作、智能体任务等多项评测中表现均衡,并展示了从前端交互、游戏开发到强化学习训练调试等场景的可交付能力。

来自主题: AI资讯
10635 点击    2026-09-30 11:16
高通CEO安蒙:我眼中的“智能体时代”和“中国速度”

高通CEO安蒙:我眼中的“智能体时代”和“中国速度”

高通CEO安蒙:我眼中的“智能体时代”和“中国速度”

在2026骁龙峰会上,高通CEO安蒙发布第六代骁龙8至尊版双旗舰平台并强调行业正迈向意图驱动的智能体AI时代,联合中国企业在手机端侧部署300亿参数MoE模型,同时指出高通已拓展至PC、汽车、机器人和数据中心等业务,肯定中国企业的智能体创新速度。

来自主题: AI资讯
7354 点击    2026-09-29 11:08
笔记本跑7000亿参数GLM!无GPU也行? SSD当显存用火爆GitHub

笔记本跑7000亿参数GLM!无GPU也行? SSD当显存用火爆GitHub

笔记本跑7000亿参数GLM!无GPU也行? SSD当显存用火爆GitHub

GitHub火热开源项目Colibrì以纯C实现分层推理框架,通过AI内存多层化将SSD、RAM和VRAM组成动态调度系统,无需GPU即可让普通笔记本运行744B参数GLM-5.2等超大MoE模型,已揽获32k Star并支持9个模型家族。

来自主题: AI资讯
10589 点击    2026-09-26 15:01
梁文锋狙击战:深扒那些梁文锋署名的论文有多牛

梁文锋狙击战:深扒那些梁文锋署名的论文有多牛

梁文锋狙击战:深扒那些梁文锋署名的论文有多牛

过去三年,梁文锋极少以第一作者或通讯作者身份,出现在 V3.2、V4、V4.1-Flash 这些动辄上百人署名的旗舰模型整体报告中;却始终把名字签在 MLA 注意力、MoE 路由机制、mHC 拓扑流形、DSpark 推理算子、DSec 智能体沙盒这些最底层的原子技术论文上。

来自主题: AI技术研报
9668 点击    2026-09-25 10:13
刚刚,阶跃Step 5 Preview发布!一举杀进全球开源前三

刚刚,阶跃Step 5 Preview发布!一举杀进全球开源前三

刚刚,阶跃Step 5 Preview发布!一举杀进全球开源前三

阶跃星辰发布新一代旗舰基座模型Step 5 Preview,以44分的AA智能指数成绩跻身全球开源模型前三,采用600B总参数/27B激活的稀疏MoE架构并原生支持1M上下文,在代码生成、长程Agent、深度研究与金融尽调等场景表现突出。

来自主题: AI资讯
10014 点击    2026-09-20 15:13