AI资讯新闻榜单内容搜索-KTransform

关键词: AI新闻,模型训练,KTransformers,KTransformers-FineTune,KT-FT

清华大学MADSys实验室与趋境科技主导提出开源KTransformers-FineTune（KT-FT），让CPU直接参与MoE专家计算并优化布局与线程调度，使LoRA微调吞吐达到传统卸载范式的2.5～21.2倍。

关键词: AI新闻,Kimi K2,微调,KTransformers,LLaMA-Factory

微调超大参数模型，现在的“打开方式”已经大变样了： 仅需2-4 张消费级显卡（4090），就能在本地对DeepSeek 671B乃至Kimi K2 1TB这样的超大模型进行微调了。

关键词: AI Infra,AI,KTransformers,趋境科技,AI部署

2024年，落地，无疑是大模型最重要的主题。