搜索
GitHub火热开源项目Colibrì以纯C实现分层推理框架，通过AI内存多层化将SSD、RAM和VRAM组成动态调度系统，无需GPU即可让普通笔记本运行744B参数GLM-5.2等超大MoE模型，已揽获32k Star并支持9个模型家族。
推理创业公司Inferact用自研的megakernel内核结合DeepSeek的DSpark推测解码框架，让16块谷歌TPU v7运行Kimi K3达到每秒709个token，比同条件下16块英伟达GB200快57%。
OpenAI为ChatGPT Voice新增语音执行任务功能，接入GPT-6家族模型与插件，用户可通过语音指令查邮件、做PPT、搭网站并追回重复扣费，该能力已整合进7月推出的ChatGPT Work Agent，新版App当天面向全球推送。
开源智能体项目Orbital主张"Context is yours"，通过将散乱会话和记忆总结为可迁移的项目记忆，帮助用户拿回被大厂Agent锁死的上下文资产，并配合观猹推出的Tokendance模型钱包，实现DeepSeek、GLM、Kimi等70多个模型用量的透明化管理。
浙江大学、清华大学与新加坡国立大学团队推出TurboT2VA，采用分布蒸馏与轨迹蒸馏联合方案将音视频生成速度提升54.67倍，在单张H20上将1024×1792分辨率121帧的生成耗时从318.74秒降至5.83秒。
是石科技自研Meta-Infer高效推理引擎通过内核补齐、算子通信重构、并行调优与缓存复用等纯软件手段，在不改动模型前提下将DeepSeek-V4.1-Flash在PCIe显卡上的推理吞吐提升近7倍，该方法论同样适用于DeepSeek-V4-Flash、GLM5.3及国产GPU。
AI数据创企Snorkel AI完成3.5亿美元E轮融资，估值达35亿美元，由Insight Partners和S32领投，其年化收入运行率已达3.75亿美元，较过去12个月增长18倍。
大模型江湖变天了。
看来啊，老马显然也知道，国庆前后这几天的基模圈不好混。
开发者mizorewww将开源决策模型Laya移植到Apple MLX框架，推出本地版Laya-MLX，可在Apple Silicon Mac上以低于1GB内存运行并摆脱PyTorch与云端API依赖，421M版本峰值内存943.6MiB、322M多语言版本687.6MiB。