Token已死？AI认知的新范式正在崛起
Token已死？AI认知的新范式正在崛起就在OpenAI热闹的12天发布会刚刚落下帷幕，谷歌的火力全开新模型Voe2和Gemnini2吸引了全球AI开发者的眼球时，Meta作为三巨头之一则在筹划着一场静悄悄的革命。
来自主题: AI技术研报
8504 点击 2024-12-27 10:23
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
就在OpenAI热闹的12天发布会刚刚落下帷幕，谷歌的火力全开新模型Voe2和Gemnini2吸引了全球AI开发者的眼球时，Meta作为三巨头之一则在筹划着一场静悄悄的革命。
1822 年，电学之父法拉第在日记中写到“既然通电能够产生磁力，为什么不能用磁铁产生电流呢？我一定要反过来试试！”。于是在 1831 年，第一台发电机被发明，推动了人类进入电气化时代。
终于，谷歌新一代视频生成大模型 Veo2 把 Sora 给秒了：「更懂人间烟火」、「懂电影拍摄技巧」、「分辨率高达 4K 」……
大模型中，线性层的低比特量化已经逐步落地。然而，对于注意力模块，目前几乎各个模型都还在用高精度（例如 FP16 或 FP32）的注意力运算进行训练和推理。并且，随着大型模型需要处理的序列长度不断增加，Attention（注意力运算）的时间开销逐渐成为主要开销。
本次量子位MEET 2025智能未来大会上，智谱COO张帆热情分享了智谱大模型的发展、应用、商业化发展、未来方向，以及企业和个人的科技战略构建。
2024年大模型融资火热，全球超4000亿。2024年——大模型创企正与巨额融资深度绑定。仅在2024年最后一个月，就有xAI拿下60亿美元、阶跃星辰的数亿美元、Perplexity AI的5亿美元、智谱AI 30亿元、Liquid AI的2.5亿美元……
GPU新核弹B300，以及附带CPU的超级芯片GB300。 高算力，在产品层面上相比B200在FLOPS上提高50% 大显存，从192GB提升到288GB，也是提高了50%。
12月26日，界面新闻独家获悉，小米正在着手搭建自己的GPU万卡集群，将对AI大模型大力投入。小米大模型团队在成立时已有6500张GPU资源。
从“先预估后分配”的判别式方法，到直接面向最终拍卖结果的生成式方法，生成式模型能否为在线广告的拍卖机制优化带来持续增量？
据工业和信息化部网站25日消息，工业和信息化部、国务院国有资产监督管理委员会、中华全国工商业联合会日前印发《制造业企业数字化转型实施指南》。