论文荣登计算机体系结构顶会ISCA，芯片架构成为边缘AI最佳并行计算选择
论文荣登计算机体系结构顶会ISCA，芯片架构成为边缘AI最佳并行计算选择AI 大模型的爆发带动了 GPU 的强劲需求，从云端到边缘渗透的 AI 应用也将带动边缘 AI 服务器及加速处理器的需求。
来自主题: AI资讯
7634 点击 2024-08-13 17:53
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
AI 大模型的爆发带动了 GPU 的强劲需求，从云端到边缘渗透的 AI 应用也将带动边缘 AI 服务器及加速处理器的需求。
2024年上海的7月是一个沉闷的雨季，但对国产AI 行业来说，却迎来了堪比摇滚乐集会的WAIC（世界人工智能大会）。
在一平方毫米的硅片上建立数百万个连接。
跨GPU的注意力并行，最高提速8倍，支持512万序列长度推理。
有CPU就能跑大模型，性能甚至超过NPU/GPU！
一场未完成的投资改变了什么？
AI重新定义游戏体验的时代。
a16z的氧气计划
谷歌TPU核心团队创立，要做世界最快推理。
Groq又双叒给英伟达上压力了！不仅之前展现了每秒1256个token的破纪录输出速度，最新获得的一轮6.4亿美元融资更提供了在AI芯片领域挑战英伟达的底气。