H100推理飙升8倍！英伟达官宣开源TensorRT-LLM，支持10+模型
H100推理飙升8倍！英伟达官宣开源TensorRT-LLM，支持10+模型H100让模型推理性能最高跃升8倍！英伟达最新开源软件TensorRT-LLM，将彻底改变LLM推理现状。
来自主题: AI资讯
5699 点击 2023-09-10 23:24
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
H100让模型推理性能最高跃升8倍！英伟达最新开源软件TensorRT-LLM，将彻底改变LLM推理现状。
一家华人女科学家的创业公司晋升为独角兽，英伟达等机构投资超2亿美元。该公司手握1万块H100显卡！
据 @SawyerMerritt 报道，特斯拉将于周一推出备受瞩目的超级计算机。这台机器将用于各种人工智能（AI）应用，该集群功能强大，可以用于要求苛刻的高性能计算（HPC）工作负载。基于 Nvidia H100 的超级计算机将成为世界上最强大的集群之一。