黑板报

Nvidia称其即将推出的开源库TensorRT-LLM将在下个月推出时将H100在领先的LLM上运行推理的性能提高一倍(Dylan Martin/CRN)

AI芯片巨头表示，开源软件库TensorRT-LLM将使H100运行推理的性能翻倍。