微博
加入微博一起分享新鲜事
登录
|
注册
140
使用 NVIDIA TensorRT-LLM 支持 CodeFuse-CodeLlama-34B 上的 int4 量化和推理优化实践 https://developer.nvidia.com/zh-cn/blog/tensorrt-llm-supports-codefuse-codellama-34b-int4/
请登录并选择要私信的好友
300
使用 NVIDIA TensorRT-LLM 支持 CodeFuse-CodeLlama-34B 上的 int4 量化和推理优化实践 https://developer.nvidia.com/zh-cn/blog/tensorrt-llm-supports-codefuse-codellama-34b-int4/
赞一下这个内容
公开
分享
获取分享按钮
正在发布微博，请稍候