LMDeploy 的量化和部署

LMDeploy 的量化和部署

使用 LMDeploy 以本地对话、网页Gradio、API服务中的一种方式部署 InternLM-Chat-7B 模型,生成 300 字的小故事LMDeploy 的量化和部署_第1张图片

你可能感兴趣的:(语言模型,人工智能,langchain,自然语言处理)