llama2-chinese

ubuntu下llama2的api远程调用

condaactivatellamachinesecd/home/cys/Llama2-Chinese/scripts/apipythonaccelerate_server.py--model_path

小草cys·2024-01-18 04:54

百川2大模型微调问题解决

之前用https://github.com/FlagAlpha/Llama2-Chinese微调过几个模型，总体来说llama2的生态还是比较好的，过程很顺利。

xiexiecn·2023-12-25 00:13

大模型其他方案的进度

不知道微调后有没有结果Llama2-Chinese之前没有上传微调的代码，最近上传了，可以试一试微调AgentLM模型网上资料很少，都是一些科普文章，官方

千夜啊·2023-11-04 04:38

“开启中文智能之旅：探秘超乎想象的 Llama2-Chinese 大模型世界”

“开启中文智能之旅：探秘超乎想象的Llama2-Chinese大模型世界”1.国内Llama2最新下载地址本仓库中的代码示例主要是基于HuggingFace版本参数进行调用，我们提供了脚本将Meta官网发布的模型参数转换为

汀、人工智能·2023-10-11 20:41

Llama2-Chinese项目：6-模型评测

测试问题筛选自AtomBulb[1]，共95个测试问题，包含：通用知识、语言理解、创作能力、逻辑推理、代码编程、工作技能、使用工具、人格特征八个大的类别。1.测试中的Prompt 例如对于问题"列出5种可以改善睡眠质量的方法"，如下所示：[INST]>Youareahelpful,respectfulandhonestassistant.Alwaysanswerashelpfullyaspo

NLP工程化·2023-10-05 09:43

大模型Llama2部署，基于text-generation-webui、Llama2-Chinese

支持windows、linux，显存要求10G左右一、使用text-generation-webui部署参考安装教程：傻瓜式！一键部署llama2+chatglm2，集成所有环境和微调功能，本地化界面操作！Github地址：GitHub-oobabooga/text-generation-webui:AGradiowebUIforLargeLanguageModels.Supportstransf

cheng_tc·2023-10-05 05:46

Llama2-Chinese项目：7-外延能力LangChain集成

本文介绍了Llama2模型集成LangChain框架的具体实现，这样可更方便地基于Llama2开发文档检索、问答机器人和智能体应用等。1.调用Llama2类针对LangChain[1]框架封装的Llama2LLM类见examples/llama2_for_langchain.py，调用代码如下所示：fromllama2_for_langchainimportLlama2#这里以调用4bit

NLP工程化·2023-10-05 05:08

Llama2-Chinese项目：4-量化模型

一.量化模型调用方式下面是一个调用FlagAlpha/Llama2-Chinese-13b-Chat[1]的4bit压缩版本FlagAlpha/Llama2-Chinese-13b-Chat-4bit[2]的例子：fromtransformersimportAutoTokenizerfromauto_gptqimportAutoGPTQForCausalLMmodel=AutoGPTQForC

NLP工程化·2023-10-03 16:14

Llama2-Chinese项目：2.2-大语言模型词表扩充

因为原生LLaMA对中文的支持很弱，一个中文汉子往往被切分成多个token，因此需要对其进行中文词表扩展。思路通常是在中文语料库上训练一个中文tokenizer模型，然后将中文tokenizer与LLaMA原生tokenizer进行合并，最终得到一个扩展后的tokenizer模型。国内Chinese-LLaMA-Alpaca开源项目详细说明了词表扩展[2]。一.对LLaMAtokenizer扩

NLP工程化·2023-09-17 10:39

大模型一、大语言模型的背景和发展

文章目录背景模型1文本LLM模型ChatGLMChatGLM2-6BChinese-LLaMA-Alpaca：Chinese-LLaMA-Alpaca-2：Chinese-LlaMA2：Llama2-Chinese

IT界的小小小学生·2023-08-26 02:32

【AI实战】开源中文 llama2 来了，30 分钟搭建 130 亿参数大模型 Llama2-Chinese-13b-Chat

【AI实战】开源中文llama2来了，30分钟搭建130亿参数大模型Llama2-Chinese-13b-Chat简介环境配置环境搭建依赖安装代码及模型权重拉取拉取Llama2-Chinese拉取Llama2

szZack·2023-08-06 22:15

6G内存运行Llama2-Chinese-7B-chat模型

6G内存运行Llama2-Chinese-7B-chat模型Llama2-Chinese中文社区第一步：从huggingface下载Llama2-Chinese-7b-Chat-GGML模型放到本地的某一目录

蓝鲸123·2023-07-30 12:31

推荐频道