llama-2-7b

【LLM 论文阅读】NEFTU N E: LLM微调的免费午餐

当像LLaMA-2-7B这样的原始LLM被
致Great·2024-01-10 09:16

在灾难推文分析场景上比较用 LoRA 微调 Roberta、Llama 2 和 Mistral 的过程及表现

本文主要比较3个模型:RoBERTa、Mistral-7B及Llama-2-7B。我们用它们来解决一个常见问题——对灾难相关的推文进行分类。
Hugging Face·2023-12-23 19:14

大模型部署手记（8）LLaMa2+Windows+llama.cpp+英文文本补齐

1.简介：组织机构：Meta（Facebook）代码仓：https://github.com/facebookresearch/llama模型：llama-2-7b下载：使用download.sh下载硬件环境
张小白TWO·2023-12-06 13:43

大模型部署手记（9）LLaMa2+Chinese-LLaMA-Plus-7B+Windows+llama.cpp+中文文本补齐

1.简介：组织机构：Meta（Facebook）代码仓：GitHub-facebookresearch/llama:InferencecodeforLLaMAmodels模型：llama-2-7b、Chinese-LLaMA-Plus
张小白TWO·2023-12-06 13:43

大模型部署手记（10）LLaMa2+Chinese-LLaMA-Plus-7B+Windows+llama.cpp+中英文对话

1.简介：组织机构：Meta（Facebook）代码仓：GitHub-facebookresearch/llama:InferencecodeforLLaMAmodels模型：llama-2-7b、llama
张小白TWO·2023-12-06 13:43

llama.cpp 部署 llama-2-7b 测试 Llama 2

首先进入这里https://github.com/facebookresearch/llama点击下载填写注册信息接受后继续上面的按钮点击后，应该邮箱就收到链接了，几乎是很快的把下面的链接复制后备用，注意24小时后会失效提前先了解一下有3种模型7b13b70b7b就是有70亿参数，文件夹里面有3个文件其中最大的是模型文件有13G外面还有分词器清单和分词器模型文件如果下载全部的话体积特别大，注意啦3
bit_lang·2023-11-12 08:54

你的GPU能跑Llama 2等大模型吗？用这个开源项目上手测一测

因为查看GPU可以处理哪些LLM并不像查看模型大小那么容易，在推理期间（KV缓存）模型会占用大量内存，例如，llama-2-7b的序列长度为1000，需要1GB的额
zenRRan·2023-10-24 10:38

大模型部署手记（7）LLaMA2+Jetson AGX Orin

1.简介组织机构：Meta（Facebook）代码仓：GitHub-facebookresearch/llama:InferencecodeforLLaMAmodels模型：llama-2-7b、llama
张小白TWO·2023-10-05 23:29

使用Triton部署chatglm2-6b模型 | 京东云技术团队

支持的模型类型包括TensorRT、TensorFlow、PyTorch(meta-llama/Llama-2-7b)、Python(chatglm)、ONNXRuntime和OpenVino。
·2023-09-27 12:31

Notebook 一站式打包“Llama-2-7B chatbot”与“Llama-2-7B-with agent”

大语言模型(LargeLanguageModel,LLM)，旨在理解和生成人类语言。在大量文本数据上进行训练，可执行广泛的任务，包括文本总结、翻译、情感分析等等。今年爆火出圈的ChatGPT即为一个大语言模型，而LIama-2的出现又为LLM市场带来了一些「震撼」。Llama-2模型7月18日，Meta与微软联手发布了免费、可直接商用的LLM模型——Llama2。Facebook人工智能研究院首席
·2023-09-05 16:59

Windows10上使用llama-recipes(LoRA)来对llama-2-7b做fine-tune

刚刚在Windows10上搭建环境来对llama2做finetune，里面坑还是挺多的，这里把印象中的坑整理了一下以作备忘。llama-recipes是meta的开源项目，Github地址为：GitHub-facebookresearch/llama-recipes:ExamplesandrecipesforLlama2modelllama2同样也是meta的开源LLM模型，因此用此项目做fine
lhf2112·2023-09-03 04:24
上一页 1 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他