llama2

大模型实战—Ollama 本地部署大模型

AI的应用范围广泛，从自动驾驶汽车到语音助手，再到智能家居系统，都有着AI的身影，而随着Facebook开源LLama2更让越来越多的人接触到了开源大模型。
猫猫姐·2024-09-12 16:34

Langchain + Ollama

运行起来后，使用langchain加载fromlangchain.llmsimportOllamaollama=Ollama(base_url='http://localhost:11434',model="llama2
AI工程仔·2024-09-10 15:23

本地电脑大模型系列之 20 离线 AI：使用 Ollama+llama3+privateGPT+Langchain+GPT4ALL+ChromaDB 与 Pdf、Excel、CSV、PPTX、PPT、

Windows至少需要16GBRAMpython3.10和git系列文章《本地电脑搭建StreamDiffusion：用眼睛见证实时人工智能创意利用交互式高速扩散技术彻底改变图像生成》权重1，本地类《使用本地Llama2
知识大胖·2024-09-01 10:10

Code Llama: Open Foundation Models for Code论文阅读

都是基于Llama2。
yang_daxia·2024-08-27 18:46

使用LangChain和LLaMA2构建自然语言SQL查询助手

使用LangChain和LLaMA2构建自然语言SQL查询助手引言在当今数据驱动的世界中，能够轻松查询和分析数据库中的信息变得越来越重要。然而，并非所有人都精通SQL语言。
qq_37836323·2024-08-24 08:14

3月18日，每日信息差

据介绍，该平台支持广泛的AI模型，包括目前主流的Baichuan-7B、GeminiNano、Llama2和智谱
信息差Pro·2024-03-25 09:26

LLaMA 2 - 你所需要的一切资源

摘录关于LLaMA2的全部资源，如何去测试、训练并部署它。LLaMA2是一个由Meta开发的大型语言模型，是LLaMA1的继任者。
·2024-02-19 21:59

扩展说明: 指令微调 Llama 2

这篇博客是一篇来自MetaAI，关于指令微调Llama2的扩展说明。旨在聚焦构建指令数据集，有了它，我们则可以使用自己的指令来微调Llama2基础模型。目标是构建一个能够基于输入内容来生成指令的模型。
·2024-02-13 21:53

扩展说明: 指令微调 Llama 2

这篇博客是一篇来自MetaAI，关于指令微调Llama2的扩展说明。旨在聚焦构建指令数据集，有了它，我们则可以使用自己的指令来微调Llama2基础模型。目标是构建一个能够基于输入内容来生成指令的模型。
Hugging Face·2024-02-09 19:50

LLaMA 2 和 QianWen-14B

性能超越Llama2等同等尺寸模型-科技新闻-EDA365电子论坛网LLaMA2的硬件要求：LLaMA2系列模型有不同的参数量版本，如7B、13B和70B等。对于不同大小的模型，其硬件需求也有所不同。
wangqiaowq·2024-02-09 12:20

LLMs之Llama2 70B：《Self-Rewarding Language Models自我奖励语言模型》翻译与解读

LLMs之Llama270B：《Self-RewardingLanguageModels自我奖励语言模型》翻译与解读目录《Self-RewardingLanguageModels》翻译与解读Abstract5Conclusion结论6Limitations限制《Self-RewardingLanguageModels》翻译与解读地址文章地址：https://arxiv.org/abs/2401.1
一个处女座的程序猿·2024-02-08 14:11

在本地运行大型语言模型 (LLM) 的六种方法（2024 年 1 月）

一、说明（开放）本地大型语言模型（LLM），特别是在Meta发布LLaMA和后Llama2，变得越来越好，并且被越来越广泛地采用。在本文中，我想演示在本地（即在您的计算机上）运行此类模型的六种方法。
无水先生·2024-02-08 13:27

AI&大模型 | llama2微调手册查看ing

提示词说明[INST]>{{system_prompt}}>{{user_message}}[/INST]其中，，，>，>，[INST]，以及[/INST]是特殊token，标记着prompt中各个部分的构成。每一组和之间是一个相对完整的单元，可以理解为一个对话轮次（如果直接给一个文本作为输入，也可以看到模型的输入结果分别是以这两个BOS和EOStoken作为结尾的）。[INST]和[/INST]
ASKCOS·2024-02-06 10:31

支持534种语言，开源大语言模型MaLA-500

无论是开源的LLaMA2还是闭源的GPT系列模型，功能虽然很强大，但对语言的支持和扩展比较差，例如，二者都是以英语为主的大模型。
RPA中国·2024-02-06 10:18

LLama 2部署教程+私有模型分发

近日，Meta发布了LLama的最新版本——LLama2，尽管其对中文的处理能力尚有待提升，但其整体表现无疑是令人瞩目的。
backfire007·2024-02-06 04:56

Meta开源大模型LLaMA2的部署使用

LLaMA2的部署使用LLaMA2申请下载下载模型启动运行Llama2模型文本补全任务实现聊天任务LLaMA2编程WebUI操作LLaMA2申请下载访问metaai申请模型下载，注意有地区限制，建议选其他国家申请后会收到邮件
CodeDevMaster·2024-02-06 04:25

llama2模型部署方案的简单调研-GPU显存占用(2023年7月25日版)

先说结论全精度llama27B最低显存要求：28GB全精度llama213B最低显存要求：52GB全精度llama270B最低显存要求：280GB16精度llama27B预测最低显存要求：14GB16精度llama213B预测最低显存要求：26GB16精度llama270B预测最低显存要求：140GB8精度llama27B预测最低显存要求：7GB8精度llama213B预测最低显存要求：13GB8
海皇海皇吹·2024-02-05 20:50

七月论文审稿GPT第2.5版：微调GPT3.5 turbo 16K和llama2 13B以扩大对GPT4的优势

前言自去年7月份我带队成立大模型项目团队以来，我司至今已有5个项目组，其中第一个项目组的AIGC模特生成系统已经上线在七月官网第二项目组的论文审稿GPT则将在今年34月份对外上线发布第三项目组的RAG知识库问答第1版则在春节之前已就绪至于第四、第五项目组的大模型机器人、Agent则正在迭代中所有项目均为会对外上线发布的商用项目，而论文审稿GPT至今在过去的半年已经迭代两个版本，其中第二版的效果甚至
v_JULY_v·2024-02-05 20:19

Llama2大模型开源，大模型的Android时代来了？

就昨天凌晨，微软和Meta宣布Llama2大模型开源且进一步放开商用，一下朋友圈刷屏。
南七小僧·2024-02-04 11:49

【Llama2 windows部署详细教程】第三节 Llama2 跑起来

前面两节主要介绍了基础环境的准备，借下来就是对Llam2模型进行量化并运行起来，这个过程在实际的部署过程中也很容易出现问题。具体的部署如下：一、下载模型目前大模型主要发布在HuggingFace上提供下载，无法在上面下载的小伙伴可以在国内的ModelScope网站上下载，模型文件比较大，下载过程中需要确保网络顺畅，下载方式如下：git clone https://www.modelscope.cn
拥抱AI·2024-01-28 13:39

如何使用Hugging Face微调大语言模型（LLMs）

从ChatGPT爆发以来，后来逐步发展了众多开源大模型LLMs，如MetaAI的Llama2、MistralsMistral&Mixtral模型，TIIFalcon等。
技术狂潮AI·2024-01-27 14:14

智能体AI Agent的极速入门：从ReAct到AutoGPT、QwenAgent、XAgent

除了已经在七月官网上线的AIGC模特生成系统外，我正在并行带多个项目组第二项目组，论文审稿GPT第2版的效果已经超过了GPT4，详见《七月论文审稿GPT第2版：用一万多条paper-review数据集微调LLaMA2
v_JULY_v·2024-01-27 08:19

本周Github上有趣的11个项目

它通过统一的API简化了对OpenAI、Anthropic、Mistral、LLama2、Anyscale、GoogleGemini等的API请求。
极道Jdon·2024-01-26 16:11

模型推理加速系列 | 08：TensorRT-LLM助力LLM高性能推理

紧接前文：万字长文细说ChatGPT的前世今生Llama2实战(上篇):本地部署(附代码)Llama2实战(下篇)-中文语料微调(附代码)CodeLlama实战(上篇)-模型简介和评测CodeLlama
JasonLiu1919·2024-01-26 16:24

Code Llama：基于 Llama 2 的 AI 代码生成大模型

CodeLlama正是一个基于Llama2的AI代码生成大模型，旨在解决这一问题。
百度_开发者中心·2024-01-24 15:42

利用 Mountpoint for Amazon S3 在 Kubernetes 上加速 LLM 的训练

本文通过在EC2g5.2xl实例上完成LLaMA2的调优训练，读者可以利用较少的GPU资源学习复现本
亚马逊云开发者·2024-01-24 06:25

FinGPT Llama2 推理

文章目录InferencewithSingleTask:SentimentMakepromptsInferencewithMulti-TaskFinGPT_Inference_Llama2_13B_falcon_7B_for_Beginners.ipynbhttps://github.com/AI4Finance-Foundation/FinGPT/blob/master/FinGPT_Infer
小田_·2024-01-22 21:40

MacOS M2使用llama2

因为工作中一直用OpenAI，所以没弄过llama2，想着试一下llama2跑本地的效果，llama2官方下载地址：https://ai.meta.com/llama/官方是需要填表的，我们直接使用社区的方案
懒编程-二两·2024-01-22 06:04

开源大模型领域最重要的玩家们，在关心/担心什么

7月18日，Llama2的出现，更是直接让大模型的竞争格局变天了。开源模型作为大模型领域的「地板」，Llama2开源且有条件地开放了商业使用后，很多「水平有限」的大模型还没商用，就已过时。「接下来，会
开源社·2024-01-21 10:14

Portkey AI网关：一个用来连接多种人工智能模型的开源工具

包括OpenAI、Anthropic、Mistral、LLama2、Anyscale、GoogleGemini等。安装体积只有45kb，处理速度提升了9.9倍，可以在多个不同的AI模型中来回切换。
AI 研习所·2024-01-20 17:48

Meta将继续开源Llama 3；Runway多动态刷头Multi Motion Brush

Meta已经在LLaMA基础上训练、开源了LLaMA2，拥有70亿、130亿、340亿和700亿四种参数，并且这一代终于允许商业化，成为整个生成式AI开源界应用最多的大
go2coding·2024-01-19 15:05

十分钟读完「超越GPT-3.5和LLama2的Mixtral 8x7B」论文

超越GPT-3.5和LLama2！
夕小瑶·2024-01-18 12:44

在文心一言超越ChatGPT3.5后，我们做了大模型对比测试。

除了文心一言，号称超过ChatGPT3.5大模型，还有google的bard，Meta的LlaMA2和claude2。我们来一一对比测试下。将本文第一段，发给他们改写成震惊体。
ooope·2024-01-18 06:14

ubuntu下llama2的api远程调用

condaactivatellamachinesecd/home/cys/Llama2-Chinese/scripts/apipythonaccelerate_server.py--model_path/media/cys/c4e58bbe-a73a-4b02-ae9e-2b310ee884fb/chinese-llama-2-13b--gpus"0"--infer_dtype"int8"--mo
小草cys·2024-01-18 04:54

【部署LLaMa到自己的Linux服务器】

部署LLaMa到自己的Linux服务器1、Llama2项目获取方法1：有git可以直接克隆到本地方法2：直接下载2、LLama2项目部署3、申请Llama2许可4、下载模型权重5、运行1、Llama2项目获取方法
OPTree412·2024-01-17 20:07

[玩转AIGC]LLaMA2训练中文文章撰写神器（数据准备，数据处理，模型训练，模型推理）

下载并加载中文数据集二、中文数据集处理1、数据格式2、数据集处理之tokenizer训练格式1）先将一篇篇文本拼凑到一起（只是简单的拼凑一起，用于训练tokenizer）2）将数据集进行合并3、数据集处理之模型（llama2
六五酥·2024-01-17 18:07

本地运行LlaMA 2的简易指南

大家好，像LLaMA2这样的新开源模型已经变得相当先进，并且可以免费使用。可以在商业上使用它们，也可以根据自己的数据进行微调，以开发专业版本。凭借其易用性，现在可以在自己的设备上本地运行它们。
python慕遥·2024-01-17 12:41

十分钟读完 Meta提出Llama 2模型的经典论文：Llama 2: Open Foundation and Fine-Tuned Chat Models

超越GPT-3：MetaAI发布新一代开源人工智能对话大模型Llama2引言：介绍Llama2的发布背景和其在对话用例中的优化。
夕小瑶·2024-01-17 10:45

Llama2部署、微调、集成Langchain过程记录

目录一、模型部署1.环境配置2.pip和conda源3.下载模型到本地4.下载并部署gradio5.使用gradio运行模型6.textgenerationwebui二、模型微调1.下载和预处理微调训练数据2.运行微调文件3.执行代码合并4.使用gradio运行微调后模型三、使用LangChain外挂本地知识库1.LangChain介绍2.安装和准备3.设置知识库4.加载模型5.知识库的使用和构造
GOozii1·2024-01-16 00:54

【LangChain学习之旅】—（7） 调用模型：使用OpenAI API还是微调开源Llama2/ChatGLM？

【LangChain学习之旅】—（7）调用模型：使用OpenAIAPI还是微调开源Llama2/ChatGLM？
之墨_·2024-01-13 19:47

HackerGPT&WhiteRabbitNeo的使用及体验对比

1.简介WhiteRabbitNeo（https://www.whiterabbitneo.com/）是基于Meta的LLaMA2模型进行特化的网络安全AI模型。
INSBUG·2024-01-12 18:20

TinyLlama-1.1B(小羊驼)模型开源-Github高星项目分享

项目地址：https://github.com/jzhang38/TinyLlama/特点采用了与Llama2完全相同的架构和分词器。这意味着TinyLlama可以在许多基于L
AI 研习所·2024-01-12 08:38

Ubuntu22.04，Nvidia4070配置llama2

大部分内容参考了这篇非常详细的博客，是我最近看到的为数不多的保姆级别的教学博客，建议大家去给博主点个赞【Ubuntu20.04安装和深度学习环境搭建4090显卡】_ubuntu20.04安装40系显卡驱动-CSDN博客本篇主要是基于这篇博客结合自己配置的过程中一些注意点和补充说明（其实主要是方便自己以后配置）本篇主要包含以下4个部分1.安装配置Ubuntu2.安装nvidia驱动，cuda,cud
机器人迈克猫·2024-01-11 13:24

@关于大模型的基础知识

@关于大模型的基础知识大模型的基础包括模型训练、数据集准备、微调和评估四大部分文章目录从大模型的训练说起大模型的基础调用大模型：例如调用llama2模型微调大模型从大模型的训练说起大模型的基础transformerself-attention
专心研究·2024-01-10 19:38

llama2 保姆级windows环境配置，训练，部署及常见问题解决方法

业务需要开始研究LLM，并且二次开发用到我们的业务上。罗嗦几句，我从开始看LLM到配起来训练总共花了两个礼拜时间，看了不下20个视频教程和100篇博客教程，没有哪一个教程是能够从头到尾配置完没有差错的跑起来的，真的呼吁一下大家提高一下教程的质量，自己验证完之后再发布，有错误及时更新或者下线。以下正式开始配置1.环境1.1window111.2nvdia4080或4090显卡，（这里有坑，后面再说）
机器人迈克猫·2024-01-09 12:29

每日一看大模型新闻（2023.11.07）三星发布自研大模型Gauss；零一万物开源Yi系列大模型，领跑全球AI 2.0时代；微软新研究:Llama2记忆消除术使大模型忘记特定信息

1.产品发布1.1中兴通讯AiCube训推一体机：赋能企业数字化转型发布日期：2023-11-07百度安全验证主要内容：这是中兴为运营商和AI行业开发者提供的首套智算解决方案，让AI开发效率得到大幅提升。该产品代表着全栈智算的未来，目的是简化企业的数字化转型过程，提供一站式智算服务，直击当前AI大模型技术爆发带来的挑战与需求。1.2华为西工大发布流体力学大模型“秦岭·翱翔”发布日期：2023-11
超爱玩大模型·2024-01-08 20:15

本地部署 Ollama

运行Llama2、CodeLlama和其他模型。自定义并创建自己的。1.下载Ollama访问https://ollama.ai/download，根据你使用的系统，下载相应版本。这里以Li
engchina·2024-01-07 20:03

非工程师指南: 训练 LLaMA 2 聊天机器人

我们将以LLaMA2基础模型为例，在开源指令数据集上针对聊天场景对其进行微调，并将微调后的模型部署到一个可分享的聊天应用中。全程只需点击鼠标，即可轻松通往荣耀之路！为什么这很重要？
Hugging Face·2024-01-07 20:39

大模型的实践应用15-Chinese-LLaMA2模型的介绍与部署运行测试，Atom-7B-Chat模型用多种方式流式打印文本

Llama2是由Meta公司发布的最新一代开源大型模型，其训练数据集规模为2万亿个Token。相较于Llama1，Llama2的上下文长度扩展到了4096，使其能够更好地理解和生成更长的文本内容。
微学AI·2024-01-07 13:44

对比开源大语言模型的自然语言生成SQL能力

随着GPT-4、Llama2和Falcon等大型语言模型(LLM)开发的最新进展，业界和学术界对NL
数大招疯·2024-01-03 11:28
上一页 1 2 3 4 5 6 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他