vicuna

大模型入门（一）

大模型入门（一）一、LLaMa模型介绍1）Pre-normalization2）SwiGLU激活函数3）RoPE旋转位置编码二、Alpaca模型介绍三、Vicuna模型介绍大模型入门（一）——LLaMa
pit_man·2024-09-08 05:40

使用llama.cpp在本地搭建vicuna 13B语言模型

https://github.com/mps256/vicuna.ps1
lilihli·2024-01-31 09:50

最新整理盘点全球最先进的几十种人工智能大模型，OpenChat：性能高达105.7%，第一个超越ChatGPT的开源模型？附开源代码地址

附开源代码地址前几天开源模型第一还是是Vicuna-33B、WizardLM，这不又换人了。对于开源模型的风起云涌，大家见怪不怪，不断更新的LLM榜单似乎也没那么吸引人了。
代码讲故事·2024-01-28 09:36

羊驼系列大模型LLaMa、Alpaca、Vicuna

羊驼系列大模型：大模型的安卓系统GPT系列：类比ios系统，不开源LLaMa让大模型平民化LLaMa优势用到的数据：大部分英语、西班牙语，少中文模型下载地址https://huggingface.co/meta-llamaAlpaca模型Alpaca是斯坦福从Meta的LLaMA7B微调而来的全新模型(套壳)仅用了52k数据，性能约等于GPT-3.5。训练成本奇低，总成本不到600美元在8个80G
南宫凝忆·2024-01-21 13:59

Vicuna云端实践

简介Vicuna是开源领域最强最著名的大语言模型，是UC伯克利大学的研究人员联合其它几家研究机构共同推出的一系列基于LLaMA微调的大语言模型。
皮皮姑娘·2024-01-13 19:37

【LMM 009】MiniGPT-4：使用 Vicuna 增强视觉语言理解能力的多模态大模型

论文描述：MiniGPT-4:EnhancingVision-LanguageUnderstandingwithAdvancedLargeLanguageModels论文作者：DeyaoZhu∗JunChen∗XiaoqianShenXiangLiMohamedElhoseiny作者单位：KingAbdullahUniversityofScienceandTechnology论文原文：https:
datamonday·2024-01-05 09:37

【LLM】微调我的第一个WizardLM LoRA

根据特定用例调整LLM的行为之前，我写过关于与Langchain和Vicuna等当地LLM一起创建人工智能代理的文章。如果你不熟悉这个话题，并且有兴趣了解更多，我建议你阅读我之前的文章，开始学习。
架构师研究会·2024-01-02 20:31

huggingface的tokenizer解读

文章目录前言一、huggingface的tokenizer含义1、含义2、整体概括二、加载lmsys/vicuna-7b-v1.5模型的tokenizer三、调用tokernizer方法四、字符串的tokens
tangjunjun-owen·2024-01-01 07:41

6、LLaVA

简介LLaVA官网LLaVA使用Vicuna(LLaMA-2)作为LLMfϕ(⋅)f_\phi(·)fϕ(⋅)，使用预训练的CLIP图像编码器ViT-L/14g(Xv)g(X_v)g(Xv)。
C--G·2023-12-30 02:34

text-generation-inference（TGI）项目加速推理的量化实现与使用GPTQ量化实现的对比

0背景实验的机器是4张T4的显卡，推理时使用参数--gpusall用4张卡同时计算；加载的模型是vicuna-7b-v1.5-16k；工程的地址在https://github.com/huggingface
炭市街潜水豆浆·2023-12-29 04:32

最强开源大模型？Llama 2论文解读

RLHF结果模型回答的安全性  一直以来，Llama模型被认为是AI社区最强大的开源模型，国内外众多的开源模型均是在其基础上二次训练/开发而来，如Alpaca模型、BELLEE模型、Guanaco模型、Vicuna
长白山下大绵羊·2023-12-16 13:52

走向边缘智能，美格智能携手阿加犀成功在高算力AI模组上运行一系列大语言模型

，融合阿加犀卓越的AI优化部署技术，在搭载高通QCS8550平台的高算力AI模组上，成功运行了一系列大语言模型，包括LLaMA-2、通义千问Qwen、百川大模型、RedPajama、ChatGLM2、Vicuna
美格智能·2023-12-15 23:38

从零详细地梳理一个完整的 LLM 训练流程

当前，不少工作选择在一个较强的基座模型上进行微调，且通常效果不错（如：[alpaca]、[vicuna]等）。
大数据AI人工智能培训专家培训讲师叶梓·2023-11-29 22:23

oobabooga-text-generation-webui可能是最好的语言模型启动器（包含手把手安装教程）

oobabooga-text-generation-webui是一个用于运行类似Chatglm、RWKV-Raven、Vicuna、MOSS、LLaMA、llama.cpp、GPT-J、Pythia、OPT
javastart·2023-11-28 09:38

ERROR: Could not build wheels for flash-attn, which is required to install pyproject.toml-based proj

背景：微调Fastchat的vicuna1.5大模型时，安装一些依赖的库。
炭市街潜水豆浆·2023-11-20 06:49

Unity接入大模型（小羊驼Vicuna，vLLM，ChatGPT等）

实现在Unity内部的大模型访问，我也是第一次接触Unity中通过大模型url访问。此博客面向新手，旨在给大家简单理解大模型POST和GET过程，还有实现简单的大模型访问。参考博客：什么是chatGPT？Unity结合OpenAI官方api实现类似chatGPT的AI聊天机器人附带源码地址：OpenAIChatRobotMaster:使用unity实现的基于OpenAI官方api的AI聊天机器人示
←_←鱼缸·2023-11-19 22:36

NLP-分词器：SentencePiece【参考Chinese-LLaMA-Alpaca在通用中文语料上训练的20K中文词表并与原版LLaMA模型的32K词表进行合并的代码】

目前，开源的大语言模型主要有三大类：ChatGLM衍生的大模型（wenda、ChatSQL等）、LLaMA衍生的大模型（Alpaca、Vicuna、BELLE、Phoenix、Chimera等）、Bloom
u013250861·2023-11-16 17:00

Dolly vs LLaMA vs Vicuna vs Guanaco vs Bard vs ChatGPT - A Text-to-SQL Parsing Comparison

本文是LLM系列文章，针对《BattleoftheLargeLanguageModels:DollyvsLLaMAvsVicunavsGuanacovsBardvsChatGPT大型语言模型之战：DollyvsLLaMAvsVicunavsGuanacovsBardvsChatGPT-文本到SQL解析比较摘要1引言2实验设置3评估结果4讨论5相关工作6结论和未来工作摘要ChatGPT的成功引发了一
UnknownBody·2023-11-08 18:04

llama-7B、vicuna-7b-delta-v1.1和vicuna-7b-v1.3——使用体验

幸运的是，出现了开源的一些相对小的模型，可以在本地或者云端部署体验，动手体验了下Vicuna-7b，翻译过来是小羊驼」（骆马），拥有70亿参数，据作者实验能达到GPT-4的90%性能。
Spielberg_1·2023-11-07 01:10

大语言模型的学习路线和开源模型的学习材料《一》

第十重BaichuanBaichuan2Baichuan-13Bbaichuan-7B第十一重Llama2第二重StanfordAlpaca7B第三重Chinese-LLaMA-Alpaca第四重小羊驼Vicuna
三更两点·2023-11-05 13:56

THUDM/chatglm2-6b-int4部署实战

针对这一问题，一些参数，体积相对小的开源模型出现，如LLama-，vicuna，chatglm出现，同时为了进一步方便部署，降低硬件要求，推出了量化版模型chatglm2-6b-int4。
Spielberg_1·2023-11-01 20:42

广告行业中那些趣事系列64：低成本训练一个媲美ChatGPT效果的Vicuna模型

本篇主要从理论到实践介绍低成本训练一个媲美ChatGPT效果的Vicuna模型，对于希望搭建自己的大语言模型并应用到实际业务场景感兴趣的小伙伴可能有帮助。
数据拾光者·2023-11-01 15:27

大模型掌握16000+真实世界API了，清华等机构ToolLLM的工具使用能力不输ChatGPT

相信大家都已经见识到了，开源大型语言模型（LLMs）及其变体（例如LLaMA和Vicuna）在各种任务上取得了显著的进展。然而，尽管LLM很强大，但它们在执行更高级任务方面
数据派THU·2023-10-20 00:31

minigpt-4 本地部署

笔者参考了深度学习笔记–本地部署Mini-GPT4，使用了http链接，huggingface下载llama和vicuna权重的download.txt分别如下：http://huggingface.co
duoyasong5907·2023-10-13 21:07

打造类ChatGPT服务，本地部署大语言模型（LLM），如何远程访问？

以LangChain-Chatchat为例：不仅最新版本可使用FastChat接入Vicuna,Alpaca,LLaMA
贝锐·2023-10-13 13:55

ChatGLM-6B 部署与 P-Tuning 微调实战

但最近一个月，开源文本大模型如雨后春笋般接踵而至，例如LLaMA、Alpaca、Vicuna、ChatGLM-6B等。树先生觉得这个事有着落了，毕竟站在巨人的肩膀上，离成功就会更近一步。
程序员树先生·2023-10-09 04:29

localGPT 一个本地访问的私有ChatGPT

2).使用LangChain和Vicuna-7B以及InstructorEmbeddings构建。可以借助LangChain构建更高级能力的pipeline。
Jon Shelby·2023-10-09 03:08

MiniGPT-4 模型学习与实战

1前言MiniGPT-4是一个冻结的视觉编码器(Q-Former&ViT)与一个冻结的文本生成大模型（Vicuna，江湖人称：小羊驼）进行对齐造出来的。
桂花很香,旭很美·2023-10-08 19:59

超详细！python小白用langchain+chatgpt搭建自己业务聊天机器人

方案选型首先，在众多的开源大模型里面我们选择了口碑较好，下载量和排名都靠前的vicuna。vicuna是一个可以自己训练的开源模型，关于
qq_27823935·2023-10-04 19:32

【OSCAR开源产业大会分论坛】开源大模型走向何方？

近一年来，我们看到GPT-3.5完成向多模态的GPT-4进化，号称5620亿参数的GooglePaLM迈向参数规模更小、更高效的PaLM2；我们看到Meta开源其Llama大模型，并催生囊括Alpaca、Vicuna
HyperAI超神经·2023-09-30 22:42

【OSCAR开源产业大会分论坛】开源大模型走向何方？

近一年来，我们看到GPT-3.5完成向多模态的GPT-4进化，号称5620亿参数的GooglePaLM迈向参数规模更小、更高效的PaLM2；我们看到Meta开源其Llama大模型，并催生囊括Alpaca、Vicuna
·2023-09-27 19:06

第十篇-Tesla P40+FastChat+Vicuna-13B-V1.5

部署环境系统：CentOS-7CPU:14C28T显卡：TeslaP4024G驱动:515CUDA:11.7cuDNN:8.9.2.26下载模型https://huggingface.co/lmsys/vicuna
木卫二号Coding·2023-09-21 16:56

使用Fastchat部署vicuna大模型

其核心特点包括：最先进模型（例如Vicuna）的权重、训练代码和评估代码。一个分布式的多模型提供服务系统，配备Web用户界面和与OpenAI兼容的RESTfulAPI。
taoli-qiao·2023-09-13 04:08

FastChat

其核心功能包括：最先进模型的权重/训练代码和评估代码(例如Vicuna/FastChat-T5)基于分布式多模型的服务系统，具有Web界面和与OpenAI兼容的RESTfulAPI。
studyeboy·2023-09-13 00:42

8个免费的AI和LLM游乐场

1.ChatbotArenaChatbotArena让您体验各种各样的模型，如Vicuna，Koala，RMKV-4-Raven，Alpaca，ChatGLM，LLaMA，Dolly，
ygtu2018·2023-09-12 21:50

centos7系统安装Vicuna（小羊驼）聊天机器人

准备工作：安装vicuna之前需要做一些准备工作，比如：git、python3、升级openssl等1、Git安装因为要克隆项目源码所以要安装，安装过程很简单yuminstallgit，这里不做过多介绍
大哈哥·2023-09-09 21:26

宝塔安装python和openssl

宝塔安装python和opensslOpenSSLCentos7openssl升级1.1.1k.tar.gzcentos7系统安装Vicuna（小羊驼）聊天机器人CentOS中输入yum报错：sudo:
kunwen123·2023-09-09 21:53

TOOLLLM: FACILITATING LARGE LANGUAGE MODELS TO MASTER 16000+ REAL-WORLD APIS

TOOLLLMs：让大模型掌握16000+的真实世界APIs摘要1引言2数据集构建3实验4相关工作5结论摘要尽管开源大型语言模型（LLM）及其变体（如LLaMA和Vicuna）取得了进步，但它们在执行更高级别的任务方面仍然
UnknownBody·2023-09-06 17:54

Llama-7b-hf和vicuna-7b-delta-v0合并成vicuna-7b-v0

一、配置环境condacreate-nfastchatpython=3.9#fastchat官方建议Python版本要>=3.8切换到fastchatcondaactivatefastchat安装torchpipinstalltorch==1.13.1torchvision==0.14.1torchaudio==0.13.1二、安装fastchat和transformers安装fschat==0.
Spielberg_1·2023-09-04 20:50

PaddleNLP使用Vicuna

Vicuna模型Vicun
永胜永胜·2023-09-03 18:41

【LLM模型篇】LLaMA2 | Vicuna | EcomGPT等（更新中）

文章目录一、Basemodelchatglm2模型Vicuna模型LLaMA2模型1.训练细节2.EvaluationResults3.更多参考alpaca模型其他大模型和peft高效参数微调二、垂直领域大模型
山顶夕景·2023-09-03 18:27

【LLMs 入门实战 】第一式：Vicuna 模型学习与实战

UC伯克利学者联手CMU、斯坦福等，再次推出一个全新模型70亿/130亿参数的Vicuna，俗称「小羊驼」，小羊驼号称能达到GPT-4的90%性能。
今天努力工作，明天退休养老·2023-09-03 01:53

第十一篇-Tesla P40+Text-Generation-Webui

支持多种方式加载模型，transformers,llama.cpp,ExLlama,AutoGPTQ,GPTQ-for-LLaMa,ctransformers支持多类模型，Llama-2-chat,Alpaca,Vicuna
木卫二号Coding·2023-08-23 08:19

oobabooga-text-generation-webui可能是最好的语言模型启动器（包含手把手安装教程）

oobabooga-text-generation-webui是一个用于运行类似Chatglm、RWKV-Raven、Vicuna、MOSS、LLaMA、llama.cpp、GPT-J、Pythia、OPT
javastart·2023-08-14 12:03

win10,win11 下部署Vicuna-7B，Vicuna-13B模型，gpu cpu运行

运行Vicuna-7B需要RAM>30GB或者14GB的显存运行Vicuna-13B需要RAM>60GB或者28GB的显存如果没有上面的硬件配置请绕行了，我笔记本有64G内存，两个都跑跑看，使用python3.9
babytiger·2023-08-09 21:11

QLoRA：一种高效LLMs微调方法，48G内存可调65B 模型，调优模型Guanaco 堪比Chatgpt的99.3%！

作者公布了他们训练的系列模型Guanaco，与之前公开发布的所有模型相比，在Vicuna基准测试中表现更好，「只需要在
u013250861·2023-08-06 10:52

MiniGPT-4(大型语言模型增强视觉语言理解)介绍、体验、部署教程

其利用视觉编码器BLIP-2和大语言模型Vicuna进行结合训练，共同提供了新兴视觉语言能力。
AI 研习所·2023-07-27 18:14

DB-GPT：强强联合Langchain-Vicuna的应用实战开源项目，彻底改变与数据库的交互方式

今天看到蚂蚁科技Magic开源的DB-GPT项目，觉得创意很好，集成了当前LLM的主流技术，主要如下Langchain：构建在LLM之上的应用开发框架HuggingFace:模型标准，提供大模型管理功能Vicuna
java编程艺术·2023-07-26 11:40

vicuna-13b与ChatGPT3.5对决，GPT4为裁判的80道考题，中文机翻版

ChatGPT-3.5Vicuna-13bGPT-4评估（得分：ChatGPT-3.59/10，Vicuna-13b9/10）Q2:你能帮我写一封正式的电子邮件给潜在的商业伙伴，提议建立合资企业吗？
mygodalien·2023-07-26 08:13

11个LLM一起上，性能爆炸提升！AI2联合USC开源LLM-Blender集成学习框架：先排序再融合｜ACL 2023...

随着Alpaca,Vicuna,Baize,Koala等诸多大型语言模型的问世，研究人员发现虽然一些模型比如Vicuna的整体的平均表现最优，但是针对每个单独的输入，其最优模型的分布实际上是非常分散的，
视学算法·2023-07-25 20:41
上一页 1 2 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他