LLaMa

Chinese-LLaMA-Alpaca代码实战

文章目录微调chinese-alpaca部署llama.cpp将FP16模型量化为4-bit项目地址：https://github.com/ymcui/Chinese-LLaMA-Alpaca微调chinese-alpaca
dzysunshine·2023-06-09 18:44

十一、搭建自己的GPT模型

LLaMa的模型训练太耗费gpu，很多人也跑不了，所以暂时选择这个。
vandh·2023-06-08 23:00

Vicuna：斯坦福开源一个性能相当于90%ChatGPT的聊天机器人

自从Meta公司发布LLaMA以来，围绕它微调和开发的模型越来越多，这得益于它的性能和效果，2023年3月份发布的草泥马（Alpaca）是由Meta的LLaMA7B微调而来的全新模型，仅用了52k数据，
wshzd·2023-06-08 22:34

StackLLaMA: A hands-on guide to train LLaMA with RLHF

PapernameStackLLaMA:Ahands-onguidetotrainLLaMAwithRLHFPaperReadingNoteProjectURL:https://huggingface.co/blog/stackllamaCodeURL:https://huggingface.co/docs/trl/indexTL;DRHuggingface公司开发的RLHF训练代码，已集成到hu
kebijuelun·2023-06-08 20:17

部署运行Vicuna(小羊驼)

部署运行Vicuna-小羊驼环境简介所需数据下载LLaMA下载磁力链接下载百度网盘及天翼云盘下载下载完成结果vicuna-7b-delta-v1.1下载官网下载链接百度网盘及天翼云盘下载下载结果展示将LLaMA
想看一次满天星·2023-06-08 11:49

笔记本电脑部署本地离线版类似ChatGPT3.5的AI模型（CPU+内存运行）

（我的电脑是ThinkpadT14gen2，内存32G，系统是Windows10）2、下载llama.cpp。llama.
T畅N·2023-06-08 11:44

本地运行 LLAMA & GPT-3.5-TURBO开源项目

git：nomic-ai/gpt4all:gpt4all:anecosystemofopen-sourcechatbotstrainedonamassivecollectionsofcleanassistantdataincludingcode,storiesanddialogue(github.com)下载好源码后，的目录结构：视频中说的chat目录在：gpt4all-training/chat
光影3415·2023-06-08 09:02

使用 LoRA 技术对 LLaMA 65B 大模型进行微调及推理

前几天，Meta发布了LIMA大模型，在LLaMA-65B的基础上，无需使用RLHF，只用了1000个精心准备的样本数据进行微调，就达到了和GPT-4相媲美的程度。
李国冬·2023-06-08 06:48

Falcon猎鹰：史上最强开源大语言模型

最终性能超越650亿的LLaMA，以及MPT、Redpajama等现有所有开源模型。
AI研究院·2023-06-08 06:07

论文笔记--LLaMA: Open and Efficient Foundation Language Models

论文笔记--LLaMA:OpenandEfficientFoundationLanguageModels1.文章简介2.文章概括3文章重点技术3.1数据集3.2模型训练4.数值实验5.文章亮点6.原文传送门
Isawany·2023-06-08 04:52

基于ChatGPT的视频智能摘要实战

现在，像ChatGPT或LLaMA这样的大型语言模型为这个长期问题提供了一个潜在的解决方案。推荐：用NSDT设计器快速搭建可编程3D场景。
新缸中之脑·2023-06-07 09:02

Generative AI 新世界 | 大语言模型（LLMs）在 Amazon SageMaker 上的动手实践

在上一篇《GenerativeAI新世界：大型语言模型（LLMs）概述》中，我们一起探讨了大型语言模型的发展历史、语料来源、数据预处理流程策略、训练使用的网络架构、最新研究方向分析（AmazonTitan、LLaMA
亚马逊云开发者·2023-06-07 08:32

谷歌Bard_VS_Baize-7B_VS_文心一言体验对比

2023年4月4日，来自加州大学圣迭戈分校、中山大学和微软亚研的研究者提出了Baize，该模型是让ChatGPT自我对话，批量生成高质量多轮对话数据集，利用该数据集对LLaMA进行微调得到的（目前版本还没有
wshzd·2023-06-07 03:10

Generative AI 新世界 | 大语言模型（LLMs）在 Amazon SageMaker 上的动手实践

在上一篇《GenerativeAI新世界：大型语言模型（LLMs）概述》中，我们一起探讨了大型语言模型的发展历史、语料来源、数据预处理流程策略、训练使用的网络架构、最新研究方向分析（AmazonTitan、LLaMA
·2023-06-07 02:03

总结从T5、GPT-3、Chinchilla、PaLM、LLaMA、Alpaca等近30个最新模型

自从ChatGPT出现之后，各种大语言模型是彻底被解封了，每天见到的模型都能不重样，几乎分不清这些模型是哪个机构发布的、有什么功能特点、以及这些模型的关系。比如GPT-3.0和GPT3.5就有一系列的模型版本和索引，还有羊驼、小羊驼、骆驼......于是浅浅的调研了一下比较有名的大语言模型，主要是想混个脸熟，整理完之后就感觉清晰多了，又可以轻松逛知乎学习了。作者|guolipa整理|对白的算法屋h
zenRRan·2023-06-07 00:23

【英文绘本】Is Your Mama A Llama

小蝌蚪找妈妈的故事相信每个小朋友都不陌生，今天要介绍的绘本就是英文版的“小蝌蚪找妈妈”——《IsYourMamaaLlama？》（你的妈妈是驼羊吗？)绘本中的句子虽然长度略长但是词汇简单，且不断重复所以同样适合启蒙使用，在书中孩子们可以学习到关于动物、身体部位、地点等词汇。【正文】“Isyourmamaallama?"IaskedmyfriendDave.“你的妈妈是驼羊吗？”我问朋友Dave。"
欣然小时光·2023-06-07 00:00

以 LLM 为核心 LLM@Core：程序员的大语言模型技术指南

过去几个月里，我们对于大语言模型的一系列探索，如ChatGPT端到端实践与应用开发、LLaMA与ChatGLM的微调试验、GitHubCopilot逆向工程分析、动态上下文工程（即LangChain）的研究
Phodal·2023-06-06 21:40

大语言模型-中文chatGLM-LLAMA微调

https://github.com/27182812/ChatGLM-LLaMA-chinese-insturct中文instruct在chatGLM,LLAMA上的表现
YueTann·2023-04-20 16:41

文本聚类与摘要，让AI帮你做个总结

通过llama-index这样的开源库，我们能够将自己的数据和大语言模型连接在一起。
小极客geekbang·2023-04-20 10:09

IDPChat：探索基于LLaMA和Stable Diffusion的「开源」中文多模态AI大模型

中文多模态模型IDPChat和大家见面了。随着GPT4、文心一言等的发布，预训练大模型正式开启由单模态向多模态模型演进。多模态的特性为语言模型带来更加丰富的应用场景。我们认为，未来的AI应用将主要以大模型为核心基石。而在大模型的领域，基于基础模型（Foundationmodel）构建领域或企业自有的大模型，会是近中期的重要发展趋势。但在私有化大模型微调和应用方面，企业和机构仍面临着微调复杂、部署困
·2023-04-18 22:49

学习实践-Vicuna【小羊驼】（部署+运行）

1、Vicuna【小羊驼】-FastChat"更快的对话"介绍3月底，UC伯克利开源大语言模型Vicuna来了，这是一个与GPT-4性能相匹配的LLaMA微调版本。“缺啥补啥缺啥练啥，傻子也突出”！
李卓璐·2023-04-18 22:36

学习实践-Alpaca-Lora (羊驼-Lora)（部署+运行）

其被认为是ChatGPT轻量级的开源版本，其训练数据集来源于text-davinci-003，并由Meta的LLaMA7B微调得来的全新模型，性能约等于GPT-3.5。
李卓璐·2023-04-18 22:06

又是王炸！微软开源贾维斯

随着ChatGPT的诞生，众多大模型也如雨后春笋般涌现，包括斯坦福的Alpaca，Meta的LLAMA，OpenAI的whisper以及stable-diffusion，还有清华大学开源的中文大语言模型
·2023-04-18 22:57

GPT4All开源的聊天机器人

GPT4All是一个开源的聊天机器人，它基于LLaMA的大型语言模型训练而成，使用了大量的干净的助手数据，包括代码、故事和对话。
polsnet·2023-04-18 19:10

狂追ChatGPT：开源社区的“平替”热潮

其中，Meta的LLaMA模型泄漏是开源“ChatGPT”运动的代表性事件。
OneFlow深度学习框架·2023-04-18 11:56

ChatPDF也来了！一键上传文件即可解读，复制粘贴都省了

论文中，LLaMA有几种size、和GPT-3的性能对比结果，它都没有搞错。不只是论文，如合同、文书、书籍等，只要是PDF都能搞定，可支持200页的文件。
菜鸟学Python·2023-04-17 13:08

建立自己的ChatGPT：LLama私有化部署及测试

幸好Meta开源了LLama，这是LLama的介绍：https://ai.facebook.com/blog/large-language-model-llama-meta-ai/具体技术细节请看论文：
才能我浪费·2023-04-17 07:15

四种自制代码生成对比：哪种方法最适合微调？

在过去的几周里，我们尝试自己结合开源的大模型LLaMA、ChatGLM进行模型微调，除了业务部分的探索，还有很大一部分在技术方面的探索，诸如于代码辅助生成。
Phodal·2023-04-17 02:15

FastChat开放，媲美ChatGPT的90%能力——从下载到安装、部署

FastChat开放，媲美ChatGPT的90%能力——从下载到安装、部署前言两个前置软件创建FastChat虚拟环境安装PyTorch安装FastChat下载LLaMA，并转换生成FastChat对应的模型
蒋含竹·2023-04-17 01:36

生成式大语言模型微调训练快速手册

目录大语言模型的获取方法有以下三种：目前可以Play的大语言基础模型列表：相关项目大语言模型的获取方法有以下三种：1.完全白嫖（从开放途径获取别人训练微调好的模型）2.基于现有基础模型进行指令微调（包括对齐等）（LLaMA
znsoft·2023-04-15 22:28

可以微调类ChatGPT模型啦！开源Alpaca-LoRA+RTX 4090就能搞定

「其他」阵营表现欠佳，但不少人都在做开源方面的努力，比如前段时间Meta开源的LLaMA。LLaMA是一系列模型的总称，参数量从
夕小瑶·2023-04-15 13:43

LLaMa惊天泄露引爆ChatGPT平替狂潮，开源LLM领域变天

来源:新智源微信号：AI-eraMeta的LLaMA模型开源，让文本大模型迎来了StableDiffustion时刻。谁都没想谁能想到，一次意外的LLaMA泄漏，竟点燃了开源LLM领域最大的创新火花。
lqfarmer·2023-04-15 10:34

论文阅读_LLaMA

论文信息numberheadings:auto,first-level2,max4,_.1.1name_en:LLaMA:OpenandEfficientFoundationLanguageModelsname_ch
xieyan0811·2023-04-15 09:13

【LLM】Windows本地CPU部署民间版中文羊驼模型踩坑记录

下载模型合并模型部署模型前言想必有小伙伴也想跟我一样体验下部署大语言模型,但碍于经济实力,不过民间上出现了大量的量化模型,我们平民也能体验体验啦~,该模型可以在笔记本电脑上部署,确保你电脑至少有16G运行内存开原地址：GitHub-ymcui/Chinese-LLaMA-Alpaca
提笔忘字的帝国·2023-04-14 16:36

关于大模型领域迁移相关工作的记录

llama大小：7B-130B贡献者：Metallama模型是开源的，但需要发送申请，huggingface上有贡献者发布的hf转换模型（作为学术探讨，商业利益相关暂时不论，下文同）。
wenweny2020·2023-04-14 07:07

类ChatGPT代码级解读：如何从零起步实现transformer、llama/ChatGLM

第一部分如何从零实现transformertransformer强大到什么程度呢，基本是17年之后绝大部分有影响力模型的基础架构都基于的transformer(比如，这里有200来个，包括且不限于基于decode的GPT、基于encode的BERT、基于encode-decode的T5等等)通过博客内的这篇文章《Transformer通俗笔记：从Word2Vec、Seq2Seq逐步理解到GPT、B
v_JULY_v·2023-04-12 20:51

2023年3月的10篇论文推荐

三月有很多的重大产品发布，包括刚刚发布的GPT4，还有Meta刚发布就被泄露的LLaMA，midjourneyV5，还有ChatGPT的API（非常便宜）等等。
deephub·2023-04-12 19:20

深入理解LLaMA, Alpaca, ColossalChat 系列模型

知乎：紫气东来https://zhuanlan.zhihu.com/p/618695885一、从LLaMA到Alpaca：大模型的小训练1.1LLaMA概要与实践LLaMA(LargeLanguageModelMetaAI
zenRRan·2023-04-11 22:48

一点就分享系列(理解篇5）Meta 出品 Segment Anything 4月6号版核心极速解读——主打一个”Zero shot“是贡献和辅助，CV依然在！

先提出了LLAMA去对标GPT3，这几天又来了CV的大模型SAM给我们惊喜，今天来整理分析一波。另外最重要的一定
啥都会一点的老程，自在地镜强者·2023-04-11 13:55

NLP / LLMs中的Temperature 是什么?

ChatGPT,GPT-3,GPT-3.5,GPT-4,LLaMA,Bard等大型语言模型的一个重要的超参数大型语言模型能够根据给定的上下文或提示生成新文本，由于神经网络等深度学习技术的进步，这些模型越来越受欢迎
deephub·2023-04-10 09:20

类ChatGPT项目的部署与微调(中)：ChatLLaMA和ColossalChat

第四部分LLaMA的RLHF版：ChatLLaMA和ColossalChat4.1ChatLLaMA(英文版)：类似SFT、RM、RL/PPO训练三步骤由于LLaMA没有使用RLHF方法，初创公司NebulyAI
v_JULY_v·2023-04-08 10:08

活动报名丨ChatDoctor：基于LLaMA在医学领域知识上微调的医学对话模型

2023年04月06日（星期四）11:00-12:00，由智源社区主办的「智源LIVE第36期线上活动：ChatDoctor：基于LLaMA在医学领域知识上微调的医学对话模型。
智源社区·2023-04-07 21:04

又一新闻，Meta研发了超越chatGPT的新平台LLAMA

一、Meta全新大语言模型LLaMA正通过种子公开发放2月24日，Meta公司发布了新的大模型系列——LLaMA（LargeLanguageModelMetaAI）。
敲代码的程序猿·2023-04-04 18:29

斯坦福70亿参数「羊驼」爆火，LLaMA杀疯了

视学算法报道编辑：编辑部【新智元导读】Meta的LLaMA模型开源，让文本大模型迎来了StableDiffustion时刻。
视学算法·2023-04-04 08:45

训练个中文版ChatGPT没那么难：不用A100，开源Alpaca-LoRA+RTX 4090就能搞定

「其他」阵营表现欠佳，但不少人都在做开源方面的努力，比如前段时间Meta开源的LLaMA。LLaMA是一
PaperWeekly·2023-04-04 08:37

免费可商用开源GPT模型问世，50G权重直接下载，性能不输GPT-3

参数量级130亿，大小比肩最近Meta开放的LLaMA-13B，但从数据集、模型权重到计算优化训练，全部开源。最关键的是，可商用。
Openlab.cosmoplat·2023-04-04 03:58

ChatGPT开源替代来了！参数量200亿，在4300万条指令上微调而成

「其他」阵营表现欠佳，但不少人都在做开源方面的努力，比如前段时间Meta开源的LLaMA。除此之外，一个名为E
Openlab.cosmoplat·2023-04-04 03:55

ChatPDF，来了！

论文中，LLaMA有几种size、和GPT-3的性能对比结果，它都没有搞错。不只是论文，如合同、文书、书籍等，只要是PDF都能搞定，可支持200页的文件。
lyc2016012170·2023-04-04 02:57

AI_Papers周刊：第三期

CV-计算机视觉|ML-机器学习|RL-强化学习|NLP自然语言处理2023.02.20—2023.02.26文摘词云TopPapersSubjects:cs.CL1.LLaMA:OpenandEfficientFoundationLanguageModels
AiCharm·2023-04-02 04:53

训练中文版chatgpt

文章目录1.斯坦福的模型——小而低廉：Alpaca:AStrongOpen-SourceInstruction-FollowingModel2.Meta模型：LLaMA：openandefficientfoundationlanguagemodels3
QianTu&·2023-04-01 18:17
上一页 15 16 17 18 19 20 21 22 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他