LLaMa

Llama-2 推理和微调的硬件要求总结：RTX 3080 就可以微调最小模型

大语言模型微调是指对已经预训练的大型语言模型（例如Llama-2，Falcon等）进行额外的训练，以使其适应特定任务或领域的需求。
deephub·2023-09-16 22:21

PMC-LLaMA: Towards Building Open-source Language Models for Medicine

本文是LLM系列文章，针对《PMC-LLaMA:TowardsBuildingOpen-sourceLanguageModelsforMedicine》的翻译。
UnknownBody·2023-09-16 14:34

Llama.cpp工具main使用手册

Llama.cpp提供的main工具允许你以简单有效的方式使用各种LLaMA语言模型。它专门设计用于与llama.cpp项目配合使用。
新缸中之脑·2023-09-16 11:02

打造生产级Llama大模型服务

对于任何想要尝试人工智能或本地LLM，又不想因为意外的云账单或API费用而感到震惊的人，我可以告诉你我自己的旅程是如何的，以及如何开始使用廉价的消费级硬件执行Llama2推理。
新缸中之脑·2023-09-16 11:30

Text-to-SQL小白入门（五）开源最强代码大模型Code Llama

摘要本文介绍了CodeLlama大模型的基本概括，包含了论文的摘要、结果、结论以及核心方法，对于了解和实践CodeLlama有一定帮助。论文概述上一篇介绍了指令进化大模型WizardLM，留了一个坑，补上CodeLlama论文学习，可以作为下游任务的基座模型，比如Text2SQL。目前DB-GPT-Hub分支refactor支持了CodeLlama模型微调，我粗糙地跑7b基础模型使用lora方法s
junewgl·2023-09-15 20:32

本地部署CodeLlama +GTX1080显卡 对接open-interpreter对接wxbot（一）

GitHub-oobabooga/text-generation-webui:AGradiowebUIforLargeLanguageModels.Supportstransformers,GPTQ,llama.cpp
三块钱0794·2023-09-15 13:24

淘天集团联合爱橙科技开源大模型训练框架Megatron-LLaMA

9月12日，淘天集团联合爱橙科技正式对外开源大模型训练框架——Megatron-LLaMA，旨在让技术开发者们能够更方便地提升大语言模型训练性能，降低训练成本，并保持和LLaMA社区的兼容性。
阿里技术·2023-09-15 11:28

常用与业务密切相关的prompt

可以在Bard、Bing、Claude2、ChatGPT和Llama2上使用定义您的业务目的和愿景。提示：“我正在[插入行业]创业。我的重点是定义与我的受众产生共鸣的明确目标和愿景。
赵孝正·2023-09-15 08:57

常用与业务密切相关的prompt

可以在Bard、Bing、Claude2、ChatGPT和Llama2上使用定义您的业务目的和愿景。提示：“我正在[插入行业]创业。我的重点是定义与我的受众产生共鸣的明确目标和愿景。
赵孝正·2023-09-15 08:22

windows10搭建llama大模型

LLAMA介绍llama全称：LargeLanguageModelMetaAI是由meta（原facebook）开源的一个聊天对话大模型。
逍遥壮士·2023-09-14 22:59

大模型升级与设计之道：ChatGLM、LLAMA、Baichuan及LLM结构解析

本文通过深入剖析ChatGLM、LLAMA和Baichuan模型的升级路径，以及探讨大型语言模型结构选型，为大家提供了一个系统性的视角，梳理了大型预训练模型的关键要素。
阿里巴巴淘系技术团队官网博客·2023-09-14 10:26

旋转位置编码

下面是具体的推导过程：https://zhuanlan.zhihu.com/p/642884818参考一文看懂LLaMA中的旋转式位置编码（RotaryPositionEmbedding）十分钟读懂旋转编码
transformer_WSZ·2023-09-14 06:14

[NLP] LLM---扩充词表LLama2-构建中文tokenization

使用SentencePiece的除了从0开始训练大模型的土豪和大公司外，大部分应该都是使用其为当前开源的大模型扩充词表，比如为LLama扩充通用中文词表（通用中文词表，或者垂直领域词表）。
舒克与贝克·2023-09-13 17:24

《向量数据库指南》——向量数据库内核面临的技术挑战及应对措施

最近一年，以ChatGPT、LLaMA为代表的大语言模型的兴起，将向量数据库的发展推向了新的高度。
LCHub低代码社区·2023-09-13 13:14

8个免费的AI和LLM游乐场

1.ChatbotArenaChatbotArena让您体验各种各样的模型，如Vicuna，Koala，RMKV-4-Raven，Alpaca，ChatGLM，LLaMA，Dolly，
ygtu2018·2023-09-12 21:50

巴比特 | 元宇宙每日必读：Meta 正开发全新大模型，比肩GPT-4；天猫申请大模型商标...

Meta的目标是，其新的人工智能模型将比两个月前发布的名为Llama2的模型强大数倍。计划中的系统将帮助其他公司构建能够生成复杂文本、分析和其他输出结果的服务。
巴比特资讯·2023-09-12 18:23

Falcon 180B 目前最强大的开源模型

TechnologyInnovationInstitute最近发布了Falcon180B大型语言模型(LLM)，它击败了Llama-270b，与谷歌Bard的基础模型PaLM-2Large不相上下。
·2023-09-12 10:25

ColossalAI-Chat训练手册（RLHF）

Trainingrewardmodel）3.3、RL（TrainingmodelusingpromptswithRL）3.4、使用模型进行应答3.5、playground3.6、应答效果4、异常记录4.1llama
IT一氪·2023-09-11 23:26

Code Llama: Open Foundation Models for Code

CodeLlama：代码的开放基础模型摘要1引言2CodeLlama：专业化Llama2用于代码3结果4负责任的人工智能与安全5相关工作6讨论摘要我们发布了CodeLlama，这是一个基于Llama2的大型代码语言模型系列
UnknownBody·2023-09-11 20:13

Chinese-LLaMA-Alpaca-2模型的测评

训练生成效果评测FastchatChatbotArena推出了模型在线对战平台，可浏览和评测模型回复质量。对战平台提供了胜率、Elo评分等评测指标，并且可以查看两两模型的对战胜率等结果。生成回复具有随机性，受解码超参、随机种子等因素影响，因此相关评测并非绝对严谨，结果仅供晾晒参考。⚔️模型竞技场：http://llm-arena.ymcui.com系统对战胜率（无平局）↓Elo评分Chinese-
柴神·2023-09-11 18:36

ggerganov/llama.cpp 编译

ggerganov/llama.cpp-编译出main可执行程序依赖以下的源代码文件如果想在Windows系统编译出llama.cpp项目（这个是github上的仓库，ggerganov/llama.cpp
庵中十三居士·2023-09-11 07:11

大模型扫盲之小白入门手记

现有的大模型很多，随便一搜，就能看到很多，除却最近大火的GPT，还有专注于常识推理、形式逻辑的PaLM、专门服务于企业的Cohere、目前仅能用于研究的LLaMA…在大语言模型和大模型中，大语言模
!柯西洗袜子·2023-09-11 04:21

Try llama2 in NUC (by quqi99)

张华发表于：2023-09-06版权声明：可以任意转载，转载时请务必以超链接形式标明文章原始出处和作者信息及本版权声明(http://blog.csdn.net/quqi99)据说现在在PC机上可以运行llama2
quqi99·2023-09-11 01:12

Baichuan2开源大模型正式发布，王小川：性能超过LLaMA2

大数据产业创新服务媒体——聚焦数据·改变商业ChatGPT火爆出圈之后，社交巨头Meta奋力追赶，分别在3月、7月发布开源的LLaMA、LLaMA2大模型，引领一场大模型开源运动。
数据猿·2023-09-10 05:26

如何在SAM时代下打造高效的高性能计算大模型训练平台

关键词：SAM；PCB；SA-1B；Prompt；CV；NLP；PLM；BERT；ZSL；task；zero-shot；data；H100、H800、A100、A800、LLaMA、Transformer
·2023-09-10 01:45

【精华】AIGC专栏-Text/Img/Video/audio

（一）LLM专栏大模型相关技术原理以及实战经验：liguodongiot/llm-action1ColossalAI（1）参考资料：700亿参数LLaMA2训练加速195%，基础大模型最佳实践再升级（2
LeeZhao@·2023-09-09 22:27

Llama 2 论文《Llama 2: Open Foundation and Fine-Tuned Chat Models》阅读笔记

文章目录Llama2:OpenFoundationandFine-TunedChatModels1.简介2.预训练2.1预训练数据2.2训练详情2.3LLAMA2预训练模型评估3.微调3.1supervisedFine-Tuning
chencjiajy·2023-09-09 19:50

CondaSSLError: Encountered an SSL error. Most likely a certificate verification issue 问题解决

conda环境报错如下：(base)root@dell:/home/yuanzefu/llama#condacreate-nllama2Collectingpackagemetadata(current_repodata.json
阿福Chris·2023-09-09 19:12

[NLP]LLM--使用LLama2进行离线推理

一模型下载二模型推理本文基于Chinese-LLaMA-Alpaca-2项目代码介绍，使用原生的llama2-hf克隆好了Chinese-LLaMA-Alpaca-2项目之后，基于GPU的部署非常简单。
舒克与贝克·2023-09-09 07:55

[NLP]LLM---FineTune自己的Llama2模型

stalkabitabouttheparameterswecantunehere.First,wewanttoloadallama-2-7b-hfmodelandtrainitonthemlabonne/guanaco-llama2
舒克与贝克·2023-09-09 06:38

IDEFICS 简介: 最先进视觉语言模型的开源复现

引言CodeLlama是为代码类任务而生的一组最先进的、开放的Llama2模型，我们很高兴能将其集成入HuggingFace生态系统！CodeLlama使用与Llama2相同的社区许可证，且可商用。
·2023-09-09 00:31

百度智能云千帆大模型丨未来人手必备的代码助手

常用的GPT4，GPT3.5，Claude，Llama之类的它都支持。这样有什么好处呢？好处其实很多。因为每个大模型对于同一个问题的回答或者理解都是不一样的，最好的方式就是
陈橘又青·2023-09-08 14:47

基于llama2 微调 的python 代码解释器

https://github.com/SeungyounShin/Llama2-Code-Interpreter
君臣Andy·2023-09-08 09:59

大模型技术实践（三）｜用LangChain和Llama 2打造心灵疗愈机器人

上期文章我们实现了Llama2-chat-7B模型的云端部署和推理，本期文章我们将用“LangChain+Llama2”的架构打造一个定制化的心灵疗愈机器人。
AI 研习所·2023-09-08 05:07

Code Llama：Llama 2 学会写代码了！

引言CodeLlama是为代码类任务而生的一组最先进的、开放的Llama2模型，我们很高兴能将其集成入HuggingFace生态系统！CodeLlama使用与Llama2相同的社区许可证，且可商用。
·2023-09-07 21:07

大语言模型推理与部署工具介绍

工具特点CPUGPU量化GUIAPIvLLM§16K‡教程llama.cpp丰富的量化选项和高效本地推理✅✅✅❌✅❌✅linkTransformers原生transformers推理接口✅✅✅✅❌✅✅linkColabDemo
柴神·2023-09-07 21:12

LLaMA(Open and Efficient Foundation Language Models )论文解读(二)

此篇博客主题:LLAMA模型数据、训练时长、功耗及碳排放量LLaMA:OpenandEfficientFoundationLanguageModelspaperhttps://arxiv.org/pdf
晚点吧·2023-09-07 20:51

【LLM系列之LLaMA】LLaMA: Open and Efficient Foundation Language Models

论文题目：《LLaMA:OpenandEfficientFoundationLanguageModels》论文链接：https://arxiv.org/pdf/2302.13971.pdfgithub链接
致Great·2023-09-07 20:51

Meta推出Code Llama：编程的未来已来

今天，Meta推出了一项前沿技术——CodeLlama，这是一款基于Llama2构建的大型语言模型（LLM），专门用于生成和讨论代码。这一创新技术的发布标志着编程领域的新时代。
dotNET跨平台·2023-09-07 20:20

官方的Code Llama开源：免费商用，神秘版本接近GPT-4

近日，Meta的开源Llama模型家族迎来了一位新成员——专攻代码生成的基础模型CodeLlama。作为Llama2的代码专用版本，CodeLlama基于特定的代码数据集在其上进一步微调
数据派THU·2023-09-07 20:20

文献阅读：LLaMA: Open and Efficient Foundation Language Models

文献阅读：LLaMA:OpenandEfficientFoundationLanguageModels1.文章简介2.模型训练1.训练数据2.模型结构3.模型训练1.Optimizer2.效率优化3.效果评估
Espresso Macchiato·2023-09-07 20:49

Meta AI 重磅发布代码大模型 Code Llama

刚刚，MetaAI如期而至发布了CodeLlama，这是一个可以使用文本提示生成代码的大型语言模型(LLM)。CodeLlama是针对代码任务的公开LLM的最先进技术，有可能使当前开发人员的工作流程更快、更高效，并降低学习编码人员的进入门槛。CodeLlama有潜力用作生产力和教育工具，帮助程序员编写更强大、文档更齐全的软件。值得让人兴奋的是，CodeLlama完全开源，现已公开供研究和商业用途。
技术狂潮AI·2023-09-07 20:48

Code Llama: Open Foundation Models for Code

:OpenFoundationModelsforCodePaperReadingNotePaperURL:https://ai.meta.com/research/publications/code-llama-open-foundation-models-for-code
kebijuelun·2023-09-07 20:17

如何让 Llama2、通义千问开源大语言模型快速跑在函数计算上？

:::info本文是“在Serverless平台上构建AIGC应用”系列文章的第一篇文章。:::前言随着ChatGPT以及StableDiffusion,Midjourney这些新生代AIGC应用的兴起，围绕AIGC应用的相关开发变得越来越广泛，有呈井喷之势，从长远看这波应用的爆发不仅仅是停留在形式之上，更是在各个领域产生实际的生产力价值，比如办公领域有copilotsystem365,钉钉智能；
Serverless 社区·2023-09-07 06:12

如何让 Llama2、通义千问开源大语言模型快速跑在函数计算上？

本文是“在Serverless平台上构建AIGC应用”系列文章的第一篇文章。前言随着ChatGPT以及StableDiffusion,Midjourney这些新生代AIGC应用的兴起，围绕AIGC应用的相关开发变得越来越广泛，有呈井喷之势，从长远看这波应用的爆发不仅仅是停留在形式之上，更是在各个领域产生实际的生产力价值，比如办公领域有copilotsystem365,钉钉智能；代码编程领域有git
·2023-09-06 18:33

TOOLLLM: FACILITATING LARGE LANGUAGE MODELS TO MASTER 16000+ REAL-WORLD APIS

TOOLLLMs：让大模型掌握16000+的真实世界APIs摘要1引言2数据集构建3实验4相关工作5结论摘要尽管开源大型语言模型（LLM）及其变体（如LLaMA和Vicuna）取得了进步，但它们在执行更高级别的任务方面仍然
UnknownBody·2023-09-06 17:54

AI，正在疯狂进化，金融大模型来了

一、FinGPT之前我就发过各个领域的大语言模型，比如医学领域的：Huatuo-LLaMA也发过法律领域的大语言模型：LaWGPT现在，金融领域的，FinGPT来了！
Python算法实战·2023-09-06 03:44

Notebook 一站式打包“Llama-2-7B chatbot”与“Llama-2-7B-with agent”

Llama-2模型7月18日，Meta与微软联手发布了免费、可直接商用的LLM模型——Llama2。Facebook人工智能研究院首席
·2023-09-05 16:59

微调llama2模型教程：创建自己的Python代码生成器

所以本文将重点展示如何定制自己的llama2，进行快速训练，以完成特定任务。
·2023-09-04 23:09

揭秘最领先的Llama2中文大模型！

导语国内最大的开源社区：Llama中文社区率先完成了国内首个真正意义上的中文版Llama2-13B大模型，从模型底层实现了Llama2中文能力的大幅优化和提升。
PaperWeekly·2023-09-04 23:14
上一页 10 11 12 13 14 15 16 17 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他