LLaMa

基于llama.cpp学习开源LLM本地部署

目录前言一、llama.cpp是什么？
joimson·2024-01-10 01:00

llama.cpp模型推理之界面篇

目录前言一、llama.cpp目录结构二、llama.cpp之server学习1.介绍2.编译部署3.启动服务4、扩展或构建其他的Web前端5、其他前言在《基于llama.cpp学习开源LLM本地部署》
joimson·2024-01-10 01:29

GPT在地学、GIS、气象、农业、生态、环境等领域应用教程

在地学、GIS、气象、农业、生态、环境等领域应用教程一开启大模型1开启大模型1)大模型的发展历程与最新功能2)大模型的算法构架与底层逻辑3)大模型的强大功能与应用场景4)国内外经典大模型（ChatGPT、LLaMA
夏日恋雨·2024-01-09 16:00

llama2 保姆级windows环境配置，训练，部署及常见问题解决方法

业务需要开始研究LLM，并且二次开发用到我们的业务上。罗嗦几句，我从开始看LLM到配起来训练总共花了两个礼拜时间，看了不下20个视频教程和100篇博客教程，没有哪一个教程是能够从头到尾配置完没有差错的跑起来的，真的呼吁一下大家提高一下教程的质量，自己验证完之后再发布，有错误及时更新或者下线。以下正式开始配置1.环境1.1window111.2nvdia4080或4090显卡，（这里有坑，后面再说）
机器人迈克猫·2024-01-09 12:29

关于生成式语言大模型的一些工程思考 paddlenlp & chatglm & llama

更新了以下特性：全面支持主流开源大模型Bloom,ChatGLM,GLM,Llama,OPT的训练和推理；TrainerAPI新增张量训练能力,简单配置即可开启分布式训练；新增低参数微调能力PEFT,助力大模型高效微调
路人与大师·2024-01-09 02:57

大模型学习第一课

大模型开源体系学习内容：大模型简述大模型性能开源体系学习时间：周四上午10点学习记录：大模型简述大模型是发展通用人工智能的重要途经专用模型到通用大模型实验室开源历程，大模型系列7B-20B-123B大模型性能达到Llama2
敲键盘的喵桑·2024-01-09 01:14

每日一看大模型新闻（2023.11.14）谷歌提出新型生成式AI模型IGN；谷歌天气预报模型GraphCast登刊Science；贾扬清吐槽国产大模型套壳Llama 假装自研，零一万物回应

1.产品发布1.1面壁智能：发布AIAgents首个SaaS级产品ChatDev发布日期：2023-11-15面壁智能打造首个“大模型+Agent”SaaS级产品ChatDev主要内容：面壁智能已经推出了基于群体智能和其新一代千亿参数大模型"CPM-Cricket"的智能软件开发平台"面壁智能ChatDev"。这个平台是行业内首次使用AIAgents技术进行群体智能协作的SaaS平台产品，能够让软
超爱玩大模型·2024-01-08 20:47

每日一看大模型新闻（2023.11.07）三星发布自研大模型Gauss；零一万物开源Yi系列大模型，领跑全球AI 2.0时代；微软新研究:Llama2记忆消除术使大模型忘记特定信息

1.产品发布1.1中兴通讯AiCube训推一体机：赋能企业数字化转型发布日期：2023-11-07百度安全验证主要内容：这是中兴为运营商和AI行业开发者提供的首套智算解决方案，让AI开发效率得到大幅提升。该产品代表着全栈智算的未来，目的是简化企业的数字化转型过程，提供一站式智算服务，直击当前AI大模型技术爆发带来的挑战与需求。1.2华为西工大发布流体力学大模型“秦岭·翱翔”发布日期：2023-11
超爱玩大模型·2024-01-08 20:15

本地部署 Ollama

运行Llama2、CodeLlama和其他模型。自定义并创建自己的。1.下载Ollama访问https://ollama.ai/download，根据你使用的系统，下载相应版本。这里以Li
engchina·2024-01-07 20:03

非工程师指南: 训练 LLaMA 2 聊天机器人

我们将以LLaMA2基础模型为例，在开源指令数据集上针对聊天场景对其进行微调，并将微调后的模型部署到一个可分享的聊天应用中。全程只需点击鼠标，即可轻松通往荣耀之路！为什么这很重要？
Hugging Face·2024-01-07 20:39

大模型的实践应用15-Chinese-LLaMA2模型的介绍与部署运行测试，Atom-7B-Chat模型用多种方式流式打印文本

大家好，我是微学AI，今天给大家介绍一下大模型的实践应用15-Chinese-LLaMA2模型的介绍与部署运行测试，Atom-7B-Chat模型用多种方式流式打印文本。
微学AI·2024-01-07 13:44

主流大语言模型从预训练到微调的技术原理

引言本文设计的内容主要包含以下几个方面：比较LLaMA、ChatGLM、Falcon等大语言模型的细节：tokenizer、位置编码、LayerNormalization、激活函数等。
智慧医疗探索者·2024-01-07 10:32

【NLP】2024年改变人工智能的前六大NLP语言模型

我们将从2018年的一个开创性的BERT模型开始，并以今年的最新突破结束，如MetaAI的LLaMA和OpenAI的GPT-4
架构师研究会·2024-01-07 07:32

探索VSCode新宠：AI小助手，让你编程如虎添翼！

这款插件集成了多个超强大的模型，如GPT-4、GPT4.0、XINGHUO-2、CLAUDE-2、LLAMA-2-13B-CHAT等，它们都是顶尖的自然语言处理模型。
洛洛31·2024-01-06 21:13

一年百模大战下来，有哪些技术趋势和行业真相逐渐浮出水面？

LLaMA的巧合开启开源大模型浪潮。名词解释AIGC:AI-GeneratedContent指利用人工智能技术（生成式AI路径）来生成内容的新型内容生成方式。
Dlimeng·2024-01-06 21:12

通过大量生物、地球、农业、气象、生态、环境科学领域中案例，一起探索如何优雅地使用大模型吧！

以ChatGPT、LLaMA、Gemini、DALL·E、Midjourney、StableDiffusion、星火大模型、文心一言、千问为代表AI大语言模型带来了新一波人工智能浪潮，可以面向科研选题、
思考的小猴子·2024-01-06 17:13

乘骐骥以驰骋兮，来吾道夫先路——2023年大模型技术基础架构盘点与开源工作速览

目录一、模型基本架构1.1、自回归（Autoregressive）模型架构1.2、自编码（Autoencoder）模型架构1.3、完整的编码-解码模型架构二、典型开源工作速览2.1、LLaMA-22.2
中杯可乐多加冰·2024-01-06 12:25

LLM（九）| 使用LlamaIndex本地运行Mixtral 8x7大模型

MistralAI在一篇博客文章（https://mistral.ai/news/mixtral-of-experts/）介绍了Mixtral8x7b，在许多基准上与GPT-3.5和Llama270b相匹配甚至是超越
wshzd·2024-01-05 12:18

2024-01-04 用llama.cpp部署本地llama2-7b大模型

点击快速C语言入门用llama.cpp部署本地llama2-7b大模型前言一、下载`llama.cpp`以及`llama2-7B`模型文件二、具体调用总结使用协议:LicensetouseCreativeCommonsZero-CC0
不停感叹的老林_·2024-01-05 04:05

KnowLM知识抽取大模型

文章目录KnowLM项目介绍KnowLM项目的动机ChatGPT存在的问题基于LLama的知识抽取的智析大模型数据集构建及训练过程预训练数据集构建预训练训练过程指令微调数据集构建指令微调训练过程开源的数据集及模型局限性信息抽取
dzysunshine·2024-01-05 00:13

CPU 混合推理，非常见大模型量化方案：“二三五六” 位量化

本篇文章聊聊网上聊的比较少的具体量化操作，非常见整型位数的量化，来自让各种开源模型能够在CPU环境、CPU&GPU环境混合推理的技术方案：llama.cpp。
soulteary·2024-01-04 16:27

对比开源大语言模型的自然语言生成SQL能力

随着GPT-4、Llama2和Falcon等大型语言模型(LLM)开发的最新进展，业界和学术界对NL
数大招疯·2024-01-03 11:28

吴恩达最新短课，知识很硬核，附中英字幕

附中英字幕简介大家好我是老章，吴恩达老师忠实粉丝之前刷过他的很多课程：吴恩达新课，1.25倍速刷完了给吴恩达的最新短课加了中英文字幕最近吴老师又限时免费开放了一个短课：《构建和评估高级RAG应用程序》该课程由由llama_index
机器学习算法与Python实战·2024-01-03 07:22

1文件+2个命令，无需安装，单机离线运行70亿大模型

看了展示视频，这个框架还能直接运行Llama7B的大模型，在M2Ultral上运行流畅。但是我尝试了一下，我的M2Macmini根本跑不动，模型权重太大了。
机器学习算法与Python实战·2024-01-03 07:52

ChatGPT在地学、GIS、气象、农业、生态、环境等领域中的高级应用

以ChatGPT、LLaMA、Gemini、DALL·E、Midjourney、StableDiffusion、星火大模型、文心一言、千问为代表AI大语言模型带来了新一波人工智能浪潮，可以面向科研选题、
Teacher.chenchong·2024-01-03 06:47

AI大模型引领未来智慧科研暨ChatGPT在地学、GIS、气象、农业、生态、环境等领域中的高级应用

以ChatGPT、LLaMA、Gemini、DALL·E、Midjourney、StableDiffusion、星火大模型、文心一言、千问为代表AI大语言模型带来了新一波人工智能浪潮，可以面向科研选题、
asyxchenchong888·2024-01-03 06:16

[玩转AIGC]LLaMA2之如何微调模型

目录1、下载训练脚本2、下载模型2.1、申请下载权限2.2、模型下载3、模型微调3.1、使用单卡微调3.2、使用多卡训练：1、下载训练脚本首先我们从github上下载Llama2的微调代码：GitHub-facebookresearch
六五酥·2024-01-02 20:01

主流大语言模型集体曝出训练数据泄露漏洞

安全研究者展示了如何从Pythia或GPT-Neo等开源语言模型、LLaMA或Falcon等主流半开放模型以
威胁情报收集站·2024-01-02 12:16

Windows CPU部署llama2量化模型并实现API接口

目录模型部署本地运行llama2使用fastapi实现API接口常用git仓库模型部署从huggingface下载模型https://huggingface.co/放在本地文件夹，如下本地运行llama2fromctransformersimportAutoModelForCausalLMllm
我只钓小鱼·2024-01-02 07:49

ChatGPT在地学、GIS、气象、农业、生态、环境等领域中的高级应用

以ChatGPT、LLaMA、Gemini、DALL·E、Midjourney、StableDiffusion、星火大模型、文心一言、千问为代表AI大语言模型带来了新一波人工智能浪潮，可以面向科研选题、
Mr.靳靳477302280·2024-01-02 00:03

开源才是大模型的未来？

一年前，ChatGPT横空出世；7个多月后，Meta宣布开源LLaMA2，并且可免费商用。这一天，也成为大模型发展的分水岭。短时间内，LLaMA2对一些闭源的大模型厂商造成了致命性的打击。
智创有术有限公司·2024-01-01 18:45

RAG LLM App开发实战

LLM（例如Llama-2-70b、gpt-4等）仅了解他们接受过训练的信息，当我们要求他们了解除此之外的信息时，他们将无法做到这一点。
xiangzhihong8·2024-01-01 16:44

用通俗易懂的方式讲解大模型：一个强大的 LLM 微调工具 LLaMA Factory

LLM（大语言模型）微调一直都是老大难问题，不仅因为微调需要大量的计算资源，而且微调的方法也很多，要去尝试每种方法的效果，需要安装大量的第三方库和依赖，甚至要接入一些框架，可能在还没开始微调就已经因为环境配置而放弃了。今天我们来介绍一个可以帮助大家快速进行LLM微调的工具——LLaMAFactory，它可以帮助大家快速进行LLM微调，而且还可以在微调过程中进行可视化，非常方便。什么是LLM微调LL
Python算法实战·2023-12-31 15:01

用通俗易懂的方式讲解大模型：Llama2 部署讲解及试用方式

Llama一直被视为AI界的开源大模型中的巨擘。然而，由于其开源协议的限制性条款，商业用途的免费使用一直未能实现。
Python算法实战·2023-12-31 15:59

2023-12-29 低配大模型gpt-2本地部署

点击快速C语言入门低配大模型gpt-2本地部署前言一、`ggml.cpp`编译二、阿里福音书总结前言要解决问题:想本地部署个大模型,发现,能比较正常下载的只有gpt-2了,出于某种未可说原因,meta的llama
不停感叹的老林_·2023-12-31 04:41

【Video-LLaMA】增强LLM对视频内容的理解

Paper:《Video-LLaMA:AnInstruction-tunedAudio-VisualLanguageModelforVideoUnderstanding》Authors:HangZhang
菜鸡不叫·2023-12-31 04:34

ChatGPT绘制全球植被类型分布图、生物量图、土壤概念图、处理遥感数据并绘图、病毒、植物、动物细胞结构图

以ChatGPT、LLaMA、Gemini、DALL·E、Midjourney、StableDiffusion、星火大模型、文心一言、千问为代表AI大语言模型带来了新一波人工智能浪潮，可以面向科研选题、
思考的小猴子·2023-12-30 19:04

AI大模型引领未来智慧科研暨ChatGPT在地学、GIS、气象、农业、生态、环境等领域中的高级应用

以ChatGPT、LLaMA、Gemini、DALL·E、Midjourney、StableDiffusion、星火大模型、文心一言、千问为代表AI大语言模型带来了新一波人工智能浪潮，可以面向科研选题、
思考的小猴子·2023-12-30 19:02

ChatGPT如何应用到地学、GIS、气象、农业、生态、环境等领域中

以ChatGPT、LLaMA、Gemini、DALL·E、Midjourney、StableDiffusion、星火大模型、文心一言、千问为代表AI大语言模型带来了新一波人工智能浪潮，可以面向科研选题、
AIzmjl·2023-12-30 19:31

ChatGPT绘制全球植被类型分布图、生物量图、土壤概念图、处理遥感数据并绘图、病毒、植物、动物细胞结构图

以ChatGPT、LLaMA、Gemini、DALL·E、Midjourney、StableDiffusion、星火大模型、文心一言、千问为代表AI大语言模型带来了新一波人工智能浪潮，可以面向科研选题、
梦想的初衷~·2023-12-30 16:31

指令原则大解锁！26条Prompt黄金法则，精准提问，显著提升ChatGPT输出质量！

研究者在LLaMA-1/2（7B、13B和70
夕小瑶·2023-12-30 11:10

【AI大语言模型】ChatGPT在地学、GIS、气象、农业、生态、环境等领域中的应用

以ChatGPT、LLaMA、Gemini、DALL·E、Midjourney、StableDiffusion、星火大模型、文心一言、千问为代表AI大语言模型带来了新一波人工智能浪潮，可以面向科研选题、
PhyliciaFelicia·2023-12-30 06:58

Jetson Orin安装riva以及llamaspeak，使用 Riva ASR/TTS 与 Llama 进行实时交谈，大语言模型成功运行笔记

NVIDIA的综合语音AI工具包RIVA可以处理这种情况。此外，RIVA可以构建应用程序，在本地设备（如NVIDIAJetson）上处理所有这些内容。RIVA是一个综合性库，包括：自动语音识别（ASR）文本转语音合成（TTS）神经机器翻译（NMT）（语言到语言的翻译，例如英语到西班牙语）自然语言处理（NLP）服务的集合，例如命名实体识别（NER）、标点符号和意图分类。RIVA在运行JetPack5
无证驾驶梁嗖嗖·2023-12-30 06:57

llama大模型部署

看模型加载的参数设置.importtorch#初始化HalfTensorh=torch.tensor([1.0,2.0,3.0],dtype=torch.half)#h=torch.tensor([1.0,2.0,3.0],dtype=torch.float16)#跟上面一行一样.#查看数据类型print(h.dtype)importaccelerateimportbitsandbytesfrom
weixin_40467931·2023-12-30 03:08

Llama 美洲鸵（大羊驼）改进之一：均方层归一化RMSNorm

LayerNormalization(LayerNorm)RootMeanSquareLayerNormalization(RMSNorm)原理对特征张量按照某一维度或某几个维度进行0均值，1方差的归一化操作LayerNorm是一种标准化方法，它计算一个样本的均值和方差，然后使用这些来对样本进行归一化。这种方法是独立于批量大小的，使得模型更加稳定。RMSNorm是对LayerNorm的一个改进，没
量化交易曾小健(金融号)·2023-12-30 03:07

lag-llama源码解读(Lag-Llama: Towards Foundation Models for Time Series Forecasting)

Lag-Llama:TowardsFoundationModelsforTimeSeriesForecasting文章内容：时间序列预测任务，单变量预测单变量，基于Llama大模型，在zero-shot
知福致福·2023-12-30 03:36

本地搭建【文档助手】大模型版（LangChain+llama+Streamlit）

安装步骤先下载代码到本地LangChain调用llama模型的示例代码：https://github.com/afaqueumer/DocQA（代码不是本人写的，尊重原创）gitclonehttps:/
帅东·2023-12-30 03:35

6、LLaVA

简介LLaVA官网LLaVA使用Vicuna(LLaMA-2)作为LLMfϕ(⋅)f_\phi(·)fϕ(⋅)，使用预训练的CLIP图像编码器ViT-L/14g(Xv)g(X_v)g(Xv)。
C--G·2023-12-30 02:34

[玩转AIGC]LLaMA2之如何跑llama2.c的chat模式

前言：之前我们关于llama2的相关内容主要停留在gc层面，没介绍chat模式，本文将简单介绍下llama2.c的chat模式如何跑起来。
六五酥·2023-12-29 14:00

开源大语言模型简记

文章目录开源大模型LlamaChinese-LLaMA-AlpacaLlama2-ChineseLinlyYaYiChatGLMtransformersGPT-3（未完全开源）BERTT5QwenBELLEMossBaichuan
李小白杂货铺·2023-12-29 13:09
上一页 4 5 6 7 8 9 10 11 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他