LLaMa

大模型使用——超算上部署LLAMA-2-70B-Chat

大模型使用——超算上部署LLAMA-2-70B-Chat前言1、本机为Inspiron5005，为64位，所用操作系统为Windos10。
Phunsukh_Wangdu·2023-08-06 09:36

导出LLaMA等LLM模型为onnx

这篇博客（大模型LLaMa及周边项目（二）-知乎）进行了llama导出onnx的开创性的工作，但是依赖于侵入式修改transformers库，比较不方便。
Luchang-Li·2023-08-06 09:06

NLP实践——使用Llama-2进行中文对话

NLP实践——使用Llama-2进行中文对话1.前言2.利用prompt3.利用LogitProcessor3.1修改13.2修改23.3修改33.4修改41.前言在之前的博客NLP实践——Llama-
常鸿宇·2023-08-06 08:53

ChatGenTitle：使用百万arXiv论文信息在LLaMA模型上进行微调的论文题目生成模型

项目设计集合（人工智能方向）：助力新人快速实战掌握技能、自主完成项目设计升级，提升自身的硬实力（不仅限NLP、知识图谱、计算机视觉等领域）：汇总有意义的项目设计集合，助力新人快速实战掌握技能，助力用户更好利用CSDN平台，自主完成项目设计升级，提升自身的硬实力。专栏订阅：项目大全提升自身的硬实力[专栏详细介绍：项目设计集合（人工智能方向）：助力新人快速实战掌握技能、自主完成项目设计升级，提升自身的
汀、人工智能·2023-08-05 22:32

以Llama-2为例，在生成模型中使用自定义LogitsProcessor

以Llama-2为例，在生成模型中使用自定义LogitsProcessor1.前言2.场景介绍3.解决方法4.结语1.前言在上一篇文章以Llama-2为例，在生成模型中使用自定义StoppingCriteria
常鸿宇·2023-08-05 12:12

以Llama-2为例，在生成模型中使用自定义StoppingCriteria

以Llama-2为例，在生成模型中使用自定义StoppingCriteria1.前言2.场景介绍3.解决方法4.结语1.前言在之前的文章中，介绍了使用transformers模块创建的模型，其generate
常鸿宇·2023-08-05 12:11

百度智能云“千帆大模型平台”最新升级：接入Llama 2等33个模型！

今年3月，百度智能云推出“千帆大模型平台”。作为全球首个一站式的企业级大模型平台，千帆不但提供包括文心一言在内的大模型服务及第三方大模型服务，还提供大模型开发和应用的整套工具链，能够帮助企业解决大模型开发和应用过程中的所有问题。本次千帆大模型平台升级的目的是给企业、开发者提供更加灵活、多样化、高效的大模型服务，客户可选择最适合自身业务的大模型，再利用千帆大模型平台全套工具链进行模型再训练、指令微调
百度智能云·2023-08-05 12:04

Together AI发布了LLaMA-2-7B-32K模型；全球客服中心加速拥抱对话式AI和虚拟助手

AI新闻OpenAI宣布安卓版ChatGPT在全球范围上线摘要：OpenAI宣布其安卓版ChatGPT已在所有支持的国家和地区上线，用户可通过该人工智能工具获取问题的答案、指导或建议，并完成各种任务。该版本从原来的四个国家扩展到16个国家和地区。ChatGPT的上线覆盖广泛，具有重要影响力和广泛公众兴趣，对话模型的创新性和应用价值催生了这一重要举措。它将极大地改变人们使用智能语言模型的方式。该新闻
go2coding·2023-08-05 11:31

如何微调医疗大模型llm：llama2学习笔记

三个微调方向：简单医疗问答临床问答影像学一般流程：1数据集准备2模型基座选择3微调4案例拆解1数据集准备：两种类型，一种文本一种影像扩展，多模态2模型基座选择多模态处理所有视频，文本，数字人将会受到威胁，数字人赛道多模态处理将会对医疗领域有很大的促进多模态的架构整个影像大模型现阶段不太成熟，医疗领域的方案，各个医生的方案没有标准的方案，没有办法通用，不会被通用的大模型被替代掉。诊断虽然可能一样，但
stay_foolish12·2023-08-05 03:15

基于 Llama2 和 OpenVINO™ 打造聊天机器人

点击蓝字关注我们,让开发变得更有趣作者|英特尔AI软件工程师杨亦诚指导|英特尔OpenVINO布道师武卓博士排版|李擎基于Llama2和OpenVINO™打造聊天机器人Llama2是Meta发布了其最新的大型语言模型
OpenVINO 中文社区·2023-08-04 23:43

LangChain+ChatGLM整合LLaMa模型（二）

开源大模型语言LLaMaLLaMa模型GitHub地址添加LLaMa模型配置启用LLaMa模型LangChain+ChatGLM大模型应用落地实践（一）LLaMa模型GitHub地址gitlfsclonehttps
爱机车的程序猿·2023-08-04 08:29

ChatGPT安全限制的新方案

更令人担忧的是，相同的提示也适用于ChatGPT、Claude、Bard和LLaMA-2这种闭源的优秀LLM。测试Claude2Claude2具有额外的安全过滤层。
heikeb·2023-08-04 06:23

基于 Docker 的深度学习环境：Windows 篇

这几周总有不少好玩的开源模型和相关的应用组团出现，最近几篇文章发布后（尤其是LLaMA2）
soulteary·2023-08-03 14:28

LLM - LLama 模型读取报错 TypeError: not a string

一.引言读取LLama2模型时报错TypeError:notastring看异常栈是AutoTokenizer.from_pretrained时候的异常。
BIT_666·2023-08-03 12:24

《探索文心千帆大模型平台： 代码编写从此变得轻松》

文章目录前言一、初识文心千帆1.1功能丰富1.2注册登录二、内置第三方大模型2.1ERNIE-Bot模型2.2ERNIE-Bot-turbo模型2.3BLOOMZ-7B模型2.4Llama模型全家桶2.5
袁袁袁袁满·2023-08-03 10:29

[玩转AIGC]如何训练LLaMA2（模型训练、推理、代码讲解，并附可直接运行的kaggle连接）

目录一、clone仓库二、数据集下载与处理1、数据集下载2、数据集标记化（耗时较长）三、修改配置四、开始训练五、模型推理六、train.py训练代码讲解1、导包2、定义模型训练参数与相关设置3、加载模型配置4、迭代生成数据5、模型初始化6、设置自动混合精度与优化函数7、损失评估与学习率获取8、日志保存初始化9、循环训练七、run.c推理代码讲解1、结构及内存管理2、模型初始化：读取checkpoi
六五酥·2023-08-02 17:34

LLaMA系列 | LLaMA和LLaMA-2精简总结

文章目录1、LLaMA1.1、模型结构1.2、训练方式1.3、结论2、LLaMA-22.1、相比LLaMA1的升级2.3、模型结构2.3.1、MHA,MQA,GQA区别与联系2.4、训练方式1、LLaMA
#苦行僧·2023-08-02 12:01

SentencePiece android ndk编译

LLaMa等LLM语言模型一般使用SentencePiecetokenizer，在端侧部署需要编译和使用其c++版本。
Luchang-Li·2023-08-02 03:59

使用LLM插件从命令行访问Llama 2

大家好，最近的一个大新闻是MetaAI推出了新的开源授权的大型语言模型Llama2，这是一项非常重要的进展。
python156·2023-08-02 03:33

音视频技术开发周刊 | 304

更强的Llama2开源，可直接商用：一夜之间，大模型格局变了Meta终于发布了大家期待已久的免费可商用版本Llama2。
LiveVideoStack_·2023-08-02 01:43

聊聊拉长LLaMA的一些经验

比如文档问答、小说续写等当今开源LLM中的当红炸子鸡——LLaMA，第一版上下文长度是2048，第二版长度是4096。
CompHub·2023-08-01 13:49

Meta AI研究团队新AI模型： Llama 2 大语言模型

Llama是FacebookResearch团队开发的基础语言模型集，旨在提供广泛的语言理解能力。它基于转换器架构，参数范围从7B到65B。
源代码杀手·2023-08-01 08:31

九、开源小语言模型之chatLLaMA

1、源起3月初，随着Meta的LLaMA模型被泄露，开源社区获得了首个真正具备
vandh·2023-08-01 08:22

灵雀云Alauda MLOps 现已支持 Meta LLaMA 2 全系列模型

为了帮助企业更好地应对上述挑战，灵雀云于近日宣布，企业可通过AlaudaMLOps（以下简称AML）使用由Meta开发的LLaMA2全系列模型。
灵雀云·2023-08-01 04:35

【LLM系列之踩坑记】你训练的大模型生成长度真的变短了吗

最近在忙着对LLama做中文增强训练，结果中文词表扩充继续预训练以及指令数据有监督微调之后，与知识库、检索内容结合的时候发现了一些有意思的现象，也在群里大家简单交流过，那么接下来笔者结合一些训练经历分享一些经验之谈
致Great·2023-08-01 01:04

LLaMA：开放和高效的基础语言模型

Part1前言我们介绍了LLaMA，这是一个参数范围从7B到65B的基础语言模型集合。
系统免驱动·2023-07-31 15:38

免费商用 Meta 发布开源大语言模型 Llama 2

Meta和微软深度合作，正式推出下一代开源大语言模型Llama2，并宣布免费提供给研究和商业使用。
ejinxian·2023-07-31 13:41

中文LLaMA模型和指令精调的Alpaca大模型：中文数据进行二次预训练，进一步提升了中文基础语义理解能力

项目设计集合（人工智能方向）：助力新人快速实战掌握技能、自主完成项目设计升级，提升自身的硬实力（不仅限NLP、知识图谱、计算机视觉等领域）：汇总有意义的项目设计集合，助力新人快速实战掌握技能，助力用户更好利用CSDN平台，自主完成项目设计升级，提升自身的硬实力。专栏订阅：项目大全提升自身的硬实力[专栏详细介绍：项目设计集合（人工智能方向）：助力新人快速实战掌握技能、自主完成项目设计升级，提升自身的
汀、人工智能·2023-07-30 15:28

基于中文金融知识的 LLaMA 系微调模型的智能问答系统：LLaMA大模型训练微调推理等详细教学

项目设计集合（人工智能方向）：助力新人快速实战掌握技能、自主完成项目设计升级，提升自身的硬实力（不仅限NLP、知识图谱、计算机视觉等领域）：汇总有意义的项目设计集合，助力新人快速实战掌握技能，助力用户更好利用CSDN平台，自主完成项目设计升级，提升自身的硬实力。专栏订阅：项目大全提升自身的硬实力[专栏详细介绍：项目设计集合（人工智能方向）：助力新人快速实战掌握技能、自主完成项目设计升级，提升自身的
汀、人工智能·2023-07-30 15:28

【奶奶看了都会】Meta开源大模型LLama2部署使用教程，附模型对话效果

1.写在前面就在7月19日，MetaAI开源了LLama2大模型，Meta首席科学家、图灵奖获得者YannLeCun在推特上表示Meta此举可能将改变大模型行业的竞争格局。
卷福同学·2023-07-30 14:04

【ChatGPT】相关解读

ChatGPT背后的“功臣”——RLHF技术详解Meta发布开源可商用模型Llama2，实际体验效果如何？Llama2线上试用地址：replicate.com/a16z-infr…
dataloading·2023-07-30 13:43

MedicalGPT：基于LLaMA-13B的中英医疗问答模型（LoRA）、实现包括二次预训练、有监督微调、奖励建模、强化学习训练[LLM:含Ziya-LLaMA]。

项目设计集合（人工智能方向）：助力新人快速实战掌握技能、自主完成项目设计升级，提升自身的硬实力（不仅限NLP、知识图谱、计算机视觉等领域）：汇总有意义的项目设计集合，助力新人快速实战掌握技能，助力用户更好利用CSDN平台，自主完成项目设计升级，提升自身的硬实力。专栏订阅：项目大全提升自身的硬实力[专栏详细介绍：项目设计集合（人工智能方向）：助力新人快速实战掌握技能、自主完成项目设计升级，提升自身的
汀、人工智能·2023-07-30 12:32

开源大模型发展汇总

1.大模型发展&概况a.发展线路图其中基础模型如下：大部分不开源，而OPT、BLOOM、LLaMA三个模型是主要面向开源促进研究，聊天机器人场景开源的OpenAssistant（huggingface）
amongdata·2023-07-30 12:02

6G内存运行Llama2-Chinese-7B-chat模型

6G内存运行Llama2-Chinese-7B-chat模型Llama2-Chinese中文社区第一步：从huggingface下载Llama2-Chinese-7b-Chat-GGML模型放到本地的某一目录
蓝鲸123·2023-07-30 12:31

LLaMA模型论文《LLaMA: Open and Efficient Foundation Language Models》阅读笔记

文章目录1.简介2.方法2.1预训练数据2.2网络架构2.3优化器2.4高效的实现3.论文其余部分4.参考资料1.简介LLaMA是meta在2023年2月开源的大模型，在这之后，很多开源模型都是基于LLaMA
beingstrong·2023-07-30 11:55

18种AI视频制作教程；Llama 2微调的极速指南；Nijijourney官方AI绘画课 | ShowMeAI日报

日报&周刊合集|生产力工具与行业应用大全|点赞关注评论拜托啦！摄影写真面临AI技术洗牌，一键生成杂志大片的时代来了软件：midjourney&StableDiffusion模型：moonmix_utopia人物lora：老婆真人后期：PSSteps:50,Sampler:DPM++2MSDEKarras,CFGscale:7随着AI技术不断发展，诸如Midjourney和StableDiffusi
ShowMeAI·2023-07-30 02:48

生成式 AI 简介

你熟练使用着ChatGPT和LLaMa创造辞致雅赡的文字。你来回切换着MuseNet和MuseGAN创造高山流水的音乐。
weixin_38753422·2023-07-30 01:11

[NLP]LLaMA与LLamMA2解读

摘要Meta最近提出了LLaMA(开放和高效的基础语言模型)模型参数包括从7B到65B等多个版本。
奇思闻影的舒克与贝克·2023-07-30 00:22

Llama2跟进：GPU硬件要求、微调注意事项等【202307】

在过去几天里关注Llama2的所有新闻已经超出了全职工作的范围。信息网络确实充满了拍摄、实验和更新。至少还要再过一周，但已经有一些关键点了。推荐：用NSDT设计器快速搭建可编程3D场景。
新缸中之脑·2023-07-29 19:23

Attention机制竟有bug？Softmax是罪魁祸首，影响所有Transformer

所有Transformer模型包括GPT、LLaMA都受到了影响。」昨天，一位名叫EvanMiller的统计工程师的话在AI领域掀起了轩然大波。
PaperWeekly·2023-07-29 16:10

2023年的深度学习入门指南(21) - 百川大模型

2023年的深度学习入门指南(21)-百川大模型前面我们用了三节的篇幅介绍了目前最强大的开源模型LLaMA2。这一节我们说一说国产大模型的一个代表，百川大模型。
Jtag特工·2023-07-29 06:10

NLP实践——Llama-2 多轮对话prompt构建

NLP实践——Llama-2多轮对话prompt构建1.问题提出2.prompt的正确形式3.效果测试4.结尾1.问题提出最近，META开源了Llama-2模型，受到了广泛的关注和好评，然而，在官方给的使用说明中
常鸿宇·2023-07-29 03:47

2023年的深度学习入门指南(20) - LLaMA 2模型解析

2023年的深度学习入门指南(20)-LLaMA2模型解析上一节我们把LLaMA2的生成过程以及封装的过程的代码简单介绍了下。还差LLaMA2的模型部分没有介绍。
Jtag特工·2023-07-29 01:04

于大模型迁移中学习 Docker

现在在modelarts上用八卡昇腾910跑llama，不同于之前自己配环境，昇腾生态创新中心都是用的镜像，虽说打包起来不用自己配的那么麻烦，但一键启动之后各种找不到包、调用函数出错的问题搞得我头大，真的每跑一次大模型都要找一个相匹配的镜像才可以吗
Zain Lau·2023-07-29 00:56

NLP杂记

来京一周余，初病将愈，终跑通llama及ViT，记于此——之前都是做的图像，大模型迁移基本上都是NLP相关的知识，很多东西和CV差距还是有点，再加上大模型对算力要求较高，基于云的操作对我一个习惯在本地操作的拖拽工程师还是有一点不适应
Zain Lau·2023-07-29 00:26

快速玩转 Llama2！阿里云机器学习 PAI 推出最佳实践（二）——全参数微调训练

本实践将采用阿里云机器学习平台PAI-DSW模块针对Llama-2-7B-Chat进行全参数微调。PAI-DSW是交互式建模平台，该实践适合需要定制化微调模型，并追求模型调优效果的开发者。
阿里云大数据AI技术·2023-07-28 14:47

快速玩转 Llama2！阿里云机器学习 PAI 推出最佳实践（三）—— 快速部署 WebUI

本实践将采用阿里云机器学习平台PAI-EAS模块针对Llama-2-13B-chat进行部署。
阿里云大数据AI技术·2023-07-28 14:47

快速玩转 Llama2！阿里云机器学习 PAI 推出最佳实践（一）——低代码 Lora 微调及部署

本文基于阿里云机器学习PAI实现大语言模型Llama2低代码Lora微调及部署，适合想要快速开箱体验预训练模型的开发者前言近期，Meta宣布大语言模型Llama2开源，包含7B、13B、70B不同尺寸，
阿里云大数据AI技术·2023-07-28 14:17

如何优雅地下载huggingface上模型，以llama2模型下载为例

背景由于llama2模型的下载需要经过官方的授权，这就需要登陆huggingface的，对模型页面进行申请。等待审核通过后，才能够下载。如果在单纯用gitlfs的方式进行下载，需要输入账号和密码。
JasonLiu1919·2023-07-28 07:23

UCloud上线可商用LLaMA2镜像，助力AGI应用发展

近日，云计算厂商UCloud推出了可商用的LLaMA2GPU云主机镜像。相较于LLaMA1，LLaMA2的强大推理能力以及全面提升的性能，将为AGI应用的发展提供新的助力。客户通
AI 研习所·2023-07-28 02:11
上一页 13 14 15 16 17 18 19 20 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他