E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
Llama
2023年度大模型技术发展盘点 -
LLaMA
、GPT-4、Stable Diffusion等15款重磅产品全面解读
SEO元描述:本文回顾2023年度大模型技术最重磅产品发布,包括
LLaMA
、GPT-4、StableDiffusion、Claude2等引领各技术分类的开山之作,全面总结大模型元年中的AI产品技术演进与突破
人工智能-瓦力
·
2024-01-16 17:02
llama
stable
diffusion
GPT在地学、GIS、气象、农业、生态、环境等领域应用
在地学、GIS、气象、农业、生态、环境等领域应用一开启大模型1开启大模型1)大模型的发展历程与最新功能2)大模型的算法构架与底层逻辑3)大模型的强大功能与应用场景4)国内外经典大模型(ChatGPT、
LLaMA
夏日恋雨
·
2024-01-16 09:22
生态学
水文水资源
大气科学
gpt
人工智能
地学
气象学
水文学
生态学
GIS
Llama
2部署、微调、集成Langchain过程记录
目录一、模型部署1.环境配置2.pip和conda源3.下载模型到本地4.下载并部署gradio5.使用gradio运行模型6.textgenerationwebui二、模型微调1.下载和预处理微调训练数据2.运行微调文件3.执行代码合并4.使用gradio运行微调后模型三、使用LangChain外挂本地知识库1.LangChain介绍2.安装和准备3.设置知识库4.加载模型5.知识库的使用和构造
GOozii1
·
2024-01-16 00:54
langchain
作业(3)——微调
支持的开源LLM(2023.11.01)InternLM✅
Llama
,
Llama
2ChatGLM2,ChatGLM3QwenBaichuan,Baichuan2Zephyr…平台
亲爱的阿基米德^
·
2024-01-15 21:13
笔记
什么是RoPE-旋转位置编码?
像是谷歌的PaLM和meta的
LLaMA
等开源大模型都是RoPE位置编码,那么RoPE有什么特点呢?本文将介绍如下内容:RoPE旋转位置编码概要什么是位置编码?
TFATS
·
2024-01-15 17:56
GPT大模型
nlp
深度学习
RoPE
旋转位置编码
大模型
AIGC
nlp
大模型入门(四)—— 基于peft 微调
LLaMa
模型
www.cnblogs.com/jiangxinyang/p/17330352.htmlllama-7b模型大小大约27G,本文在单张/两张16GV100上基于huggingface的peft库实现了
llama
baidu_huihui
·
2024-01-15 15:09
llama
huggingface
peft
微调
Llama
2 70B 问答 - 由人工神经网络训练的程序,与使用编程语言和数学算法编写的程序之间有何区别?
由人工神经网络训练的程序与使用编程语言和数学算法编写的程序之间存在一些差异:1.学习与编程:人工智能程序是使用大型数据集进行训练的,而传统程序是使用程序员明确定义的一组指令编写的。2.灵活性与刚性:人工智能程序可以适应新的数据或情况,而传统程序则遵循一组固定的规则。3.泛化与专业化:人工智能程序可以很好地泛化到新情况,而传统程序则针对特定任务进行优化。4.数据驱动与算法驱动:人工智能程序由数据驱动
qq_43058397
·
2024-01-15 10:15
算法
llama
2.c推理
模型图代码及分析不需要考虑任何mask问题,直接通过矩阵计算求出下三角矩阵每个元素的值即可,不需要额外添加mask之类的。temperature=0(确定性)的时候,模型推理每次都取概率最大的(从而导致同样的输入prompt会有完全相同的输出);否则根据概率分布来挑选,即有一定概率输出和前一个字不搭配的字多头注意力机制有两种理解,实现和效果也不同,一种是将embedding维切分成head_num
WAWA战士
·
2024-01-15 09:06
人工智能
机器学习
算法
用 Ollama 轻松玩转本地大模型
据此,
Llama
27B(70亿)对应需要约14GB显存以进行推理,这显然超出了普通家用计算机的硬件规格。作为参考,一块GeForceRTX4060Ti16GB显卡市场价超过3000元。
m0_54050778
·
2024-01-14 23:02
python
【llm 部署运行videochat--完整教程】
申请
llama
权重https://ai.meta.com/resources/models-and-libraries/
llama
-downloads/->勾选三个模型->等待接收邮件信息(很快)下载
llama
放飞自我的Coder
·
2024-01-14 17:07
llama
python
llama
videochat
最强开源中英双语大模型发布,340亿参数超越
Llama
2-70B !
Aquila2模型全系开源地址:https://github.com/FlagAI-Open/Aquila2https://model.baai.ac.cn/https://huggingface.co/BAAIAquila2-34B在代码生成、考试、理解、推理、语言四个维度的22个评测基准上,霸占了多个榜单TOP1。相较于大模型榜单分数,业内更看重对推理、泛化等重要模型实际能力的潜心提升,在支撑
语音之家
·
2024-01-14 10:16
开源
人工智能
palm
深度学习
语言模型
拖拽下图像就能生成视频,DragNUWA属实惊艳
来源:机器之心随着ChatGPT、GPT-4、
LLaMa
等模型的问世,人们越来越关注生成式模型的发展。相比于日渐成熟的文本生成和图像生成,视频、语音等模态的AI生成还面临着较大的挑战。
深度学习技术前沿
·
2024-01-14 10:37
人工智能
计算机视觉
2023年人工智能的最新发展(上)
目录1.ChatGPT:2.Transformer、Bert:3.Bard、Office365Copilot、
LLAMA
:4.Claude、Grok:1.ChatGPT:2023年被视为人类科技史上的一个重要年份
稻壳特筑
·
2024-01-14 04:20
科技
人工智能
chatgpt
【LangChain学习之旅】—(7) 调用模型:使用OpenAI API还是微调开源
Llama
2/ChatGLM?
【LangChain学习之旅】—(7)调用模型:使用OpenAIAPI还是微调开源
Llama
2/ChatGLM?
之墨_
·
2024-01-13 19:47
人工智能
NLP
langchain
大模型
LLM
Vicuna云端实践
简介Vicuna是开源领域最强最著名的大语言模型,是UC伯克利大学的研究人员联合其它几家研究机构共同推出的一系列基于
LLaMA
微调的大语言模型。
皮皮姑娘
·
2024-01-13 19:37
大语言模型
语言模型
人工智能
机器学习
骆驼产业发展调研报告
骆驼是骆驼科骆驼属的动物(拉丁名
Llama
),具有多种经济价值,柴达木地区是全国骆驼主产区之一,发展骆驼产业具有得天独厚的资源条件,为全面掌握目前骆驼产业的发展情况,我们考察了新疆阿勒泰地区福海县和内蒙古阿拉善右旗骆驼产业发展情况
春风十里绿神州
·
2024-01-13 12:18
LLaMA
-Factory添加adalora
感谢https://github.com/tsingcoo/
LLaMA
-Efficient-Tuning/commit/f3a532f56b4aa7d4200f24d93fade4b2c9042736和
wozwdaqian
·
2024-01-13 04:36
大模型
llama
用通俗易懂的方式讲解:一文讲透主流大语言模型的技术原理细节
大家好,今天的文章分享三个方面的内容:1、比较
LLaMA
、ChatGLM、Falcon等大语言模型的细节:tokenizer、位置编码、LayerNormalization、激活函数等。
机器学习社区
·
2024-01-13 02:47
大模型
自然语言
CV
语言模型
人工智能
自然语言处理
Langchain
大模型
大语言模型
这应该是最全的大模型训练与微调关键技术梳理
是否希望深入探索
LLaMA
、ChatGLM等模型的微调技术,进一步优化参数和使用不同微调方式?现在我带大家领略大模型训练与微调进阶之路,拓展您的技术边界!
机器学习社区
·
2024-01-13 02:46
大模型
自然语言
大模型
langchain
chatgpt
人工智能
AIGC
HackerGPT&WhiteRabbitNeo的使用及体验对比
1.简介WhiteRabbitNeo(https://www.whiterabbitneo.com/)是基于Meta的
LLaMA
2模型进行特化的网络安全AI模型。
INSBUG
·
2024-01-12 18:20
网络安全
GPT在地学、GIS、气象、农业、生态、环境等领域中的应用教程
GIS、气象、农业、生态、环境等领域中的应用教程一开启大模型1开启大模型1)大模型的发展历程与最新功能2)大模型的算法构架与底层逻辑3)大模型的强大功能与应用场景4)国内外经典大模型(ChatGPT、
LLaMA
慢腾腾的小蜗牛
·
2024-01-12 18:35
生态遥感
大气科学
人工智能
gpt
人工智能
地学
遥感
生态学
气象学
GIS
羊驼2:开放的基础和微调聊天模型--
Llama
2论文阅读
论文地址:https://arxiv.org/pdf/2307.09288.pdfd代码地址:GitHub-facebookresearch/
llama
-recipes:ExamplesandrecipesforLlama2model
andeyeluguo
·
2024-01-12 17:59
AI笔记
人工智能
数据驱动下的LLM优化:如何从数据集中发掘最大价值?
指令微调是一种用于改善像ChatGPT和
Llama
-2-chat这样的语言模型性能的方法,通过让模型为一
wwlsm_zql
·
2024-01-12 09:50
人工智能
TinyLlama-1.1B(小羊驼)模型开源-Github高星项目分享
简介TinyLlama项目旨在在3万亿tokens上进行预训练,构建一个拥有11亿参数的
Llama
模型。经过精心优化,我们"仅"需16块A100-40G的GPU,便可在90天内完成这个任务。
AI 研习所
·
2024-01-12 08:38
AIGC
AI
人工智能
AIGC
人工智能
通过大量生物、地球、农业、气象、生态、环境科学领域中案例,解锁大模型在科研、办公中的高级应用,可以一起探索如何优雅地使用大模型?
以ChatGPT、
LLaMA
、Gemini、DALL·E、Midjourney、StableDiffusion、星火大模型、文心一言、千问为代表AI大语言模型带来了新一波人工智能浪潮,可以面向科研选题、
梦想的初衷~
·
2024-01-12 08:02
AI大语言
chat
gpt
生态
人工智能
地学
面向科研选题、思维导图、数据清洗、统计分析、高级编程、代码调试、算法学习、论文检索、写作、翻译、润色、文献辅助阅读、文献信息提取、辅助论文审稿、新闻撰写、科技绘图、地学绘图(GIS地图绘制)
以ChatGPT、
LLaMA
、Gemini、DALL·E、Midjourney、StableDiffusion、星火大模型、文心一言、千问为代表AI大语言模型带来了新一波人工智能浪潮,可以面向科研选题、
梦想的初衷~
·
2024-01-12 08:02
chat
gpt
地学
人工智能
地学
DeepSeek 发布全新开源大模型,数学推理能力超越
LLaMA
-2
自从
LLaMA
被提出以来,开源大型语言模型(LLM)的快速发展就引起了广泛研究关注,随后的一些研究就主要集中于训练固定大小和高质量的模型,但这往往忽略了对LLM缩放规律的深入探索。
夕小瑶
·
2024-01-12 05:44
llama
使用 RLHF 训练
LLaMA
的实践指南:StackLLaMA
由于
LLaMA
没有使用RLHF,后来有一个初创公司NebulyAI使用LangChainagent生成的数据集对
LLaMA
模型使用了RLHF进行学习,得到了ChatLLaMA模型,详情请参考:Meta开源的
wshzd
·
2024-01-12 05:05
llama
人工智能
机器学习
llama
_index 创始人为我们展示召回提升策略(提升15%)
用句子向量替换为句子向量句子检索,将句子转化为向量。在检索的过程中,假如句子命中,则将句子周围的内容也当做检索内容。对比句子检索和之前的按块去做切分的检索。可以看到,内容的相关性提升了8%,构建数据的时候,包好层次结构如果召回的时候,更多的有命中一个父节点下的多个子节点,则将父节点的数据全部返回,作为内容。测试结果看到,召回相关性上从36%提升到43%,提升了7%
水的精神
·
2024-01-12 01:45
RAG
ES搜索优化
RAG召回提升
句子向量
数据分层
高效底座模型
LLaMA
论文标题:
LLaMA
:OpenandEfficientFoundationLanguageModels论文链接:https://arxiv.org/pdf/2302.13971.pdf论文来源:MetaAI1
智慧医疗探索者
·
2024-01-11 13:06
深度学习模型
llama
大模型
微调
Ubuntu22.04,Nvidia4070配置
llama
2
大部分内容参考了这篇非常详细的博客,是我最近看到的为数不多的保姆级别的教学博客,建议大家去给博主点个赞【Ubuntu20.04安装和深度学习环境搭建4090显卡】_ubuntu20.04安装40系显卡驱动-CSDN博客本篇主要是基于这篇博客结合自己配置的过程中一些注意点和补充说明(其实主要是方便自己以后配置)本篇主要包含以下4个部分1.安装配置Ubuntu2.安装nvidia驱动,cuda,cud
机器人迈克猫
·
2024-01-11 13:24
LLM大语言模型
ubuntu
linux
llama
python
AI数据微调找免费GPU遇阻之路
赶在如火如荼的2023AI的尾声,开始研究AI,在了解了当前技术的发展以及试用了多个AI模型和平台之后,计划本地安装
Llama
.cpp,利用积累的威胁建模数据和检测规则数据进行数据微调,实现自动化威胁建模和
manok
·
2024-01-11 10:12
人工智能
供应链安全
代码审计
代码安全
使用AI平台处理训练和微调数据
Llama
.cpp是GeorgiGerganov基于Meta的
LLaMA
模型手写的纯C/C++版本,让我们实现了在笔记本电脑上部署和体验AI大模型,实现没有GPU也可以运行AI大模型。
manok
·
2024-01-11 10:09
人工智能
供应链安全
代码审计
AI引擎
论文系列之-Mixtral of Experts
它试图解决的主要问题包括:1.提高模型性能:通过使用稀疏混合专家结构,Mixtral在多个基准测试中超越或匹配了现有的大型模型(如
Llama
270B和GPT-3.5),尤其是在数学、代码生成和多语言理解任务上
Takoony
·
2024-01-11 10:31
transformer
深度学习
人工智能
大模型日报-20240110
这种「幻觉」难题Vista-
LLaMA
给解决了https://mp.weixin.qq.com/s/rsg1c4PnBp9PUEo1ROTkoQ近年来,大型语言模型如GPT、GLM和
LLaMA
等在自然语言处理领域取得了显著进展
程序无涯海
·
2024-01-11 07:15
大模型篇
大模型
AI
日报
AIGC
模型训练
大模型动态
人工智能
构建自己的私人GPT-支持中文
privateGPT本地部署目前只支持基于
llama
.cpp的gguf格式模型,GGUF是
llama
.cpp团队于2023年8月21日推出的一种新格式。
崎山小鹿
·
2024-01-11 01:54
gpt
人工智能
神经网络
privateGPT
AI大模型引领未来智慧科研暨ChatGPT在地学、GIS、气象、农业、生态、环境应用
以ChatGPT、
LLaMA
、Gemini、DALL·E、Midjourney、StableDiffusion、星火大模型、文心一言、千问为代表AI大语言模型带来了新一波人工智能浪潮,可以面向科研选题、
思考的小猴子
·
2024-01-10 19:44
农业
环境
土壤
人工智能
gpt
GPT大模型在生物、地球、农业、气象、生态、环境科学可以应用?
以ChatGPT、
LLaMA
、Gemini、DALL·E、Midjourney、StableDiffusion、星火大模型、文心一言、千问为代表AI大语言模型带来了新一波人工智能浪潮,可以面向科研选题、
思考的小猴子
·
2024-01-10 19:12
农业
环境
机器学习
人工智能
gpt
地学
@关于大模型的基础知识
@关于大模型的基础知识大模型的基础包括模型训练、数据集准备、微调和评估四大部分文章目录从大模型的训练说起大模型的基础调用大模型:例如调用
llama
2模型微调大模型从大模型的训练说起大模型的基础transformerself-attention
专心研究
·
2024-01-10 19:38
R语言数据研究
杂记
python
可用性测试
Github 2024-01-10 C开源项目日报Top10
根据开发语言中项目的数量,汇总情况如下:开发语言项目数量C项目10C++项目2PLpgSQL项目1Assembly项目1
LLaMA
模型的C/C++移植创建周期:306天开发语言:C,C++协议类型:MITLicenseStar
孙琦Ray
·
2024-01-10 11:26
github
开源
Github趋势分析
开源项目
Python
Golang
【LLM 论文阅读】NEFTU N E: LLM微调的免费午餐
当像
LLaMA
-2-7B这样的原始LLM被
致Great
·
2024-01-10 09:16
论文阅读
人工智能
AI大模型引领未来智慧科研暨ChatGPT在地学、GIS、气象、农业、生态、环境等领域中的高级应用
以ChatGPT、
LLaMA
、Gemini、DALL·E、Midjourney、StableDiffusion、星火大模型、文心一言、千问为代表AI大语言模型带来了新一波人工智能浪潮,可以面向科研选题、
Mr.靳靳477302280
·
2024-01-10 08:04
chat
gpt
地学
农业
人工智能
农业
AI大语言模型会带来了新一波人工智能浪潮?
以ChatGPT、
LLaMA
、Gemini、DALL·E、Midjourney、StableDiffusion、星火大模型、文心一言、千问为代表AI大语言模型带来了新一波人工智能浪潮,可以面向科研选题、
梦想的初衷~
·
2024-01-10 08:31
chat
gpt
AI大语言
地学
人工智能
语言模型
自然语言处理
LLaMA
Efficient Tuning
文章目录LLaMAEfficientTuning安装数据准备浏览器一体化界面单GPU训练train_bash1、预训练pt2、指令监督微调sft3、奖励模型训练rm4、PPO训练ppo5、DPO训练dpo多GPU分布式训练1、使用HuggingfaceAccelerate2、使用DeepSpeed导出微调后的模型export_model.pyAPI服务api_demo.py命令行测试cli_dem
小田_
·
2024-01-10 07:22
LLM
llama
语言模型
人工智能
Chinese-
llama
-2部署踩坑记录
Chinese-
llama
-2部署踩坑记录1.Chinese-
LLaMA
-Alpaca-2A.部署a.inference_with_transformers_zhb.textgenerationwebui_zhc.api_calls_zhd.llamacpp_zhe.privategpt_zhf.langchain_zhToolGithub1
国家一级假勤奋大学生
·
2024-01-10 07:50
LLM
llama2
大语言模型
Chinese-llama-2
书生·浦语大模型全链路开源体系
各大公司、研究机构纷纷发布自己的大模型,国内发布的大模型就有:书生(InternLM)、文心一言(Yiyan)、百川(Baichuan)、通义千问(Qwen)、ChatGLM等,国外比较知名的有:
Llama
weixin_39897979
·
2024-01-10 03:38
人工智能
agi
基于
llama
.cpp学习开源LLM本地部署
目录前言一、
llama
.cpp是什么?
joimson
·
2024-01-10 01:00
llama
学习
llama
.cpp模型推理之界面篇
目录前言一、
llama
.cpp目录结构二、
llama
.cpp之server学习1.介绍2.编译部署3.启动服务4、扩展或构建其他的Web前端5、其他前言在《基于
llama
.cpp学习开源LLM本地部署》
joimson
·
2024-01-10 01:29
学习
llama
GPT在地学、GIS、气象、农业、生态、环境等领域应用教程
在地学、GIS、气象、农业、生态、环境等领域应用教程一开启大模型1开启大模型1)大模型的发展历程与最新功能2)大模型的算法构架与底层逻辑3)大模型的强大功能与应用场景4)国内外经典大模型(ChatGPT、
LLaMA
夏日恋雨
·
2024-01-09 16:00
遥感
生态学
人工智能
人工智能
GPT
统计模型
地学统计
气象学
生态学
农业学
llama
2 保姆级windows环境配置,训练,部署及常见问题解决方法
业务需要开始研究LLM,并且二次开发用到我们的业务上。罗嗦几句,我从开始看LLM到配起来训练总共花了两个礼拜时间,看了不下20个视频教程和100篇博客教程,没有哪一个教程是能够从头到尾配置完没有差错的跑起来的,真的呼吁一下大家提高一下教程的质量,自己验证完之后再发布,有错误及时更新或者下线。以下正式开始配置1.环境1.1window111.2nvdia4080或4090显卡,(这里有坑,后面再说)
机器人迈克猫
·
2024-01-09 12:29
LLM大语言模型
llama
python
windows
上一页
4
5
6
7
8
9
10
11
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他