E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
InternLM
书生·浦语大模型(二)趣味demo【已体验灵笔】
书生·浦语大模型实战营目录书生·浦语大模型实战营(一)部署
InternLM
2-Chat-1.8B模型进行智能对话1、配置基础环境2、下载
InternLM
2-Chat-1.8B模型3、运行cli_demo
ww伟
·
2025-02-21 23:45
语言模型
煤矿安全大模型:微调
internlm
2模型实现针对煤矿事故和煤矿安全知识的智能问答
煤矿安全大模型————矿途智护者使用煤矿历史事故案例,事故处理报告、安全规程规章制度、技术文档、煤矿从业人员入职考试题库等数据,微调
internlm
2模型实现针对煤矿事故和煤矿安全知识的智能问答。
汀、人工智能
·
2025-02-06 12:20
LLM工业级落地实践
LLM技术汇总
人工智能
langchain
RAG
智能问答
检索增强生成
安全大模型
AI大模型
书生浦语第五期
基础作业完成以下任务,并将实现过程记录截图:配置lmdeploy运行环境下载
internlm
-chat-1.8b模型以命令行方式与模型对话视频链接文档链接基础知识学习模型部署在软件工程中,部署通常指的是将开发完毕的软件投入使用的过程
晴斋1216
·
2025-01-31 06:27
语言模型
Firefly-LLaMA2-Chinese - 开源中文LLaMA2大模型
https://github.com/yangjianxin1/Firefly-LLaMA2-Chinese本项目与Firefly一脉相承,专注于低资源增量预训练,既支持对Baichuan2、Qwen、
InternLM
伊织产研
·
2025-01-27 00:07
Firefly-LLaMA2
LLaMA-2
InternLM
: LMDeploy 量化部署进阶实践
LMDeploy部署模型模型部署是将训练好的深度学习模型在特定环境中运行。欢迎使用LMDeploy,支持市面上主流的格式和算法。大模型缓存推理本章的前半部分主要讲量化,包括KV-Cache量化、权重量化、激活值量化。量化主要是为了节省存储空间,用int4,int8来重新表示fp16,将模型的显存占用控制在200G可接受的范围下。值得注意的是,在transformer架构下,计算的瓶颈主要在显存带宽
dilvx
·
2025-01-25 06:42
机器学习
SGLang安装教程,部署你的大模型,性能比vllm好,实现张量并行,数据并行,加快推理速度,亲测效果好。
目前大模型部署工具主要是vllm,最近出现了SGLang,很多新开源大模型都支持SGLang的部署推理,例如deepseek-R1,Qwen2.5,Mistral,GLM-4,MiniCPM3,
InternLM
2
张登杰踩
·
2025-01-23 17:03
人工智能
结对编程
python
Firefly多轮对话微调书生·浦语
InternLM
-7B实践
本篇文章主要介绍使用Firefly项目对书生·浦语
InternLM
-7B进行微调的工作。
u013250861
·
2024-09-01 00:09
#
LLM/预训练&SFT
人工智能
chatgpt
NL2SQL实践系列(2):2024最新模型实战效果(Chat2DB-GLM、书生·浦语2、
InternLM
2-SQL等)以及工业级案例教学
NL2SQL实践系列(2):更多模型使用以及工业级案例NL2SQL基础系列(1):业界顶尖排行榜、权威测评数据集及LLM大模型(SpidervsBIRD)全面对比优劣分析[Text2SQL、Text2DSL]NL2SQL基础系列(2):主流大模型与微调方法精选集,Text2SQL经典算法技术回顾七年发展脉络梳理NL2SQL进阶系列(1):DB-GPT-Hub、SQLcoder、Text2SQL开源
汀、人工智能
·
2024-09-01 00:39
LLM工业级落地实践
人工智能
LLM
自然语言处理
NL2SQL
大模型应用
Text2NLP
chat2DB
MindSearch 快速部署(InternStudio 版)
MindSearch(欢迎Star):https://github.com/
InternLM
/MindSearch1.使用免费的搜索接口1.1激活环境小助手提前帮大家安装好了环境,只需要一步一步按照下面的步骤便可以启动
qq_31064397
·
2024-08-30 04:18
人工智能
python
深度学习
书生实战营进阶岛第6关
随着硅基流动提供了免费的
InternLM
2.5-7B-Chat服务(免费的
InternLM
2.5-7B-Chat真的很香),MindSearch的部署与使用也就迎来了纯CPU版本,进一步降低了部署门槛。
下饭且吃饱
·
2024-08-29 19:12
python
nlp
pytorch
人工智能
进阶岛 - LMDeploy 量化部署进阶实践
一、显存计算方法
InternLM
系列模型的显存使用主要2部分构成:模型权重kvcache以
InternLM
2.5-7b-chat为例,它的权重类型是bfloat16,即一个参数占用2字节的浮点数。
ydogg
·
2024-08-26 17:30
InternLM大模型学习
书生浦语
InternLM
量化
AWQ
书生开源大模型-第2讲-笔记
1.环境准备1.1环境先克隆我们的环境bash/root/share/install_conda_env_
internlm
_base.shinternlm-demo1.2模型参数下载或者复制下来,开发机中已经有一份参数了
weixin_45760926
·
2024-02-20 11:29
开源
笔记
今日arXiv最热NLP大模型论文:上海AI Lab联合清华发布十项全能数学大模型
InternLM
-Math
数学推理能力是大语言模型(LLMs)抽象推理能力的一个重要体现。近年来,随着深度学习技术的不断进步,LLMs在数学推理任务上取得了显著的进展。从小学级别到高中级别的数学问题,通过链式推理(chain-of-thoughtreasoning)或程序式推理(program-of-thoughtreasoning),LLMs展现出了解决数学问题的潜力。这些模型的构建需要在数学语料上进行预训练,并在数学问
夕小瑶
·
2024-02-19 16:56
人工智能
自然语言处理
基于
InternLM
和 LangChain 搭建你的知识库(三)
基于
InternLM
和LangChain搭建你的知识库大模型开发范式Finetune在大型语言模型中,Finetune(微调)是一种技术,用于调整预训练的模型以提高其在特定任务或数据集上的表现。
骆驼穿针眼
·
2024-02-19 12:41
langchain
第二节:轻松玩转书生·浦语大模型趣味Demo
参考教程:https://github.com/
InternLM
/tutorial/blob/main/helloworld/hello_world.mdInternLM-Chat-7B智能对话Demo
Kerin637
·
2024-02-14 04:05
大模型
书生谱语-基于
InternLM
和 LangChain 搭建知识库
大语言模型与外挂知识库(RAG)的优缺点RAG方案构建与优化作业在创建web_demo时,需要根据教程将服务器端口映射到本地端口,另外需要将链接的demo从服务器中复制出来,不要直接从服务器打开demo页面,不然会显示异常。
SatVision炼金士
·
2024-02-14 02:30
NLP
langchain
书生·浦语大模型第四课作业
基础作业:构建数据集,使用XTuner微调
InternLM
-Chat-7B模型,让模型学习到它是你的智能小助手,效果如下图所示,本作业训练出来的模型的输出需要将不要葱姜蒜大佬替换成自己名字或昵称!
查里王
·
2024-02-13 00:59
自然语言处理
人工智能
书生·浦语大模型第五课作业
基础作业:使用LMDeploy以本地对话、网页Gradio、API服务中的一种方式部署
InternLM
-Chat-7B模型,生成300字的小故事(需截图)这里/share/conda_envs目录下的环境是官方未大家准备好的基础环境
查里王
·
2024-02-13 00:59
linux
运维
服务器
LMDeploy 大模型量化部署实践
服务部署:这个部分你需要使用LMDeploy部署
InternLM
-Chat-
查里王
·
2024-02-12 23:57
人工智能
InternLM
大模型实战-4.XTuner大模型低成本微调实战
文章目录前言笔记正文XTuner支持模型和数据集微调原理跟随文档学习快速上手自定义微调准备数据准备配置文件MS-Agent微调前言本文是对于
InternLM
全链路开源体系系列课程的学习笔记。
早上真好
·
2024-02-12 21:40
InternLM大模型实战
语言模型
人工智能
第三节课[LangChain]作业
教程文档:https://github.com/
InternLM
/tutorial/tree/main/langchain实践搭建向量知识库使用教程中
早上真好
·
2024-02-12 21:40
InternLM大模型实战
langchain
语言模型
人工智能
基于
InternLM
和 LangChain 搭建你的知识库
github地址:
InternLM
/tutorial-书生·浦语大模型实战营文档地址:基于
InternLM
和LangChain搭建你的知识库视频地址:基于
InternLM
和LangChain搭建你的知识库
吨吨不打野
·
2024-02-12 18:51
意外接触的一些知识
#
大模型实战营
langchain
InternLM
大模型实战-2.浦语大模型趣味demo
文章目录前言笔记正文3个Demo的简要介绍
InternLM
模型简介Lagent介绍书生`灵笔多模态大模型Demo动手实践模型的下载更多前言本文是对于
InternLM
全链路开源体系系列课程的学习笔记。
早上真好
·
2024-02-12 05:48
InternLM大模型实战
语言模型
人工智能
InternLM
大模型实战-3.
InternLM
+Langchain搭建知识库
文章目录前言笔记正文大模型开发范式RAGFinetuneLangChain简介构建向量数据库搭建知识库助手1
InternLM
+Langchain2构建检索问答链3优化建议WebDemo部署搭建知识库前言本文是对于
早上真好
·
2024-02-12 05:48
InternLM大模型实战
langchain
语言模型
人工智能
第二节课[Demo]作业
基础作业使用
InternLM
-Chat-7B模型生成300字的小故事useravatar你是一个精通isekai的勇者,现在需要你讲述一段清新脱俗的异世界日常故事,字数300字以上robotavatar
早上真好
·
2024-02-12 05:17
InternLM大模型实战
语言模型
人工智能
InternLM
大模型实战-1.书生浦语大模型全链路开源体系
文章目录前言笔记正文大模型成为热门关键词书生·浦语开源历程从模型到应用书生·浦语全链条开源开放体系数据预训练微调评测部署部署智能体LagentAgentLego总结前言本系列文章是参与书生浦语全链路开源体系学习的笔记文章。B站视频教程地址:笔记正文大模型成为热门关键词LLM受到高关注,因为大模型成为发展通用人工只能的重要途经。专用模型:针对特定任务,一个模型解决一个问题。通用大模型:一个模型应对多
早上真好
·
2024-02-11 18:26
InternLM大模型实战
大数据
语言模型
【书生浦语大模型全链路开源体系】
书生浦语大模型全链路开源体系一、背景二、书生·浦语大模型的发展2.1、书生·浦语大模型的开源历程2.2、书生·浦语大模型的系列三、从模型到应用四、书生·浦语全链条开源开放体系4.1、数据(书生·万卷)4.2、预训练(
InternLM
-Train
G_Sheep
·
2024-02-11 18:54
InternLM学习
语言模型
人工智能
书生·浦语大模型全链路开源体系
书生大模型系列:性能优异,
InternLM
-20
Kerin637
·
2024-02-11 18:24
大模型
书生·浦语大模型第三课作业
复现课程知识库助手搭建过程(截图)进阶作业:选择一个垂直领域,收集该领域的专业资料构建专业知识库,并搭建专业问答助手,并在OpenXLab上成功部署(截图,并提供应用地址)基础作业:1LangChain相关环境配置在已完成
InternLM
查里王
·
2024-02-11 02:12
python
开发语言
轻松玩转书生·浦语大模型趣味Demo
轻松玩转书生·浦语大模型趣味Demo的第二节课主要讲解了如何使用三个重要的Demo,即
InternLM
-Chat-7B智能对话Demo、Lagent智能体工具调用Demo、以及浦语・灵笔图文理解创作Demo
查里王
·
2024-02-09 02:30
自然语言处理
基于
InternLM
和 LangChain 搭建你的知识库
第三节课《基于
InternLM
和LangChain搭建你的知识库》主要讲述了如何使用RAG(检索增强生成器)范式和LangChain开源框架建立知识库应用。
查里王
·
2024-02-09 02:30
langchain
XTuner 大模型单卡低成本微调实战
微调实践:使用XTuner和
InternLM
-Chat来微调一个个人小助手应用
查里王
·
2024-02-09 02:30
深度学习
人工智能
书生·浦语大模型第二次作业
一、基础作业:1、使用
InternLM
-Chat-7B模型生成300字的小故事。
Adela0546
·
2024-02-09 02:59
语言模型
书生·浦语大模型第二课作业
基础作业:使用
InternLM
-Chat-7B模型生成300字的小故事(需截图)。
查里王
·
2024-02-09 02:29
人工智能
LLM_Home_Work_Day5
基础作业:使用LMDeploy以本地对话、网页Gradio、API服务中的一种方式部署
InternLM
-Chat-7B模型,生成300字的小故事(需截图)
Rigel9527
·
2024-02-07 13:29
自然语言处理
语言模型
LLM_Home_Work_Day6
基础作业使用OpenCompass评测
InternLM
2-Chat-7B模型在C-Eval数据集上的性能
Rigel9527
·
2024-02-07 12:59
人工智能
LLM_Home_Work_Day3
基础作业:复现课程知识库助手搭建过程(截图)文档:https://github.com/
InternLM
/tutorial/blob/main/langchain/readme.md#5-部署-web-demo
Rigel9527
·
2024-02-07 12:58
自然语言处理
语言模型
书生浦语大模型实战营笔记作业汇总
书生浦语大模型实战营第三次课笔记-CSDN博客书生浦语大模型实战营第三次课作业-CSDN博客第四课:书生浦语大模型实战营第四次课笔记-CSDN博客书生浦语大模型实战营第四次课作业-使用XTuner微调
InternLM
-Chat
睡觉爱数羊
·
2024-01-31 03:56
书生浦语大模型实战营
笔记
人工智能
自然语言处理
书生·浦语大模型实战营汇总
书生·浦语大模型实战营第一课:书生·浦语大模型全链路开源体系视频,笔记第二课:浦语大模型趣味Demo视频,文档,笔记,作业第三课:基于
InternLM
和LangChain搭建你的知识库视频,文档,笔记,
灬烖灬
·
2024-01-31 03:55
语言模型
大模型学习之书生·浦语大模型笔记汇总
笔记汇总地址:大模型学习之书生·浦语大模型1——全链路开源体系大模型学习之书生·浦语大模型2——趣味Demo大模型学习之书生·浦语大模型3——基于
InternLM
和LangChain搭建知识库大模型学习之书生
uncle_ll
·
2024-01-31 03:25
#
书生·浦语大模型
学习
笔记
大模型
LLM
浦语大模型
【书生·浦语大模型实战营】学习笔记目录
【书生·浦语大模型实战营01】《书生·浦语大模型全链路开源体系》【书生·浦语大模型实战营02】《轻松玩转书生·浦语大模型趣味Demo》学习笔记【书生·浦语大模型实战营03】《基于
InternLM
和LangChain
songyuc
·
2024-01-30 14:33
学习
笔记
大模型微调学习之旅③ — 基于
InternLM
和 LangChain 搭建你的知识库
目录一、大模型开发范式1、通用大模型的局限性:2、解决通用大模型范式的两种解决思路:①检索增强生成(RAG)②延呈传统自然语言处理算法微调(Finetune)二、LangChain简介①什么是LangChain②LangChain也提供了多种功能和组件,以简化语言模型的开发和部署过程。组件包括:③核心模块:④基于LangChain构建RAG应用三、构建向量数据库①基于个人数据构建知识向量库四、搭建
Hoo K
·
2024-01-30 08:08
学习
大模型学习与实践笔记(十四)
使用OpenCompass评测
InternLM
2-Chat-7B模型使用LMDeploy0.2.0部署后在C-Eval数据集上的性能步骤1:下载
internLM
2-Chat-7B模型,并进行挂载以下命令将
AllYoung_362
·
2024-01-30 00:05
人工智能
langchain
AIGC
llama
深度学习
【LMDeploy 大模型量化部署实践】学习笔记
参考学习教程【LMDeploy的量化和部署】理论作业使用LMDeploy以本地对话、网页Gradio、API服务中的一种方式部署
InternLM
-Chat-7B模型,生成300字的小故事本地对话API服务
尘汐筠竹
·
2024-01-29 05:46
学习
笔记
【OpenCompass 大模型评测】学习笔记
参考学习教程【大模型评测教程】理论作业使用OpenCompass评测
InternLM
2-Chat-7B模型在C-Eval数据集上的性能
尘汐筠竹
·
2024-01-29 05:15
学习
笔记
XTuner复现
https://github.com/
InternLM
/tutorial/blob/main/xtuner/README.mdhttps://github.com/
InternLM
/tutorial/blob
cq99312254
·
2024-01-27 03:24
语言模型
算法
XTuner
InternLM
-Chat 个人小助手认知微调实践
1.概述目标:通过微调,帮助模型了解对自己身份方式:使用XTuner进行微调2.实操2.1微调环境准备参考:XTuner复现-CSDN博客#InternStudio平台中,从本地clone一个已有pytorch2.0.1的环境(后续均在该环境执行,若为其他环境可作为参考)#进入环境后首先bash#进入环境后首先bash#进入环境后首先bashbashcondacreate--namepersona
cq99312254
·
2024-01-27 03:54
语言模型
复现五 LMDeploy 的量化和部署
0基础知识一步一步跟着教程复现第五:LMDeploy的量化和部署复现一:轻松玩转书生·浦语大模型
internlm
-demo配置验证过程_ssh-cng-l7860:127.0.0.1:6006root@
cq99312254
·
2024-01-27 03:24
语言模型
降本增效及大模型优化调研总结[小工蚁视频调研]
智谱AIGLM4和
InternLM
2国产大语言模型更新迭代#小工蚁-小工蚁创始人-小工蚁创始人-哔哩哔哩视频(bilibili.com)Glm4可调研国产首个开源MoE大
河南-殷志强
·
2024-01-27 02:58
人工智能
深度学习
语言模型
OpenCompass 大模型评测笔记
视频地址:https://www.bilibili.com/video/BV1Gg4y1U7uc/github文档地址:https://github.com/
InternLM
/tutorial/blob
到di有冇
·
2024-01-26 10:26
大模型学习
笔记
上一页
1
2
3
4
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他