E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
LLM应用开发
LLM
大模型学习:
LLM
大模型推理加速
文Mia/叶娇娇推理优化部署、推理加速技术是现在,尤其在大模型时代背景之下,消费级GPU和边端设备仍为主流的状况下。推理加速是实际工程落地的首要考虑因素之一,今天笔者来聊聊涉及到的可以实现大模型推理加速的技术。目录一、模型优化技术二、模型压缩技术三、硬件加速四、GPU加速五、模型并行化和分布式计算技术一、模型优化学习常见的模型优化技术,如模型剪枝、量化、分片、蒸馏等,掌握相应的实现方法。1.1剪枝
七七Seven~
·
2024-09-12 17:45
学习
人工智能
transformer
深度学习
llama
大模型书籍推荐:从头开始构建一个大型语言模型(含PDF免费)《Build a Large Language Model (From Scratch)》
在这本富有洞察力的书中,畅销书作家塞巴斯蒂安·拉施卡(SebastianRaschka)将指导你逐步创建自己的
LLM
,用清晰的文字、图表和示例解释每个阶段。
AI女王
·
2024-09-12 15:58
语言模型
pdf
人工智能
AI大模型
大模型
大语言模型
书籍
Kotlin 极简小抄 P1(变量与常量、基本数据类型、流程控制)
KotlinKotlin由JetBrains开发,是一种在JVM(Java虚拟机)上运行的静态类型编程语言Kotlin旨在提高开发者的编码效率和安全性,同时保持与Java的高度互操作性Kotlin是Android
应用开发
的首选语言
我命由我12345
·
2024-09-12 12:42
Kotlin
-
极简小抄
kotlin
开发语言
android
后端
学习
java
java-ee
腾讯Libpag研究1(扫盲和介绍)
动画库扫盲做
应用开发
的我们都知道,可以利用系统提供的动画API实现各种动效,但是这种办法效率很低,并且无法移植,多端都需要自己开发一遍。并且开发出来的效果和设计师需要的多多少少会有一些差异,一开始的
鱼塘鱼汤
·
2024-09-12 07:40
多媒体开发
Android移动开发
动画
前端
css3
LAMP架构介绍及配置
1.LAMP简介与概述1.1LAMP平台概述LAMP架构是目前成熟的企业网站应用模式之一,指的是协同工作的一整台系统和相关软件,能够提供动态web站点服务及其
应用开发
环境LAMP是一个缩写词,具体包括Linux
戒为良药~
·
2024-09-12 05:27
架构
本地部署大语言模型详细讲解
前言:本地部署大语言模型(
LLM
,LargeLanguageModel)需要相应的硬件资源和技术栈支持,如GPU计算能力、大量内存、存储空间,以及模型部署框架。
程序员小羊!
·
2024-09-12 04:25
杂文
语言模型
人工智能
自然语言处理
HarmonyOS NEXT
应用开发
详解:基于华为开发者联盟的实践
HarmonyOSNEXT
应用开发
详解:基于华为开发者联盟的实践HarmonyOSNEXT是华为自研的操作系统,作为HarmonyOS的最新版本,旨在推动万物互联时代的全场景生态发展。
代码伐木匠
·
2024-09-12 03:15
笔记本
华为
harmonyos
Vision Pro的增强视觉:企业级Unity插件包实现主摄像头访问
在AR和VR技术的快速发展中,Unity作为跨平台游戏和
应用开发
的首选引擎,其插件生态的丰富性一直是开发者们关注的焦点。
花生糖@
·
2024-09-12 00:52
苹果眼镜(Vision
apple
vision
pro
AI
unity
LLM
系列(4):通义千问7B在Swift/DeepSpeed上微调秘诀与实战陷阱避坑指南
LLM
系列(4):通义千问7B在Swift/DeepSpeed上微调秘诀与实战陷阱避坑指南阿里云于2023年8月3日开源通义千问70亿参数模型,包括通用模型Qwen-7B以及对话模型Qwen-7B-Chat
汀、人工智能
·
2024-09-12 00:21
LLM工业级落地实践
人工智能
自然语言处理
prompt
Swifi
DeepSpeed
通义千问
Qwen
鸿蒙
应用开发
-做一个随机转盘
使用鸿蒙三方库mpchart可以很方便地做一个滚动转盘,可以做随机选择转盘中的任一项。实现效果如下图所示:实现代码如下:import{ColorTemplate,JArrayList,MPPointF,PieChart,PieChartModel,PieData,PieDataSet,PieEntry}from'@ohos/mpchart';importanimator,{AnimatorOpti
阿康2024
·
2024-09-12 00:18
鸿蒙应用开发
harmonyos
华为
Java框架-mybatis-基础
或者说是可被
应用开发
者定制的应用骨架。
KeepStruggling
·
2024-09-11 22:35
mybatis
Java
洞悉LangChain:LangChain工程化设计,从API到智能Agent的全面探索
当然也可以问一下AI:通义千问2.5:LangChain是一个开源框架,专注于简化开发者利用大型语言模型(
LLM
)创建应用程序的过程。这些大型语言模型,如GPT-3
汀、人工智能
·
2024-09-11 19:16
AI
Agent
LLM技术汇总
langchain
人工智能
自然语言处理
大模型
Agent
LangGraph
AI
Agent
威斯康星大学教授的这本书把大模型(
LLM
)一次性讲明白了!
在当今人工智能技术飞速发展的时代,大型语言模型(
LLM
)作为聊天机器人、文本生成和理解等应用的核心,已经成为研究和商业领域关注的焦点。
AI小白龙*
·
2024-09-11 18:38
大模型
人工智能
langchain
transformer
LLM
ai大模型
大模型微调
大模型算法岗,面试百问百答,7天3个offer拿到手!
1.RAG技术体系的总体思路数据预处理->分块(这一步骤很关键,有时候也决定了模型的效果)->文本向量化->query向量化->向量检索->重排->query+检索内容输入
LLM
->输出2.使用外挂知识库主要为了解决什
爱喝白开水a
·
2024-09-11 14:44
算法
面试
职场和发展
ai大模型
大语言模型
LLM
大模型面试
深度学习速通系列:LoRA微调是什么
LoRA微调(Low-RankAdaptation)是一种用于大型预训练语言模型(
LLM
)的高效微调技术。
Ven%
·
2024-09-11 11:47
深度学习速通系列
人工智能
深度学习
python
机器学习
nlp
Linux
应用开发
(15):Linux IO复用技术:epoll详细讲解
目录1.epoll概要2.优点3.工作模式及API(1)工作模式(2)API介绍4.触发类型(1)LT(水平触发,默认)(2)ET(边缘触发,EPOLLET)(3)EPOLLONESHOT(一次边沿触发)5.EPOLLOUT6.当读取数据时,有新数据到来的情况。7.使用过程中的若干问题(1)为什么一般要配合非阻塞使用?(2)什么情况下,LT可以配合阻塞I/O?8.应用场景(1)水平触发(Level
赛先生.AI
·
2024-09-11 10:14
Linux应用开发(C++)
linux
深入理解Kotlin中的异步网络请求处理
在现代移动和Web
应用开发
中,异步网络请求处理是核心功能之一。Kotlin,作为一种现代、简洁且功能强大的编程语言,提供了多种方式来处理异步任务,使得开发者能够编写出更加高效和响应迅速的应用。
小白学大数据
·
2024-09-11 10:39
kotlin
开发语言
android
爬虫
LLAMA Factory: 简洁高效的大语言模型训练平台
LLAMAFactory:简洁高效的大语言模型训练平台LLaMA-Factory易于使用的
LLM
微调框架(LLaMA,BLOOM,Mistral,百川,Qwen,ChatGLM)。
俞纬鉴Joshua
·
2024-09-11 08:57
探索Plaid 2.0:重塑Android应用的架构之美
inspirationaswellasbeinganexampleofimplementingmaterialdesign.项目地址:https://gitcode.com/gh_mirrors/pl/plaid在移动
应用开发
的世界里
薄或默Nursing
·
2024-09-11 07:54
Java SE 6 新特性: XML API 与 Web 服务
JavaSE6做为一个开发平台,针对不同的
应用开发
需求,提供了各种各样的技术框架。XML处理框架是JDK6的重要组成部分之一。它为应用程序开发人员提供了一个统一的XML处理API。
love_baobao
·
2024-09-11 03:52
Java基础类
xml
java
web
api
框架
import
DayThirteen 笔记
returna.second>b.second;//从大到小排序}intmain(){sort(danjia,danjia+n,cmp);}记录一个求幂函数的二分算法LLbineryPow(LLa,LLb,
LLm
隔壁班胡胖胖
·
2024-09-11 02:17
这个七月
llama.cpp本地部署大模型
llama.cpp是一个C++库,用于简化
LLM
推理的设置,它使得在本地机器上运行大模型(GGUF格式)成为可能。
张兆坤的那些事
·
2024-09-11 00:00
大模型
llama.cpp
【AI大模型
应用开发
】【LangChain系列】9. 实用技巧:大模型的流式输出在 OpenAI 和 LangChain 中的使用
大家好,我是同学小张,日常分享AI知识和实战案例欢迎点赞+关注,持续学习,持续干货输出。+v:jasper_8017一起交流,一起进步。微信公众号也可搜【同学小张】本站文章一览:当大模型的返回文字非常多时,返回完整的结果会耗费比较长的时间。如果等待大模型形成完整的答案再展示给用户,明显会给用户不好的体验。所以,现在市面上大多数的AI应用,在给用户结果时,都是以流式输出的方式展示给用户的。所谓的流式
同学小张
·
2024-09-10 23:22
大模型
人工智能
langchain
gpt
笔记
经验分享
agi
llm
在网页中的流式输出(langchain与streamlit库)
一、手动进行流式输出
llm
本身是支持在终端流式输出的,以ollama为例
llm
=Ollama(base_url="http://localhost:11434",model="qwen",callback_manager
格瑞Lxf
·
2024-09-10 23:22
langchain
c#视觉
应用开发
中如何使用Emgu CV在C#中进行图像处理?
microPythonPython最小内核源码解析NI-motion运动控制c语言示例代码解析python编程示例系列python编程示例系列二python的Web神器Streamlit如何应聘高薪职位EmguCV是OpenCV的.NET包装器,可以让开发者在.NET语言(如C#)中使用OpenCV的功能进行图像处理。在进行图像处理时,EmguCV提供了丰富的API可以使用。以下是使用EmguCV
openwin_top
·
2024-09-10 22:51
C#视觉应用开发问题系列
c#
图像处理
开发语言
下一代软件架构——SOA
2002年12月,Gartner提出SOA是“现代
应用开发
领域最重
CSDN_document
·
2024-09-10 21:11
soa
企业应用
web
中间件
weblogic
设计模式
Spring Boot详解
1.基本概念:SpringBoot是一个用于简化Spring
应用开发
的框架。它通过提供预配置的环境和一组开箱即用的功能,帮助开发人员快速构建和部署基于Spring的应用程序。
GG编程
·
2024-09-10 20:35
spring
boot
数据库
mysql
DataBinding-Android JetpacK 组件之一
一、DataBinding简介在传统的Android
应用开发
中,布局文件通常只负责应用界面的布局工作,如果需要实现页面交互就需要调用setContentView()将Activity、fragment和
Mac Zhu
·
2024-09-10 18:13
android
jetpack
android
大模型
LLM
面试常见算法题-包括Attention和Transformer常见面试题
哪些因素会导致
LLM
的偏见?什么是思维链(CoT)提示?Tokenizer的实现方法及原理解释一下大模型的涌现能力?解释langchainAgent的概念langchain有哪些替代方案?
剑圣土豆
·
2024-09-10 15:57
算法面试
大模型学习
自然语言处理
transformer
算法
nlp
自然语言处理
面试
深度学习
人工智能
中间件的学习理解总结
目录一、定义与作用二、主要类型数据库中间件远程过程调用中间件面向消息的中间件事务处理中间件三、特点与优势独立性高效性可扩展性可靠性四、应用场景企业应用集成分布式系统电子商务移动
应用开发
五、数据库中间件功能细节
DCDDDDcccc
·
2024-09-10 13:14
中间件
学习
深入解析五大
LLM
可视化工具:Langflow、Flowise、Dify、AutoGPT UI 和 AgentGPT
近年来,大语言模型(
LLM
)技术的迅猛发展推动了智能代理(Agent)应用的广泛应用。从任务自动化到智能对话系统,
LLM
代理可以极大简化复杂任务的执行。
花千树-010
·
2024-09-10 13:13
AI编程
langchain
机器学习
AI编程
python
机器人
鸿蒙(HarmonyOS)应用层开发知识点汇总
小编下面针对【鸿蒙】
应用开发
中的一些技术点做的整理归纳,希望下面的能够有效的帮助到大家:基础组件基础组件(text开发)基础组件(input开发)基础组件(button开发)基础组件(picker开发)
OH五星上将
·
2024-09-10 09:21
移动开发
鸿蒙开发
HarmonyOS
harmonyos
鸿蒙开发
移动开发
分布式
arkui
组件化
性能优化
如何在5个步骤中编写更好的ChatGPT提示
在本文中,我将向你展示如何编写提示,激励驱动ChatGPT的大语言模型(
LLM
)提供最佳答案。另请参阅:自从ChatGPT问世以来,我测试了几十个AI聊天机器人。
AI脑极体
·
2024-09-10 08:15
chatgpt
人工智能
Qt Creator
支持用户在Linux、Mac以及Windows系统上使用,它是QtGUI
应用开发
框架的SDK的一部分。该编辑器具有语法高亮和自动补全等功能。
morcake
·
2024-09-10 05:54
qt
开发语言
llama_index 官方文档阅读笔记 (持续更新版)
llama0.10.17版本阅读链接:LlamaIndexv0.10.17LlamaIndex是一个基于
LLM
的应用程序的数据框架,它受益于上下文增强。
皮卡丘ZPC
·
2024-09-10 02:02
AIGC
for
GPT
评分体系构架
笔记
llama
人工智能
语言模型
python web
应用开发
神器 入门十六
系列文章目录目录pythonweb
应用开发
神器入门一pythonweb
应用开发
神器入门二pythonweb
应用开发
神器入门三pythonweb
应用开发
神器入门四pythonweb
应用开发
神器入门五pythonweb
openwin_top
·
2024-09-09 21:21
python
前端
开发语言
web
streamlit
Java面试题--JVM大厂篇之深入解析G1 GC——革新Java垃圾回收机制
的区域划分及其作用1.伊甸园区(EdenRegion)2.幸存者区(SurvivorRegion)3.老年代区(OldGenerationRegion)二、区域划分的优势:三、图片解析:结束语:引言:在Java
应用开发
中
青云交
·
2024-09-09 17:22
Java大厂面试题
Java虚拟机(JVM)专栏
Java技术栈
java
jvm
开发语言
G1
GC的区域划分及其作用
伊甸园区
幸存者区
老年代区
引领AI PC浪潮,Arm人工智能创新应用大赛火热报名中
而正在如火如荼进行中的Arm人工智能创新应用大赛,则为敏锐的开发者探索AIPC
应用开发
掘金之路提供了平台。
高校俱乐部
·
2024-09-09 17:17
人工智能
qt
arm开发
【论文速读】| SEAS:大语言模型的自进化对抗性安全优化
基本信息原文作者:MuxiDiao,RumeiLi,ShiyangLiu,GuogangLiao,JingangWang,XunliangCai,WeiranXu作者单位:北京邮电大学,美团关键词:大语言模型(
LLM
云起无垠
·
2024-09-09 15:06
论文速读/精读
语言模型
安全
人工智能
使用Spring Boot集成Spring Data JPA和单例模式构建库存管理系统
引言在企业级
应用开发
中,数据库操作是非常重要的一环。SpringDataJPA提供了一种简化的方式来进行数据库交互,它使得开发者无需编写复杂的JPA代码就可以完成常见的CRUD操作。
潘多编程
·
2024-09-09 14:59
java
Spring Boot 注解探秘:HTTP 请求的魅力之旅
在SpringBoot
应用开发
中,处理Http请求是一项基础且重要的任务。SpringBoot通过提供一系列丰富的注解极大地简化了这一过程,使得定义请求处理器和路由变得更加直观与便捷。
coding侠客
·
2024-09-09 13:22
spring
boot
http
后端
java
Spring基础
以下是Spring基础知识的详细概述:Spring概述开源框架:Spring是一个开源的Java平台,广泛用于企业级
应用开发
。
zzzzzzzziu
·
2024-09-09 09:24
spring
java
后端
Java与服务网格(Service Mesh):构建高效微服务架构
服务网格作为一种解决方案,它通过提供一个专门的基础设施层来处理服务间通信,从而使得
应用开发
更加专注于业务逻辑而非通信细节。
爪哇抓挖_Java
·
2024-09-09 08:48
日常
架构
java
service_mesh
深入浅出Flutter(一)
Flutter简介Flutter是Google推出并开源的移动
应用开发
框架,主打跨平台、高保真、高性能。开发者可以通过Dart语言开发App,一套代码同时运行在iOS和Android平台。
小时候很拽的样子
·
2024-09-09 05:37
鸿蒙HarmonyOS
应用开发
之使用Node-API接口进行线程安全开发
场景介绍napi_create_threadsafe_function是Node-API接口之一,用于创建一个线程安全的JavaScript函数。主要用于在多个线程之间共享和调用,而不会出现竞争条件或死锁。例如以下场景:异步计算:如果需要进行耗时的计算或IO操作,可以创建一个线程安全的函数,将计算或IO操作放在另一个线程中执行,避免阻塞主线程,提高程序的响应速度。数据共享:如果多个线程需要访问同一
OpenHarmony_小贾
·
2024-09-09 04:20
移动开发
HarmonyOS
OpenHarmony
harmonyos
安全
华为
移动开发
物联网
APP
AI 内容创作:思考与实践
文章目录
LLM
与RAGLLMRAGRAG定制策略AI写作助手演示内容层次结构与内容深度优化有效的主题与段落结构内容深度的多样性与独特性提高文本逻辑性与连贯性模拟实践内容评测与优化迭代机制内容评测自动迭代优化机制评估指标模拟实践个性化写作与
三余知行
·
2024-09-09 00:22
「计算通践」
人工智能
内容创作
RAG
强化学习
协同
思考与实践
Django缓存
【图书介绍】《Django5企业级Web
应用开发
实战(视频教学版)》_django5企业级web
应用开发
实战(视频教学版)-CSDN博客《Django5企业级Web
应用开发
实战(视频教学版)》(王金柱)
夏天又到了
·
2024-09-09 00:20
Django
5框架Web应用开发
django
缓存
sqlite
Android
应用开发
架构之MVI:原理、流程与实战指南
前言在现代的Android
应用开发
中,构建可维护、可扩展且具备响应式特性的架构变得越来越重要。在本文中,我们将介绍一种新颖的架构模式:MVI(Model-View-Intent)。
小城哇哇
·
2024-09-08 22:40
低代码平台中的统一认证与单点登录(SSO):实现简化与安全的用户管理
引言在现代
应用开发
中,用户管理是一个关键环节。随着应用数量的增加,传统的用户认证和管理方式逐渐显得繁琐且不够高效。低代码平台的出现为解决这一问题提供了新的思路。
BPM_宏天低代码
·
2024-09-08 22:36
低代码
安全
GraphRAG入门:基本概念、应用场景及学习方法
有噪音或主题抽象的数据.二、GraphRAG能做什么GraphRAG能连接大量信息,回答普通难搜索难以解答的问题.她可以回答跨文档的问题,也能总结数据集的主要主题.三、GraphRAG的特点1.知识图谱提取:使用
llm
学习中的程序媛~
·
2024-09-08 18:41
学习方法
上一页
1
2
3
4
5
6
7
8
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他