E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
torch验证码
Py
torch
实现一个简单DeepSeek中的MLA多头潜在注意力架构
首先,MLA是什么?可能是指Multi-HeadLocalAttention,即多头局部注意力,这种机制通常用于减少计算量,特别是在处理长序列时,每个头只关注局部区域。比如每个token只注意其周围的一定窗口内的其他token,而不是全局。这可能与传统的Transformer中的滑动窗口或局部注意力类似。接下来,我需要考虑如何将局部注意力与多头机制结合。每个注意力头可能有不同的局部窗口,或者共享相
DukeYong
·
2025-02-13 19:38
DeepSeek
Deepseek的MOE架构中ColumnParallelLinear()是怎么实现的
我记得在Py
Torch
中,模型并行通常涉及到将模型的层分布到不同的GPU上。ColumnParallelLinear可能指的是将线性层的列(即输出神经元)分布在多个设备上。
DukeYong
·
2025-02-13 18:00
架构
小白零基础学习深度学习之张量
1.张量Py
Torch
中的张量(Tensor)就是一种用来存储数据的“盒子”,这个盒子可以有不同的形状和大小,里面可以装各种数字。
爱理科的小王子
·
2025-02-13 17:53
学习
深度学习
人工智能
jmeter获取图片
验证码
-解密图片并识别
说明:关于图片
验证码
的处理方式有三种方法:一是让开发屏蔽
验证码
,二是让开发后端指定一个万能
验证码
,三是使用OCR工具进行图片
验证码
的解密及识别,推荐使用前两种方法最省事;OCRServer工具识别图片
验证码
weixin_38081382
·
2025-02-13 17:52
jmeter
深度学习-情感分析
以下将分别使用Py
Torch
和TensorFlow框架实现基于深度学习的情感分析,这里以影评的情感分析为例,数据集使用IMDB影评数据集。
小赖同学啊
·
2025-02-13 17:52
人工智能
深度学习
人工智能
神经网络常见激活函数 9-CELU函数
文章目录CELU函数+导函数函数和导函数图像优缺点py
torch
中的CELU函数tensorflow中的CELU函数CELU连续可微指数线性单元:CELU(ContinuouslyDifferentiableExponentialLinearUnit
亲持红叶
·
2025-02-13 15:37
神经网络常见激活函数
深度学习
机器学习
人工智能
数学建模
神经网络
python
大语言模型LLM代码:Py
Torch
库与ChatGLM模型
文章目录通过阅读大语言模型的代码,熟悉并理解Py
Torch
大语言模型LLM代码:Py
Torch
库与ChatGLM模型大语言模型中的Py
Torch
ChatGLM3-6B模型代码ChatGLMModel类总览
North_D
·
2025-02-13 12:48
大语言模型LLM
语言模型
pytorch
人工智能
python
深度学习
自然语言处理
大语言模型
使用亚马逊针对 Py
Torch
和 MinIO 的 S3 连接器进行模型检查点处理
2023年11月,Amazon宣布推出适用于Py
Torch
的S3连接器。适用于Py
Torch
的AmazonS3连接器提供了专为S3对象存储构建的Py
Torch
数据集基元(数据集和数据加载器)的实现。
MinIO分布式存储
·
2025-02-13 11:37
分布式存储
MinIO
pytorch
百度云
人工智能
使用 Python 和 LabelMe 实现图片
验证码
的自动标注
文章目录使用Python和LabelMe实现图片
验证码
的自动标注环境准备必备工具安装依赖实现自动标注核心代码实现核心逻辑解析图像预处理OCR识别生成标注文件运行结果扩展与优化模型适配批量处理标注类型扩展总结测试使用
XMYX-0
·
2025-02-13 05:51
python
开发语言
大模型笔记:py
torch
实现MOE
0导入库import
torch
import
torch
.nnasnnimport
torch
.nn.functionalasF1专家模型#一个简单的专家模型,可以是任何神经网络架构classExpert(nn.Module
UQI-LIUWJ
·
2025-02-12 23:37
pytorch学习
笔记
pytorch
人工智能
用Llama Factory单机多卡微调Qwen2.5时报
torch
.OutOfMemoryError: CUDA out of memory的解决办法
接着上一篇博客:在Ubuntu上用LlamaFactory命令行微调Qwen2.5的简单过程_llamafactory微调qwen2.5-CSDN博客如果需要微调比较大的模型,例如Qwen2.5-32B,那么在两个3090上可能不够用,这里我用A6000×4的服务器。但如果仿照上篇博客,直接运行:llamafactory-clitrainexamples/train_qlora/qwen_lora
蛐蛐蛐
·
2025-02-12 22:27
大模型
科研工具
Python技巧
llama
人工智能
大模型
torch
.rand(2,3,4,5)
a8=
torch
.rand(2,3,4,5)print(a8)#Outtensor([[[[0.3639,0.1432,0.1801,0.4668,0.6552],[0.3435,0.7637,0.8160,0.1193,0.5253
小句
·
2025-02-12 21:21
pytorch
pytorch
mnist数据集下载及使用
#mnist数据集在百度云盘里#链接:https://pan.baidu.com/s/1ca2rL2-0_JLtnH1YQ3otvA#提取码:uq3d#py
torch
自带数据集的使用import
torch
visionfrom
torch
vision.datasetsimportMNISTmnist
小句
·
2025-02-12 21:21
pytorch
机器学习
py
torch
笔记:mm VS bmm
1bmm(batchmatrixmultiplication)批量矩阵乘法,用于同时处理多个矩阵的乘法bmm的输入是两个3D张量(batchofmatrices),形状分别为(batch_size,n,m)和(batch_size,m,p)bmm输出的形状是(batch_size,n,p)2mmmm是标准的矩阵乘法操作,用于两个二维矩阵相乘mm仅适用于2D张量,输入的形状分别是(n,m)和(m,p
UQI-LIUWJ
·
2025-02-12 20:13
pytorch学习
pytorch
笔记
人工智能
神经网络常见激活函数 7-ELU函数
文章目录ELU函数+导函数函数和导函数图像优缺点py
torch
中的ELU函数tensorflow中的ELU函数ELU指数线性单元:ELU(ExponentialLinearUnit)函数+导函数ELU函数
亲持红叶
·
2025-02-12 19:30
神经网络常见激活函数
深度学习
机器学习
人工智能
数学建模
神经网络
【Py
Torch
】transpose() 和 permute() 函数:交换张量维度
在Py
Torch
中,transpose和permute都是用于调整张量维度的函数。它们在很多深度学习任务中非常有用,尤其是在处理张量维度和进行矩阵操作时。
彬彬侠
·
2025-02-12 15:38
PyTorch基础
transpose
permute
调整张量维度
pytorch
python
【ai】李沐 动手深度学学v2 环境安装:anaconda3、pycharm、d2
cuda-toolkitcuda_12.5.0_windows_network.exe官方课程网站第二版资源下载release版本pycharm版本李沐【动手学深度学习v2Py
Torch
版】课程笔记CUDA
等风来不如迎风去
·
2025-02-12 15:05
AI入门与实战
人工智能
【权重小技巧(2)】模型权重文件总结: .bin、.safetensors、.pt的保存、加载方法一览
.bin文件通常是通过
torch
.save(state_dict)来保存的,因此需要使用
torch
.load()进行加载。
多恩Stone
·
2025-02-12 11:14
编程学习
模型部署
人工智能
pytorch
python
机器学习
AI
多个tensor合并成一个——四个三维tensor合成一个四维tensor——四个[3,512,1024]变成[4,3,512,1024]
四个[3,512,1024]变成[4,3,512,1024]:——先将[3,512,1024]用
torch
.unsqueeze(),变成[1,3,512,1024]——用for循环,分别对四个三维tensor
captain飞虎大队
·
2025-02-12 11:43
python
pytorch
深度学习
py
torch
深度学习模型推理和部署、py
torch
&ONNX&tensorRT模型转换以及python和C++版本部署
目录1.采用py
torch
进行推理2.采用onnx进行推理2.1py
torch
转换为onnx2.2onnx推理3.采用tensorrt进行推理(python环境)3.1onnx转engine文件3.2tensorrt
机械心
·
2025-02-12 10:40
深度学习
python
pytorch
大模型中 .safetensors 文件、.ckpt文件和.pth以及.bin文件区别、加载和保存以及转换方式
目录模型格式介绍加载以及保存-加载.safetensors文件:-保存/加载.pth文件:-保存/加载.ckpt文件:-处理.bin文件:模型之间的互相转换py
torch
-lightning和py
torch
ckpt
telllong
·
2025-02-12 10:38
深度学习
python
深度学习
人工智能
基于Py
Torch
框架实现,展示如何使用ResNet50进行特征提取,并结合MMD用于领域适应,迁移学习在轴承故障诊断中的应用
基于Py
Torch
框架实现,展示如何使用ResNet50进行特征提取,并结合MMD用于领域适应,迁移学习在轴承故障诊断中的应用_迁移学习轴承诊断DAN:ResNet50-MMD以下文字及代码仅供参考。
QQ_767172261
·
2025-02-12 07:15
轴承类
pytorch
迁移学习
人工智能
Java实现kaptcha网页
验证码
验证,你会吗???
在做关于SSM项目之商铺系统时,了解到了kaptcha实现网页
验证码
验证,感觉就很有趣,所以便开始学习记录了起来|ू・ω・`),复制粘贴即可用。
一个爱运动的程序员
·
2025-02-11 18:35
Java基础
java
后端
spring
boot
常用工具类之使用kaptcha生成
验证码
验证码
的作用防止恶意破解密码、刷票、论坛灌水、刷页。
我是一个小仓鼠01
·
2025-02-11 18:35
常用工具类
学习
java
开发语言
torch
.nn.LSTM介绍
torch
.nn.LSTM是Py
Torch
提供的一个高级封装,用于构建长短时记忆网络(LSTM)。
qq_27390023
·
2025-02-11 17:02
lstm
深度学习
机器学习
pytorch
python
SpringBoot 整合 kaptcha实现
验证码
SpringBoot整合kaptcha实现
验证码
前言一、添加依赖二、配置三、
验证码
的生成1.后端处理2.前端处理3.验证:四、
验证码
的验证1.后端处理2.前端处理3.验证五、总结前言谈起
验证码
这个话题,
Pluto_jie
·
2025-02-11 17:59
Java
java
captcha
Py
torch
学习之路(2)
(PS:请先阅读Py
torch
学习之路(1)开篇注释)【因为我也是小菜鸟】Py
torch
基础知识1.张量(1)简介0维张量——标量(数字)1维张量——向量2维张量——矩阵3维张量——时间序列数据股价文本数据单张彩色图片
AAAx1anyu
·
2025-02-11 14:40
Pytorch学习之旅
pytorch
学习
人工智能
使用rknn进行facenet部署
文章目录开源仓库pth转onnxnetron可视化onnx转rknnC++实现开源仓库https://github.com/bubbliiiing/facenet-py
torch
pth转onnx修改facenet
点PY
·
2025-02-11 08:58
深度学习模型部署
rknn
人脸识别
【Python】成功解决ModuleNotFoundError: No module named ‘openpyxl‘
博主档案:广东某985本硕,SCI顶刊一作,深耕深度学习多年,熟练掌握Py
Torch
框架。
高斯小哥
·
2025-02-11 07:14
BUG解决方案合集
python
新手入门
学习
神经网络常见激活函数 6-RReLU函数
文章目录RReLU函数+导函数函数和导函数图像优缺点py
torch
中的RReLU函数tensorflow中的RReLU函数RReLU随机修正线性单元:RandomizedLeakyReLU函数+导函数RReLU
亲持红叶
·
2025-02-10 22:40
神经网络常见激活函数
神经网络
人工智能
深度学习
机器学习
pytorch
激活函数
py
torch
人脸修复_修复py
torch
数据加载器
py
torch
人脸修复黑客数据科学工作流程(Hackingdatascienceworkflows)Icameacrossaninterestingproblemrecently.AteammateandIwereworkingonaseriesofDeepLearningexperimentsthatinvolvedanimagedatasetthatspannedhundredsofgigab
weixin_26729375
·
2025-02-10 19:18
人工智能
python
java
人脸识别
【Py
torch
函数】Py
Torch
随机数生成全解析 |
torch
.rand()家族函数使用指南
Py
Torch
随机数生成全解析|
torch
.rand()家族函数使用指南一、核心函数参数详解Py
Torch
提供多种随机数生成函数(注意:无直接
torch
.random()函数),以下是常用函数及参数:1️⃣
torch
.rand
深度求索者
·
2025-02-10 18:09
pytorch
人工智能
python
深度学习-医学影像诊断
以下以使用深度学习进行医学影像(如X光片)的肺炎诊断为例,为你展示基于Py
Torch
框架的代码实现。我们将构建一个简单的卷积神经网络(CNN)模型,使用公开的肺炎X光影像数据集进行训练和评估。
小赖同学啊
·
2025-02-10 18:37
人工智能
深度学习
人工智能
动手学深度学习:3.9 多层感知机的从零开始实现
import
torch
importnumpyasnpimportsyssys.path.append("..")importd2lzh_py
torch
asd2lCopytoclipboardErrorCopied3.9.1
AI_Younger_Man
·
2025-02-10 17:36
#
深度学习
深度学习
神经网络
python
机器学习
VSCODE调试显示变量维度
在代码开头写入:import
torch
defcustom_repr(self):returnf'{{Tensor:{tuple(self.shape)}}}{original_repr(self)}'original_repr
anchor_v
·
2025-02-10 12:52
python
深度学习
vscode
生成
验证码
的工具类
packagecom.htc.utils;importorg.springframework.stereotype.Component;importjavax.imageio.ImageIO;importjavax.servlet.http.HttpServletResponse;importjavax.servlet.http.HttpSession;importjava.awt.*;impor
落晚_
·
2025-02-10 05:39
java
一文解释nn、nn.Module与nn.functional的用法与区别
个人主页:十二月的猫-CSDN博客系列专栏:零基础入门Py
Torch
框架_十二月的猫的博客-CSDN博客十二月的寒冬阻挡不了春天的脚步,十二点的黑夜遮蔽不住黎明的曙光目录1.前言2.
Torch
.nn库3
十二月的猫
·
2025-02-10 03:23
零基础入门PyTorch框架
python
pytorch
人工智能
AI学习专题(一)LLM技术路线
)数学基础线性代数(矩阵、特征值分解、SVD)概率论与统计(贝叶斯定理、极大似然估计)最优化方法(梯度下降、拉格朗日乘子法)编程&框架Python(NumPy、Pandas、Matplotlib)Py
Torch
王钧石的技术博客
·
2025-02-10 01:39
大模型
人工智能
学习
ai
解决TypeError: __init__() takes 1 positional argument but 2 were given
问题描述:如下图,在使用
torch
.nn.Sigmoid非线性激活时报错源代码:classtestrelu(nn.Module):def__init__(self):super().
求不脱发
·
2025-02-10 01:07
Pytorch
深度学习
人工智能
AI大模型:一文搞懂大模型文件存储格式新宠GGUF
比如:目前最流行的AI框架Py
Torch
使用pickle格式存储模型权重文件,还有Huggingface提出的Safetensors格式。
Llama-Turbo
·
2025-02-10 01:37
人工智能
llama
自然语言处理
知识图谱
语言模型
LLM
大模型
解决Py
torch
的cuDNN error: CUDNN_STATUS_NOT_INITIALIZED
目录1.问题报错2.可能原因2.1GPU内存不足2.2缓存问题2.3CUDA和Py
torch
版本不兼容2.4CUDA和cuDNN版本不兼容3.验证CUDA是否可用4.参考1.问题报错在使用GPU加速模型训练的过程中经常会遇到这样的错误
Jurio.21
·
2025-02-10 00:31
Python
科研经验
Pytorch
pytorch
人工智能
python
GPU
CUDA
cuDNN
【Py
Torch
】【CUDA】深入了解 Py
Torch
中的 CUDA 和 cuDNN 版本及 GPU 信息
目录引言一、环境准备1.1重要的环境依赖1.2安装CUDA和cuDNN1.3示例安装步骤1.4Py
Torch
、CUDA和cuDNN版本兼容性表二、检查CUDA和cuDNN版本三、检查GPU可用性四、测试
丶2136
·
2025-02-10 00:27
#
cuda
AI
#
pytorch
pytorch
人工智能
gpu算力
torch
.nn.CrossEntropyLoss()的一些小细节(原理和数学,softmax与dim,ignore_index,报错:0D or 1D target tensor expecte)
目录关于
torch
.nn.CrossEntropyLoss()数学原理关于熵数学公式py
torch
中的
torch
.nn.CrossEntropyLoss()
torch
.nn.CrossEntropyLoss
老肝犯
·
2025-02-09 22:49
人工智能
深度学习
python
机器学习
神经网络
深度学习笔记——py
torch
构造数据集 Dataset and Dataloader
系列文章目录机器学习笔记——梯度下降、反向传播机器学习笔记——用py
torch
实现线性回归机器学习笔记——py
torch
实现逻辑斯蒂回归Logisticregression机器学习笔记——多层线性(回归
旺仔喔喔糖
·
2025-02-09 22:19
机器学习
笔记
pytorch
人工智能
深度学习
【Py
torch
实战教程】让数据飞轮转起来:Py
Torch
Dataset与Dataloader深度指南
文章目录让数据飞轮转起来:Py
Torch
Dataset与Dataloader深度指南一、为什么需要数据管理组件?
若北辰
·
2025-02-09 21:41
Pytorch实战教程
pytorch
人工智能
python
短信平台的api调用似乎很简单--一个函数就能发送
验证码
一下内容来源于千寻云通讯python版本可以看到整个调用过程似乎就是简单到使用一个函数就可以发送短信:sender.send(短信内容)对于短信发送的编程更多的是自己从app端到服务端的编程,短信平台发送短信的部分几乎不用编程。我稍微比较了一下:还是不要用阿里云发送短信了:这个api看起来很复杂-----》先把自己这个业务逻辑给他搞好
geniusNMRobot专家
·
2025-02-09 20:05
apache
django
微调大模型【已成功】
pipinstall"unsloth[colab-new]@git+https://github.com/unslothai/unsloth.git"#Wehavetocheckwhich
Torch
versionforXformers
捏塔
·
2025-02-09 18:20
python
ai
人工智能-A* 算法与机器学习算法结合
代码实现importnumpyasnpimportheapqimport
torch
import
torch
.nnasnnimp
小赖同学啊
·
2025-02-09 12:11
人工智能
人工智能
算法
机器学习
关于tp3.2实现redis做图形
验证码
的经验总结
最近遇到一个问题,就是跨域会丢失session的问题,然后一开始想到的就是用token做,但是后来做忘记密码这个功能,涉及到的类文件库里面有session,会丢失导致验证一直失败,思路就变了。也是查阅了很多资料,借鉴了很多前辈的经验,经过不断测试,终于解决了这个问题。这里是把tp自带的verify类改写成redis方式实现的。这个可以查看我上一篇文章。一开始是redis类没有建立。然后我看了下,T
猿粪已尽
·
2025-02-09 08:09
笔记
后端
图形验证码
redis
TensorFlow 与 Py
Torch
的直观区别
背景TensorFlow与Py
Torch
都是比较流行的深度学习框架。tf由谷歌在2015年发布,而Py
Torch
则是FacecbookAI研究团队2016年在原来
Torch
的基础上发布的。
Cacciatore->
·
2025-02-09 06:54
tensorflow
pytorch
人工智能
python
机器学习
深度学习
上一页
1
2
3
4
5
6
7
8
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他