pytorch微调bert

基于TSN的实时通信网络延迟评估技术

论文标题：ATSN-basedTechniqueforReal-TimeLatencyEvaluationinCommunicationNetworks作者信息：AlbertoMorato,ClaudioZunino
神一样的老师·2025-01-21 15:49

【Python】成功解决ValueError: zero-size array to reduction operation minimum which has no identity

zero-sizearraytoreductionoperationminimumwhichhasnoidentity个人主页：高斯小哥高质量专栏：Matplotlib之旅：零基础精通数据可视化、Python基础【高质量合集】、PyTorch
高斯小哥·2025-01-21 14:43

【深度学习】CrossEntropyLoss需要手动softmax吗？

之前用pytorch实现自己的网络时，使用CrossEntropyLoss的时候将网路输出经softmax激活层后再计算CrossEntropyLoss。答案：不需要调用了损
zz的学习笔记本·2025-01-21 14:07

AIGC - 深度洞察如何对大模型进行微调以满足特定需求

网罗开发（视频号同名）  大家好，我是展菲，目前在上市企业从事人工智能项目研发管理工作，平时热衷于分享各种编程领域的软硬技能知识以及前沿技术，包括iOS、前端、HarmonyOS、Java、Python等方向。在移动端开发、鸿蒙开发、物联网、嵌入式、云原生、开源等领域有深厚造诣。图书作者：《ESP32-C3物联网工程开发实战》图书作者：《SwiftUI入门，进阶与实战》超级个体：COC上海社区主理
网罗开发·2025-01-21 08:22

LLaMA-Factory 基于 LoRA 的 SFT 指令微调及相关功能梳理

1.数据准备微调数据的格式为Alpaca或ShareGPT格式，需进行以下步骤：自定义数据集转换：将原始数据集转换成指定格式（JSON格式）。
Ambition_LAO·2025-01-21 07:42

PyTorch 基础数据集：从理论到实践的深度学习基石

PyTorch作为当下最流行的深度学习框架之一，为开发者提供了丰富且强大的工具来处理数据集。本文将深入探讨PyTorch中的基础数据集，从深度学习中数据的重要性出发，详细介绍
那年一路北·2025-01-21 07:05

【深度学习】Pytorch：导入导出模型参数

PyTorch是深度学习领域中广泛使用的框架，熟练掌握其模型参数的管理对于模型训练、推理以及部署非常重要。本文将全面讲解PyTorch中关于模型参数的操作，包括如何导出、导入以及如何下载模型参数。
T0uken·2025-01-21 05:54

使用 PyTorch 从头开始构建您自己的 Llama 3 架构

https://www.aisolink.com/build-your-own-llama-3-architecture-from-scratch-using-pytorch全文摘要本文提供了一个详细的指南
子然在打码·2025-01-21 00:00

大模型的RAG微调与Agent：提升智能代理的效率与效果

目录编辑引言RAG模型概述检索阶段生成阶段RAG模型的微调数据集选择损失函数设计微调策略超参数调整RAG模型在智能代理中的应用客户服务信息检索内容创作决策支持：结论引言在人工智能的快速发展中，大型预训练模型
WeeJot·2025-01-21 00:57

OpenBayes 一周速览｜微软 Phi-4 发布，降低更多成本实现高效推理；Terra 时空数据集上线

公共资源速递5个数据集：Terra多模态时空数据集ChineseCouplets中文对联数据集AqueousSolubility无机化合物数据集HumanLikeDPODataset大模型对话微调数据集
·2025-01-20 23:55

企业落地大模型的路径选择：微调、RAG、提示词工程

一、大模型的特点1）不确定性与传统应用不同，模型的输出是不确定的，即使多次问它一样的问题，给出的结果也可能不一样。这种特性对于日常应用业务OK，但是如果要在企业内用来处理具体业务问题，就必须提高这个稳定性，否则影响生产经营，例如产线操作人员通过模型获取操作步骤或者参数，如果步骤或者数据不对可能会导致产品出现质量问题等等。2）静态性模型一旦训练好，就无法再补充数据，因此模型不会了解你自己组织内部的年
AGI-杠哥·2025-01-20 22:46

在PyTorch框架上训练ImageNet时，Dataloader加载速度慢怎么解决？

在深度学习领域，PyTorch因其灵活性和易用性而受到广泛欢迎。然而，在实际应用中，特别是在处理大规模数据集如ImageNet时，Dataloader的加载速度往往成为瓶颈。
cda2024·2025-01-20 22:42

OpenBayes 一周速览｜微软 Phi-4 发布，降低更多成本实现高效推理；Terra 时空数据集上线

公共资源速递5个数据集：Terra多模态时空数据集ChineseCouplets中文对联数据集AqueousSolubility无机化合物数据集HumanLikeDPODataset大模型对话微调数据集
·2025-01-20 22:08

SOA 术语概述，第 2 部分: 开发流程、模型和资产

文档选项将此页作为电子邮件发送拓展Tomcat应用下载IBM开源J2EE应用服务器WASCE新版本V1.1级别：初级BertrandPortier([email protected]),IT架构师,
rochening·2025-01-20 19:13

AscendC从入门到精通系列（四）使用Pybind调用AscendC算子

1Pybind调用介绍通过PyTorch框架进行模型的训练、推理时，会调用很多算子进行计算，其中的调用方式与kernel编译流程有关。
·2025-01-20 17:21

Flex.1-Alpha - 可进行适当微调的新修改通量模型。

最初的目标是训练一个可以在训练过程中激活的LoRA，以便对步长压缩模型进行微调。
吴脑的键客·2025-01-20 15:05

torch.utils.data.Dataset()和torch.utils.data.DataLoader()

torch.utils.data.Dataset()和torch.utils.data.DataLoader()是Pytorch中处理数据集和批量加载数据的重要工具。
我叫罗泽南·2025-01-20 12:02

【强化学习】PyTorch-RL框架

目录一、框架简介二、核心功能三、学习环境配置四、学习资源五、实践与应用六、常见问题与解决方案七、深入理解强化学习概念八、构建自己的强化学习环境九、调试与优化十、参与社区与持续学习一、框架简介PyTorch-RL
大雨淅淅·2025-01-20 05:52

凸优化学习

这里强烈推荐MIT公开课《线性代数》，GilbertStrang教授主讲，完全不是照本宣科，而是注重几何解释，非常具有启发性，学完之后，你会对线性代数有全新的认识。
qiaoxinyu10623·2025-01-20 04:44

使用Python实现LLM的文本生成：风格迁移与内容控制

文章目录引言1.大型语言模型（LLM）概述1.1Transformer架构1.2预训练与微调2.文本生成基础2.1无条件生成2.2条件生成3.风格迁移3.1风格迁移的基本原理3.2使用Python实现风格迁移
二进制独立开发·2025-01-20 02:46

PyTorch使用教程- Tensor包

###PyTorch使用教程-Tensor包PyTorch是一个流行的深度学习框架，它提供了一个易于使用的API来创建和操作张量（Tensors）。
Loving_enjoy·2025-01-19 23:52

工业大模型市场图谱：53个工业大模型全面梳理

根据沙丘智库发布的《2024年中国工业大模型应用跟踪报告》，工业大模型是指在通用基础大模型（例如文心一言、通义千问等）的基础上，结合行业&场景数据进行预训练和微调，并进行模型压缩（裁剪、蒸馏等）所形成的大模型
大模型常客·2025-01-19 19:21

透过生活小故事，轻松理解大模型开发的五种核心方法

本文将以贴近生活的五个场景，通俗易懂地讲解大模型开发中的五种核心方法：提示词工程和外部函数、Agent设计、RAG设计（检索增强生成）、微调以及预训练。让我们一同走进这些故事，揭开大模型
·2025-01-19 19:54

广义加性模型的参数、半参数、非参数形式

GAM最初由TrevorHastie和RobertTibshirani[1]开发，用于将广义线性模型的性质与加性模型相结合。它们可以被解释为朴素贝叶斯生成模型的判别推广。
智识小站·2025-01-19 17:31

从零开始的 AI Infra 学习之路

从零开始的AIInfra学习之路文章目录从零开始的AIInfra学习之路一、概述二、AI算法应用2.1机器学习2.2深度学习2.3LLM三、AI开发体系3.1编程语言四、AI训练框架&推理引擎4.1PyTorch4.2llama.cpp4.3vLLM
SSS不知-道·2025-01-19 15:15

【深度学习】Huber Loss详解

文章目录1.HuberLoss原理详解2.Pytorch代码详解3.与MSELoss、MAELoss区别及各自优缺点3.1MSELoss均方误差损失3.2MAELoss平均绝对误差损失3.3HuberLoss4
小小小小祥·2025-01-19 15:40

小猿口算自动PK脚本

首先大家需要安装一个pytorch环境过程中，如果小伙伴对此不熟悉的话可以参考网上的相关教程。我们需要用到Tesseract-OCR文本识别。
小黄编程快乐屋·2025-01-19 14:05

深入解读ChatGPT的工作原理及底层逻辑

通过预训练和微调，模型能够理解语言的语法和语义，并能够根据上下文生成符合语境的文本回复。基本原理ChatGPT是一种基于自然语言处理（NLP）和深度学习技术的聊天机器人。
NAR_鱼丸·2025-01-19 13:59

Pytorch详解-模型模块(RNN,CNN,FNN,LSTM,GRU,TCN,Transformer)

Pytorch详解-模型模块Module¶meterModule初认识forward函数ParameterPytorch中的权重、参数和超参数Module容器-ContainersSequentialModuleListModuleDictParameterList
qq742234984·2025-01-19 13:24

算力平台环境搭建实操

修改算力平台密码2.配置代理（1）进入bashrc配置文件（2）在文本末尾添加（3）重新运行bashrc配置文件3.安装miniconda方法1：离线下载方法2：在线下载4.pip换源5.创建并激活虚拟环境6.安装pytorch7
罗小黑的师傅·2025-01-19 11:43

神经网络初始化 (init) 介绍

打破对称性1.2控制方差1.3加速收敛与提高泛化能力2.常见的初始化方法及其应用场景2.1Xavier/Glorot初始化2.2He初始化2.3正交初始化2.4其他初始化方法3.如何设置初始化4.基于BERT
迷路爸爸180·2025-01-18 23:25

吴恩达系列——微调（Fine-tuning）与生成模型的应用

微调（Fine-tuning）是指在已有预训练模型的基础上，对模型进行进一步训练，以适应特定任务或需求。
疯狂小料·2025-01-18 21:04

OpenSPG docker 安装教程

文章目录前言自述一、OpenSPG1.介绍二、安装步骤1.安装服务端2.客户端部署前言自述我最近是想结合chatglm3-6b和知识图谱做一个垂直领域的技术规范的问答系统，过程中也遇到了很多困难，在模型微调上
@comefly·2025-01-18 21:29

Pytorch 三小时极限入门教程

而Pytorch作为一款广受欢迎的深度学习框架，以其简洁、灵活的特性，吸引了大量开发者投身其中。
power-辰南·2025-01-18 20:43

nlp培训重点-3

importjsonimportreimportosimporttorchimportrandomimportloggingfromtorch.utils.dataimportDataset,DataLoaderfromcollectionsimportdefaultdictfromtransformersimportBertT
heine162·2025-01-18 18:24

全新 Hopper 架构的Transformer 引擎有什么特点？

Transformer模型是当今广泛使用的语言模型（例如asBERT和GPT-3）的支柱。
扫地的小何尚·2025-01-18 17:50

BERT详解

1.背景结构1.1基础知识BERT（BidirectionalEncoderRepresentationsfromTransformers）是谷歌提出，作为一个Word2Vec的替代者，其在NLP领域的
comli_cn·2025-01-18 17:18

1.4走向不同：GPT 与 BERT 的选择——两大NLP模型的深度解析

走向不同：GPT与BERT的选择——两大NLP模型的深度解析在自然语言处理（NLP）领域，GPT（GenerativePretrainedTransformer）和BERT（BidirectionalEncoderRepresentationsfromTransformers
少林码僧·2025-01-18 16:12

[python]通过whl文件安装torchvision和torchaudio及国内whl文件下载地址汇总

要通过.whl文件安装torchvision和torchaudio，你需要先确保你已经安装了与这些库兼容的PyTorch版本。以下是一个详细的步骤指南，帮助你通过.whl文件安装这些库。
萌萌哒240·2025-01-18 16:40

python如何安装torch_Python安装torch模块报错处理

模块报错处理前言安装报错解决查找文档解决方案安装torch等待安装完成安装torchvision提示安装完成总结前言因python项目上线，需要在海外服务器上安装指定torch模块安装根据官网https://pytorch.org
红烧橘子皮·2025-01-18 15:04

3DUnetCNN 项目常见问题解决方案

3DUnetCNN项目常见问题解决方案3DUnetCNNPytorch3DU-NetConvolutionNeuralNetwork(CNN)designedformedicalimagesegmentation
魏纯漫·2025-01-18 14:27

推荐3D UNet实现：深度学习3D体素数据语义分割的利器！

这个开源项目为我们提供了一个高效、灵活的3DUNet实现，支持Tensorflow、PyTorch和Chainer三种主流深度学习框架。
滑辰煦Marc·2025-01-18 14:57

3D U-Net CNN医学图像分割项目教程

3DU-NetCNN医学图像分割项目教程3DUnetCNNPytorch3DU-NetConvolutionNeuralNetwork(CNN)designedformedicalimagesegmentation
尤辰城Agatha·2025-01-18 14:57

PyTorch机器学习与深度学习技术方法

另外，近年来，Pytorch深度学习框架受到越来越多科研人员的关注和喜爱。
Teacher.chenchong·2025-01-18 13:17

Pytorch实现：LSTM-火灾温度预测

本文为365天深度学习训练营中的学习记录博客原作者：K同学啊前期工作语言环境：Python3.9.18编译器：JupyterLab深度学习环境：Pytorch1.12.11.设置GPUimporttorchimporttorch.nnasnnimporttorchvisionfromtorchvisionimporttransforms
骑猪玩狗·2025-01-18 11:32

深度学习项目--基于LSTM的火灾预测研究(pytorch实现)

LSTM的模型讲解将在这两天发布更新，其中：深度学习基础–一文搞懂RNN深度学习基础–GRU学习笔记(李沐《动手学习深度学习》)这一篇：是基于LSTM模型火灾预测研究，讲述了如何构建时间数据、模型如何构建、pytorch
羊小猪~~·2025-01-18 10:30

每天五分钟深度学习框架pytorch：基于vgg块搭建VGG卷积神经网络

本文重点前面我们使用pytorch搭建了vgg块，本文我们使用vgg块搭建卷积神经网络VGG16，我们先来看一下vgg16的模型结构是什么样的：搭建vgg16importtorchfromtorchimportnndefvgg_block
每天五分钟玩转人工智能·2025-01-18 08:45

探索极致AI性能：昇腾NPU与PyTorch的完美融合 —— Ascend Extension for PyTorch

探索极致AI性能：昇腾NPU与PyTorch的完美融合——AscendExtensionforPyTorch去发现同类优质开源项目:https://gitcode.com/项目简介在人工智能领域，高效灵活的框架与强大的硬件加速器是实现先进算法的关键组合
尤琦珺Bess·2025-01-18 08:14

深度学习 Pytorch 张量（Tensor）的创建和常用方法

1张量的基本创建及其类型和Numpy中的array一样，张量的本质也是结构化地组织了大量的数据。并且在实际操作中，张量的创建和基本功能也与其非常类似。1.1张量(Tensor)函数创建方法张量的最基本创建方法和Numpy中创建Array的格式一致。#Numpy创建数组importnumpyasnp#导入numpya=np.array([1,2,3])importtorch#首次使用,导入torch
白白糖·2025-01-18 08:38

PyTorch 神经协同过滤 (NCF) 推荐系统教程

目录教程概述1.神经协同过滤模型概述NCF模型的主要组成部分：2.数据加载与预处理3.定义神经协同过滤模型4.训练模型5.模型评估6.推荐物品7.完整示例8.总结在本教程中，我们将使用PyTorch实现一个神经协同过滤
陌北v1·2025-01-18 07:37
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他