深度学习之pytorch 第2页

柳暗花明又一村：Seq2Seq编码器解码器架构

AI大模型应用之禅·2025-02-02 15:29

MVC 文件夹：架构之美与实际应用

MVC文件夹：架构之美与实际应用引言MVC（Model-View-Controller）是一种设计模式，它将应用程序分为三个核心组件：模型（Model）、视图（View）和控制器（Controller）

lsx202406·2025-02-02 15:57

【深度学习】Swin Transformer: Hierarchical Vision Transformer using Shifted Windows，论文

必读文章：https://blog.csdn.net/qq_37541097/article/details/121119988SwinTransformer:HierarchicalVisionTransformerusingShiftedWindows论文：https://arxiv.org/abs/2103.14030代码：https://github.com/microsoft/Swin-

XD742971636·2025-02-02 14:54

Redis基础命令之set、zset

1.SetRedis的Set是String类型的无序集合。集合成员是唯一的，这就意味着集合中不能出现重复的数据。1.1SADD--添加一个或多个成员这里添加三个成员到set集合中127.0.0.1:6379>SADDsetmysqljavac++(integer)31.2SMEMBERS--查看成员127.0.0.1:6379>SMEMBERSset1)"c++"2)"java"3)"mysql"

泪染的青空·2025-02-02 14:22

Spring的设计理念之【事务管理】

Spring框架的事务管理是其核心设计理念之一，旨在简化复杂的事务处理逻辑，提供统一的编程模型，同时支持灵活的事务策略配置。以下是Spring事务管理的关键设计理念和实现机制：一、设计目标解耦业务逻辑与事务管理将事务管理代码从业务逻辑中剥离，开发者只需关注业务逻辑，事务的开启、提交、回滚等由框架统一处理。统一事务抽象提供PlatformTransactionManager接口，抽象不同事务实现（如

冰糖心158·2025-02-02 13:44

【llm对话系统】大模型 Llama 源码分析之并行训练方案

1.引言训练大型语言模型(LLM)需要巨大的计算资源和内存。为了高效地训练这些模型，我们需要采用各种并行策略，将计算和数据分布到多个GPU或设备上。Llama作为当前最流行的开源大模型之一，其训练代码中采用了多种并行技术。本文将深入Llama的训练代码，分析其并行训练方案，主要关注参数并行和部分结构参数共享。2.并行训练策略概述常见的并行训练策略包括：数据并行(DataParallelism,DP

kakaZhui·2025-02-02 13:14

【llm对话系统】大模型 Llama 源码分析之 LoRA 微调

1.引言微调(Fine-tuning)是将预训练大模型(LLM)应用于下游任务的常用方法。然而，直接微调大模型的所有参数通常需要大量的计算资源和内存。LoRA(Low-RankAdaptation)是一种高效的微调方法，它通过引入少量可训练参数，固定预训练模型的权重，从而在保持性能的同时大大减少了计算开销。本文将深入分析LoRA的原理，并结合Llama源码解读其实现逻辑，最后探讨LoRA的优势。2

kakaZhui·2025-02-02 13:14

【llm对话系统】大模型 Llama 源码分析之 Flash Attention

1.写在前面近年来，基于Transformer架构的大型语言模型(LLM)在自然语言处理(NLP)领域取得了巨大的成功。Transformer的核心组件是自注意力(Self-Attention)机制，它允许模型捕捉输入序列中不同位置之间的关系。然而，标准的自注意力机制的计算复杂度与序列长度的平方成正比，这使得它在处理长序列时效率低下。为了解决这个问题，FlashAttention被提出，它是一种高

kakaZhui·2025-02-02 13:43

【深度学习】因果推断与机器学习的高级实践数学建模_问题根因分析机器学习

现阶段深度学习有三大特征：数据驱动：即数据训练，将数据输入到模型中进行训练；关联学习：模型基于给定训练数据集，进行关联学习；概率输出：即最后的输出，判断这个图片有“狗“的概率是多少。

2401_84239830·2025-02-02 13:41

《深度学习入门：梯度下降法全解析，小白必看！》

目录一、引言二、什么是梯度下降？2.1误差的计算2.2梯度的计算2.3参数更新2.4重复迭代三、梯度下降法的几种主要类型1.批量梯度下降（BatchGradientDescent）2.随机梯度下降（StochasticGradientDescent,SGD）3.小批量梯度下降（Mini-BatchGradientDescent）四、梯度下降的挑战与解决方案1.学习率的选择2.局部最小值与鞍点3.梯

Lemon_wxk·2025-02-02 12:38

【自然语言处理（NLP）】基于Transformer架构的预训练语言模型：BERT 训练之数据集处理、训练代码实现

文章目录介绍BERT训练之数据集处理BERT原理及模型代码实现数据集处理导包加载数据生成下一句预测任务的数据从段落中获取nsp数据生成遮蔽语言模型任务的数据从token中获取mlm数据将文本转换为预训练数据集创建

道友老李·2025-02-02 12:04

C# WPF MVVM框架从 .NET，用优雅的架构构建强大的应用程序

在开始编写WPF应用程序之

XsfFsharp·2025-02-02 11:32

Redis | 字典

字典中的每个键都是独一无二的，程序可以在字典中根据键查找与之关联的值，或者通过键来更新值，又或者根据键来删除整个键值对，等等。字典在Redis中的应用相当

瘦弱的皮卡丘·2025-02-02 11:01

keras快速上手-基于python的深度学习实践-基于索引的深度学习对话模型-源代码...

该章的源代码已经调通，如下，先记录下来，再慢慢理解#!/usr/bin/envpython#coding:utf-8#In[1]:importpandasaspdimportnumpyasnpimportpickleimportkerasfromkeras.modelsimportSequential,Modelfromkeras.layersimportInput,Dense,Activatio

weixin_34162401·2025-02-02 11:59

yolo是什么，有什么优缺点以及YOLO的应用场景？

“YOLO”在计算机视觉和深度学习领域是一个特定的算法框架，全称是“YouOnlyLookOnce”。

cesske·2025-02-02 11:57

前端三件套之CSS

CSS：css基本概念CSS（CascadingStyleSheets，层叠样式表）是用于描述HTML文档的样式的语言。它能控制网页的布局、颜色、字体、间距等，帮助设计者呈现出美观的网页1.1css基本语法CSS的基本语法由选择器（selector）、属性（property）和值（value）三部分组成：selector{property:value;}例如我要给p标签添加一个样式（颜色和字体大小

邂逅you·2025-02-02 10:54

操作系统之设备管理

输入输出系统（I/O系统）在操作系统中，I/O（输入输出）系统的不同层次包括了用户层I/O软件、设备无关软件、设备驱动程序、中断处理程序和硬件层。I/O系统主要的任务是：1)按照用户的具体请求，启动设备，通过不同的设备驱动程序，进行实际的I/O操作;I/O操作完成之后，将结果通知用户进程，从而实现真正的I/O操作。2)提高I/O设备速率、改善I/O设备的利用率。3)为更高层进程方便使用设备，提供手

火车驶向云外.11·2025-02-02 10:23

Gurobi基础语法之addVar 和 addVars

addVar和addVars作为Gurobi模型对象中的方法，常常用来生成变量，本文介绍了Python中的这两个接口的使用addVaraddVar(lb=0.0,ub=float('inf'),obj=0.0,vtype=GRB.CONTINUOUS,name='',column=None)lb和ub让变量在生成的时候就有下界和上届，obj确定了生成的变量在目标函数的系数的取值vtype确定了变量

Smark.·2025-02-02 10:52

AI真的能理解我们这个现实物理世界吗？深度剖析原理、实证及未来走向

摘要：当下，AI与深度学习广泛渗透生活各领域，大模型与海量数据加持下，其是否理解现实物理世界引发热议。文章开篇抛出疑问，随后深入介绍AI深度学习基础，包含神经网络架构、反向传播算法。

AI_DL_CODE·2025-02-02 10:51

攻克设备数据质量难题：深度学习应用的数据基石搭建教程（DBSCAN 聚类算法）

摘要：在深度学习赋能设备管理的浪潮中，数据质量成为关键瓶颈。

AI_DL_CODE·2025-02-02 10:51

人工智能在药物研发中的应用 - 从靶点发现和化合物筛选：利用AI深度学习技术加速药物研发流程

文章概述了AI在药物靶点识别、化合物筛选、药物设计优化等方面的应用，并详细介绍了机器学习和深度学习的基本原理。通过一个实操案例，展示了如何利用AI技术对化合物数据进行分析，预测潜在的药物候选物。

AI_DL_CODE·2025-02-02 10:50

pytorch实现循环神经网络

人工智能例子汇总：AI常见的算法和例子-CSDN博客PyTorch提供三种主要的RNN变体：nn.RNN：最基本的循环神经网络，适用于短时依赖任务。

纠结哥_Shrek·2025-02-02 10:50

PyTorch 官方文档中文版本

文档来源https://pytorch.cadn.net.cn大多数机器学习工作流都涉及处理数据、创建模型、优化模型参数，并保存经过训练的模型。

圣心·2025-02-02 10:49

基于 YOLOv8+PyQt5 的无人机红外目标检测系统：开启智能监测新时代

为了提升无人机在复杂环境下的目标检测能力，结合先进的深度学习算法和图形用户界面开发技术，打造功能强大的无人机红外目标检测系统成为了研究热点。本文将详

人工智能教学实践·2025-02-02 09:16

Android Jetpack 之 Paging3的一些踩坑记录

主要配置一些基本的分页信息，其中部分信息例如页码、需要加载size等信息会在PagingSource的load方法中通过LoadParams传递过来。PagingSource继承该类并实现load方法来加载数据，根据加载情况返回LoadResult.Page或LoadResult.Error。在加载上一页、下一页或刷新都通过这个方法，同时注意suspend修饰。加载状态可通过PagingDataA

全栈_HhM·2025-02-02 09:44

使用Transformer模型实现股票走势预测：深入解析和实操案例（基于Python和PyTorch）

通过实操案例，展示了如何使用Python和PyTorch进行模型构建、训练和评估，包括数据预处理和性能评价。结果证实Transformer模型能有效预测股价，但需注意过拟合和数据量问题。

AI_DL_CODE·2025-02-02 09:44

面试之Solr&Elasticsearch

优点：1.Elasticsearch是分布式的。不需要其他组件，分发是实时的，被叫做”Pushreplication”。2.Elasticsearch完全支持ApacheLucene的接近实时的搜索。3.处理多租户（multitenancy）不需要特殊配置，而Solr则需要更多的高级设置。4.Elasticsearch采用Gateway的概念，使得完备份更加简单。5.各节点组成对等的网络结构，某些

字节全栈_vBr·2025-02-02 08:38

为AI聊天工具添加一个知识系统之82 详细设计之23 符号逻辑 &正则表达式规则之1

本文要点在继续“逻辑符号”的设计中，我们先回顾一个本项目--作为备忘也作为设计中的时刻牢记：回顾项目介绍项目名：为使用AI聊天工具的聊天者开挂一个知识系统项目口号：通过不断完善一个概念整体运营的大局观思想来持续维护一个动态组织社区的公共形象为使用AI聊天工具的聊天者精心打造一个专属知识系统的私密外挂。项目构成：一系（AI操作系统），三台（前台/中台/后台），和三体（整体/集体/个体）--以Dict

一水鉴天·2025-02-02 07:28

智能工厂的设计软件应用场景的一个例子：为AI聊天工具添加一个知识系统之24 重审前端实现：主页页面

本文提要正文1本项目（为AI聊天工具添加一个知识树系统）的主页页面的三个页面版块(注：一个项目的基础版本，它明确给出建模限制what(where，how)并悬置模型本身（内部空出模型--内建，留给内部--待建+持续增强）同时提出扩展版本who（when，why）的原则将扩展留给外部，完善--有待完善+不断完善）。每个都是一种矩阵，但每一个都从系统源流的源头source那里差异化继承了不同属性pro

一水鉴天·2025-02-02 07:28

为AI聊天工具添加一个知识系统之30 概念整体运营平台：中间架构层的broker service的API模型

本文要点本项目（为AI聊天工具增加知识系统）通过完善“公路”的整体概念框架最终(在外部）为三类公共运营性交通工具（（高速-轿车taxi/中速--公交车bus/低速-卡车truck））提供运营平台。该平台对内通过明确交通路线上的三种“端”（end/stop/start）的一般术语框架作为程序的形式化规则起点，并全过程指导最终朝向形式化的每一个步骤的设计、实现和部署（自动化程度不同：人工，半自动化，完

一水鉴天·2025-02-02 07:57

基于深度学习的视觉检测小项目（十六）用户管理界面的组态

分组和权限：用户分为三个组，管理员、普通用户、访客。•管理员的权限和作业范围：添加和删除用户、更改所有用户的信息（用户名、登录密码、所在分组等）、查看和备份以及复制数据库；•普通用户的权限和作业范围：更改自己的用户名和密码、开展工作业务、查看数据库；•访客的权限和作业范围：查看数据库。用于用户管理的界面：既然用到了用户的管理，那么就必然涉及到用户列表的展示方式了。QT对于列表内容的展示方式有：QC

深蓝海拓·2025-02-02 07:56

深度学习基因组学+机器学习单细胞分析，当下最火热研究方向！

深度学习已经被广泛应用于基因组学研究中，利用已知的训练集对数据的类型和应答结果进行预测，深度学习，可以进行预测和降维分析。

qwmb919·2025-02-02 07:25

深度学习之线性代数

深度学习之线性代数标量如果你从来没有学过线性代数或机器学习，那么你过去的数学经历可能是一次只想一个数字。

ousinka·2025-02-02 06:21

一、深度学习与线性代数

一、深度学习与线性代数在计算机的内存或硬盘中，数据通常是以字符集编码成0和1的形式进行存储的，读取时再以相同字符集进行解码进行显示的。然而在深度学习中，数据在内存或显存中的表示都是以向量的形式表示的。

新禾·2025-02-02 06:20

深度学习——线性代数

取个名字真难啊啊·2025-02-02 06:19

深度学习的应用场景及常用技术

深度学习作为机器学习的一个重要分支，在众多领域都有广泛的应用，以下是一些主要的应用场景及常用技术。1.应用场景1.计算机视觉图像分类描述：对图像中的内容进行分类，识别出图像中物体所属的类别。

eso1983·2025-02-02 06:19

【kubernetes系列】Kubernetes之master和node

在学习k8s之前，必须先了解Kubernetes中的重要概念，它们是组成Kubernetes集群的基石。（参考Kubernetes权威指南）一、MasterKubernetes里的Master指的是集群的控制节点，每个Kubernetes集群里至少需要有一个Master节点负责整个集群的管理和控制，基本上Kubernetes的所有控制命令都发给它，它来负责具体的执行过程，我们后面执行的所有命令基本

margu_168·2025-02-02 05:46

k8s service管理之WEB管理工具Dashboard

Dashboard1.Dashboard概述-Dashboard是基于网页的Kubernetes用户界面。-Dashboard同时展示了Kubernetes集群中的资源状态信息和所有报错信息。-可以使用Dashboard将应用部署到集群中，也可以对容器应用排错，还能管理集群资源。列如，你可以对应用弹性伸缩、发起滚动升级、重启等等。-Dashboard官网：https://github.com/ku

烤鸡翅^_^我最爱吃·2025-02-02 05:16

web安全漏洞之命令注入

命令注入1.什么是命令注入通常情况下，开发者使用一些可以执行命令的函数且未对用户输入进行安全检查时，可以造成命令注入。从CTF的角度来讲,命令注入可以实现：1、直接读取flag2、反弹shell3、利用题目环境漏洞,控制整个题目环境,干扰其他队伍解题在各类编程语言中,都存在直接调用系统命令的函数,比如PHP的system函数,Python的os.system,Java的Runtime.exec都可

rzydal·2025-02-02 05:44

SpringCloud之服务间通信超时：突破微服务的“时间枷锁”

目录引言一、通信超时的“导火索”（一）网络不稳定（二）服务性能瓶颈（三）配置参数不合理二、实战！解决超时的“组合拳”（一）优化超时配置参数1.Ribbon配置2.Feign配置（二）使用断路器（Hystrix）1.原理介绍2.配置与使用（三）服务端性能优化1.代码优化2.资源优化（四）重试机制1.Ribbon重试2.Feign重试三、实战演练：代码示例解析（一）构建简单的SpringCloud项目

奔跑吧邓邓子·2025-02-02 05:14

React学习之相关代码库（三十六）

本章将讲述React代码库的组织，约定，和它的实现方式。如果你想更加关注React，或者说作为开发贡献者，对React进行一些修改，这篇博客或许可以帮到你。当然，我们没必要去过度的关注React应用的约定，因为其中有很多是历史遗留问题，后续版本可能会被pass掉。1.自定义模板系统在Facebook，他们内部人员使用了一个叫做Haste的自定义模板系统，这个系统非常类似CommonJS规范，也使用

77458·2025-02-02 05:42

Kafka 之详解(Detailed Explanation of Kafka）

一、Kafka简介ApacheKafka是一款分布式发布-订阅消息系统，由LinkedIn公司在2010年贡献给Apache基金会，并成为顶级开源项目。它有着独特的定位与特点，是一种快速、可扩展，且内在设计就是分布式、分区的以及可复制的提交日志服务。需要注意的是，Kafka并未遵循JMS规范，仅提供发布和订阅这一通讯方式。其官方中文网站为http://kafka.apachecn.org/quic

Linux运维老纪·2025-02-02 03:36

深度学习-图像数据标注工具使用（LabelImg和BBox）

文章与视频资源多平台更新微信公众号|知乎|B站|头条：AI研习图书馆深度学习、大数据、IT编程知识与资源分享，欢迎关注，共同进步~图像数据标注工具的使用教程1.LabelImgLabelImg下载地址：

AI研习图书馆·2025-02-02 03:35

Allergo-2之创建homogeneous和heterogeneous类型元件库

使用软件allergodesignEntryCIS（OrCAD）操作步骤：homogeneous.即元器件有相同的几个部分组成，比如LM358，它是由2个运算放大器组成的，但是我们可以单独的去操作某一个单独部分的放大器，但是作为一个LM358的元器件封装，我们就需要将他们分为两个。homogeneous即表示几个相同的元件部分homogeneous：各个部分的元器件相同，画出其中一个其他自动生成h

Cy_7927·2025-02-02 02:02

GPU架构（1.2）--GPU SoC 中的 CPU 架构

ARMCortex-A72ARMCortex-A762.多线程处理多核架构多线程支持3.任务调度任务调度器动态调度4.内存管理内存层次结构内存管理技术5.接口和通信总线接口I/O接口6.功耗和热管理功耗优化热管理7.应用实例边缘计算图形处理深度学习结语详细介绍

小蘑菇二号·2025-02-02 02:58

C++蓝桥杯入门训练之Fibonacci数列

C++蓝桥杯题目讲解汇总(持续更新)Fibonacci数列资源限制时间限制：1.0s内存限制：256.0MB问题描述Fibonacci数列的递推公式为：Fn=Fn−1+Fn−2F_n=F_{n-1}+F_{n-2}Fn=Fn−1+Fn−2，其中F1=F2=1F_1=F_2=1F1=F2=1当n比较大时，FnF_nFn也非常大，现在我们想知道，FnF_nFn除以10007的余数是多少。输入格式输入包

Lurkerhunter·2025-02-02 02:28

flume系列之：消费Kafka集群Topic报错java.io.IOException: Can‘t resolve address: data03:9092

flume系列之：消费Kafka集群Topic报错java.io.IOException:Can'tresolveaddress:data03:9092Causedby:java.nio.channels.UnresolvedAddressException

快乐骑行^_^·2025-02-02 01:25

[C++]DirectX 12 3D游戏开发实战—第9章学习笔记03 2019.5.4

章学习笔记03词汇内容9.11附有纹理的山川演示程序给陆地网格重复铺设草地纹理根据时间函数令流水纹理延波浪滚动起来9.11.1生成栅格纹理坐标上图是一个m*n的栅格，右侧是在归一化纹理坐标[0,1]2中与之相对应的栅格

卡酷酷·2025-02-02 01:52

大语言模型丨ChatGPT-4o深度科研应用、论文与项目撰写、数据分析、机器学习、深度学习及AI绘图（BP神经网络、支持向量机、决策树、随机森林、变量降维与特征选择、群优化算法等）

赵钰老师·2025-02-02 01:50

Camera to NDI 局域网视频传输的高效之选

探索CameratoNDI：局域网视频传输的高效之选前言`在视频技术不断革新的当下，对于低延迟、高质量的局域网视频传输需求日益增长。

weixin_41951035·2025-02-02 00:46

推荐频道

深度学习之pytorch