- 【AI大模型】Transformer架构位置编码
我爱一条柴ya
学习AI记录人工智能神经网络aiAI编程
Transformer架构中的位置编码(PositionalEncoding)是其核心设计之一,用于解决一个关键问题:Self-Attention机制本身对输入元素的顺序是“无感知”的(permutationinvariant)。问题:为什么需要位置编码?Self-Attention的本质缺陷:Self-Attention通过计算所有元素对之间的关联来工作。然而,它只关心元素是什么(x_i的内容)
- 【MobileNet v3 可视化界面】在电脑上实现可视化界面
【MobileNetv3可视化界面】在电脑上实现可视化界面一、PyQt5库安装PyQt5库的安装,可以查看这篇文章:完全弄懂如何用pycharm安装pyqt5及其相关配置二、界面设置三、功能链接GPUorCPU选择defGPU_CPU(self):"""选择GPUorCPU:return:"""selected_button=self.widget.sender()ifselected_butto
- Flask 应用路由优化与功能增强
code36
flaskpython后端
分析了您提供的Flask路由代码,以下是针对各功能模块的优化建议及实现方案,涵盖错误处理、模板渲染、表单验证和请求处理等核心场景。一、错误处理优化:结构化错误响应当前abort(404)和自定义错误处理较为基础,建议升级为标准化错误响应:#标准化错误响应结构classAPIError(Exception):def__init__(self,message,status_code=400,error
- 深入探讨Qt智能指针的用法
码农飞飞
QT+QMLqt智能指针指针转换内存泄漏内存管理QSharedPointerQPointer
文章目录QPointerQSharedPointerQWeakPointerQScopedPointerQScopedArrayPointer类型转换qSharedPointerCastqSharedPointerDynamicCastqSharedPointerConstCastqWeakPointerCastqSharedPointerObjectCastQt的智能指针提供了方便的资源管理工具
- 面试150 矩阵置0
Alfred king
面试150题目矩阵线性代数leetcode面试数组
思路我们使用两个标记集合,分别记录当矩阵的元素为0的时候的横、纵坐标。然后在对矩阵元素进行遍历,如果所在行或者所在列的索引在集合中,对应的矩阵元素修改为0即可```classSolution:defsetZeroes(self,matrix:List[List[int]])->None:"""Donotreturnanything,modifymatrixin-placeinstead."""ro
- 护照阅读器在机场的应用广泛
电子护照杨健辉
人工智能智能硬件ocr
护照阅读器在机场的应用广泛且关键,尤其在全球化背景下,机场作为国际旅客出入境的核心枢纽,对身份核验的效率、安全性和合规性要求极高。护照阅读器通过自动化、智能化的技术手段,显著提升了机场多个环节的运营水平。以下是其具体应用场景和优势:1.值机与登机流程优化自助值机柜台(Self-ServiceKiosks)护照阅读器集成在自助设备中,旅客扫描护照后自动提取信息(如姓名、航班号、签证状态),快速完成值
- 基于odoo17的设计模式详解---工厂模式
大家好,我是你的Odoo技术伙伴。在Odoo开发中,我们几乎每天都在创建各种对象:新的客户记录、销售订单、发票、库存移动等等。虽然表面上我们只是简单地调用self.env['some.model'].create(...),但在这看似简单的操作背后,Odoo的ORM扮演着一个极其强大和复杂的工厂(Factory)角色。今天,我们将深入探讨经典的工厂模式(FactoryPattern),并揭示Odo
- 【Python入门与进阶】Python面向对象编程练习
小龙
python面向对象编程练习
练习题1:定义一个Person类定义一个Person类,它有以下属性和方法:属性:name(字符串):表示人的名字。age(整数):表示人的年龄。方法:__init__(self,name,age):构造方法,用于初始化name和age。greet(self):打印Hello,mynameis[name]andIam[age]yearsold.classPerson:def__init__(sel
- 【Python进阶篇 面向对象程序设计(3) 继承】
文章目录1、继承的基本语法(1)单继承(2)多重继承2、方法重写3、super()函数在面向对象编程中,被继承的类称为父类,新的类称为子类。1、继承的基本语法(1)单继承#继承#父类classFruit:color='绿色'defharvest(self,color):print("水果是:"+color+"的!")print("水果原来是:"+Fruit.color+"的!")#子类classA
- Leetcode238. 除自身以外数组的乘积(HOT100)
链接代码:classSolution{public:vectorproductExceptSelf(vector&nums){intn=nums.size();vectorp(n,1);for(inti=1;i=0;--i){p[i]*=s;s*=nums[i];}returnp;}};题解:从左往右,先求解一下前缀积,不包含自身。此时,第一个元素已经被初始化为1,所以i从1开始而不是0。从右往左
- python 删除pdf页面_使用PyPDF2库对pdf文件进行指定页面删除操作
weixin_39900045
python删除pdf页面
平台:win10家庭版,python3.7,PyPDF2思维过程:方法一:将pdf文件通过拆分为单页,放入一个文件夹,再删除其中不要的文件,最后再把剩余的文件进行合并为一个pdf文件第一步:使用原文件路径创建新文件夹,用于存放拆分后的单页文件defnewdir(self,path):self.new=os.path.splitext(path)[0]ifnotos.path.isdir(self.
- pyhton基础【23】面向对象进阶四
赶紧去巡山
pthon基础python
目录十二.静态方法十三.类方法十四.类对象类对象的概念类对象的作用实例对象怎么用类对象内置函数-dir十二.静态方法概述默认情况下,类中定义的方法是实例方法,即这个方法有一个默认的形参self,这个self会在方法被调用的时候指向对象。但是有些时候,我们并不需要对象的引用,即self没用,那该怎么处理呢?能不写self吗?答:可以静态方法的概念如果一个方法不写self即不需要实例对象的引用,此时在
- Scala 简介
froginwe11
开发语言
Scala简介引言Scala是一种多范式编程语言,它结合了面向对象和函数式编程的特性。自从2003年由MartinOdersky教授在EPFL开发以来,Scala已经成为了在Java虚拟机(JVM)上运行的高效编程语言。本文将为您详细介绍Scala的起源、特点、应用场景以及学习资源。Scala的起源与发展起源Scala的灵感来源于多种编程语言,包括Java、C++、Self、Haskell和ML。
- typescript 错误码大全
转载于https://www.easemob.com/question/6196/1002错误Unterminatedstringliteral.未终止的字符串文本。1003错误Identifierexpected.应为标识符。1005错误'{0}'expected.应为“{0}”。1006错误Afilecannothaveareferencetoitself.文件不能引用自身。1009错误Tra
- drawRect 触发时机
在iOS开发中,**UIView**的**drawRect:**方法(或其底层**CALayer**的绘制)的触发时机是由系统控制的,开发者不能直接调用这些方法。以下是触发视图绘制的完整机制:一、核心触发时机1.视图首次显示当视图被添加到视图层级时:[self.viewaddSubview:customView];//触发首次绘制2.显式标记需要重绘调用以下方法强制重绘://标记整个视图需要重绘[
- Longformer: The Long-Document Transformer(2020-4-10)
不负韶华ღ
深度学习(NLP)transformer深度学习人工智能
模型介绍目前基于Transformer的预训练模型在各项NLP任务纷纷取得更好的效果,这些成功的部分原因在于Self-Attention机制,它运行模型能够快速便捷地从整个文本序列中捕获重要信息。然而传统的Self-Attention机制的时空复杂度与文本的序列长度呈平方的关系,这在很大程度上限制了模型的输入不能太长,因此需要将过长的文档进行截断传入模型进行处理,例如BERT中能够接受的最大序列长
- PyTorch torchtune.modules.peft.lora
Yongqiang Cheng
PyTorchPyTorchtorchtunepeft.lora
PyTorchtorchtune.modules.peft.lora1.Sourcecodefor`torchtune.modules.peft.lora`2.`LoRALinear`2.1.`defadapter_params(self)->list[str]`2.2.`defforward(self,x:torch.Tensor)->torch.Tensor`2.3.`defto_empty(
- Java SE入门及基础(62)& 线程池 & 执行器
卷到起飞的数分
JavaSEjava开发语言
线程池1.执行器Inallofthepreviousexamples,there'sacloseconnectionbetweenthetaskbeingdonebyanewthread,asdefinedbyitsRunnableobject,andthethreaditself,asdefinedbyaThreadobject.Thisworkswellforsmallapplications
- 区间求最值问题高效解决方法
东皇太星
python
对于区间求最值场景,如果区间不定长度的,可以使用稀疏表进行求解,如果区间是固定长度的,则可以使用分块的思想(与稀疏表原理类似),都是通过压缩状态个数,1关于稀疏表的原理详见:稀疏表(SparseTable,ST原理及应用场景下面是一个稀疏表的python实现classSolution:def__init__(self,nums):self.nums=numsself.init_value=-999
- python优先队列使用_Python优先队列实现方法示例
本文实例讲述了Python优先队列实现方法。分享给大家供大家参考,具体如下:1.代码importQueueimportthreadingclassJob(object):def__init__(self,priority,description):self.priority=priorityself.description=descriptionprint'Newjob:',description
- LeetCode-最长回文子串
踏实写代码,认真搞学术的小研
leetcode
classSolution:deflongestPalindrome(self,s:str)->str:n=len(s)#创建一个二维数组dp,用于记录回文子串的信息dp=[[False]*nfor_inrange(n)]start=0#记录最长回文子串的起始位置max_len=1#记录最长回文子串的长度#初始化单个字符和相邻两个字符是回文子串的情况foriinrange(n):dp[i][i]=
- [力扣]第55题- 跳跃游戏[动态规划]
卡瓦博格-
力扣记录leetcode算法职场和发展
[力扣]第55题-跳跃游戏[动态规划]本题的难度较低,需要考虑的情况比较少。答案:classSolution:defcanJump(self,nums)->int:length=len(nums)iflength==1:returnTrue#判断当前输入的数字是否只有一个元素(无法跳跃),直接返回Trueifnums[0]==0:returnFalse#判断当前数组的第一个数字是否是0,直接返回F
- 使用uniapp绘制一个折线图(uCharts)
苦夏木禾
uni-app
uCharts简介,这是官方介绍,上面有全部的示例,我这篇只是取一部分实现的需要引入u-charts.js,这个文件的代码我放在最后面,当然也可以官方Gitee下载效果图代码:importuChartsfrom'../../components/u-charts/u-charts.js';//引入js文件var_self;//用于全局使用thisvarcanvaLineA=null;//uChar
- happy-llm 第二章 Transformer架构
weixin_38374194
transformer深度学习人工智能学习
文章目录一、注意力机制核心解析1.1注意力机制的本质与核心变量1.2注意力机制的数学推导1.3注意力机制的变种实现1.3.1自注意力(Self-Attention)1.3.2掩码自注意力(MaskedSelf-Attention)1.3.3多头注意力(Multi-HeadAttention)二、Encoder-Decoder架构详解2.1Seq2Seq任务与架构设计2.2核心组件解析2.2.1前馈
- Nystromformer:一种基于 Nyström 方法的自注意力近似算法
AI专题精讲
Paper阅读人工智能自然语言处理AI
1.摘要Transformer已经成为广泛自然语言处理任务中的强大工具。推动Transformer展现出卓越性能的一个关键组件是self-attention机制,它对每个token编码了其他token的影响或依赖关系。虽然self-attention机制具有诸多优势,但其在输入序列长度上的二次复杂度限制了其在较长序列上的应用——这是当前社区积极研究的一个主题。为了解决这一限制,我们提出了Nystr
- python定义向量内积_Python 设计一个向量类,实现数据的输入、输出、向量的加法、减法、点积、夹角等计算...
weixin_39927623
python定义向量内积
Python设计一个向量类,实现数据的输入、输出、向量的加法、减法、点积、夹角等计算练习题2018.10.25importmathclassVectors:def__init__(self):self.x1=0self.x2=0self.y1=0self.y2=0self.x=self.x2-self.x1self.y=self.y2-self.y1defadd(self):self.x1=int
- Pytorch实现DenseNet,先收藏了
classDenseNet(nn.Module):definit(self,init_channels=64,growth_rate=32,blocks=[6,12,24,16],num_classes=1000):super(DenseNet,self).init()bn_size=4drop_rate=0self.conv1=Conv1(in_planes=3,places=init_chan
- Python内置函数--reversed()
它将一个序列作为输入,并返回另一个序列,其中元素的顺序与给定输入序列的顺序相反。它不会对原始序列产生任何影响。也就是在原列表的基础上返回一个新的反向列表。粗略的看看classreversed(Iterator[_T],Generic[_T]):@overloaddef__init__(self,__sequence:Reversible[_T])->None:...@overloaddef__in
- HoloViews数据管道技术详解:构建动态数据处理与可视化流程
方玉蜜United
HoloViews数据管道技术详解:构建动态数据处理与可视化流程holoviewsWithHoloviews,yourdatavisualizesitself.项目地址:https://gitcode.com/gh_mirrors/ho/holoviews引言在现代数据分析和可视化工作中,构建高效的数据处理管道至关重要。HoloViews作为一款强大的Python可视化库,提供了灵活的数据管道机制
- Python-GUI-wxPython-控件
深度安全实验室
Pythonpython
1需求2接口3.*控件:wx.StaticTextimportwxclassMainFrame(wx.Frame):def__init__(self,*args,**kwargs):super(MainFrame,self).__init__(*args,**kwargs)self.init_ui()self.Center()self.Maximize()definit_ui(self):stat
- Nginx负载均衡
510888780
nginx应用服务器
Nginx负载均衡一些基础知识:
nginx 的 upstream目前支持 4 种方式的分配
1)、轮询(默认)
每个请求按时间顺序逐一分配到不同的后端服务器,如果后端服务器down掉,能自动剔除。
2)、weight
指定轮询几率,weight和访问比率成正比
- RedHat 6.4 安装 rabbitmq
bylijinnan
erlangrabbitmqredhat
在 linux 下安装软件就是折腾,首先是测试机不能上外网要找运维开通,开通后发现测试机的 yum 不能使用于是又要配置 yum 源,最后安装 rabbitmq 时也尝试了两种方法最后才安装成功
机器版本:
[root@redhat1 rabbitmq]# lsb_release
LSB Version: :base-4.0-amd64:base-4.0-noarch:core
- FilenameUtils工具类
eksliang
FilenameUtilscommon-io
转载请出自出处:http://eksliang.iteye.com/blog/2217081 一、概述
这是一个Java操作文件的常用库,是Apache对java的IO包的封装,这里面有两个非常核心的类FilenameUtils跟FileUtils,其中FilenameUtils是对文件名操作的封装;FileUtils是文件封装,开发中对文件的操作,几乎都可以在这个框架里面找到。 非常的好用。
- xml文件解析SAX
不懂事的小屁孩
xml
xml文件解析:xml文件解析有四种方式,
1.DOM生成和解析XML文档(SAX是基于事件流的解析)
2.SAX生成和解析XML文档(基于XML文档树结构的解析)
3.DOM4J生成和解析XML文档
4.JDOM生成和解析XML
本文章用第一种方法进行解析,使用android常用的DefaultHandler
import org.xml.sax.Attributes;
- 通过定时任务执行mysql的定期删除和新建分区,此处是按日分区
酷的飞上天空
mysql
使用python脚本作为命令脚本,linux的定时任务来每天定时执行
#!/usr/bin/python
# -*- coding: utf8 -*-
import pymysql
import datetime
import calendar
#要分区的表
table_name = 'my_table'
#连接数据库的信息
host,user,passwd,db =
- 如何搭建数据湖架构?听听专家的意见
蓝儿唯美
架构
Edo Interactive在几年前遇到一个大问题:公司使用交易数据来帮助零售商和餐馆进行个性化促销,但其数据仓库没有足够时间去处理所有的信用卡和借记卡交易数据
“我们要花费27小时来处理每日的数据量,”Edo主管基础设施和信息系统的高级副总裁Tim Garnto说道:“所以在2013年,我们放弃了现有的基于PostgreSQL的关系型数据库系统,使用了Hadoop集群作为公司的数
- spring学习——控制反转与依赖注入
a-john
spring
控制反转(Inversion of Control,英文缩写为IoC)是一个重要的面向对象编程的法则来削减计算机程序的耦合问题,也是轻量级的Spring框架的核心。 控制反转一般分为两种类型,依赖注入(Dependency Injection,简称DI)和依赖查找(Dependency Lookup)。依赖注入应用比较广泛。
- 用spool+unixshell生成文本文件的方法
aijuans
xshell
例如我们把scott.dept表生成文本文件的语句写成dept.sql,内容如下:
set pages 50000;
set lines 200;
set trims on;
set heading off;
spool /oracle_backup/log/test/dept.lst;
select deptno||','||dname||','||loc
- 1、基础--名词解析(OOA/OOD/OOP)
asia007
学习基础知识
OOA:Object-Oriented Analysis(面向对象分析方法)
是在一个系统的开发过程中进行了系统业务调查以后,按照面向对象的思想来分析问题。OOA与结构化分析有较大的区别。OOA所强调的是在系统调查资料的基础上,针对OO方法所需要的素材进行的归类分析和整理,而不是对管理业务现状和方法的分析。
OOA(面向对象的分析)模型由5个层次(主题层、对象类层、结构层、属性层和服务层)
- 浅谈java转成json编码格式技术
百合不是茶
json编码java转成json编码
json编码;是一个轻量级的数据存储和传输的语言
在java中需要引入json相关的包,引包方式在工程的lib下就可以了
JSON与JAVA数据的转换(JSON 即 JavaScript Object Natation,它是一种轻量级的数据交换格式,非
常适合于服务器与 JavaScript 之间的数据的交
- web.xml之Spring配置(基于Spring+Struts+Ibatis)
bijian1013
javaweb.xmlSSIspring配置
指定Spring配置文件位置
<context-param>
<param-name>contextConfigLocation</param-name>
<param-value>
/WEB-INF/spring-dao-bean.xml,/WEB-INF/spring-resources.xml,
/WEB-INF/
- Installing SonarQube(Fail to download libraries from server)
sunjing
InstallSonar
1. Download and unzip the SonarQube distribution
2. Starting the Web Server
The default port is "9000" and the context path is "/". These values can be changed in &l
- 【MongoDB学习笔记十一】Mongo副本集基本的增删查
bit1129
mongodb
一、创建复本集
假设mongod,mongo已经配置在系统路径变量上,启动三个命令行窗口,分别执行如下命令:
mongod --port 27017 --dbpath data1 --replSet rs0
mongod --port 27018 --dbpath data2 --replSet rs0
mongod --port 27019 -
- Anychart图表系列二之执行Flash和HTML5渲染
白糖_
Flash
今天介绍Anychart的Flash和HTML5渲染功能
HTML5
Anychart从6.0第一个版本起,已经逐渐开始支持各种图的HTML5渲染效果了,也就是说即使你没有安装Flash插件,只要浏览器支持HTML5,也能看到Anychart的图形(不过这些是需要做一些配置的)。
这里要提醒下大家,Anychart6.0版本对HTML5的支持还不算很成熟,目前还处于
- Laravel版本更新异常4.2.8-> 4.2.9 Declaration of ... CompilerEngine ... should be compa
bozch
laravel
昨天在为了把laravel升级到最新的版本,突然之间就出现了如下错误:
ErrorException thrown with message "Declaration of Illuminate\View\Engines\CompilerEngine::handleViewException() should be compatible with Illuminate\View\Eng
- 编程之美-NIM游戏分析-石头总数为奇数时如何保证先动手者必胜
bylijinnan
编程之美
import java.util.Arrays;
import java.util.Random;
public class Nim {
/**编程之美 NIM游戏分析
问题:
有N块石头和两个玩家A和B,玩家A先将石头随机分成若干堆,然后按照BABA...的顺序不断轮流取石头,
能将剩下的石头一次取光的玩家获胜,每次取石头时,每个玩家只能从若干堆石头中任选一堆,
- lunce创建索引及简单查询
chengxuyuancsdn
查询创建索引lunce
import java.io.File;
import java.io.IOException;
import org.apache.lucene.analysis.Analyzer;
import org.apache.lucene.analysis.standard.StandardAnalyzer;
import org.apache.lucene.document.Docume
- [IT与投资]坚持独立自主的研究核心技术
comsci
it
和别人合作开发某项产品....如果互相之间的技术水平不同,那么这种合作很难进行,一般都会成为强者控制弱者的方法和手段.....
所以弱者,在遇到技术难题的时候,最好不要一开始就去寻求强者的帮助,因为在我们这颗星球上,生物都有一种控制其
- flashback transaction闪回事务查询
daizj
oraclesql闪回事务
闪回事务查询有别于闪回查询的特点有以下3个:
(1)其正常工作不但需要利用撤销数据,还需要事先启用最小补充日志。
(2)返回的结果不是以前的“旧”数据,而是能够将当前数据修改为以前的样子的撤销SQL(Undo SQL)语句。
(3)集中地在名为flashback_transaction_query表上查询,而不是在各个表上通过“as of”或“vers
- Java I/O之FilenameFilter类列举出指定路径下某个扩展名的文件
游其是你
FilenameFilter
这是一个FilenameFilter类用法的例子,实现的列举出“c:\\folder“路径下所有以“.jpg”扩展名的文件。 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28
- C语言学习五函数,函数的前置声明以及如何在软件开发中合理的设计函数来解决实际问题
dcj3sjt126com
c
# include <stdio.h>
int f(void) //括号中的void表示该函数不能接受数据,int表示返回的类型为int类型
{
return 10; //向主调函数返回10
}
void g(void) //函数名前面的void表示该函数没有返回值
{
//return 10; //error 与第8行行首的void相矛盾
}
in
- 今天在测试环境使用yum安装,遇到一个问题: Error: Cannot retrieve metalink for repository: epel. Pl
dcj3sjt126com
centos
今天在测试环境使用yum安装,遇到一个问题:
Error: Cannot retrieve metalink for repository: epel. Please verify its path and try again
处理很简单,修改文件“/etc/yum.repos.d/epel.repo”, 将baseurl的注释取消, mirrorlist注释掉。即可。
&n
- 单例模式
shuizhaosi888
单例模式
单例模式 懒汉式
public class RunMain {
/**
* 私有构造
*/
private RunMain() {
}
/**
* 内部类,用于占位,只有
*/
private static class SingletonRunMain {
priv
- Spring Security(09)——Filter
234390216
Spring Security
Filter
目录
1.1 Filter顺序
1.2 添加Filter到FilterChain
1.3 DelegatingFilterProxy
1.4 FilterChainProxy
1.5
- 公司项目NODEJS实践0.1
逐行分析JS源代码
mongodbnginxubuntunodejs
一、前言
前端如何独立用nodeJs实现一个简单的注册、登录功能,是不是只用nodejs+sql就可以了?其实是可以实现,但离实际应用还有距离,那要怎么做才是实际可用的。
网上有很多nod
- java.lang.Math
liuhaibo_ljf
javaMathlang
System.out.println(Math.PI);
System.out.println(Math.abs(1.2));
System.out.println(Math.abs(1.2));
System.out.println(Math.abs(1));
System.out.println(Math.abs(111111111));
System.out.println(Mat
- linux下时间同步
nonobaba
ntp
今天在linux下做hbase集群的时候,发现hmaster启动成功了,但是用hbase命令进入shell的时候报了一个错误 PleaseHoldException: Master is initializing,查看了日志,大致意思是说master和slave时间不同步,没办法,只好找一种手动同步一下,后来发现一共部署了10来台机器,手动同步偏差又比较大,所以还是从网上找现成的解决方
- ZooKeeper3.4.6的集群部署
roadrunners
zookeeper集群部署
ZooKeeper是Apache的一个开源项目,在分布式服务中应用比较广泛。它主要用来解决分布式应用中经常遇到的一些数据管理问题,如:统一命名服务、状态同步、集群管理、配置文件管理、同步锁、队列等。这里主要讲集群中ZooKeeper的部署。
1、准备工作
我们准备3台机器做ZooKeeper集群,分别在3台机器上创建ZooKeeper需要的目录。
数据存储目录
- Java高效读取大文件
tomcat_oracle
java
读取文件行的标准方式是在内存中读取,Guava 和Apache Commons IO都提供了如下所示快速读取文件行的方法: Files.readLines(new File(path), Charsets.UTF_8); FileUtils.readLines(new File(path)); 这种方法带来的问题是文件的所有行都被存放在内存中,当文件足够大时很快就会导致
- 微信支付api返回的xml转换为Map的方法
xu3508620
xmlmap微信api
举例如下:
<xml>
<return_code><![CDATA[SUCCESS]]></return_code>
<return_msg><![CDATA[OK]]></return_msg>
<appid><