template//在有序向量区间[lo,hi)内查找元素estaticRankbinSearch(T*A,Tconst&e,Ranklo,Rankhi){while(lo>1;//以中点为轴点//使用一个临时变量来存储比较结果,方便在switch中使用intcomparisonResult=(e
通过LoRA(Low-Rank Adaptation)低秩矩阵分解来高效微调权重变化
背太阳的牧羊人
模型微调矩阵线性代数深度学习人工智能自然语言处理LoRA
LoRA的原理LoRA的核心思想是用低秩矩阵分解来建模参数的变化,而不是直接调整整个权重矩阵。这种方法通过减少微调的参数数量来提高训练效率。基本公式假设预训练模型的某一层权重为(W\in\mathbb{R}^{d\timesk}),LoRA的调整方式是:[W’=W+\DeltaW]其中(\DeltaW)是调整后的权重变化。LoRA假设权重变化(\DeltaW)的秩较低,可以表示为两个低秩矩阵的乘积
Chainlink 预言机的原理解析
Chainlink资讯
预言机Chainlink智能合约
本文来自于8月19日Chainlink开发者社区中国负责人Frank,在DAppLearning分享会上对于Chainlink预言机的原理的讲解,以下是这节分享会的总结内容。有兴趣的小伙伴可以结合视频一起学习:为什么区块链无法主动获取外界数据区块链的特点区块链是一个封闭的确定性系统,每一笔交易都需要不同节点共识,只有超过一定数量的节点共识成功,交易才会被真正认可,并写入区块链。因为对于外部API的
一文带大家了解RARR(Retrieve-Read-Rerank) 和 RAG(Retrieval-Augmented Generation)的区别
测试开发Kevin
AI相关人工智能ai
RARR(Retrieve-Read-Rerank)和RAG(Retrieval-AugmentedGeneration)是两种不同的检索增强生成技术,核心差异在于流程设计、优化目标及适用场景。以下从多个维度对比两者的区别:1.流程架构与核心步骤RAG(检索增强生成)流程:检索(Retrieve):从外部知识库中检索与查询相关的文档或文本片段。生成(Generate):将检索到的内容与原始查询拼接
游戏引擎导论
方块砖
图形学
本系列文章由zhmxy555(毛星云)编写,转载请注明出处。文章链接:http://blog.csdn.net/zhmxy555/article/details/8250057作者:毛星云(浅墨)邮箱:
[email protected]一、学完DirectX,我们该干什么?浅墨觉得,历代DirectX龙书的作者FrankLuna在龙书中忽视了非常重要的一方面内容的讲解,那就是就是学完了Dir
实战领域:脱壳操作手册
xixixi77777
脱壳动态脱壳红队安全
一、环境准备(必须项)硬件隔离用一台物理机(非虚拟机)安装Windows10/11,关闭所有安全防护(Defender、防火墙)。硬件要求:至少16GB内存+SSD(防止内存转储卡顿)。工具包下载调试器:x64dbg(自带插件Scylla)内存分析:ProcessHacker2(监控内存分配)自动化脱壳:Unipacker(支持常见压缩壳)反反调试:TitanHide(内核级隐藏调试器)虚拟化执行
从零学习大模型(六)-----LoRA(上)
懒惰才能让科技进步
大语言模型gpt-3人工智能深度学习chatgpt语言模型
LoRA简介LoRA(Low-RankAdaptation)是一种参数高效的微调技术,旨在降低微调大规模预训练模型的存储和计算成本。**其核心思想是通过对模型的特定参数进行低秩分解,仅对少量附加参数进行训练,从而完成任务适应,而无需更新整个模型的权重。**这种方法通过引入额外的低秩矩阵来适应新的任务,保持了预训练模型的核心知识,使其更具灵活性和高效性。在大规模语言模型的实际应用中,微调需要耗费巨大
RAG数据嵌入和重排序:如何选择合适的模型
从零开始学习人工智能
深度学习
RAG数据嵌入和重排序:如何选择合适的模型在自然语言处理(NLP)领域,Retrieval-AugmentedGeneration(RAG)模型已经成为一种强大的工具,用于结合检索和生成能力来处理复杂的语言任务。RAG模型的核心在于两个关键步骤:数据嵌入(Embedding)和重排序(Re-ranking)。这两个步骤的选择和优化对于模型的性能至关重要。本文将探讨如何选择合适的模型来实现高效的数据
第二十五篇 SQL优化杀手锏:用分析函数让你的查询快如闪电
随缘而动,随遇而安
SQL之道——从入门到精通数据库sql
目录一、初识分析函数:外卖骑手的一天1.1真实工作场景二、分析函数三板斧(超直观对比表)三、手把手教学:5大核心函数详解️3.1排名三剑客(班级成绩单案例)3.1.1ROW_NUMBER():唯一学号式排名3.1.2RANK():运动会颁奖式排名3.1.3DENSE_RANK():电梯楼层式排名3.2时间旅行函数(股票分析案例)3.3滑动窗口函数(疫情数据分析)四、性能优化三大绝招(让老板眼前一亮
LORA 微调大模型:从入门到入土
大模型.
人工智能开发语言gptagi架构大模型
在当今人工智能领域,预训练的大模型已经成为推动技术发展的核心力量。然而,在实际项目中,我们往往会发现这些预训练模型虽然强大,但直接就去应用于一些特定的任务时,往往无法完全满足需求。这时,微调就成为了必不可少的一步。而在众多微调方法中,LORA全名(Low-RankAdaptation)以高效性和实用性,逐渐成为了许多开发者训练模型的首选项。作为一名小有经验的咸鱼开发者,我深知在实际项目中高效的进行
使用FastAPI部署bge-base和bge-reranker
MoyiTech
fastapipython开发语言RAGrerank
最近在做RAG项目,会频繁使用到本地embedding模型和rerank模型,但是每次跑demo都要用10来秒加载模型,非常慢,所以就封装了接口用于直接调用importosimportnumpyasnpimportloggingimportuvicornimportdatetimefromfastapiimportFastAPI,Security,HTTPExceptionfromfastapi.
Python扑克牌小游戏
Small踢倒coffee_氕氘氚
笔记经验分享
1.游戏规则概述玩家人数:3人牌数:一副扑克牌,共54张(包括大小王)发牌:每人17张牌,剩余3张作为底牌出牌规则:玩家依次出牌,必须出比上家更大的牌型,或者选择不出胜利条件:先出完手中牌的玩家获胜2.游戏框架设计2.1牌型定义classCard:def__init__(self,suit,rank):self.suit=suit#花色:♠,♥,♣,♦self.rank=rank#牌面:3,4,5
算法在各领域的广泛应用:100 个实例全解析
软件职业规划
AI&模型算法
一、互联网与信息技术领域搜索引擎算法:如谷歌的PageRank算法,用于根据网页的重要性和相关性对搜索结果进行排序,帮助用户快速找到所需信息。推荐系统算法:例如亚马逊和Netflix使用的协同过滤算法。根据用户的历史行为(购买、观看记录等)和其他相似用户的偏好,为用户推荐可能感兴趣的产品或内容。社交网络分析算法:用于分析社交网络中的用户关系,如Facebook通过算法发现用户的好友推荐、社区划分等
redis的zset命令总结
脱氨垃圾
Redisredis数据库database
redis的zset命令总结文章目录redis的zset命令总结1.zadd2.zrem3.zcard4.zrange5.zrevrange6.zrangebyscore7.zrevrangebyscore8.zcount9.zrank10.zscorezset(sortedset:有序集合)Rediszset和set一样也是string类型元素的集合,且不允许重复的成员。不同的是每个元素都会关联
分布式训练中的参数local_rank
挨打且不服66
python分布式python
local_rank是一个常用于分布式训练中的参数,用于指示当前进程的本地编号。它帮助在分布式环境中区分不同的进程。通常情况下,local_rank的值为-1表示不进行分布式训练,值为0表示第一个(主)进程,其它正数表示其它辅助进程。在分布式训练中,我们常常需要确保某些操作(例如下载模型和词汇表)只由一个进程完成,以避免重复工作和资源浪费。以下是local_rank在不同情况下的用法解释:loca
【梯度下降算法】
蝉叫醒了夏天
机器学习算法
梯度下降算法:第一章梯度下降的历史沿革1.1优化方法的演进脉络从17世纪牛顿时代的数值解法,到20世纪最优控制理论的发展,直至现代机器学习对优化算法的特殊需求,梯度下降算法在数学优化史上占据重要地位。1947年FrankRosenblatt在感知机研究中首次系统应用梯度下降思想1.2机器学习时代的复兴21世纪深度学习革命使梯度下降算法获得新生:2006年Hinton团队在深度信念网络中的突破应用2
redis 用来实现排行榜的功能
追风林
redis数据库缓存
简单的用Redis的zset数据结构来实现。@Test@DisplayName("实现一个简单的排行榜")publicvoidzSetRankingTest(){ZSetOperationszSetOperations=redisTemplate.opsForZSet();//添加假数据到排行榜zSetOperations.add("ranking","张三",1500);zSetOperatio
论文摘要生成器:用TextRank算法实现文献关键信息提取
Atlas Shepherd
python算法自然语言处理python信息可视化
我们基于python代码,使用PyQt5创建图形用户界面(GUI),同时支持中英文两种语言的文本论文文献关键信息提取。PyQt5:用于创建GUI应用程序。jieba:中文分词库,用于中文文本的处理。re:正则表达式模块,用于文本清理和句子分割。numpy:提供数值计算能力,如数组操作、矩阵运算等,主要用于TextRank算法的实现。importsysimportreimportjiebaimpor
计算机中计算排名用什么公式,最全面的Excel函数排名公式汇总
鸦杀已尽
计算机中计算排名用什么公式
在工作中,我们很常遇到需要对销售业绩或学生成绩等进行排名。使用排序的方法可以很便捷的进行排名,但是运用函数公式可能更加方便和高大上。本文列举了关于排名的几种方法:第一部分:美式排名公式一、用RANK函数两参数用法做基础排名(默认降序排列)。特点:如果有两个数字排名相同,如下图,有两个第5名,下一名就是第7名,跳过了6。也就是说最大的次序和总数据量一致,其中的第2个第5占据了“第6”这个名次。单列成
使用Excel计算排名
IT铺子
Excelexcel
在Excel中,有几种方法可以计算排名,常用的是使用RANK、RANK.EQ和RANK.AVG函数。这些函数可以根据给定的数据范围计算每个值的排名。以下是一些具体的排名计算示例。示例1:基本排名计算假设我们有一组学生的成绩,想要计算他们在班级中的排名。学生姓名成绩排名小明85小红92小刚78小丽88小华92步骤在“排名”列中输入公式=RANK.EQ(B2,$B$2:$B$6,0),然后按Enter
在整个大模型LoRA微调中,哪些方法可以提升和优化模型训练后推理效果?
玩人工智能的辣条哥
人工智能人工智能LoRA微调
环境:LoRA微调问题描述:在整个大模型LoRA微调中,哪些方法可以提升和优化模型训练后推理效果?解决方案:在LoRA(Low-RankAdaptation)微调大模型后,提升和优化推理效果可以从以下多维度策略入手,涵盖数据、模型架构、训练策略和后处理技术等方面:1.数据优化数据质量与多样性确保微调数据覆盖目标场景的多样性,避免分布偏差。加入领域相关的高质量数据,清洗噪声数据(如重复、矛盾样本)。
Manus被「越狱」:创始人回应风波与开源转向
UR的出不克
人工智能manusagent
Manus被「越狱」:创始人回应风波与开源转向早上刷推特,一条标签为"#Manus越狱"的话题炸了。这个前些日子刚刚融了A轮的AI新贵突然成了安全圈的焦点。熬了一整晚的咖啡还没喝完,Manus团队就陷入了灭火模式。「越狱」风波:始于一条推特事情的起因很"典型"——一位ID为"AIHacker_2023"的用户前天发了条推文:"Manus的安全屏障形同虚设,两个prompt就能搞定,详情看图。"配图
从零开始学习黑客技术,看这一篇就够了
网络安全-旭师兄
学习web安全python密码学网络安全
基于入门网络安全/黑客打造的:黑客&网络安全入门&进阶学习资源包黑客,对于很多人来说,是一个神秘的代名词,加之影视作品夸张的艺术表现,使得黑客这个本来只专注于技术的群体,散发出亦正亦邪的神秘色彩。黑客源自英文hacker一词,最初曾指热心于计算机技术、水平高超的电脑高手,尤其是程序设计人员,逐渐区分为白帽、灰帽、黑帽等。其中,白帽黑客被称为道德黑客。他们不会非法入侵用户网络,而是通过一系列测试检查
JAVA中的Enum
周凡杨
javaenum枚举
Enum是计算机编程语言中的一种数据类型---枚举类型。 在实际问题中,有些变量的取值被限定在一个有限的范围内。 例如,一个星期内只有七天 我们通常这样实现上面的定义:
public String monday;
public String tuesday;
public String wensday;
public String thursday
赶集网mysql开发36条军规
Bill_chen
mysql业务架构设计mysql调优mysql性能优化
(一)核心军规 (1)不在数据库做运算 cpu计算务必移至业务层; (2)控制单表数据量 int型不超过1000w,含char则不超过500w; 合理分表; 限制单库表数量在300以内; (3)控制列数量 字段少而精,字段数建议在20以内
Shell test命令
daizj
shell字符串test数字文件比较
Shell test命令
Shell中的 test 命令用于检查某个条件是否成立,它可以进行数值、字符和文件三个方面的测试。 数值测试 参数 说明 -eq 等于则为真 -ne 不等于则为真 -gt 大于则为真 -ge 大于等于则为真 -lt 小于则为真 -le 小于等于则为真
实例演示:
num1=100
num2=100if test $[num1]
XFire框架实现WebService(二)
周凡杨
javawebservice
有了XFire框架实现WebService(一),就可以继续开发WebService的简单应用。
Webservice的服务端(WEB工程):
两个java bean类:
Course.java
package cn.com.bean;
public class Course {
private
重绘之画图板
朱辉辉33
画图板
上次博客讲的五子棋重绘比较简单,因为只要在重写系统重绘方法paint()时加入棋盘和棋子的绘制。这次我想说说画图板的重绘。
画图板重绘难在需要重绘的类型很多,比如说里面有矩形,园,直线之类的,所以我们要想办法将里面的图形加入一个队列中,这样在重绘时就
Java的IO流
西蜀石兰
java
刚学Java的IO流时,被各种inputStream流弄的很迷糊,看老罗视频时说想象成插在文件上的一根管道,当初听时觉得自己很明白,可到自己用时,有不知道怎么代码了。。。
每当遇到这种问题时,我习惯性的从头开始理逻辑,会问自己一些很简单的问题,把这些简单的问题想明白了,再看代码时才不会迷糊。
IO流作用是什么?
答:实现对文件的读写,这里的文件是广义的;
Java如何实现程序到文件
No matching PlatformTransactionManager bean found for qualifier 'add' - neither
林鹤霄
java.lang.IllegalStateException: No matching PlatformTransactionManager bean found for qualifier 'add' - neither qualifier match nor bean name match!
网上找了好多的资料没能解决,后来发现:项目中使用的是xml配置的方式配置事务,但是
Row size too large (> 8126). Changing some columns to TEXT or BLOB
aigo
column
原文:http://stackoverflow.com/questions/15585602/change-limit-for-mysql-row-size-too-large
异常信息:
Row size too large (> 8126). Changing some columns to TEXT or BLOB or using ROW_FORMAT=DYNAM
JS 格式化时间
alxw4616
JavaScript
/**
* 格式化时间 2013/6/13 by 半仙
[email protected]
* 需要 pad 函数
* 接收可用的时间值.
* 返回替换时间占位符后的字符串
*
* 时间占位符:年 Y 月 M 日 D 小时 h 分 m 秒 s 重复次数表示占位数
* 如 YYYY 4占4位 YY 占2位<p></p>
* MM DD hh mm
队列中数据的移除问题
百合不是茶
队列移除
队列的移除一般都是使用的remov();都可以移除的,但是在昨天做线程移除的时候出现了点问题,没有将遍历出来的全部移除, 代码如下;
//
package com.Thread0715.com;
import java.util.ArrayList;
public class Threa
Runnable接口使用实例
bijian1013
javathreadRunnablejava多线程
Runnable接口
a. 该接口只有一个方法:public void run();
b. 实现该接口的类必须覆盖该run方法
c. 实现了Runnable接口的类并不具有任何天
oracle里的extend详解
bijian1013
oracle数据库extend
扩展已知的数组空间,例:
DECLARE
TYPE CourseList IS TABLE OF VARCHAR2(10);
courses CourseList;
BEGIN
-- 初始化数组元素,大小为3
courses := CourseList('Biol 4412 ', 'Psyc 3112 ', 'Anth 3001 ');
--
【httpclient】httpclient发送表单POST请求
bit1129
httpclient
浏览器Form Post请求
浏览器可以通过提交表单的方式向服务器发起POST请求,这种形式的POST请求不同于一般的POST请求
1. 一般的POST请求,将请求数据放置于请求体中,服务器端以二进制流的方式读取数据,HttpServletRequest.getInputStream()。这种方式的请求可以处理任意数据形式的POST请求,比如请求数据是字符串或者是二进制数据
2. Form
【Hive十三】Hive读写Avro格式的数据
bit1129
hive
1. 原始数据
hive> select * from word;
OK
1 MSN
10 QQ
100 Gtalk
1000 Skype
2. 创建avro格式的数据表
hive> CREATE TABLE avro_table(age INT, name STRING)STORE
nginx+lua+redis自动识别封解禁频繁访问IP
ronin47
在站点遇到攻击且无明显攻击特征,造成站点访问慢,nginx不断返回502等错误时,可利用nginx+lua+redis实现在指定的时间段 内,若单IP的请求量达到指定的数量后对该IP进行封禁,nginx返回403禁止访问。利用redis的expire命令设置封禁IP的过期时间达到在 指定的封禁时间后实行自动解封的目的。
一、安装环境:
CentOS x64 release 6.4(Fin
java-二叉树的遍历-先序、中序、后序(递归和非递归)、层次遍历
bylijinnan
java
import java.util.LinkedList;
import java.util.List;
import java.util.Stack;
public class BinTreeTraverse {
//private int[] array={ 1, 2, 3, 4, 5, 6, 7, 8, 9 };
private int[] array={ 10,6,
Spring源码学习-XML 配置方式的IoC容器启动过程分析
bylijinnan
javaspringIOC
以FileSystemXmlApplicationContext为例,把Spring IoC容器的初始化流程走一遍:
ApplicationContext context = new FileSystemXmlApplicationContext
("C:/Users/ZARA/workspace/HelloSpring/src/Beans.xml&q
[科研与项目]民营企业请慎重参与军事科技工程
comsci
企业
军事科研工程和项目 并非要用最先进,最时髦的技术,而是要做到“万无一失”
而民营科技企业在搞科技创新工程的时候,往往考虑的是技术的先进性,而对先进技术带来的风险考虑得不够,在今天提倡军民融合发展的大环境下,这种“万无一失”和“时髦性”的矛盾会日益凸显。。。。。。所以请大家在参与任何重大的军事和政府项目之前,对
spring 定时器-两种方式
cuityang
springquartz定时器
方式一:
间隔一定时间 运行
<bean id="updateSessionIdTask" class="com.yang.iprms.common.UpdateSessionTask" autowire="byName" />
<bean id="updateSessionIdSchedule
简述一下关于BroadView站点的相关设计
damoqiongqiu
view
终于弄上线了,累趴,戳这里http://www.broadview.com.cn
简述一下相关的技术点
前端:jQuery+BootStrap3.2+HandleBars,全站Ajax(貌似对SEO的影响很大啊!怎么破?),用Grunt对全部JS做了压缩处理,对部分JS和CSS做了合并(模块间存在很多依赖,全部合并比较繁琐,待完善)。
后端:U
运维 PHP问题汇总
dcj3sjt126com
windows2003
1、Dede(织梦)发表文章时,内容自动添加关键字显示空白页
解决方法:
后台>系统>系统基本参数>核心设置>关键字替换(是/否),这里选择“是”。
后台>系统>系统基本参数>其他选项>自动提取关键字,这里选择“是”。
2、解决PHP168超级管理员上传图片提示你的空间不足
网站是用PHP168做的,反映使用管理员在后台无法
mac 下 安装php扩展 - mcrypt
dcj3sjt126com
PHP
MCrypt是一个功能强大的加密算法扩展库,它包括有22种算法,phpMyAdmin依赖这个PHP扩展,具体如下:
下载并解压libmcrypt-2.5.8.tar.gz。
在终端执行如下命令: tar zxvf libmcrypt-2.5.8.tar.gz cd libmcrypt-2.5.8/ ./configure --disable-posix-threads --
MongoDB更新文档 [四]
eksliang
mongodbMongodb更新文档
MongoDB更新文档
转载请出自出处:http://eksliang.iteye.com/blog/2174104
MongoDB对文档的CURD,前面的博客简单介绍了,但是对文档更新篇幅比较大,所以这里单独拿出来。
语法结构如下:
db.collection.update( criteria, objNew, upsert, multi)
参数含义 参数  
Linux下的解压,移除,复制,查看tomcat命令
y806839048
tomcat
重复myeclipse生成webservice有问题删除以前的,干净
1、先切换到:cd usr/local/tomcat5/logs
2、tail -f catalina.out
3、这样运行时就可以实时查看运行日志了
Ctrl+c 是退出tail命令。
有问题不明的先注掉
cp /opt/tomcat-6.0.44/webapps/g
Spring之使用事务缘由(3-XML实现)
ihuning
spring
用事务通知声明式地管理事务
事务管理是一种横切关注点。为了在 Spring 2.x 中启用声明式事务管理,可以通过 tx Schema 中定义的 <tx:advice> 元素声明事务通知,为此必须事先将这个 Schema 定义添加到 <beans> 根元素中去。声明了事务通知后,就需要将它与切入点关联起来。由于事务通知是在 <aop:
GCD使用经验与技巧浅谈
啸笑天
GC
前言
GCD(Grand Central Dispatch)可以说是Mac、iOS开发中的一大“利器”,本文就总结一些有关使用GCD的经验与技巧。
dispatch_once_t必须是全局或static变量
这一条算是“老生常谈”了,但我认为还是有必要强调一次,毕竟非全局或非static的dispatch_once_t变量在使用时会导致非常不好排查的bug,正确的如下: 1
linux(Ubuntu)下常用命令备忘录1
macroli
linux工作ubuntu
在使用下面的命令是可以通过--help来获取更多的信息1,查询当前目录文件列表:ls
ls命令默认状态下将按首字母升序列出你当前文件夹下面的所有内容,但这样直接运行所得到的信息也是比较少的,通常它可以结合以下这些参数运行以查询更多的信息:
ls / 显示/.下的所有文件和目录
ls -l 给出文件或者文件夹的详细信息
ls -a 显示所有文件,包括隐藏文
nodejs同步操作mysql
qiaolevip
学习永无止境每天进步一点点mysqlnodejs
// db-util.js
var mysql = require('mysql');
var pool = mysql.createPool({
connectionLimit : 10,
host: 'localhost',
user: 'root',
password: '',
database: 'test',
port: 3306
});
一起学Hive系列文章
superlxw1234
hiveHive入门
[一起学Hive]系列文章 目录贴,入门Hive,持续更新中。
[一起学Hive]之一—Hive概述,Hive是什么
[一起学Hive]之二—Hive函数大全-完整版
[一起学Hive]之三—Hive中的数据库(Database)和表(Table)
[一起学Hive]之四-Hive的安装配置
[一起学Hive]之五-Hive的视图和分区
[一起学Hive
Spring开发利器:Spring Tool Suite 3.7.0 发布
wiselyman
spring
Spring Tool Suite(简称STS)是基于Eclipse,专门针对Spring开发者提供大量的便捷功能的优秀开发工具。
在3.7.0版本主要做了如下的更新:
将eclipse版本更新至Eclipse Mars 4.5 GA
Spring Boot(JavaEE开发的颠覆者集大成者,推荐大家学习)的配置语言YAML编辑器的支持(包含自动提示,