LORA精调

Transformer 代码剖析7 - 词元嵌入(TokenEmbedding) （pytorch实现）

一、类定义与继承关系剖析1.1代码结构图示神经网络基础模块词嵌入基类自定义词元嵌入构造函数定义基类初始化词汇量参数维度参数填充标识参数1.2代码实现精讲"""@author:Hyunwoong@when

lczdyx·2025-03-02 22:50

大模型生成文本控制参数:Top-k Top-p和Temperature(超级易懂,看一眼就学废)

温度调低（比如0.2）：AI会变成保守派，总选最稳妥的回答（适合写说明书、正经文案）温度调高（比如1.0）：AI就变戏精，各种天马行空（适合编故事、写段子）Top-k（候选词数量）作用：每次选词时的"候选名单人数

Ven%·2025-03-02 14:13

【线代】《线性代数的几何意义》——摘录笔记（四）

目的：供自己温习使用，有摘录不全或总结不精的部分。他人学习，仅供参考。

jingyu404·2025-03-02 10:42

【线代】《线性代数的几何意义》——摘录笔记兼小结（五）

目的：供自己温习使用，有摘录不全或总结不精的部分。他人学习，仅供参考。

jingyu404·2025-03-02 10:42

MATLAB基础应用精讲-【数模应用】主成分(pca)分析（附python代码实现）

目录前言知识储备降维概述算法原理什么是PCAPCA降维过程PCA算法数学步骤选择主成分个数（即k的值）sklearn中参数的解释数学模型协方差协方差矩阵编辑编辑原理推导编辑编辑编辑编辑实际操作主成分分析的计算方法方法1.协方差+特征值分解方法2：奇异值分解对比不同方法计算效率物理意义算法步骤SPSSAU主成分(pca)分析说明1、信息浓缩2、权重计算3、综合得分【综合竞争力】疑难解惑成分得分后用于

林聪木·2025-03-02 10:09

GD32F4xx SD卡读写及FATFS移植记录

说一下思路：分3步实现1、从资料中首先学习一下SDIO接口的相关内容；2、根据例程调通SDcard的读写驱动程序；3、最后移植FATFS文件系统，文件系统来操作SD卡。

madao1024·2025-03-02 07:15

强化学习探索与利用：多臂老虎机的UCB与Softmax策略

其核心挑战在于如何平衡探索（exploration）和利用

海棠AI实验室·2025-03-01 23:42

【ArcGIS Pro微课1000例】0061：创建大地测量要素（计算距离和方位）

在ArcGISPro中，可以创建线、圆和椭圆等大地测量要素，这些要素在任一投影中的空间精

刘一哥GIS·2025-03-01 15:53

Python酷库之旅-第三方库Pandas(011)

目录一、用法精讲25、pandas.HDFStore.get函数25-1、语法25-2、参数25-3、功能25-4、返回值25-5、说明25-6、用法25-6-1、数据准备25-6-2、代码示例25-6

神奇夜光杯·2025-03-01 05:38

一觉醒来全球编码能力下降100000倍，新手小白的我决定科普C语言——深⼊理解指针(5)

回调函数就是⼀个通过函数指针调⽤的函数。如果你把函数的指针（地址）作为参数传递给另⼀个函数，当这个指针被⽤来调⽤其所指向的函数时，被调⽤的函数就是回调函数。

C语言魔术师·2025-03-01 03:48

【Stack around the variable ‘xxx‘ was corrupted】C++程序中被调函数中发生栈内存越界，越界到主调函数栈内存上，导致内存被篡改的典型案例分析

目录1、问题描述（栈内存越界-Stackaroundthevariable'byVol'wascorrupted）2、查看函数调用堆栈，进行初步分析3、VisualStudio中的/RTC编译选项说明3.1、RTC运行时检测可以做哪些检测？3.2、RTC运行时检测的原理3.3、为什么Release下/RTC编译是关闭的4、进一步分析，找到引发问题的原因5、最后C++软件异常排查从入门到精通系列教程

dvlinker·2025-03-01 01:05

谁说消费级硬件不能玩 DeepSeek - R1 微调？手把手教你进阶AI玩家

让我们来探索如何使用LoRA（低秩自适应）和Unsloth来优化DeepSeek-R1的微调，实现更快、更具成本效益的训练。

硅基创想家·2025-02-28 22:51

Anaconda配置tensorflow-gpu教程

最近在入门tensorflow深度学习，配置环境吃了不少苦头，写个完整的教程首先得在自己主机上装cuda（我之前就是主机上没装cuda,只在虚拟环境里面装了，结果jupyter里面怎么调都识别不到GPU

rubisco214·2025-02-28 22:19

Maven+SSM+SpringBoot+Mybatis-Plus

springmvc、mybatis、springboot3、mybatis-plus、druid；前端:node、npm、vue快速掌握：全新SSM+SpringBoot+MyBatis-Plus实战精讲

五月茶·2025-02-28 19:28

2.8 通过微调提升模型的准确度与效率-大模型ACP模拟题-真题

A.显著提升模型精度B.减少显存占用和响应时间✅C.完全保留原始模型能力D.支持多模态任务扩展解析：量化通过降低参数精度减少资源消耗，但对精度影响较小（<2%）以下关于LoRA技术的描述错误的是？

admin皮卡·2025-02-28 17:12

机器学习：强化学习的epsilon贪心算法

它与监督学习和无监督学习不同，强调试错探索（Exploration-Exploitation）以及基于奖励信号的学习。

田乐蒙·2025-02-28 15:25

Spring 核心技术解析【纯干货版】- XII：Spring 数据访问模块 Spring-R2dbc 模块精讲

在现代应用架构中，高并发、低延迟的需求推动了响应式编程的发展，而传统的JDBC由于其同步阻塞机制，在高吞吐场景下可能成为瓶颈。R2DBC（ReactiveRelationalDatabaseConnectivity）作为响应式关系型数据库访问标准，正是为了解决这一问题而诞生的。SpringR2DBC作为Spring生态对R2DBC的封装，提供了非阻塞、异步的数据库访问能力，并与SpringWebF

m0_74825003·2025-02-28 09:41

壁纸样机神器 2.0 专业版限时内测开启，邀您体验全新升级！

图片参数精细调整：亮度、对比度、饱和度等参数随心调，让背景图色彩鲜艳生动

''distance·2025-02-28 05:11

Spring Boot中@Transactional 注解

Previously：调用接口先打在Controller上相应方法，然后Controller中调Service再有Service的实现层Impl去实现相应业务，所以ServiceImpl会实现Service

Bnuzxh·2025-02-28 05:41

第五篇普通人的编辑利器EmEditor——Vim的替代者（一）

现在polaris的博客基本搞定，原计划是接着完善它然后把之前的博文导进去（没有找到好的方法，只能一篇篇复制，调格式了），今天得知一位网友很“期待”文本编辑器序列的第五篇，于是决定停下其他的事情，钻心写这篇文章

weixin_34236497·2025-02-28 05:40

day58 第十一章：图论part08

拓扑排序精讲关键：先找到入度为0的节点，把这些节点加入队列/结果，然后依次循环再找。

mvufi·2025-02-28 05:07

实现红外触感按键扫描函数

ir_flag：静态变量（保持状态跨函数调

平凡灵感码头·2025-02-27 23:41

半导体晶圆精控：ethercat转profient网关数据提升制造精度

数据采集系统通过网关连接离子注入机，精细控制半导体晶圆制造过程中的关键参数。在半导体制造中，晶圆制造设备的精密控制是决定产品性能的关键因素。某半导体工厂采用耐达讯Profinet转EtherCAT协议网关NY-PN-ECATM，将其数据采集系统与离子注入机连接，实现了晶圆制造过程的精细控制与高效管理。Profinet网络负责传输数据采集系统中的各类监测数据，如温度、压力和电流等参数。这些数据通过网

北京耐用通信·2025-02-27 21:29

Python可迭代对象&迭代器对象

__iter__()方法返回了迭代器对象1.3for循环工作原理1.先通过__iter__()获取可迭代对象的迭代器2.对获取到的迭代器不断调

小杨今日不偷懒·2025-02-27 17:53

DeepSeek开源周合集

进行节点内和节点间通信用于训练和推理填充的高吞吐量内核用于推理解码的低延迟内核原生支持FP8操作实现灵活的GPU资源控制，实现计算与通信重叠周三：DeepGEMM，一个通用的GEMM广义矩阵乘法库，支持FP8精

Vip.Gong·2025-02-27 14:03

黄山谷捷IPO拟募资5亿元，增强核心竞争力

招股书（注册稿）披露，自设立以来，黄山谷捷一直深耕车规级功率半导体模块散热基板领域，凭借创新的冷精锻工艺应用、优秀的模具设计制造能力和优异的车规级产品品质，积累了良好的市场声誉，获得了行业优质客户的认可

L913197600·2025-02-27 13:25

第二章：基础概念精讲 - 第二节 - Tailwind CSS 颜色系统和主题定制

颜色系统基础1.默认调色板TailwindCSS提供了一套精心设计的默认颜色系统：//tailwind.config.js默认颜色示例module.exports={theme:{colors:{//灰度gray:{50:'#f9fafb',100:'#f3f4f6',200:'#e5e7eb',//...更多色阶900:'#111827',},//主题色blue:{50:'#eff6ff',10

·2025-02-27 08:52

第二章：基础概念精讲 - 第一节 - Tailwind CSS 响应式设计系统

响应式设计基础1.断点系统TailwindCSS默认提供五个断点：//tailwind.config.js默认断点配置module.exports={theme:{screens:{'sm':'640px',//小屏幕，如手机横屏'md':'768px',//中等屏幕，如平板'lg':'1024px',//大屏幕，如笔记本'xl':'1280px',//超大屏幕，如桌面显示器'2xl':'1536

·2025-02-27 08:51

git操作全解

全面详细精解~Git常用命令仓库#在当前目录新建一个Git代码库$gitinit#新建一个目录，将其初始化为Git代码库$gitinit[project-name]#下载一个项目和它的整个代码历史$gitclone

洗澡的一条鱼·2025-02-27 07:13

一行指令自动搭建AI绘画：stable-diffusion-webui_v1.3.2

环境等所有依赖全部整合完毕（版本：v1.3.2）容器内默认已支持（无需额外配置）：xformers+controlnet支持自定义启动参数，本文示例为开放api接口供外部业务调用，并已解决API方式下Lora

954L·2025-02-27 06:02

stable diffusion 大模型及lora等下载安装使用教程及项目目录说明

首先说明，stablediffusion大模型并非controlNet中使用的模型，这两者有根本的区别，请仔细区分。国内可下载模型的站点：哩布哩布https://liblib.ai模型分为几类，下载的时候看清楚类型，都会标记在模型的显眼位置。Checkpoint模型存放位置：SD主程序目录位置/models/Stable-diffusionVAE模型存放位置：SD主程序目录位置/models/VA

代码简单说·2025-02-27 06:00

k8s服务健康检查不通过一直重启

如果无提示就从下面可能性找原因：原因一：由于应用的资源配额过低，导致应用启动慢，使启动时间超出健康检查时间解决：检查应用的CPU配额和内存配额，适当调大额度原因二：由于健康检查时间设置过短，使健康检查时间低于应用启动时间解决

AustinCien·2025-02-26 20:42

代码随想录算法训练营Day57 | 拓扑排序精讲、dijkstra（朴素版）精讲

文章目录117.软件构建思路与重点47.参加科学大会思路与重点117.软件构建题目链接：117.软件构建讲解链接：代码随想录状态：一遍AC。思路与重点概括来说，给出一个有向图，把这个有向图转成线性的排序就叫拓扑排序。拓扑排序也是图论中判断有向无环图的常用方法。拓扑排序模板题。#include#include#include#includeusingnamespacestd;intmain(){in

Harryline-lx·2025-02-26 06:01

代码随想录算法训练营第58天|拓扑排序精讲、dijkstra（朴素版）精讲

打卡Day581.拓扑排序精讲2.dijkstra（朴素版）精讲1.拓扑排序精讲题目链接：拓扑排序精讲文档讲解：代码随想录给出一个有向图，把这个有向图转成线性的排序就叫拓扑排序。

Yinems·2025-02-26 05:57

Python酷库之旅-第三方库Pandas(021)

目录一、用法精讲52、pandas.from_dummies函数52-1、语法52-2、参数52-3、功能52-4、返回值52-5、说明52-6、用法52-6-1、数据准备52-6-2、代码示例52-6

神奇夜光杯·2025-02-25 22:08

STM32 利用SysTick实现高精度计时

目录一、微秒级延时函数udelay二、毫秒级延时函数mdelay三、获取系统时间函数四、函数调

jmlinux·2025-02-25 21:01

Spark----Spark 在不同集群中的架构

Spark的各种运行模式虽然在启动方式、运行位置、调

XiaodunLP·2025-02-25 20:22

Cline + MCP Server 根据规则大型项目开发思路

它支持多种API提供商和模型，开发者可以自由选择调

红旗不倒QY·2025-02-25 19:47

Unity 性能调优技术集锦

要做性能调优，先来说说性能调

Clank的游戏栈·2025-02-24 21:10

遥控器工作核心技术以及传输信号算法详解！

调制技术：调制是将原始信号转换为适合传输的已调信号的过程。在遥控器信号传输中，常用的调制技术包括直接序列扩频（DSSS）和正交频分复用（OFDM）等。DS

云卓SKYDROID·2025-02-24 19:55

探索MATLAB与SIMULINK建模与仿真的奥秘：张德丰实例精讲

探索MATLAB与SIMULINK建模与仿真的奥秘：张德丰实例精讲f88b4aed71c949e68abc8370d99e6fb0.zip项目地址:https://gitcode.com/open-source-toolkit

鲍虎申·2025-02-24 17:46

2025保险与金融领域实战全解析：DeepSeek赋能细分领域深度指南（附全流程案例）

从投资分析到财富管理区块链与联邦学习的应用探索客户关系与私域运营：全球化体验升级工具与资源推荐：从入门到精通未来趋势与挑战一、DeepSeek在保险与金融中的核心价值1.1DeepSeek的核心功能智能风险建模：通过大数据分析，精

emmm形成中·2025-02-24 17:43

一文读懂LORA无线传输

LORA（LongRange）是一种基于扩频技术的超远距离无线传输技术，在物联网领域应用广泛，其特点如下：一键直达长距离传输：LORA采用了扩频调制技术，极大地提高了信号的接收灵敏度，其传输距离可达数公里甚至更远

天津三格电子·2025-02-24 15:59

供水管网漏损及智能化监测改造解决方案

二、调研结果2.1、调

liu854046222·2025-02-24 07:33

垂类大模型微调（二）：使用LLaMA-Factory

上一篇博文和大家一起安装了LLaMA-Factory工具，并下载了大模型在上面进行了简单的加载和推理，今天尝试通过LoRa技术对大模型进行微调；一、训练集准备1.1介绍训练集结构这里演示对Qwen2.5

CITY_OF_MO_GY·2025-02-24 07:00

LLaMA-Factory|微调大语言模型初探索(3)，qlora微调deepseek记录

前言上篇文章记录了使用lora微调llama-1b，微调成功，但是微调llama-8b显存爆炸，这次尝试使用qlora来尝试微调参数体量更大的大语言模型，看看64G显存的极限在哪里。

闻道且行之·2025-02-24 01:49

代码随想录训练营第二十三天| 39. 组合总和 40.组合总和II 131.分割回文串

39.组合总和题目链接/文章讲解：代码随想录视频讲解：带你学透回溯算法-组合总和（对应「leetcode」力扣题目：39.组合总和）|回溯法精讲！

chengooooooo·2025-02-23 12:17

国内怎样使用claude？亲测有效的使用方法来了！新手必备

而这一切，都归功于Anthropic对AI安全性的精益求精，以及其独树一帜的“宪法式AI

·2025-02-23 12:59

ε-贪心算法：在探索与利用之间寻找平衡

这个过程涉及到两个关键的决策因素：探索（exploration）和利用（exploitation）。探索是指尝试新的行为以发现更好的策略；而利用是指采用已知的最佳行为以获得奖励。

Chen_Chance·2025-02-23 09:22

vscode有几个版本？vscode的多个版本？vscode多版本在哪里下载？地址？

1.VSCode的主要版本(1)Stable（稳定版）(2)Insiders（内测版）(3)Exploration（探索版）2.VSCode的分发渠道(1)官方版本(2)Portable（便携版）(3)

一只小小狗·2025-02-22 23:31

推荐频道