nlp预训练第6页

利用deepseek AI制作视频的小白教程

分镜优化根据之前的分镜脚本，用Notion或Excel整理出AI友好型分镜表（示例）：画面描述关键词时长动态水墨展开成卷轴水墨山水、花瓣特效、东晋风格15秒Q版人物在曲水流觞放纸船全息投影、透明茶具、童声配音45秒2.素材预生成文本转图像

银行金融科技·2025-03-19 01:03

NLP高频面试题（四）——BN和LN的区别与联系，为什么attention要用LN

在深度学习模型中，Normalization是一种极为重要的技巧，BatchNormalization（BN）和LayerNormalization（LN）是其中最为常用的两种方法。然而，二者在实际应用中有着明显的区别与联系，尤其在Transformer的Attention机制中，LN有着独特的优势。一、BN与LN的核心区别与联系1.BatchNormalization(BN)BN的思想源于一个叫

Chaos_Wang_·2025-03-19 00:24

RAG 在多模态数据处理中的应用探索：结合图像与文本生成

目录引言多模态数据处理的挑战与需求数据异质性与融合难题多样化应用场景的需求RAG在图像与文本生成中的应用架构图像检索与文本生成协同跨模态特征融合与生成关键技术与实现细节图像特征提取与表示文本检索与语义理解跨模态生成模型训练应用案例分析智能设计辅助医疗影像报告生成结论引言随着信息技术的飞速发展

hy098543·2025-03-18 22:40

「栈与队列全攻略：FILO vs FIFO，内存管理与动态操作的核心法则」

生活类比：顺序栈≈固定大小的盘子架（需预判最大容量）链式栈≈无限叠放的盘子（动态扩展，但需手动管理指针）入栈（Push）≈放新盘子到顶部出栈（Pop）≈从顶部取盘子代码对比：顺序栈（数组实现）：typedefstruct

℡残城碎梦·2025-03-18 21:36

如何计算一个7B的模型训练需要的参数量以及训练时需要的计算资源

计算理论过程见：transformer中多头注意力机制的参数量是多少？1.模型参数量的计算7B参数模型的总参数量是70亿（7billion）。这些参数主要分布在以下几个部分：Transformer层：多头注意力机制（Multi-HeadAttention）前馈神经网络（Feed-ForwardNetwork）嵌入层（EmbeddingLayer）：词嵌入（TokenEmbeddings）位置编码（

yxx122345·2025-03-18 20:59

程序员必看！DeepSeek全栈开发实战指南：从代码生成到性能优化

这两项技术突破对程序员群体意义重大：通信效率飞跃：DeepEP通过NVLink优化实现GPU间158GB/s传输速度，后端开发者训练大模型时可节省60%集群资源推理性能突破：R1模型在H

AI创享派·2025-03-18 20:59

MM-RAIT：多模态检索增强生成（RAG）的认知革命

多模态检索增强生成（RAG）领域迎来了一项里程碑式的突破——MM-RAIT框架通过“评估-训练”双轮驱动，显著提升了主流视觉语言模型的RAG性能，增幅达27%至34%。

花生糖@·2025-03-18 20:58

五、AIGC大模型_05模型的vLLM部署与LangChain调用

0、概述要搭建一个大模型应用服务，通常需要包含以下五层结构，即：基础环境、模型层、推理层、对外接口、外挂应用在了解了模型的微调训练之后，本文将以vLLM、OpenAI、LangChain为例，介绍大模型的推理部署以及对外接口开放调用

学不会lostfound·2025-03-18 19:20

PyTorch 深度学习实战（17）：Asynchronous Advantage Actor-Critic (A3C) 算法与并行训练

本文将介绍强化学习领域的重要里程碑——AsynchronousAdvantageActor-Critic(A3C)算法，并展示如何利用PyTorch实现并行化训练来加速学习过程。

进取星辰·2025-03-18 19:17

DeepSeek 3FS 与 JuiceFS：架构与特性比较

在AI业务中，企业需要处理大量的文本、图像、视频等非结构化数据，还需要应对数据量的爆炸式增长，分布式文件系统因此成为AI训练的关键存储技术。

·2025-03-18 18:07

DeepSeek 训练数据模板生成指南

DeepSeek训练数据模板生成指南（一次生成多条高质量数据集）一、核心数据格式规范1.基础结构（JSONL格式）每条数据需包含prompt（输入指令）和completion（期望输出）两个核心字段，采用单行

He.Tech·2025-03-18 18:39

yolov4

V4贡献：亲民政策，单GPU就能训练的非常好，接下来很多小模块都是这个出发点两大核心方法，从数据层面和网络设计层面来进行改善消融实验，感觉能做的都让他给做了，这工作量不轻全部实验都是单GPU完成，不用太担心设备了

zzh-·2025-03-18 16:28

【pytorch(cuda)】基于DQN算法的无人机三维城市空间航线规划（Python代码实现）

本文目录如下：目录⛳️赠与读者1概述一、研究背景与意义二、DQN算法概述三、基于DQN的无人机三维航线规划方法1.环境建模2.状态与动作定义3.奖励函数设计4.深度神经网络训练5.航线规划四、研究挑战与展望

wlz249·2025-03-18 16:28

VLLM专题（三十五）—多模态数据处理

为了在vLLM中实现各种优化，例如分块预填充和前缀缓存，我们使用BaseMultiModalProcessor来提供占位符特征标记（例如）与多模态输入（例如原始输入图像）之间的对应关系，基于HF处理器的输出

AI专题精讲·2025-03-18 16:56

yolov8的第一次实验报告

[datasets]数据集大小:[2.68Gb]数据集描述:[数据集主要分两个类别：zdjy_ld,zdjy_gd]注释：占道经营流动，占道经营固定3.模型配置3.1基础配置·模型类型:YOLOv8·预训练模型

算法宇宙·2025-03-18 16:55

李开复：AI 2.0 时代的机遇

然而，深度学习模型的训练成本高、数据依赖性强、可解释性差等问题仍然制约着AI技术的进一步发展。李开复先生在《AI2.0时代的机遇》

AGI大模型与大数据研究院·2025-03-18 15:52

YOLOv8n-OBB使用C#在windows10进行部署（CPU）

1.训练YOLOv8-OBB模型1.1数据集制作所用标注工具：X-AnyLabeling下载链接：https://github.com/CVHub520/X-AnyLabeling/releases/download

cd_Ww777·2025-03-18 15:21

YOLOv8 的简介及C#中如何简单应用YOLOv8

端到端训练：可以直接从图像输入端到分类结果输出，简化了训练和部署过程。改进的架构：包括更深的网络结构、更复杂的特征提取方法以及更高效的

码上有潜·2025-03-18 14:46

llama.cpp 和 LLM（大语言模型）

它通过海量文本数据训练，能够生成连贯、语义丰富的文本，完成问答、创作、推理等任务。特点：参数规模大：如GPT-3（1750亿参数）、Llama-65B（650亿参数）等。

这个懒人·2025-03-18 14:12

AI在项目中的应用

以下是AI大模型在不同类型项目中的一些具体应用：1.自然语言处理（NLP）文本生成和摘要：AI大模型可以生成高质量的文本内容，自动撰写文章、新闻报道、博客或技术文档，甚至可以进行文献摘要，帮助内容创作者提高效率

酒江·2025-03-18 14:41

LLaMA-Factory 微调训练

LLaMA-Factory微调训练该框架功能，标注-微调-导出-合并-部署，一整条流程都有，而且训练时消耗的gpu算力也会小一些一，安装（推荐在linux中训练，win可以用wsl+docker）gitclonehttps

zsh_abc·2025-03-18 14:40

Yolov11目标检测(ultralytics)

Yolov11目标检测（ultralytics）1.克隆仓库2.安装环境依赖3.训练、验证、推理以及onnx模型导出1.克隆仓库从官网下载Yolov11到本地。

@M_J_Y@·2025-03-18 13:02

AI API：快速集成智能化功能的开发利器

桂花饼·2025-03-18 11:16

笔记：代码随想录算法训练营Day65:LeetCode115.不同的子序列\583. 两个字符串的删除操作\72. 编辑距离

学习资料：代码随想录115.不同的子序列力扣题目链接递推公式：求的是个数而不是长度，dp[i-1][j]代表的是用i-2为结尾的s的子序列去能凑出j-1为结尾的t的子序列的方法数，代表的是dp[i][j]的上一状态，当s[i-1]==t[i-1],说明可以从dp[i-1][j-1]的代表的用i-2为结尾的s的子序列去能凑出j-2为结尾的t的子序列的方法数方法数状态各加一个数抵达dp[i][j]代表

jingjingjing1111·2025-03-18 11:13

笔记:代码随想录算法训练营day48:739. 每日温度\496.下一个更大元素 I\503.下一个更大元素II

学习资料:代码随想录单调栈适合找左边或右边比当前大或小的元素739.每日温度力扣题目链接大致意思为用栈存储当前值以及比当前的小的值,但后遇到比当前值大的值的时候再计算非常巧妙的是,最后需要等于0的时候,正好后面没有比当下大的数的那个数的位置的result保留为0,不用处理classSolution{public:vectordailyTemperatures(vector&temperatures

jingjingjing1111·2025-03-18 11:13

代码随想录算法训练营第一天 | LeetCode 704、27

文章目录前言一、LeetCode7041.闭区间2.开区间二、LeetCode271.暴力求解2.快慢指针总结前言LeetCode题目：704、27Takeaway：二分法边界处理、快慢指针一、LeetCode7041.闭区间定义target是在一个在左闭右闭的区间里，也就是[left,right]#includeclassSolution{public:intsearch(vector&nums

Bingjiaokong·2025-03-18 10:11

笔记：代码随想录算法训练营day55：LeetCode42. 接雨水、84.柱状图中最大的矩形

学习资料：代码随想录42.接雨水力扣题目链接暴力解法超时了，直接从双指针开始双指大概思路为创立两个数组记录两侧的最大值，这里的最大值是真正的最大的值，而不是最近的那个比较大的值，即所谓的按列计算，后面单调栈方法找到的是上一个较大值和下一个较大值，是所谓的按行计算，这样这个凹槽可能身处更大的凹槽中，所以每次都要乘一个宽度，类似与按层往上摞classSolution{public:inttrap(ve

jingjingjing1111·2025-03-18 10:38

代码随想录算法训练营第六十五天| 图论10

Bellman_ford队列优化算法（又名SPFA）代码随想录importcollectionsdefmain():n,m=map(int,input().strip().split())edges=[[]for_inrange(n+1)]for_inrange(m):src,dest,weight=map(int,input().strip().split())edges[src].append

Rachela_z·2025-03-18 10:34

智能科技助力健康生活：开启体育与健身的新纪元

从智能穿戴设备到虚拟现实训练系统，技术的进步为人们提供了前所未有的健身体验。而今天，我们将探讨一款强大的智能化工具——它不仅仅适用于编程开发，更能在体育与健身领域发挥巨大作用，帮助我们实现更加高效、科

inscode_010·2025-03-18 09:59

大模型与自然语言理解（NLU）：差异与联系

近年来，人工智能领域取得了显著进展，尤其是在自然语言处理（NLP）方面。大模型和自然语言理解（NLU）作为NLP的两个重要分支，常常被提及，但它们之间存在着本质区别。

技术流 Gavin·2025-03-18 09:59

技术解析麦萌短剧《阴阳无极》：从「性别偏见下的对抗训练」到「分布式江湖的架构重构」

1.初始模型偏差：继承权剥夺与梯度冻结陈千叶（Agent_C）的成长可视为有偏数据集上的训练：特征歧视：太极门继承规则（Legacy_Rule）作为传统分类器，强行将性别（Gender_Feature）

短剧萌·2025-03-18 08:15

麦萌短剧技术解构《我跑江湖那些年》：从“仇恨驱动型算法”到“多方安全计算的自我救赎”

1.初始训练集：暴力采样与特征空间坍缩慕青青（Agent_M）的成长环境可视为一个高偏差训练集：数据污染事件：村主任（Node_V）通过恶意共识算法（如嫉妒驱动的PoW机制），煽动村民（Sub_Nodes

短剧萌·2025-03-18 08:45

数据挖掘中的数据预处理：填充与主成分分析

现实世界中的数据通常是不完整的，包含噪声、缺失值或异常值，因此在进行模型训练或分析前，我们需要对数据进行清理和转换。

阿什么名字不会重复呢·2025-03-18 07:08

大数据开发之Kubernetes篇----安装部署Kubernetes&dashboard

Kubernetes简介由于公司有需要，需要将外后的服务外加Tensorflow模型部署加训练全部集成到k8s上，所以特意记录下这次简单部署的过程。

豆豆总·2025-03-18 06:02

从零学习大模型（六）-----LoRA（上）

LoRA简介LoRA（Low-RankAdaptation）是一种参数高效的微调技术，旨在降低微调大规模预训练模型的存储和计算成本。

懒惰才能让科技进步·2025-03-18 06:01

在LORA训练中，LORA模型的矩阵的行列是多少

在LORA训练中，LORA模型的矩阵的行列是多少:Wnew=W+αrBAW_{new}=W+\frac{\alpha}{r}BA

ZhangJiQun&MXP·2025-03-18 05:56

代码随想录算法训练营第六十六天| 图论11

Floyd算法精讲Floyd算法代码很简单，但真正理解起原理还是需要花点功夫，大家在看代码的时候，会发现Floyd的代码很简单，甚至看一眼就背下来了，但我为了讲清楚原理，本篇还是花了大篇幅来讲解。代码随想录if__name__=='__main__':max_int=10005#设置最大路径，因为边最大距离为10^4n,m=map(int,input().split())grid=[[[max_i

Rachela_z·2025-03-18 05:23

代码随想录算法训练营| 总结篇

坚持了六十多天的算法，回头看感觉收获很大。之前刷题不管算法，只管能不能a，没有章法，只有一套乱拳，现在看到题目，会想着思考分析一下，可以用什么方法，用什么思路来解决。接下来要把力扣上的热题多刷反复刷！要做到看到题目能够有解法思路！春招接offer！offer四面八方来！！！

Rachela_z·2025-03-18 05:23

代码随想录算法训练营第六十四天| 图论09

dijkstra（堆优化版）精讲代码随想录importheapqclassEdge:def__init__(self,to,val):self.to=toself.val=valdefdijkstra(n,m,edges,start,end):grid=[[]for_inrange(n+1)]forp1,p2,valinedges:grid[p1].append(Edge(p2,val))minD

Rachela_z·2025-03-18 05:22

代码随想录算法训练营第八天| 344. 反转字符串、541. 反转字符串II、卡码网：54. 替换数字

344.反转字符串建议：本题是字符串基础题目，就是考察reverse函数的实现，同时也明确一下平时刷题什么时候用库函数，什么时候不用库函数题目链接/文章讲解/视频讲解：代码随想录状态：用左右指针顺利通过左右指针：classSolution:defreverseString(self,s:List[str])->None:"""Donotreturnanything,modifysin-placei

Rachela_z·2025-03-18 05:52

代码随想录算法训练营第三十七天| 动态规划01

509.斐波那契数很简单的动规入门题，但简单题使用来掌握方法论的，还是要有动规五部曲来分析。代码随想录视频：手把手带你入门动态规划|LeetCode：509.斐波那契数_哔哩哔哩_bilibili动态规划五部曲：确定dp数组（dptable）以及下标的含义确定递推公式dp数组如何初始化确定遍历顺序举例推导dp数组classSolution:deffib(self,n:int)->int:F=[0,

Rachela_z·2025-03-18 05:52

基于树莓派的轻量级AI数字人开发全流程指南 ——从硬件选型到语音视觉交互实战

其核心在于整合语音识别、视觉感知、自然语言处理（NLP）和动态反馈四大关键功能。本文将以树莓派5开发板为核心，搭配AI加速硬件，结合开源框架，为大家详细阐述如何实现本地化轻量级数字人开发。

zhz5214·2025-03-18 02:56

深入解析Quantum-GABP：量子神经网络的实现与应用

其中，Quantum-GABP（量子广义反向传播算法）作为一种高效的量子神经网络训练算法，展现出极大的应用前景。本文将深入探讨Quantum-G

m0_57781768·2025-03-18 02:52

探索DeepSeek：前端开发者不可错过的新一代AI技术实践指南

最近，国产AI模型DeepSeek凭借其低成本训练、高性能输出和开源策略，迅速成为开发者社区的热门话题。

formerlyai·2025-03-18 02:21

市场波动中的风险管理与策略优化

无论是受宏观经济政策影响，还是市场预

Q3990385023·2025-03-18 01:16

RAG数据嵌入和重排序：如何选择合适的模型

RAG数据嵌入和重排序：如何选择合适的模型在自然语言处理（NLP）领域，Retrieval-AugmentedGeneration（RAG）模型已经成为一种强大的工具，用于结合检索和生成能力来处理复杂的语言任务

从零开始学习人工智能·2025-03-18 00:12

pytorch的使用：卷积神经网络模块

1.读取数据分别构建训练集和测试集（验证集）DataLoader来迭代取数据使用transforms将数据转换为tensor格式#定义超参数input_size=28#图像的总尺寸28*28num_classes

樱花的浪漫·2025-03-18 00:11

YOLOv8n-seg.pt的使用（实例分割，训练自己制作的数据集）

Ubuntu+python3一、YOLOV8源码下载参考：GitHub-ultralytics/ultralytics:NEW-YOLOv8inPyTorch>ONNX>OpenVINO>CoreML>TFLite二、数据集制作1.labelme下载：pip3installlabelme2.终端输入labelme,打开labelme。界面“打开目录”，打开图片目录images，进行多边形标注（右键

再坚持一下！！！·2025-03-18 00:10

Dropout: 一种减少神经网络过拟合的技术

在深度学习中，过拟合是一个常见的问题，尤其是在模型复杂度较高或训练数据较少的情况下。过拟合意味着模型在训练数据上表现得很好，但在未见过的数据上表现不佳，即泛化能力差。

冰蓝蓝·2025-03-17 23:37

模型保存与加载：PyTorch中的实践指南

它不仅有助于在训练过程中保存进度，还可以在训练完成后部署模型。PyTorch提供了灵活的方式来保存和加载模型，本文将详细介绍这些方法。

冰蓝蓝·2025-03-17 23:07

推荐频道

nlp预训练