强化学习论文笔记

[论文笔记] PAI-Megatron中qwen和mistral合并到Megtron-LM

一、千问关于tokenizer的改动：1.1、更改build_tokenizer中tokenizer类的加载。/mnt/nas/pretrain/code/Megatron-LM/megatron/tokenizer/__init__.py或者tokenizer.py在build_tokenizer.py函数中：​elifargs.tokenizer_type=="QwenTokenizer":a
心心喵·2024-01-13 20:08

大模型日报-20240113

击败8名人类规划师：清华团队提出强化学习的城市空间规划模型https://mp.weixin.qq.com/s/GkL5peKCOJLh4pLjiTeIFw近年来，以更加宜居为导向，「15分钟城市」概念得到了更多关注
程序无涯海·2024-01-13 17:35

强化学习笔记持续更新......

文章目录强化学习强化学习解决的是什么样的问题？举出强化学习与有监督学习的异同点。有监督学习靠样本标签训练模型，强化学习靠的是什么？强化学习的损失函数（lossfunction）是什么？
搬砖成就梦想·2024-01-13 16:45

计算卸载论文阅读01-理论梳理

模型：针对上述问题，我们提出了一种创新的强化学习（RL）方法来解决比例计算问题。我们考虑了一种常见的卸载场景，该场景具有
梦灯·2024-01-13 13:06

【FINN-R】论文笔记-3.2layers

是对论文FINN-R：AnEnd-to-EndDeep-LearningFrameworkforFastExplorationofQuantizedNeuralNetworks的3.2小节笔记，主要阅读目的是了解PE和SIMD的概念、神经网络各层的结构、P和Q参数的定义3.2层构成典型卷积层的主要元素是矩阵矢量阈值单元（MVU）和滑动窗口单元（SWU）。MVU处理计算方面：对于卷积层，卷积本身可以
Leonie_·2024-01-13 10:15

【机器学习300问】5、什么是强化学习？

我将从三个方面为大家简明阐述什么是强化学习，首先从强化学习的定义大家的了解强化学习的特点，其次学习强化学习里特殊的术语加深对强化学习的理解，最后通过和监督学习与无监督学习的比较，通过对比学习来了解强化学习
小oo呆·2024-01-13 05:14

第一章 绪论2

1.4强化学习算法分类及发展趋势一分类1.根据强化学习算法是否依赖模型可分为：基于模型的强化学习算法、⽆模型的强化学习算法共同点：通过与环境交互获得数据不同点：利⽤数据的⽅式不同。
食蓼少年·2024-01-13 04:54

实战解析朝生暮死的Redis拓展应用—过期策略和LRU，继续强化学习

今天，我们继续Redis的拓展应用，继续深化了解、强化学习效果。拓展4：朝生暮死——过期策略Redis所有的数据结构都可以设置过期时间，时间一到，就会自动删除。
Java领域指导者·2024-01-13 01:57

【强化学习的数学原理-赵世钰】课程笔记（六）随机近似与随机梯度下降

目录一.内容概述二.激励性实例（Motivatingexamples）三.Robbins-Monro算法（RM算法）：1.算法描述2.说明性实例（llustrativeexamples）3.收敛性分析（Convergenceanalysis）4.在平均值估计中的应用（Applicationtomeanestimation）四.随机梯度下降（stochasticgradientdescent，SDG
leaf_leaves_leaf·2024-01-12 21:00

【强化学习的数学原理-赵世钰】课程笔记（三）贝尔曼最优公式

目录一.内容概述1.第三章主要有两个内容2.第二章大纲二.激励性实例（Motivatingexamples）三.最优策略（optimalpolicy）的定义四.贝尔曼最优公式（BOE）：简介五.贝尔曼最优公式（BOE）：公式右侧求最大化的最优问题六.贝尔曼最优公式（BOE）：改写为v=f(v)七.收缩映射定理（Contractionmappingtheorem）八.贝尔曼最优公式（BOE）：解决方
leaf_leaves_leaf·2024-01-12 21:30

【强化学习的数学原理-赵世钰】课程笔记（四）值迭代与策略迭代

目录一.内容概述二.值迭代算法（valueiterationalgorithm）1.第1步：策略更新（policyupdate）2.第2步：价值更新（valueupdate）3.流程总结，程序概要，并写成伪代码4.举例三.策略迭代算法（policyiterationalgorithm）1.算法介绍2.policyiterationalgorithm的具体实现3.例子（1）例子1（2）例子2四.截断
leaf_leaves_leaf·2024-01-12 21:30

原创 | 一文读懂ChatGPT中的强化学习

原文：原创|一文读懂ChatGPT中的强化学习ChatGPT基于OpenAI的GPT-3.5创造，是InstructGPT的衍生产品，它引入了一种新的方法，将人类反馈纳入训练过程中，使模型的输出与用户的意图更好地结合
javastart·2024-01-12 12:07

【伤寒强化学习训练】第七天打卡 一期90天

11.3.1木通的药性与桃花汤讲解肾阳不够导致免疫力低落，引发一些细菌感染或发热的现象，看起来是温病，其实体质上是少阴会得厥阴病，多半是跟个性有关系，要一个人整套做人做事的方法有所转变，是一件很不容易的事情当归四逆汤的名称定义当归四逆汤是桂枝当归汤系，不是四逆汤系无论是当归四逆汤或是四逆汤，都是治“四肢厥逆”中国古时候的古方，张仲景所命名的方剂，是以它的药味、样子来命名或者用这个汤的功能来命名有柴
A卐炏澬焚·2024-01-12 09:55

RLHF与LLM训练的碰撞：寻找最佳实践之路！

了解更多公众号：芝士AI吃鱼在讨论大型语言模型（LLM）时，无论是在研究新闻还是教程中，经常提到一个称为“带有人类反馈的强化学习”（RLHF）的过程。
wwlsm_zql·2024-01-12 09:50

一对一包教会脑电教学服务

想强化学习脑电某个内容版块可以吗？...”，也有小伙伴联系我们，咨询脑电相关内容能
茗创科技·2024-01-12 02:46

【论文笔记】End-to-End Diffusion Latent Optimization Improves Classifier Guidance

AbstractClassifierguidance为图像生成带来了控制，但是需要训练新的噪声感知模型(noise-awaremodels)来获得准确的梯度，或使用最终生成的一步去噪近似，这会导致梯度错位(misalignedgradients)和次优控制(sub-optimalcontrol)。梯度错位(misalignedgradients)：通过噪声感知模型指导生成模型时，两个模型的结构和目
xhyu61·2024-01-12 02:08

【论文笔记】ZOO: Zeroth Order Optimization

论文（标题写不下了）：《ZOO:ZerothOrderOptimizationBasedBlack-boxAttackstoDeepNeuralNetworkswithoutTrainingSubstituteModels》Abstract深度神经网络(DNN)是当今时代最突出的技术之一，在许多机器学习任务中实现了最先进的性能，包括但不限于图像分类、文本挖掘、语音处理。但人们越来越关注对抗性示例的
xhyu61·2024-01-12 02:34

01多智能体交互模型：标准博弈与随机博弈

Normal-formgame（标准博弈）根据奖励的不同分类repeatedNormal-formgame有限重复博弈与无限重复博弈更复杂的策略2.随机博弈马尔科夫性repeated标准博弈、随机博弈图示前言多智能体强化学习
爱宇小菜涛·2024-01-11 18:18

03MARL-联合策略与期望回报

文章目录前言一、MARL问题组成二、联合策略与期望回报1.History-basedexpectedreturn2.Recursiveexpectedreturn前言多智能体强化学习问题中的博弈论知识—
爱宇小菜涛·2024-01-11 18:16

Proximal Policy Optimization

-李宏毅老师的视频地址：李宏毅深度强化学习(国语)课程(2018)_哔哩哔哩_bilibiliPPO算法是PolicyGradient方法的一种改进版本PolicyGradient算法回顾在PG算法中，
神奇的托尔巴拉德·2024-01-11 12:33

ChatGPT文书替代论“热”潮背后的“冷”思考

基于OpenAI先前研发的GPT-3.5架构，ChatGPT最为显著的特点就是能够基于人类反馈进行强化学习。主要
do1twe11·2024-01-11 10:33

强化学习求解TSP（六）：Qlearning求解旅行商问题TSP（提供Python代码）

一、Qlearning简介Q-learning是一种强化学习算法，用于解决基于奖励的决策问题。它是一种无模型的学习方法，通过与环境的交互来学习最优策略。
IT猿手·2024-01-11 09:40

强化学习求解TSP（四）：Qlearning求解旅行商问题TSP（提供Python代码）

一、Qlearning简介Q-learning是一种强化学习算法，用于解决基于奖励的决策问题。它是一种无模型的学习方法，通过与环境的交互来学习最优策略。
IT猿手·2024-01-11 09:10

强化学习求解TSP（三）：Qlearning求解旅行商问题TSP（提供Python代码）

一、Qlearning简介Q-learning是一种强化学习算法，用于解决基于奖励的决策问题。它是一种无模型的学习方法，通过与环境的交互来学习最优策略。
IT猿手·2024-01-11 09:09

强化学习求解TSP（五）：Qlearning求解旅行商问题TSP（提供Python代码）

一、Qlearning简介Q-learning是一种强化学习算法，用于解决基于奖励的决策问题。它是一种无模型的学习方法，通过与环境的交互来学习最优策略。
IT猿手·2024-01-11 09:33

强化学习—模仿学习 行为克隆 生成式对抗网络模型

第十五章模仿学习15.1简介虽然强化学习不需要有监督学习中的数据标签，但它十分依赖奖励函数的设置。有时在奖励函数上做一些微小的改动，训练出来的策略就会天差地别。
oceancoco·2024-01-11 08:27

模型预测控制MPC

而在深度强化学习领域，基于模型的方法通常用神经网络学习一个环境模型，然后利用该环境模型来帮助智能体训练和决策。利用环境模型帮助智能体训练和决策的方法有很多种，例如可以利用与之前的Dyna类似的
oceancoco·2024-01-11 08:27

策略梯度算法

在强化学习中，除了基于值函数的方法，还有一支非常经典的方法，那就是基于策略（policy-based）的方法。对比两者，基于值函数的方法主要是学习值函数，然后根据值函数导出一个策略，学习
oceancoco·2024-01-11 08:56

强化学习基础篇（二十五）n步时序差分预测

强化学习基础篇（二十五）n步时序差分预测1、n步时序差分方法之前在《强化学习基础篇（十七）时间差分预测》所介绍的是算法，其更新过程仅仅依赖于当前状态向下走一步的情况，将走一步走后的状态价值用于bootstrap
Jabes·2024-01-11 08:20

10、InstructGPT：Training language models to follow instructions with human feedback

InstructGPT在GPT-3上用强化学习做微调，内核模型为PPO-ptxGPT-1比BERT诞生略早几个月。
C--G·2024-01-11 06:34

Actor-Model和Reward-Model

在强化学习中，Actor-Model和Reward-Model是两个关键概念，它们在训练智能体（Agent）的过程中起着重要的作用。
andeyeluguo·2024-01-11 06:21

STM32蓝牙小车、红外循迹小车、超声波避障小车项目设计

一、前言本文旨在分享我学习STM32的过程中，为了强化学习成果，试着制作一些实训项目。最开始做的就是STM32蓝牙小车、STM32红外循迹小车、STM32超声波避障小车。
小小_扫地僧·2024-01-10 21:42

时间序列笔记：SAX（符号集合近似）时间序列表征/论文笔记 A Symbolic Representation of Time Series, with Implications for Stream

ASymbolicRepresentationofTimeSeries,withImplicationsforStreamingAlgorithms2003将时间序列转换为字符1SAX算法1.1主要符号表示1.2PAA过程沿着时间维度将一个时间序列切分成为w个片段（蓝色——>红色）【一般建议先将将时间序列归一化，然后转换成PAA形式，这个对1.3步有帮助】其中每一个阶段的值是这个阶段里面时间序列值
UQI-LIUWJ·2024-01-10 20:01

李元豪成长会：学习新技能的策略2021-04-23

根据认知心理学，以下是三种最好的学习策略：分散练习——把你的学习过程分成小的时间段来进行，而不是死记硬背测试强化学习——通过具有挑战性的记忆检索考试来训练你的大脑和记忆解释性提问——问自己一些辅助自己深入研究的问题
李元豪成长会·2024-01-10 16:25

强化学习求解TSP（二）：Qlearning求解旅行商问题TSP（提供Python代码）

一、Qlearning简介Q-learning是一种强化学习算法，用于解决基于奖励的决策问题。它是一种无模型的学习方法，通过与环境的交互来学习最优策略。
IT猿手·2024-01-10 15:56

TSP（Python）：Qlearning求解旅行商问题TSP（提供Python代码）

一、Qlearning简介Q-learning是一种强化学习算法，用于解决基于奖励的决策问题。它是一种无模型的学习方法，通过与环境的交互来学习最优策略。
IT猿手·2024-01-10 15:55

强化学习求解TSP：Qlearning求解旅行商问题（Traveling salesman problem, TSP）提供Python代码

一、Qlearning简介Q-learning是一种强化学习算法，用于解决基于奖励的决策问题。它是一种无模型的学习方法，通过与环境的交互来学习最优策略。
IT猿手·2024-01-10 15:25

强化学习求解TSP（一）：Qlearning求解旅行商问题TSP（提供Python代码）

一、Qlearning简介Q-learning是一种强化学习算法，用于解决基于奖励的决策问题。它是一种无模型的学习方法，通过与环境的交互来学习最优策略。
IT猿手·2024-01-10 15:49

强化学习6——动态规划置策略迭代算法，以悬崖漫步环境为例

策略迭代算法通过策略评估与策略提升不断循环交替，得到最优策略。策略评估固定策略π\piπ不变，估计状态价值函数V一个策略的状态价值函数，在马尔可夫决策过程中提到过：Vπ(s)=∑a∈Aπ(a∣s)(r(s,a)+γ∑s′∈Sp(s′∣s,a)Vπ(s′))V^{\pi}(s)=\sum_{a\inA}\pi(a|s)\left(r(s,a)+\gamma\sum_{s'\inS}p(s'|s,a)
beiketaoerge·2024-01-10 07:15

强化学习在生成式预训练语言模型中的研究现状简单调研

1.绪论本文旨在深入探讨强化学习在生成式预训练语言模型中的应用，特别是在对齐优化、提示词优化和经验记忆增强提示词等方面的具体实践。
一条独龙·2024-01-10 01:25

强化学习Double DQN方法玩雅达利Breakout游戏完整实现代码与评估pytorch

1.实验环境1.1硬件配置处理器：2*AMDEPYC7773X64-Core内存：1.5TB显卡：8*NVIDIAGeForceRTX309024GB1.2工具环境Python：3.10.12Anaconda：23.7.4系统：Ubuntu22.04.3LTS(GNU/Linux5.15.0-91-genericx86_64)IDE：VSCode1.85.1gym：0.26.2Pytorch：2.
一条独龙·2024-01-10 01:22

机器学习简答题

监督学习、无监督学习、半监督学习、强化学习3、请简述什么是监督学习？什么是无监督学习？有监督学习是指训练数据中包含了输入和输出的标签信息，目标是通过已知输入和输出来预测新数据的标签。
你若盛开，清风自来！·2024-01-09 23:08

强化学习9——免模型预测算法介绍（蒙特卡洛方法和时步差分方法）

对于大部分情况来说，环境是未知的，也就是说状态转移概率未知，对于这种情况的算法称为免模型预测算法。免模型算法与环境不断交互学习，但是需要大量的运算。蒙特卡洛方法蒙特卡罗方法通过重复随机抽选，之后运用统计概率此方法来从抽样结果中归纳我们想要得到的数值估计。如下图所示，圆面积与正方形面积的比等于落入圆内的点与落入正方形的内的点的比一个状态的价值是它的期望回报，可以采样多条序列，计算从这个状态出发的回报
beiketaoerge·2024-01-09 22:30

强化学习3——马尔可夫性质、马尔科夫决策、状态转移矩阵和回报与策略（上）

如果要用强化学习去解决一个实际问题，第一步要做的事情就是把这个实际问题抽象为一个马尔可夫决策过程。马尔可夫决策过程描述马尔可夫决策过程以智能体在与环境交互的过程中，学习的过程。
beiketaoerge·2024-01-09 22:59

强化学习1——多臂老虎机（上）

在强化学习中，关注智能体在与环境的交互中学习，成为试错型学习。多臂老虎机不存在状态信息，只有动作和奖励，是最简单的“和环境交互中学习“。
beiketaoerge·2024-01-09 22:29

强化学习10——免模型控制Q-learning算法

Q-learning算法主要思路由于Vπ(s)=∑a∈Aπ(a∣s)Qπ(s,a)V_\pi(s)=\sum_{a\inA}\pi(a\mids)Q_\pi(s,a)Vπ(s)=∑a∈Aπ(a∣s)Qπ(s,a)，当我们直接预测动作价值函数，在决策中选择Q值最大即动作价值最大的动作，则可以使策略和动作价值函数同时最优，那么由上述公式可得，状态价值函数也是最优的。Q(st,at)←Q(st,at)+
beiketaoerge·2024-01-09 22:58

ERNIE: Enhanced Representation through Knowledge Integration论文笔记

创新点1.maskingBasic-levelMasking:与bert相同，字的maskPhrase-LevelMasking：短语级别的maskEntity-LevelMasking：实体级别的mask2.HeterogenereousCorpusPre-training加入更多语料,中文维基百科、百度百科、百度新闻、百度贴吧。3.DLM（DialogueLanguageModel）对话模型建
大可爱学习·2024-01-09 15:19

ParticleSfM：Exploiting Dense Point Trajectories for Localizing Moving Cameras in the Wild——论文笔记

参考代码：particle-sfm1.概述介绍：基于运动恢复的重建算法其前提假设是所处的是静态场景，但在实际过程中该假设可能是不成立的，这就会导致位姿估计不准确和场景重建出错。为了处理动态场景问题，文章引入视频帧间光流信息作为输入，通过帧间光流信息构建多帧之间初始逐像素传导路径，并由这些路径通过网络推理得到场景中众多路径是否为属于运动物体，同时可以根据路径分类信息得到场景中运动目标的“分割mask
m_buddy·2024-01-09 10:51

Adding Conditional Control to Text-to-Image Diffusion Models——【论文笔记】

本文发表于ICCV2023论文地址：ICCV2023OpenAccessRepository(thecvf.com)官方实现代码：lllyasviel/ControlNet:Letuscontroldiffusionmodels!(github.com)Abstract论文提出了一种神经网络架构ControlNet,可以将空间条件控制添加到大型的预训练文本到图像扩散模型中。ControlNet将预
我是浮夸·2024-01-09 08:20

【论文笔记】Summarizing source code with Heterogeneous Syntax Graph and dual position

SummarizingsourcecodewithHeterogeneousSyntaxGraphanddualpositionAbstract1.Introduction2.HSGanddualposition2.1HSGconstruction2.2Codetokenswithdualpositions3.HetSummodel3.1Overview3.2Embeddings3.3.Codet
落啦啦·2024-01-09 08:44
上一页 7 8 9 10 11 12 13 14 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他