DIF论文笔记第15页

[论文笔记] chatgpt系列 2.6 DeepSpeed-chat 数据集

一、FT数据集&Rewardmodel数据集Deepspeed-chat源代码的数据集：Dahoas/rm-static:这是一个用于强化学习的静态环境数据集，包含了一个机器人在一个固定环境中的运动轨迹。该数据集旨在用于评估强化学习算法在静态环境下的表现。Dahoas/full-hh-rlhf:这是一个用于深度强化学习的数据集，包含了一个机器人在一个动态环境中的运动轨迹。该数据集旨在用于评估深度强

心心喵·2023-08-02 08:05

【论文笔记】RCM-Fusion: Radar-Camera Multi-Level Fusion for 3D Object Detection

原文链接：https://arxiv.org/abs/2307.102491.引言目前的一些雷达-相机融合3D目标检测方法进行实例级的融合，从相机图像生成3D提案，并与雷达点云相关联以修正提案。但这种方法没有在最初阶段使用雷达，依赖于相机3D检测器；且融合发生在图像视图，多模态数据关联可能因为雷达点云的高度模糊性而不精确。本文提出雷达-相机多级融合（RCM-Fusion）方法，在BEV融合

byzy·2023-08-01 15:01

创新者的五个成功秘诀

图片发自App今天受邀参加“2018DIF数位创新论坛”，从来自世界各国创新者的演讲体会到，原来成功的秘诀⋯⋯1）其实是一种“跌倒，再来啊！”

刘恭甫_功夫老师·2023-08-01 11:50

论文笔记之Deep Interest Evolution Network for Click-Through Rate Prediction

DeepInterestEvolutionNetworkforClick-ThroughRatePrediction目标：CTR预估文中指出以前的模型忽略了用户行为背后真实的用户兴趣，并且用户的兴趣是在不断进化的，捕捉兴趣的动态变化对于兴趣表达非常重要。本文提出了DeepInterestEvolutionNetwork(DIEN)模型，DIEN的两大核心模块为：•从用户的行为中抽取隐含的时序兴趣。

小弦弦喵喵喵·2023-08-01 09:51

【计算机视觉|人脸建模】SOFA：基于风格、由单一示例的2D关键点驱动的3D面部动画

本系列博文为深度学习/计算机视觉论文笔记，转载请注明出处标题：SOFA:Style-basedOne-shot3DFacialAnimationDrivenby2Dlandmarks链接：SOFA:Style-basedOne-shot3DFacialAnimationDrivenby2Dlandmarks

远哥挺乐·2023-08-01 09:55

炒股法宝：MACD底背离买股方法值得学习收藏

MACD底背离买入法则MACD底背离买入法则：在同一周期中，底部时MACD指标做多信号的出现，会有一定的先后次序性，通常为：股价进入底背离段，MACD柱转上，DIF与DEA金叉，DIF上穿零轴。

梦醒了人散了·2023-08-01 04:40

论文笔记 | NIPS2017 | LightGBM: A Highly Efficient Gradient Boosting Decision Tree

lightgbm-title.jpg论文地址：https://papers.nips.cc/paper/6907-lightgbm-a-highly-efficient-gradient-boosting-decision-tree官方代码：https://github.com/microsoft/LightGBM一为什么读这篇搜索这边大量用到了lightGBM，最近做的实验也是基于lightGB

ktulu7·2023-07-31 22:44

【计算机视觉|人脸建模】3D人脸重建基础知识（入门）

本系列博文为深度学习/计算机视觉论文笔记，转载请注明出处一、三维重建基础三维重建（3DReconstruction）是指根据单视图或者多视图的图像重建三维信息的过程。

远哥挺乐·2023-07-31 19:31

论文笔记：Adjusting for Autocorrelated Errors in Neural Networks for Time Series

2021NIPS原来的时间序列预测任务是根据预测论文提出用一阶自回归误差预测一阶差分，类似于ResNet的残差思路？记为pred，最终的预测结果

UQI-LIUWJ·2023-07-31 14:00

【论文笔记】神经网络压缩调研

神经网络压缩调研背景现有的深度模型压缩方法NetWorkPrunning网络剪枝设计结构化矩阵知识蒸馏权值共享ParameterQuantization（参数量化）量化和二进制化伪量化ArchitectureDesign（DepthSeparableConvolution）分解卷积背景小模型，参数少，容易将ML模型部署在资源有限的设备上，但是直接训练一个好的小网络比较困难现有的深度模型压缩方法基

MoonpieXia·2023-07-31 05:25

论文笔记：COST: CONTRASTIVE LEARNING OF DISENTANGLEDSEASONAL-TREND REPRESENTATIONS FORTIME SERIES FOREC

ICLR20221前言介绍表征学习（对比学习）+时间序列预测首先学习时间序列解耦的representation然后进行回归任务的精调对比学习CoST包含时域和频域的contrastiveloss——>学习趋势和周期性representation传统的时间序列预测模型将特征表示学习和预测任务放在一块迭代很多非线性层来同时进行特征提取和预测回归任务但这样的方式可能会导致模型过拟合，提取到数据中多余的噪

UQI-LIUWJ·2023-07-30 23:44

强化学习 GAE算法：HIGH-DIMENSIONAL CONTINUOUS CONTROL USINGGENERALIZED ADVANTAGE ESTIMATION》论文笔记

文章目录1.简介2.准备知识3.优势函数估计4.用Rewardshaping来解释5.价值函数估计参考资料1.简介论文《HIGH-DIMENSIONALCONTINUOUSCONTROLUSINGGENERALIZEDADVANTAGEESTIMATION》是策略梯度算法中常用的优势估计算法GAE对应的论文，OpenAISpinningUp教程推荐读一读这篇论文。论文摘要翻译：策略梯度方法在强化学

beingstrong·2023-07-30 11:27

论文笔记——Influence Maximization in Undirected Networks

InfluenceMaximizationinUndirectedNetworksContributionMotivationPreliminariesNotationsMainresultsReductiontoBalancedOptimalInstancesProvingTheorem3.1forBalancedOptimalInstancesContribution好久没发paper笔记了，

7:45am·2023-07-30 10:34

《STN：Spatial Transformer Networks》论文笔记

1.概述由于CNN网络在计算量和参数有效性上的原因，限制了网络对输入数据的空间变换不变性。因此本文提出了一种新的网络模型——SpatialTransformer，它使得可以在网络内部操作和变换数据。并且可以集成到现有的网络中去，使得神经网络在特征图的基础上，在空间上主动变换特征图，而不需要对优化过程进行任何额外的训练监督或修改。结果表明，空间变换的使用使模型学习到平移、缩放、旋转和更一般的扭曲等不

m_buddy·2023-07-29 12:54

谷歌B4广域网论文笔记

谷歌B4广域网论文之读后感一、摘要：随着互联网数据信息的超线性增长，即使像谷歌这种富可敌国的巨头公司也不得不考虑不断盲目扩容网络带来的巨额成本，这是因为传统的骨干网络链路带宽利用率只有30%~40%，为了保证较好的QOS和用户上网体验，就需要不断扩容网络以保证低负载，专业链路、大型高端服务器这些设备的高额成本促使谷歌开始考虑突破传统网络体系架构的束缚。此外，传统的TCP/IP网络体系只能尽最大努力

再见饭特稀·2023-07-28 14:26

论文笔记（1）

《问答系统研究综述》毛先领+,李晓明北京大学信息科学技术学院,北京1008712012年的论文一、问答系统的分类问答系统包括三个主要部分：问题分析，信息检索和答案抽取。-从问题来划分：限定领域的问答系统、开放领域的问答系统-从数据来来划分：处理结构数据（半结构数据）的问答系统、处理无结构数据的问答系统-从答案纬度来划分：抽取式问答系统、产生式问答系统二、基于结构化的问答系统其主要思想就是把问题转化

一生太久只争朝夕·2023-07-28 09:30

论文笔记--GloVe: Global Vectors for Word Representation

论文笔记--GloVe:GlobalVectorsforWordRepresentation1.文章简介2.文章概括3文章重点技术3.1两种常用的单词向量训练方法3.2GloVe3.3模型的复杂度4.文章亮点

Isawany·2023-07-28 09:44

论文笔记--FEDERATED LEARNING: STRATEGIES FOR IMPROVING COMMUNICATION EFFICIENCY

论文笔记--FEDERATEDLEARNING:STRATEGIESFORIMPROVINGCOMMUNICATIONEFFICIENCY1.文章简介2.文章概括3文章重点技术3.1联邦学习(federatedlearning

Isawany·2023-07-28 09:43

论文笔记：Fine-Grained Urban Flow Prediction

2021WWW1intro细粒度城市流量预测两个挑战细粒度数据中观察到的网格间的转移动态使得预测变得更加复杂需要在全局范围内捕获网格单元之间的空间依赖性单独学习外部因素（例如天气、POI、路段信息等）对大量网格单元的影响非常具有挑战性——>论文提出了时空关系网（STRN）来预测细粒度的城市流量骨干网络用于学习每个网格单元的高级表示全局关系模块（GloNet）捕获全局空间依赖性元学习器将外部因素和土

UQI-LIUWJ·2023-07-28 09:10

Azure Kinect DK点云实时可视化及图像点云按键交互存储（Open3D）

对官方的代码做些解读：可视化：azure_kinect_viewer.pymain函数importargparseimportopen3daso3dif__name

a_struggler·2023-07-27 17:36

[论文笔记]DeepFool: a simple and accurate method to fool deep neural networks

题目：DeepFool:asimpleandaccuratemethodtofooldeepneuralnetworks地址：https://arxiv.org/abs/1511.04599代码：https://github.com/lts4/deepfoolDeepFoolDeepFoolforbinaryclassifiersDeepFoolformulticlassclassifiers参考

wangxiaoguang·2023-07-27 08:16

[论文笔记] CLRerNet: Improving Confidence of Lane Detection with LaneIoU

Honda,Hiroto,andYusukeUchida.“CLRerNet:ImprovingConfidenceofLaneDetectionwithLaneIoU.”arXivpreprintarXiv:2305.08366(2023).2023.05出的一篇车道线检测的文章,效果在CULane,CurveLanesSOTA文章目录简介LaneIoULineIoU存在问题为什么使用LaneI

zhwangye·2023-07-27 08:49

论文笔记|AAAI2023：ESPT: A Self-Supervised Episodic Spatial Pretext Task for Improving Few-Shot Learning

这篇论文的题目是ESPT:ASelf-SupervisedEpisodicSpatialPretextTaskforImprovingFew-ShotLearning，提出了用于改善小样本学习的自监督episodic空间代理任务论文接收：AAAI2023论文地址：https://arxiv.org/abs/2304.13287代码地址：https://github.com/Whut-YiRong/

李问号·2023-07-27 07:20

论文笔记|CVPR2023:Supervised Masked Knowledge Distillation for Few-Shot Transformers

这篇论文的题目是用于小样本Transformers的监督遮掩知识蒸馏论文接收：CVPR2023论文地址：https://arxiv.org/pdf/2303.15466.pdf代码链接：https://github.com/HL-hanlin/SMKD1Motivation1.ViT在小样本学习（只有少量标记数据的小型数据集）中往往会过拟合，并且由于缺乏归纳偏置而导致性能较差；2.目前很多方法使用

李问号·2023-07-27 07:50

论文笔记--Skip-Thought Vectors

论文笔记--Skip-ThoughtVectors1.文章简介2.文章概括3文章重点技术3.1SkipThoughtVectors3.2词表拓展4.文章亮点5.原文传送门6.References1.文章简介标题

Isawany·2023-07-26 05:28

论文笔记-Learning Transferable Visual Models From Natural Language Supervision(CLIP)

论文地址：https://arxiv.org/abs/2103.00020博客：https://openai.com/blog/clip/代码：https://github.com/OpenAI/CLIP论文精读：https://www.bilibili.com/video/BV1SL4y1s7LQ?share_source=copy_webOpenAI提出的CLIP方法很简单，效果却很好，预训练

升不上三段的大鱼·2023-07-25 21:31

Matching the Blanks: Distributional Similarity for Relation Learning论文笔记

动机本文主要在于设计一个通用的关系抽取器，即学到一个合适的关系的表达，可以对任意关系建模。之前的工作，如利用SurfaceForm来表示关系，或者借助知识库中关系的定义，但这两类方案都需要事先定义好关系，泛化能力较弱。本文受到word2vec中的分布式假设（Harris’distributionalhypothesis）的启发，想利用上下文将关系编码成一个固定长度的向量。这就将关系抽取的问题，转变

有莘不殁·2023-07-25 19:50

[论文笔记] LLM数据集——金融数据集

一、chatglm_金融ModelScope魔搭社区请将modelscopesdk升级到v1.7.2rc0，执行：pip3install"modelscope==1.7.2rc0"-f https://modelscope.oss-cn-beijing.aliyuncs.com/releases/repo.html#方式1gitclonehttp://www.modelscope.cn/data

心心喵·2023-07-25 16:01

[论文笔记] chatgpt系列 2.3 DeepSpeed-chat SFT训练

accelerate+deepspeed多机多卡训练的两种方法-知乎单节点训练：#Moveintothefirststepofthepipelinecdtraining/step1_supervised_finetuning/#Runthetrainingscriptbashtraining_scripts/single_gpu/run_1.3b.sh＃Evaluatethemodelbashev

心心喵·2023-07-25 16:31

论文笔记--Knowledgeable Prompt-tuning: Incorporating Knowledge into Prompt Verbalizer for Text Classific

论文笔记--KnowledgeablePrompt-tuning:IncorporatingKnowledgeintoPromptVerbalizerforTextClassification1.文章简介

Isawany·2023-07-25 15:15

论文笔记--Distilling the Knowledge in a Neural Network

论文笔记--DistillingtheKnowledgeinaNeuralNetwork1.文章简介2.文章概括3文章重点技术3.1SoftTarget3.2蒸馏Distillation4.文章亮点5.

Isawany·2023-07-25 15:43

论文笔记 | HyperNet: Towards Accurate Region Proposal Generation and Joint Object Detection

作者TaoKongAnbangYaoYurongChenFuchunSun摘要本文提出了一种HyperNet，同时用于处理regionproposal和objectdetection。Hyper特征是将各层featuremaps的特征聚集然后统一到一个空间。在cpu上处理速度是5fps。1Introduction首先说了Rcnn到Fasterrcnn的情况，指出Fasterrcnn对于小物体很st

bea_tree·2023-07-25 08:27

论文笔记--ERNIE: Enhanced Language Representation with Informative Entities

论文笔记--ERNIE:EnhancedLanguageRepresentationwithInformativeEntities1.文章简介2.文章概括3文章重点技术3.1模型框架3.2K-Encoder

Isawany·2023-07-24 20:16

论文笔记--Won’t Get Fooled Again: Answering Questions with False Premises

论文笔记--Won’tGetFooledAgain:AnsweringQuestionswithFalsePremises1.文章简介2.文章概括3文章重点技术3.1大模型面对FPQs的表现3.2FalseQAs

Isawany·2023-07-24 20:15

Factorization Machines(论文笔记)

样例一：一个简单的例子,train是一个字典，先将train进行“one-hot”coding，然后输入相关特征向量，可以预测相关性。frompyfmimportpylibfmfromsklearn.feature_extractionimportDictVectorizerimportnumpyasnptrain=[{"user":"1","item":"5","age":19},{"user"

Knight840·2023-07-24 20:04

Ubuntu20.04系统Mip-NeRF代码复现（pytorch）

几乎都在35左右）bebeal/mipnerf-pytorch（训练、渲染视频、导出mesh，比较顺利）本篇文章复现的是这个项目给出一些关于Mip-NeRF原理讲解的博客：mip-NeRFMip-NeRF论文笔记

XINYU W·2023-07-24 14:39

React新手入门

顾名思义不是真正的DOM结构，他不需要浏览器DOMAPI的支持，其实就是一个JS对象，该对象其实是在真实的DOM基础上建立的一个抽象层，用来反应真是的DOM结构，当页面数据发生变化的时候，React会通过dif

是妍妍吖·2023-07-24 09:33

论文笔记：日志解析Drain

Drain:AnOnlineLogParsingApproachwithFixedDepthTree1.背景一般的数据挖掘模型所需要的数据为结构性数据(listormatrix)。原始日志通常是非结构化的，因此解析日志的目标为将非结构化的文本转化为结构化的数据。传统的日志解析方法依赖于正则表达式(regularexpressions)。但是正则表达式需要人工编写，需要大量人力，以及需要维护模板更新

不会心跳·2023-07-23 08:34

检测论文综述（一） : 从RCNN到Mask-RCNN

对于目标检测方向并不是特别熟悉，本文记录一下RCNN,fast-RCNN,faster-RCNN,mask-RCNN这4篇有关目标检测的论文笔记和学习心得。

Junr_0926·2023-07-23 00:17

openssh9.0/9.2/9.3p1升级后客户端连不上问题处理 —— 筑梦之路

KexAlgorithmsdiffie-hellman-group1-sha1,diffie-hellman-group14-sha1,diffie-hellman-group-exchange-sha1,dif

筑梦之路·2023-07-22 08:15

2020-12-02龙虎榜：持仓国盛金控五涨停，点评的西山煤电成妖股

今日(1)、DIF向上；(2)、DEA向上；(3)、季线macd的金叉持续扩大金叉，今日数据22.66。目前呈现明显的反转态势。

牛熊周期·2023-07-22 07:31

通达信牛周期指标公式

;MAVOL21:=MA(VOLUME,21);MAVOL65:=MA(VOLUME,65);STICKLINE(crOSS(MAVOL5,MAVOL21),5,8,2,0),COLORWHITE;周DIF

和富旺·2023-07-21 07:54

STAR: A Structure-aware Lightweight Transformer for Real-time Image Enhancement2021ICCV低光图像增强论文笔记

STAR:AStructure-awareLightweightTransformerforReal-timeImageEnhancement用于实时图像增强的结构感知轻量级Transformer发表于2021ICCV发表于2021年ICCVPDF：pdfCode：github代码基于pytorchmaketrade-offsbetweenmodelflexibilityandcomputatio

丫丫爱吃·2023-07-20 10:46

【论文笔记】Graph Neural Networks for Recommender Systems: Challenges, Methods, and Directions

文章链接：https://arxiv.org/pdf/2109.12843.pdf本文是清华李勇和中科大何向南组最新的推荐中GNN综述推荐系统的发展历程浅层模型早期的推荐模型主要通过计算交互的相似度来捕获协同信号，之后随着Netflix比赛中矩阵分解模型的大放异彩，推荐系统被转化为表示学习问题。神经网络模型浅层的模型不足以建模复杂的用户行为和大量数据输入，以神经协同过滤NCF，深度因子分解机Dee

·2023-07-20 07:54

【论文笔记】CIKM‘22 ＆ Amazon | (Navip) 推荐系统中图神经网络的去偏邻域聚合

目录1.Introduction2.RelatedWork2.1基于GNN的推荐2.2逆倾向评分IPS3.模型3.1Navip4.实验结果本文是亚马逊在CIKM2022的一篇工作论文地址：https://arxiv.org/pdf/2208.08847.pdf问题图形神经网络(GNN)对于曝光偏差的脆弱性导致模型偏差，产生次优推荐效果。之前工作的不足只在损失函数中应用IPS，但对GNN的邻域聚合关