DIF论文笔记第17页

[论文笔记] chatgpt系列 2.1 DeepSpeed-chat 简介

DeepSpeedExamples/applications/DeepSpeed-Chatatmaster·microsoft/DeepSpeedExamples·GitHubDeepSpeed-Chat:简单，快速和负担得起的RLHF训练的类chatgpt模型一个快速、经济、可扩展和开放的系统框架，用于实现端到端的强化学习人类反馈(RLHF)训练体验，以在所有尺度上生成高质量的类chatgpt模

心心喵·2023-06-20 12:55

《Amazon DynamoDB》论文笔记 1

文章目录1.写在最前面2.核心观点2.1作为服务提供要考虑的问题2.1.1.1部署方案2.1.1.2多租户的问题2.1.1.3容量上限2.1.1.4容量扩展2.1.1.5可用性指标评估3.碎碎念4.参考资料1.写在最前面最近读到一句话，「所谓云原生并不是简单的将一个云下的数据库搬到云上自动部署就叫DBaaS，而是需要从内核到管控平台针对云提供的能力和环境进行深层次的改造，否则一个直观的代价就是：在

phantom_111·2023-06-20 10:45

论文笔记：Normalizing Flows for Probabilistic Modeling and Inference

Abstract正则流（Normalizingflows）提供了一种通用的机制来定义富有表达力的概率分布，只需要指定一个（通常简单的）基础分布和一系列可逆变换。Intraduction正则流通过将简单的密度通过一系列变换来产生更丰富、可能更多模态的分布，就像液体流经一组管道一样运作。灵活性意味着正则流非常适合用于建模、推断和模拟这些关键的统计任务。我们对正则流的探索旨在揭示那些将指导它们在可预见的

BlueagleAI·2023-06-20 00:08

Attentive Moment Retrieval in Videos论文笔记

AttentiveMomentRetrievalinVideos论文笔记0.论文地址1.摘要2.引言3.模型结构3.1MemoryAttentionNetwork3.2Cross-ModalFusionNetwork4

7个七·2023-06-19 17:00

论文笔记 --《Enhanced LSTM for Natural Language Inference》

标签：Jd_Paperweekly时间：2020.11.18来源：ACL2017关键词：文本匹配，Alignmentlayer1.背景及问题描述文本匹配（TextMatching）是自然语言处理领域最经典的问题之一，也是搜索、QA、推荐等领域的基础研究课题。而短文本匹配，因为其特殊性，比如语义性缺失，句法缺失等，往往需要特殊的处理模型。而对齐机制（Alignment）是处理短文本的有效方案，今天介

ColdCoder·2023-06-19 10:14

[论文笔记]End-to-end Sequence Labeling via Bi-directional LSTM-CNNs-CRF

引言本文是论文End-to-endSequenceLabelingviaBi-directionalLSTM-CNNs-CRF的阅读笔记。本论文提出了一个受益于单词级(word)和字符级(character)表示的网络架构，通过组合双向LSTM，CNN和CRF。简介首先通过CNN编码一个单词的字符级信息到相应的字符表征。然后组合字符和单词级表征输入到Bi-LSTM来建模每个单词的上下文信息。在Bi

愤怒的可乐·2023-06-19 08:36

论文笔记：A Multi-source Trajectory Correlation Algorithm based on Spatial-temporal Similarity

2017ICIF0摘要提出了一种适用于异步多源多轨迹的轨迹相似性模型以及基于该模型的轨迹相关联算法基于在空间和时间约束下搜索潜在匹配数据点的思想，通过设置空间和时间阈值，从匹配点集中确定最佳匹配点，并获得多源轨迹之间的相似度测量考虑了多源轨迹潜在匹配点之间的时空关系允许多源轨迹之间存在时间槽（temporalslot），大大降低了复杂度并确保了轨迹映射的准确性模拟实验结果表明，在应用于模拟复杂多目

UQI-LIUWJ·2023-06-19 08:08

论文笔记： Spatiotemporal Recurrent Convolutional Networks for Traffic Prediction in Transportation Netwo

2017sensors1模型CNN+LSTM空间依赖关系选择一个交通网络根据道路情况把它分成n个路段计算这些路段在一个特定的时间段内的平均速度vi——第i个路段m——时间段内的m辆车使用网格划分交通网络将平均速度映射到网格。空白区域的值设置为0;如果多个路段通过同一个网格，便将它们的平均速度分配给相应的网格使用CNN提取空间信息时间依赖关系LSTM

UQI-LIUWJ·2023-06-19 08:38

论文笔记：A multi-source dataset of urban life in the city of Milan and the Province of Trentino

Scientificdata20150摘要描述了两个地理区域上发布的丰富的多源数据集。该数据集由米兰市和特伦蒂诺省的电信、天气、新闻、社交网络和电力数据组成。1背景通话详单记录CallDetailRecordCDR提取移动模式提取社交互动估算人口密度建模城市结构预测社会经济指标模拟疾病的传播。。。新兴的地理定位信息和通信技术（ICT）服务（如Twitter和Foursquare）的出现为研究人员提

UQI-LIUWJ·2023-06-19 08:37

论文笔记：MEASURING DISENTANGLEMENT: A REVIEW OF METRICS

0摘要学习解缠和表示数据中的变化因素是人工智能中的一个重要问题。虽然已经取得了许多关于学习这些表示的进展，但如何量化解缠仍然不清楚。虽然存在一些度量标准，但对它们的隐含假设、真正衡量的内容以及限制了解甚少。因此，当比较不同的表示时，很难解释结果本篇论文调查了有监督的解缠度量标准，并对它们进行了深入分析。提出了一个新的分类体系，将所有的度量标准分为三个类别：基于干预、基于预测器和基于信息。进行了大量

UQI-LIUWJ·2023-06-19 07:03

论文笔记：Attention U-Net: Learning Where to Look for the Pancreas

Abstract我们提出了一种用于医学成像的新型注意门（AG）模型，该模型自动学习聚焦于不同形状和大小的目标结构。用AG训练的模型隐含地学习抑制输入图像中的不相关区域，同时突出显示对特定任务有用的显着特征。这使我们能够消除使用级联卷积神经网络（CNN）的显式外部组织/器官定位模块的必要性。AG可以很容易地集成到标准CNN架构中，例如U-Net模型，具有最小的计算开销，同时提高模型灵敏度和预测精度。

YaksaWang·2023-06-18 22:58

Attention U-Net: Learning Where to Look for the Pancreas论文笔记

attentionu-net论文翻译笔记摘要[外链图片我们提出了一种新颖的医学图像注意力们模型，它能自动学习聚焦在形状、尺寸变化的目标结构。用AG训练的模型隐形地抑制输入图像的非相关区域，同时强调对指定任务有用的显著性特征。这让我们不必去显式地使用级联CNN的组织定位模块。AG可以轻易的被集成到标准的CNN结构中，比如U-net模型，带有少量的计算开销同时能增加模型的敏感性和准确性。提出的Atte

achong_2050·2023-06-18 22:56

多模态之论文笔记BLIP，BLIP2，Instruct BLIP

文章目录BLIP一.简介1.1摘要与引言1.2相关工作1.3方法模型结构预训练目标函数CapFilt噪声过滤1.4实验以及讨论实验设置CapFilt的讨论BLIP2一.简介1.1摘要与引言1.2相关工作1.3方法模型结构第一阶段BootstrapVision-LanguageRepresentationLearningfromaFrozenImageEncoder第二阶段BootstrapVisi

猴猴猪猪·2023-06-18 10:42

多模态之论文笔记ViLT

文章目录ViLT:Vision-and-LanguageTransformerWithoutConvolutionorRegionSupervision一.简介1.1摘要1.2文本编码器，图像编码器，特征交互复杂度分析1.2特征交互方式分析1.3图像特征提取分析二.方法Vision-and-LanguageTransformer2.1.方法概述2.2预训练的目标任务ImageTextMatchin

猴猴猪猪·2023-06-18 10:42

[论文笔记]Bidirectional LSTM-CRF Models for Sequence Tagging

引言本文是论文BidirectionalLSTM-CRFModelsforSequenceTagging的阅读笔记。这篇论文是15年发表的，比上次介绍的那篇还要早。首次应用双向LSTM＋CRF(BI-LSTM-CRF)到序列标注数据集。BI-LSTM-CRF模型可以有效地使用双向输入特征，也因为CRF层可以利用句子级标签信息。简介本论文主要贡献如下：第一个应用双向LSTMCRF模型到序列标注数据集

愤怒的可乐·2023-06-18 09:34

论文笔记：Geometric Reasoning for Single Image Structure Recovery David(Orientation Map算法)(CVPR 2009)

恢复室内布局，传统方法主要分为3个步骤：线段检测和估计消失点、生成布局假设、对假设进行打分，方向图可以作为布局打分重要部分。墙角分为3类：凸角convex(+)corners.凹角concave(-)corners.遮挡角occluding(>)corners.所有房间布局可由这3种基本类别进行组合。进一步根据消失点划分3个区域(视角不同)，每个区域只有凸角、凹角、遮挡角1、遮挡角2，这4种类型的

snoopy_21·2023-06-18 03:24

论文笔记：ZERO-SHOT RESTORATION OF UNDEREXPOSED IMAGES VIA ROBUST RETINEX DECOMPOSITION

通过稳健的Retinex分解对曝光不足的图像进行零镜头恢复会议：2020IEEEInternationalConferenceonMultimediaandExpo(ICME)论文地址：Zero-ShotRestorationofUnderexposedImagesviaRobustRetinexDecomposition|IEEEConferencePublication|IEEEXplore论

weixin_43535668·2023-06-17 09:34

低光照图像增强《Deep Retinex Decomposition for Low-Light Enhancement》论文笔记

论文链接—Github链接—项目主页1原理经典Retinex将图像分解为反射率RRR和照明度III。SSS表示源图像，则表示为：S=R∘I(1)S=R\circI\tag{1}S=R∘I(1)RRR代表反射率，描述了捕获物体的内在属性，它被认为在任何光照（III）条件下都是一致的III代表照明度(亮度)，代表各种物体上的亮度，在低光照图像上，它通常会受到黑暗和不平衡的照明分布影响∘\circ∘代表

清楓·2023-06-17 09:04

论文笔记-Multi-Task Learning as Multi-Objective Optimization

Intro在深度学习，使用多个任务（loss）训练模型时，通常使用最小化加权线性和的方式来训练整个模型。但是这要求多任务之间不存在相互竞争。因此作者提出新的多任务学习方法，将多任务学习转化成多目标优化问题，借助凸优化问题求帕累托（pareto）最优解。method问题定义对一个输入空间X和任务集合空间{Yt}t∈[T]\left\{\mathcal{Y}^t\right\}_{t\in[T]}{Y

chenxino·2023-06-17 08:14

【论文笔记】DS-UNet: A dual streams UNet for refined image forgery localization

DS-UNet:用于细化图像伪造定位的双流UNet摘要提出了一种名为DS-UNet的双流网络来检测图像篡改和定位伪造区域。DS-UNet采用RGB流提取高级和低级操纵轨迹，用于粗定位，并采用Noise流暴露局部噪声不一致，用于精定位。由于被篡改对象的形状和大小总是不同的，DS-UNet采用了轻量级的分层融合方法，使得DS-UNet能够感知不同尺度的篡改对象。之后，DS-UNet通过单个解码器接收跳

Deep_Lnna·2023-06-17 06:48

论文笔记 | 谷歌 Soft Prompt Learning ，Prefix-Tuning的 -＞ soft promt -＞ p tuning v2

论文笔记|谷歌SoftPromptLearningptuning->Prefix-Tuning->softpromt->ptuningv2"ThePowerofScaleforParameter-EfficientPromptTuning"EMNLP2021GoogleBrain

AI生成曾小健·2023-06-17 06:42

论文笔记与实战：对比学习方法MOCO

目录1.什么是MOCO2.MOCO是干吗用的3.MOCO的工作原理3.1一些概念1.无监督与有监督的区别2.什么是对比学习3.动量是什么3.2MOCO工作原理1.字典查找2.如何构建一个好的字典3.工作流程3.3（伪）代码分析4.其他一些问题5.MOCOv2和MOCOv35.1MOCOv25.2MOCOv36.实战部分6.1数据6.2模型与参数设置6.3实验结果（好久没更新了~~~准备分享一些pa

lokvke·2023-06-17 03:13

TALL论文笔记

TALL论文笔记0.论文来源1摘要2引言3模型结构3.1视觉编码器3.2句子编码器3.3模态融合3.4时间定位回归网络4训练4.1损失函数4.2采集训练样本5评估5.1数据集5.2评价指标5.3实验结果

7个七·2023-06-16 23:28

FL Backdoor Defense (Ⅱ) - DeepSight

文章目录论文笔记-DeepSight:MitigatingBackdoorAttacksinFederatedLearningThroughDeepModelInspection1.基本信息2.研究动机

WBZhang2022·2023-06-16 12:32

FL Backdoor Defense (Ⅰ) - FLAME: Taming Backdoors in Federated Learning

文章目录论文笔记-FLAME:TamingBackdoorsinFederatedLearning1.基本信息2.研究动机3.基本原理3.1面临挑战分析3.2FLAME算法总体概述3.3FLAME算法设计思想

WBZhang2022·2023-06-16 12:02

论文笔记 | KDD2014 | Practical Lessons from Predicting Clicks on Ads at Facebook

gbdt_lr-title.jpg论文地址：https://quinonero.net/Publications/predicting-clicks-facebook.pdf一为什么读这篇本文属于深度学习时代之前的一篇经典CTR预估paper，即大名鼎鼎的GBDT+LR，记得当年刚出来的时候还是挺火的，可惜深度学习遍地开花后，就退出舞台了，不过为了夯实下基础，还是得看看，同时希望可以从历史经典中挖

ktulu7·2023-06-16 04:12

——Object Counting：You Only Need To Look At One论文笔记

——ObjectCounting：YouOnlyNeedToLookAtOne论文笔记一、Abstract二、引言三、相关工作四、方法4.1问题定义4.2特征关联4.3特征提取和尺度聚合4.4训练损失五

乄洛尘·2023-06-15 15:26

【论文笔记】SAM3D: Zero-Shot 3D Object Detection via Segment Anything Model

原文链接：https://arxiv.org/pdf/2306.02245.pdf1.引言分割一切模型（SAM）作为视觉领域的基石模型，有强大的泛化性，能解决很多2D视觉问题。但是SAM是否可以适用于3D视觉任务，仍需要被探索。目前几乎没有关于3D目标检测的零样本学习，如何使SAM的零样本能力适用于3D目标检测是本文的主要研究内容。本文提出SAM3D，使用SAM分割BEV图，然后从输出

byzy·2023-06-15 06:51

李沐读论文笔记--大模型时代下做科研的四个思路

大模型时代下做科研的四个思路0.视频来源：1.提高效率（更快更小）1.1PEFT介绍(parameterefficientfinetuning)1.2作者的方法1.3AIM效果1.3.1AIM在K400数据集上的表现1.3.2AIM在Something-Something数据集、K700数据集和Diving-48数据集上的表现2.调用已训练好的模型做应用3.做即插即用的模块4.构建数据集，做分析为

7个七·2023-06-15 00:29

Cross-modal Moment Localization in Videos论文笔记

Cross-modalMomentLocalizationinVideos论文笔记0.来源1.摘要2.介绍3.模型3.1语言-时间注意网络3.2损失函数3.2.1对齐损失3.2.2位置损失3.2.2损失函数

7个七·2023-06-15 00:55

Python 集合，条件控制，循环的一些使用

print(set_data)#求两个集合的并集set_data=set_data1.union(set_data2)print(set_data)#求两个集合的差集set_data=set_data1.dif

qq_45923849·2023-06-14 19:36

LiveBot: Generating Live Video Comments Based on Visual and Textual Contexts 论文笔记

源码：https://go.ctolib.com/article/wiki/104234弹幕，已经成为人们看视频的一种习惯；不同用户之间的弹幕往往会形成上下文回复关系，更让弹幕成为一种新的社交模式。基于这一现象，微软亚洲研究院设计了一款名为LiveBot的自动弹幕生成系统。在这一系统中需要克服两个难点：一是要充分理解视频内容，根据其他用户的评论弹幕生成适当的内容；二是要在合适的时间点显示在对应的视

yeva_o·2023-06-14 09:21

8号作业-MACD

顶级投资人巴菲特年复合收益率23%，请调整预期20%2.MACD学习MACD称为指数平滑移动平均线，是从双指数移动平均线发展而来的，由快的指数移动平均线(EMA12)减去慢的指数移动平均线(EMA26)得到快线DIF

f3347d54e913·2023-06-14 06:38

论文笔记--LIMA: Less Is More for Alignment

论文笔记--LIMA:LessIsMoreforAlignment1.文章简介2.文章概括3文章重点技术3.1表面对齐假设(SuperfacialAlignmentHypothesis)3.2对齐数据3.3

Isawany·2023-06-13 22:16

论文笔记：NeuS: Learning Neural Implicit Surfaces by Volume Rendering for Multi-view Reconstruction

文章目录idea概述SDF与渲染之间如何建立联系？渲染的数学表述为什么需要更精妙的加权函数？为什么直接使用naivesolution是不行的？因此做了什么样的改进？如何做离散化？小结训练损失函数分层采样实验实验设置数据集baseline实现细节结果对比分析结论论文名称：NeuS:LearningNeuralImplicitSurfacesbyVolumeRenderingforMulti-view

F_L_O_W·2023-06-13 07:03

图像去雨DRD-Net论文笔记

论文题目：DRD-Net:Detail-recoveryImageDerainingviaContextAggregationNetworks发表会议：CVPR2020作者：SenDeng,MingqiangWei,JunWang,LumingLiang,HaoranXie,andMengWang1、目的图像去雨，作者指出现有的去雨的方法在去雨的过程中尤其是暴雨天气会容易将雨纹和图像的细节一同去除

'楓·2023-06-13 05:44

论文笔记--AlpacaFarm: A Simulation Framework for Methods that Learn from Human Feedback

论文笔记--AlpacaFarm:ASimulationFrameworkforMethodsthatLearnfromHumanFeedback1.文章简介2.文章概括3文章重点技术3.1数据集3.2LPF

Isawany·2023-06-12 18:48

论文笔记--SimCSE: Simple Contrastive Learning of Sentence Embeddings

论文笔记--SimCSE:SimpleContrastiveLearningofSentenceEmbeddings1.文章简介2.文章概括3文章重点技术3.1对比学习ContrastiveLearning3.2UnsupervisedSimCSE3.3SupervisedSimCSE3.4Anisotropy3.5AlignmentandUniformity4

Isawany·2023-06-12 18:48

论文笔记--Evaluating Large Language Models Trained on Code

论文笔记--EvaluatingLargeLanguageModelsTrainedonCode1.文章简介2.文章概括3文章重点技术3.1评估3.2模型训练--Codex3.3微调模型--Codex-S3.4

Isawany·2023-06-12 18:47

论文笔记--Training language models to follow instructions with human feedback

论文笔记--Traininglanguagemodelstofollowinstructionswithhumanfeedback1.文章简介2.文章导读2.1概括2.2文章重点技术2.2.1SupervisedFine-Tune

Isawany·2023-06-12 18:17

论文笔记--GPT-4 Technical Report

论文笔记--GPT-4TechnicalReport1.报告简介2.报告概括3报告重点内容3.1PredictableScaling3.2Capabilities3.3limitations3.3Risks

Isawany·2023-06-12 18:44

论文笔记_2021_IROS_一种变化环境下的lifelong定位与建图框架

惊鸿一博·2023-06-12 04:03

频域抽取FFT(DIF-FFT)的C语言实现

原理此处以基2频域抽取FFT为例，讲述频域抽取FFT的原理。假设FFT的长度为N=2mN=2^mN=2m，我们将序列xxx的FFT变换分为以下两个部分：X(k)=∑n=0N/2−1x(n)WNnk+∑n=N/2N−1x(n)WNnkX(k)=\sum_{n=0}^{N/2-1}x(n)W_N^{nk}+\sum_{n=N/2}^{N-1}x(n)W_N^{nk}X(k)=n=0∑N/2−1x(n)

FPGA硅农·2023-06-11 10:05

论文笔记（三十）：Counter-Hypothetical Particle Filters for Single Object Pose Tracking

Counter-HypotheticalParticleFiltersforSingleObjectPoseTracking文章概括摘要I.简介II.相关工作A.机器人的物体姿态估计和跟踪B.鲁棒性的粒子滤波III.背景：粒子滤波A.粒子滤波B.粒子剥夺和粒子重振IV.反假设粒子滤波A.反假设重取样B.6D姿势估计的反假设可能性V.实验A.基线VI.结果VII.结论文章概括作者：Elizabeth

墨绿色的摆渡人·2023-06-11 02:10

10.14传统电流采样以及PWM占空比更新方式研究

哎，好像又要失业加上失学了~话不多说，开始今天的论文笔记整理：PWM控制技术以其控制简单，灵活和动态响应好的优点而成为电力电子技术最广泛应用的控制方式。

Priscillaaaaa·2023-06-10 11:47

图像降噪网络：KBNet 论文笔记

0前言ZhangY,LiD,ShiX,etal.KBNet:KernelBasisNetworkforImageRestoration[J].arXivpreprintarXiv:2303.02881,2023.https://arxiv.org/abs/2303.02881论文主要提出了KernelBasisAttentionModule注意力模块，称为KBA模块。该模块可以轻松嵌入到现有的网络

峡谷相对论·2023-06-09 23:56

论文笔记: 可解释神经聚类 (鹏鹏专用)

摘要:分享对论文的理解,原文见XiPeng,YunfanLi,IvorW.Tsang,HongyuanZhu,JianchengLv,JoeyTianyiZhou,XAIBeyondClassification:InterpretableNeuralClustering,JournalofMachineLearningResearch22(2021)1–27.1.符号系统符号风格按照本贴作者的习惯

闵帆·2023-06-09 19:13

论文笔记：NetVLAD: CNN architecture for weakly supervised place recognition（转）

原文NetVLAD是一个较早的使用CNN来进行图像检索或者视频检索的工作，后续在此工作的基础上陆续出了很多例如NetRVLAD、NetFV、NetDBoW等等的论文，思想都是大同小异。一、图像检索VLAD和BoW、FisherVector等都是图像检索领域的经典方法，这里仅简介下图像检索和VLAD的基本思想。图像检索（实例搜索）是这样的一个经典问题：1、我们有一个图像数据库IiI_iIi，通过函数

Lavau·2023-06-09 12:59

论文笔记：（CVPR 2022）Local Texture Estimator for Implicit Representation Function

LocalTextureEstimatorforImplicitRepresentationFunction（CVPR2022）Paper：https://link.zhihu.com/?target=https%3A//ipl.dgist.ac.kr/LTE_cvpr.pdfCode:https://link.zhihu.com/?target=https%3A//github.com/jaew

倘若我问心无愧呢丶·2023-06-09 01:46

神经辐射场 (NeRF)

：https://arxiv.org/pdf/2003.08934.pdf代码：https://github.com/bmild/nerf参考文献：NeRF：用深度学习完成3D渲染任务的蹿红【NeRF论文笔记

LevenWang·2023-06-08 19:30

推荐频道

DIF论文笔记