概览：一、总结计算量、数据集大小、模型参数量大小的幂律与训练损失呈现线性关系。三个参数同时放大时，如何得到最佳的性能？更大的模型需要更少的样本就能达到相同的效果。</

Billion-scaleCommodityEmbeddingforE-commerceRecommendationinAlibaba文中指出淘宝推荐系统面临的三大挑战：规模、稀疏性、冷启动。本文提出的方法首先从用户的行为历史中构建物品关系图，然后学习图中所有物品的embedding。通过物品embedding可以计算所有物品的两两相似度，然后将相似度用于推荐过程中。为了能够缓解稀疏性和冷启动问题

Author:SijinYu本文涉及的13篇论文分别是:[1]TaoChen,ChenhuiWang,HongmingShan.BerDiff:ConditionalBernoulliDiffusionModelforMedicalImageSegmentation.MICCAI,2023.[5]XinrongHu,Yu-JenChen,Tsung-YiHo,YiyuShi.Conditional

UnsupervisedMVS论文笔记摘要1引言2相关工作3实现方法TejasKhotandShubhamAgrawalandShubhamTulsianiandChristophMertzandSimonLuceyandMartialHebert.TejasKhotandShubhamAgrawalandShubhamTulsianiandChristophMertzandSimonLuceya

Hello,今天是论文笔记计划的第二天啦。

通过分歧进行自我监督探索0、问题使用可微的ri直接去更新动作策略的参数的，那是不是就不需要去计算价值函数或者critic网络了？1、Motivation高效的探索是RL中长期存在的问题。以前的大多数方式要么陷入具有随机动力学的环境，要么效率太低，无法扩展到真正的机器人设置。2、Introduction然而，在学习无噪声模拟环境之外的预测模型时，有一个关键的挑战:如何处理代理-环境交互的随机性?随机

一：EmotionRecognitionfromHumanSpeechUsingTemporalInformationandDeepLearning（2018InterSpeech）（1）分帧加窗，每一帧采用的特征向量为eGeMAPS特征集中的20个特征，每个utterance使用裁剪和padding的做法使得定长512帧，所以输入为20x512的矩阵。每个样本归一化到0均值1标准差（根据对应的说

题目：用于遥感大数据处理的并行和分布式计算的最新进展摘要本文对处理遥感大数据的最先进方法进行了调查，并深入研究了各种流行的高性能计算平台上现有的并行实现。这些方法的优缺点在功能、可扩展性、可靠性和易用性方面进行了讨论。在现有的分布式计算平台中，云计算由于其先进的高性能和面向服务的计算能力，是目前对遥感大数据进行高效、可扩展处理最有前途的解决方案。我们进一步深入分析了寻求利用遥感大数据分布式处理的并

0abstract本文介绍了一项对GitHubCopilot（一种人工智能编程助手）的控制实验结果。研究人员招募了软件开发人员，要求他们尽可能快地用JavaScript实现一个HTTP服务器。实验组可以访问人工智能编程助手，比对照组完成任务的速度快55.8%。观察到的异质性效应表明，人工智能编程助手有望帮助人们过渡到软件开发职业。1实验设计计算了两个指标作为衡量每个组的表现：任务成功率和任务完成时

ACL20151Intro1.1背景LSTM能够处理序列信息，但是无法处理带有树结构的数据依存句法分析树(DependencyTree)成分句法分析树(ConstituencyTree)1.2论文思路为了解决将树结构的数据作为输入训练RNN的问题，论文中提出了两种结构的Tree-StructuredLSTM：Child-SumTree-LSTMs(DependencyTree-LSTMs)适用于子

DeepAttentionRecurrentQ-Network（本篇DARQN）[1507.06527v3]DeepRecurrentQ-LearningforPartiallyObservableMDPs（DRQN,可参见我上一篇笔记）目前网上我搜到的论文笔记参考

ReNet:ARecurrentNeuralNetworkBasedAlternativetoConvolutionalNetworks2018-03-0511:13:051.引言：本文尝试用基于四个方向的RNN来替换掉CNN中的convolutionallayer（即：卷积+Pooling的组合）。通过在前一层的feature上进行四个方向的扫描，完成特征学习的过程。Therecurrentla

最近在看一些关于图像修复的文献，针对最近看的文献分享一些自己的认识，不足之处还请在评论区指出。《RecurrentFeatureReasoningforImageInpainting》这是一篇2020年CVPR上的文献。原文链接：https://openaccess.thecvf.com/content_CVPR_2020/papers/Li_Recurrent_Feature_Reasoning

2018NIPS0摘要时间序列在许多分类/回归应用程序中无处不在。但是，实际应用中的时间序列数据可能包含很多缺失值。因此，给定多个（可能相关的）时间序列数据，填充缺失值并同时预测它们的类标签很重要。现有的插补方法通常对基础数据生成过程进行强假设，例如状态空间中的线性动态。在本文中，我们提出了一种名为BRITS的新方法，该方法基于递归神经网络，用于时间序列数据中的缺失值插补。我们提出的方法直接学习双

ICLR20180abstract交通预测是一项具有挑战的任务对道路网络的复杂空间依赖性随道路条件变化的非线性时间动态长期预测的固有困难——>将交通流建模为有向图上的扩散过程——>引入扩散卷积递归神经网络(DCRNN)使用图上的双向随机游走来捕获空间依赖性使用具有计划采样（scheduledsampling）的编码器-解码器架构来捕获时间依赖性1introduction1.1交通预测的挑战性复杂的

引言自动文摘(autotextsummarization)在信息检索(IR)和自然语言处理(NLP)领域有很多应用，自动文摘主要分成extractive，抽取式，从原文中找到一些关键的句子，另一种是abstractive，摘要式，这需要计算机读懂原文内容，并用自己的意思将其表达出来。现在大多数的研究是基于抽取式的自动文摘，传统的抽取式自动文摘可分为三类：基于贪心算法的(greedyapproach

1.SEMI-SUPERVISEDCLASSIFICATIONWITHGRAPHCONVOLUTIONALNETWORKS(GCN)解决的是图结构上的半监督分类问题，只有一部分结点有标签归一化后的拉普拉斯矩阵,下式中L表示拉普拉斯矩阵，D为度矩阵，A是领接矩阵：元素级别定义正则化的拉普拉斯矩阵，Λ是特征值对角矩阵，U为拉普拉斯矩阵L的特征值矩阵。L=D−AL=D−1/2LD−1/2=D−1/2(D

摘要张量因子分解方法已被证明对此类链路预测问题很有前途。1927年提出的正则多元分解（CP）是最早的张量分解方法之一。CP通常在链路预测方面表现不佳，因为它为每个实体学习两个独立的嵌入向量，而它们实际上是并列的。我们提出了一个简单的CP增强（我们称之为SimplE），允许独立地学习每个实体的两个嵌入。背景一种张量因子分解方法是正则多变量（CP）分解。该方法为每个关系学习一个嵌入向量，为每个实体学习

github代码摘要提出全息嵌入（HOLE）来学习整个知识图的组合向量空间表示。背景现有的能够捕获关系数据中丰富交互的嵌入模型通常在可伸缩性方面受到限制。反之亦然，可以有效计算的模型通常表达能力要低得多。1.本文引入全息嵌入（HOLE），它使用实体嵌入（向量表示）的循环关联来创建二进制关系数据的组合表示。通过使用相关性作为组合运算符，HOLE可以捕获丰富的交互，但同时保持计算效率高、易于训练、可扩

摘要提出了一个新的模型称为二面体，以二面体对称群命名。这种新模型学习知识图嵌入，可以自然地捕获关系组合。此外，我们的方法对离散值参数化的关系嵌入进行建模，从而大大减少了解空间。背景关系组合的一个关键特性是，在许多情况下，它可以是非交换的。例如，在的父母和配偶之间交换顺序将导致完全不同的关系（父母与法律中的父母）。我们认为，为了在链接预测任务中学习关系组合，这种非交换属性应该被显式地建模。在本文中，

摘要提出了一个准确率更高的双线性公式，一个利用学习到的关系嵌入来挖掘逻辑规则的方法。背景在可扩展到大型知识库的关系学习方法上有张量因子分解和基于神经嵌入的模型两种流行的方法。它们学习使用实体与关系的低维来表示编码关系。本文重点研究了基于能量目标的神经嵌入模型。最近的嵌入模型TransE比RESCAL等张量因子分解方法预测性能更好。本文贡献：(1)提出了一个通用的多关系学习框架，该框架统一了过去开发

原文链接：https://arxiv.org/pdf/2004.05224.pdfII.深度学习的简要回顾B.点云深度学习本文将点云深度学习方法分为5类，即基于体素、基于2D视图、基于点、基于图以及基于索引/树的方法。（2）基于索引/树的方法引入树状数据结构（如kd树、八叉树），自适应地划分分辨率，减小计算量。通过建立不平衡的树，可以根据点云密度划分区域。这样，点密度低的区域可以有低分辨率。根据树

MVSNet论文笔记摘要1引言2相关基础2.1多视图立体视觉重建（MVSReconstruction）2.2基于学习的立体视觉（LearnedStereo）2.3基于学习的多视图的立体视觉（LearnedMVS

Asystematicliteraturereviewonsoftwaredetectpredictionusingartificialintelligence:Datasets,DataValidationMethods,Approaches,andTools软件缺陷预测的系统文献综述：从数据集、数据验证方法、缺陷检测和预测方法、工具以及对未来研究人员的建议几个角度展开缺陷预测方法框架发现缺陷的

文章全名：TransformersinTimeSeries:ASurvey文章链接：[论文地址]([2202.07125v2]TransformersinTimeSeries:ASurvey(arxiv.org))来源：IJCAI2023完成单位：阿里巴巴达摩院、上海交通大学摘要Transformer在自然语言处理和计算机视觉领域都取得了诸多成果，Transformer的捕获长距离依赖和交互的能力

文章题目：ASurveyonTransformersinReinforcementLearning论文地址：论文地址来源：arxiv完成单位：清华大学、北京大学、BAAI、腾讯IntroductionTransformer结构能够建模长期的依赖关系，并且具有良好的伸缩性（可处理不同长度的序列数据）最初将Transformer运用到强化学习，是通过将自注意力应用到表征学习，来提取实体间的关系，从而更

github.com/murtazahassan/Learn-OpenCV-in-3-hourshttps://www.cnblogs.com/skyfsm/p/8029668.html《转载OCR技术系列》https://www.cnblogs.com/wujianming-110117/p/12600905.html《字符识别OCR原理及应用实现》01基于传统算法的OCR技术传统的OCR技术通

DeepFM:AFactorization-MachinebasedNeuralNetworkforCTRPrediction目标：CTR预估文中指出以前的CTR预估模型仅考虑low-order的特征交互或者仅考虑high-order的特征交互，或者需要手工设计特征。文中提出了DeepFM来同时学习low-order和high-order的特征交互，并且不需要手工设计特征。DeepFMDeepFM

SENet论文笔记注意力机制Squeeze-and-ExcitationNetworks2019Abstract传统卷积都是在特征层级上通过提高空间编码质量提高表示能力SENet注重通道关系，自适应地调整通道方向特征图权重

Cascade-MVSNet论文笔记摘要1立体匹配（StereoMatching）2多视图立体视觉（Multi-ViewStereo）3立体视觉和立体视觉的高分辨率输出4代价体表达方式（CostvolumeFormulation

AI视野·今日CS.CV计算机视觉论文速览Tue,31Oct2023Totally165papers上期速览✈更多精彩请移步主页DailyComputerVisionPapersSimMMDG:ASimpleandEffectiveFrameworkforMulti-modalDomainGeneralizationAuthorsHaoDong

目录摘要关键词0引言1在线预测与运动规划算法设计(1)在线预测(2)运动规划(3)动态跟踪及抓取2动态跟踪算法设计3实验验证3.1动态跟踪抓取实验(1)系统框架(2)动态跟踪抓取实验3.2融合轨迹连续性3.3动态跟踪鲁棒性4结语摘要内容：基于ROS框架，以6自由度ABB机器人为研究对象，设计了一种基于在线预测和规划的机器人动态跟踪抓取方法。问题的提出与解决：通过预先检测目标物的运动状态在线预测其运

AI视野·今日CS.CV计算机视觉论文速览Mon,30Oct2023Totally50papers上期速览✈更多精彩请移步主页DailyComputerVisionPapersImageClusteringConditionedonTextCriteriaAuthorsSehyunKwon

AI视野·今日CS.CV计算机视觉论文速览Wed,25Oct2023Totally61papers上期速览✈更多精彩请移步主页DailyComputerVisionPapersSyntheticDataasValidationAuthorsQixinHu

Pseudo-Label:TheSimpleandEfficientSemi-SupervisedLearningMethodforDeepNeuralNetworks20131伪标签未标记的数据由监督学习网络标记。（将具有最大预测概率的类作为伪标签）然后使用标记数据和伪标记数据训练网络。2伪标签的损失函数损失函数分为真实标签部分和伪标签部分伪标签部分的权重使用a(t)来进行调节，如果a(t)特别

ASurveyofKnowledge-EnhancedPre-trainedLanguageModelsLinmeiHu,ZeyiLiu,ZiwangZhao,LeiHou,LiqiangNie,SeniorMember,IEEEandJuanziLi2023年8月的一篇关于知识增强预训练模型的文献综述论文思维导图思维导图网页上看不清的话，可以存储到本地再看大纲笔记摘要:预训练语言模型(PLMs)

NovelD:一种简单而有效的探索准则1、Motivation针对稀疏奖励环境下的智能体探索问题，许多工作中采用各种内在奖励(IntrinsicReward)设计来指导困难探索环境中的探索，例如：ICM：基于前向动力学模型的好奇心驱动探索RND：基于随机网络蒸馏驱动的探索Count-Based：基于伪计数驱动的探索但是本文作者从实验中观察到，如果有多个感兴趣的区域，这些方法有时会很快使智能体被困在

Title:BiFormer:VisionTransformerwithBi-LevelRoutingAttentionPaper:https://arxiv.org/pdf/2303.08810.pdfCode:https://github.com/rayleizhu/BiFormer一、前言众所周知，Transformer相比于CNNs的一大核心优势便是借助自注意力机制的优势捕捉长距离上下文依

AbstractDDRNet由两个深度分支组成，在这两个分支之间执行多次双边融合上下文提取器DeepAggregationPyramidPoolingModule(DAPPM)扩大有效感受域，并基于低分辨率特征映射融合多尺度上下文精度高且轻量IntroductionBisenet提出了一种由空间路径和上下文路径组成的新型双边网络，空间路径利用三个相对较宽的3×3卷积层来捕获空间细节，上下文路径是一

文章目录1简介2网络结构2.1SearchModule(SM)2.2IdentificationModule(IM)2020年CVPR的一篇文章，文章名为“伪装物体检测”。代码地址1简介伪装物体：“无缝”嵌入周围环境的物体。分为两类自然伪装物体：一般是动物，如昆虫，头足类动物；人工伪装物体：缺陷，游戏艺术隐藏信息。伪装物体检测与其他任务的区别和联系：我们可以从上面这幅图看出，通用物体指的是图像中所

这里写目录标题论文标题引言论文学术结构1、总体介绍2、介绍叙述式多模态情感分析3、介绍交互式多模态情感分析4、多模态情感分析存在的交互建模科学问题5、结束语阅读论文初体验思维导图论文标题《多模态情感分析研究综述》引言多模态情感分析现已成为自然语言处理领域的核心研究课题之一，分为两类子课题：1、叙述式多模态情感分析2、交互式多模态情感分析论文学术结构1、总体介绍从情感分析这个大方面出发，结合现代社会

摘要自Meta研究团队发布SAM（SegmentAnythingModel）项目依赖，因其令人惊艳的零样本迁移特性和与其他视觉应用兼容的高通用性，引起了极大的关注。由于大多数类似的应用都需要运行在资源限制的边缘设备，如手机，因此，本文的目标是通过使用轻量化的encoder替换原始计算量大的encoder使其称为移动友好型模型。一个简单的思路是按照SAM原文训练一个新的轻量化的SAM，但是效果不理想

论文笔记--Baichuan2:OpenLarge-scaleLanguageModels1.文章简介2.文章概括3文章重点技术3.1预训练3.1.1预训练数据3.1.2模型架构3.2对齐3.2.1SFT3.2.2RewardModel

论文论文链接：《BEVFormer:LearningBird’s-Eye-ViewRepresentationfromMulti-CameraImagesviaSpatiotemporalTransformers》代码链接：https://github.com/zhiqi-li/BEVFormer阅读顺序：我之前在哔哩哔哩上跟着李沐一起读论文，按照他的方法：先看题目（比如这篇文章，它的重点就是Sp

RAT-SQL:Relation-AwareSchemaEncodingandLinkingforText-to-SQLParsers以关系感知的方法对数据库模式编码和链接的text-to-SQL模型1.问题聚焦：SchemaEncoding：对表结构（表名、列名、列类型、主键、外键等等）进行编码SchemaLinking：把Question中表述的内容与具体的表名和列名对齐2.主要创新点：包含“

DASFFA20231intro1.1背景由于设备和环境的限制（设备故障，信号缺失），许多轨迹以低采样率记录，或者存在缺失的位置，称为不完整轨迹恢复不完整轨迹的缺失空间-时间点并降低它们的不确定性是非常重要的一般来说，关于轨迹恢复的先前研究可以分为两个方向第一个方向：模拟用户在不同位置之间的转换模式，以预测用户的缺失位置本质上是一个分类任务，恢复的轨迹通常由位置或POI组成第二个方向：基于记录的不

AAAI20211intro1.1背景将用户稀疏的轨迹数据恢复至细粒度的轨迹数据是十分重要的恢复稀疏轨迹数据至细粒度轨迹数据是非常困难的已观察到的用户位置数据十分稀疏，使得未观察到的用户位置存在较多的不确定性真实数据中存在大量噪声，如何有效的挖掘周期性规律存在一定困难经常在历史轨迹中被访问的地点并不一定会是目标时间窗缺失的地点，如何利用用户历史上的位置数据是另一个挑战1.2论文思路提出了一个基于注

PreKnowledge1.条件概率的一般形式P(A,B)=P(B∣A)P(A)P(A,B)=P(B|A)P(A)P(A,B)=P(B∣A)P(A)P(A,B,C)=P(C∣B,A)P(B,A)=P(C∣B,A)P(B∣A)P(A)P(A,B,C)=P(C|B,A)P(B,A)=P(C|B,A)P(B|A)P(A)P(A,B,C)=P(C∣B,A)P(B,A)=P(C∣B,A)P(B∣A)P(A)

CRNN最近在看天池大赛的学习赛零基础入门CV-街景字符编码识别，其中官方给出的demo中baseline就有CRNN版本，因此在这里看一看CRNN的论文。前期知识储备：概率论：了解基本的概率论知识，掌握条件概率的概念和公式CNN：了解卷积神经网络CNN的结构，掌握CNN的基本工作原理LSTM：了解长短时记忆网络LSTM的结构，掌握LSTM的基本工作原理CTC：了解CTC算法的思想，掌握基于DP实

ExplorationbyRandomNetworkDistillation(2018)随机网络蒸馏探索0、问题这篇文章提出的随机网络蒸馏方法与Curiosity-drivenExplorationbySelf-supervisedPrediction中提出的好奇心机制的区别？猜想：本文是基于随机网络蒸馏提出的intrinsicreward设计方式，好奇心是基于前向动力学模型的误差设计的intri