论文笔记--Baichuan2:OpenLarge-scaleLanguageModels1.文章简介2.文章概括3文章重点技术3.1预训练3.1.1预训练数据3.1.2模型架构3.2对齐3.2.1SFT3.2.2RewardModel

标题：FacilitationofGaN-BasedRF-andHV-CircuitDesignsUsingMVS-GaNHEMTCompactModel来源：IEEETRANSACTIONSONELECTRONDEVICES（19年）摘要—本文阐述了基于物理的紧凑器件模型在研究器件行为细微差异对电路和系统操作与性能的影响方面的实用性。采用行业标准的麻省理工学院虚拟源氮化镓高电子迁移率晶体管（Ga

论文论文链接：《BEVFormer:LearningBird’s-Eye-ViewRepresentationfromMulti-CameraImagesviaSpatiotemporalTransformers》代码链接：https://github.com/zhiqi-li/BEVFormer阅读顺序：我之前在哔哩哔哩上跟着李沐一起读论文，按照他的方法：先看题目（比如这篇文章，它的重点就是Sp

RAT-SQL:Relation-AwareSchemaEncodingandLinkingforText-to-SQLParsers以关系感知的方法对数据库模式编码和链接的text-to-SQL模型1.问题聚焦：SchemaEncoding：对表结构（表名、列名、列类型、主键、外键等等）进行编码SchemaLinking：把Question中表述的内容与具体的表名和列名对齐2.主要创新点：包含“

DASFFA20231intro1.1背景由于设备和环境的限制（设备故障，信号缺失），许多轨迹以低采样率记录，或者存在缺失的位置，称为不完整轨迹恢复不完整轨迹的缺失空间-时间点并降低它们的不确定性是非常重要的一般来说，关于轨迹恢复的先前研究可以分为两个方向第一个方向：模拟用户在不同位置之间的转换模式，以预测用户的缺失位置本质上是一个分类任务，恢复的轨迹通常由位置或POI组成第二个方向：基于记录的不

AAAI20211intro1.1背景将用户稀疏的轨迹数据恢复至细粒度的轨迹数据是十分重要的恢复稀疏轨迹数据至细粒度轨迹数据是非常困难的已观察到的用户位置数据十分稀疏，使得未观察到的用户位置存在较多的不确定性真实数据中存在大量噪声，如何有效的挖掘周期性规律存在一定困难经常在历史轨迹中被访问的地点并不一定会是目标时间窗缺失的地点，如何利用用户历史上的位置数据是另一个挑战1.2论文思路提出了一个基于注

PreKnowledge1.条件概率的一般形式P(A,B)=P(B∣A)P(A)P(A,B)=P(B|A)P(A)P(A,B)=P(B∣A)P(A)P(A,B,C)=P(C∣B,A)P(B,A)=P(C∣B,A)P(B∣A)P(A)P(A,B,C)=P(C|B,A)P(B,A)=P(C|B,A)P(B|A)P(A)P(A,B,C)=P(C∣B,A)P(B,A)=P(C∣B,A)P(B∣A)P(A)

CRNN最近在看天池大赛的学习赛零基础入门CV-街景字符编码识别，其中官方给出的demo中baseline就有CRNN版本，因此在这里看一看CRNN的论文。前期知识储备：概率论：了解基本的概率论知识，掌握条件概率的概念和公式CNN：了解卷积神经网络CNN的结构，掌握CNN的基本工作原理LSTM：了解长短时记忆网络LSTM的结构，掌握LSTM的基本工作原理CTC：了解CTC算法的思想，掌握基于DP实

ExplorationbyRandomNetworkDistillation(2018)随机网络蒸馏探索0、问题这篇文章提出的随机网络蒸馏方法与Curiosity-drivenExplorationbySelf-supervisedPrediction中提出的好奇心机制的区别？猜想：本文是基于随机网络蒸馏提出的intrinsicreward设计方式，好奇心是基于前向动力学模型的误差设计的intri

Count-basedexplorationwithneuraldensitymodels[J].InternationalConferenceonMachineLearning,InternationalConferenceonMachineLearning,2017.基于计数的神经密度模型探索0、问题这篇文章的关键在于弄懂pseudo-count的概念，以及是如何运用pseudo-count去

本文鉴于作为参考感谢作者论文笔记：DALL-E2：HierarchicalText-ConditionalImageGenerationwithCLIPLatents详解_hierarchicaltext-conditionalimagegenerationwit_nocol

LearninganAnimatableDetailed3DFaceModelfromIn-The-WildImages论文笔记论文目标:提出一个端到端的框架,可以从非受控的图片中学习高质量、可动画的3D

论文笔记系列-NeuralNetworkSearch：ASurvey论文笔记NASautomlsurveyreviewreinforcementlearningBayesianOptimizationevolutionaryalgorithm

任务名字：ReferringImageSegmentation(RIS)keywords：one-stageRIS、graph、relationreasoning背景：方法比较vision-and-languageapproachesbasedontheirdesigningprinciples,（1）multimodalfusionandrepresentationlearning（2）lang

ICLR20231intro1.1motivation之前用Transformer预测时间序列的工作，大多集中在建模时间维度的关系上。利用时间维度的自注意力机制，建立不同时间步之间的关系而在多元时间序列预测中，各个变量之间的关系也很重要。之前的模型，主要是将每个时间步的多元变量压缩成一个embedding，再进行时间维度的attention。这种方法的问题是缺少对不同变量之间关系的建模，直接每个时

0.Abstract在本文中，提出了用于SSL/TLS会话中传输的应用程序流量的随机指纹。这个指纹基于一阶齐次马尔可夫链，模型识别应用程序的准确率，并提供了检测异常对话的可能性。1.Introduction通过SSL/TLS会话时的头部信息创建统计指纹，用于分类应用流量。研究了12个使用SSL/TLS的代表性应用程序的马尔可夫链指纹，建立的模型展现出特定的结构，这种结构能够通过比较应用程序流量和和

一、基本信息标题：SSD:SingleShotMultiBoxDetector时间：2016引用格式：Liu,Wei,etal.“Ssd:Singleshotmultiboxdetector.”Europeanconferenceoncomputervision.Springer,Cham,2016.二、研究背景相比FasterRCNN有明显的速度优势，相比YOLO又有明显的mAP优势（不过已经被

三维重建就业岗位要求深度学习MVS网络演化图和学习大纲运行环境及要求基础三维重建技术简介三维重建是指用相机拍摄真实世界的物体、场景，并通过计算机视觉技术进行处理，从而得到物体的三维模型。

1.前言论文链接：http://gaoyue.org/paper/HGNN.pdfgithub：https://github.com/iMoonLab/HGNN在本文中提出了一个用于数据表示学习的超图神经网络(HGNN)框架，它可以在超图结构中编码高阶数据相关性。面对在实践中学习复杂数据表示的挑战，特别是在处理复杂数据时，超图在数据建模方面更加灵活。该方法设计了超边卷积运算来处理表示学习过程中的数

原文链接：https://arxiv.org/abs/2302.131301.引言运动规划需要预测其余物体的运动，但相应的感知模块如建图、目标检测、跟踪和轨迹预测通常都需要大量人力标注HD地图、语义标签、边界框或物体的轨迹，难以扩展到大型无标签数据集上。3D点云预测是一种自监督方法，但其算法隐式地捕捉传感器的外参（自车运动）、内参（激光雷达的采样模式）和其余物体的形状与运动。但自动驾驶系统需要预测

【论文笔记】RTNH+:Enhanced4DRadarObjectDetectionNetworkusingCombinedCFAR-basedTwo-levelPreprocessingandVerticalEncoding

原文链接：https://arxiv.org/abs/2303.039911.引言目前缺少自动驾驶场景中的大型环视占用感知数据集。本文提出OpenOccupancy基准，并通过添加密集语义占用标注将nuScenes扩展为nuScenes-Occupancy。使用增强和净化（AAP）流程，以标注并密集化占用标签。首先通过多帧激光雷达点叠加来初始化标签，并使用预训练基准方案建立的伪占用标签增强稀疏标注

原文链接：https://arxiv.org/pdf/2310.08370.pdf1.引言过去的3D场景理解预训练方法多采用2D图像领域中的想法，可大致分为基于对比的方法和基于MAE的方法。基于对比的方法通过对比损失，在特征空间中将相似的3D点拉进而将不相似的点分开；但正负样本选择的敏感性和增加的延迟使其应用受限。掩膜自编码（MAE）则因为点云数据的稀疏性和不规则性而遇到挑战。本文提出一种新的3D

创新点：新型的多传感器融合策略及移动端优化闭环检测两个部分。1、新型的多传感器融合策略：不同的传感器观测都以优化窗口中的通用帧来表示。每一个通用帧都对应一个定位状态量，而不是多个观测共同约束一个状态量。该系统中，双目相机帧之间构成视觉约束，通用帧之间利用高频IMU预积分进行约束。该设计模式避免了多个传感器之间时间戳对齐及数据近似等问题。2、移动端优化：本文中SLAM算法前端采用了角点检测和光流的方

用于跨模态Text2Video检索的时空图摘要介绍方法A.文本编码B.视频编码C.**联合嵌入空间学习**摘要跨模态文本到视频检索旨在通过文本查询找到相关视频，这对于各种现实世界的应用是至关重要的。解决这个问题的关键是建立视频和文本之间的对应关系，这样来自不同模式的相关样本就可以对齐。由于文本(句子)包含表示对象及其交互的名词和动词，因此检索相关视频需要对视频内容进行细致的理解——不仅是语义概念(

matting系列论文笔记（一）：DeepImageMatting刚刚入了ImageMatting的坑，后续会更新系列相关的文章。

文章目录论文笔记论文笔记instant-ngp的nerf模型与vanillanerf的模型架构相同。

MasteringthegameofGowithdeepneuralnetworksandtreesearchNature2015这是本人论文笔记系列第二篇Nature的文章了，第一篇是DQN。

好久没看到这么好的论文了,这才是论文嘛~普林斯顿大学的ZejiangHou(没找到中文名可能是侯泽江?)论文主要就是在MAML的基础上添加了三个部分,一个是和L2F类似的用额外网络通过输入中间变量或梯度信息计算一个权重来动态调整模型参数达到task-specific的效果,另一个是一种特殊线性分类器构造方法用于作分类器,最后一个是在inner_loop中按无监督手段把queryset里数据视为无标

文章于2017年6月提交到Arxiv，投稿于Neuroinformatics(2018)，Publishedonline:3May2018作者单位：DepartmentofComputerScienceandEngineering,LehighUniversity文章截止2019.3.25的引用量为50文章代码见github这篇文章主要的创新点在于不同于之前的公式化loss，作者设计了一个可以进行

Scaled-YOLOv4:ScalingCrossStagePartialNetwork论文链接：https://arxiv.org/abs/2011.08036一、ProblemStatementCSPNet的作者用其CSPNet的方法分别从网络的深度，宽度，结构和输入图像的分辨率改善YOLOV4。二、Direction作者发现在RegNet中，CNN最优的深度为60左右，且当bottlene

VINs-Mono论文1.VINS-Mono的特点：1.未知初始状态的鲁棒性初始化过程2.带imu-camera外参校准和imu校准的紧耦合，基于非线性优化的单目VIO系统3.在线重定位和四个自由度的全局姿态图优化。4.姿态图可以保存，加载，并和局部姿态图进行合并。2.传感器数据处理摄像头和imu数据融合方法：1.松耦合法，imu是独立于摄像头的模块，常使用EKF算法，imu数据此时用于状态传播，

文章目录一、==*ThesisKeyMessages*==二、==*KeyPoints*==2.1、==*1D-2D*==2.2、==*TimesBlock*==三、==*ArticleReflection*==1、Motivations2、解决方案的关键3、论文工作成果四、总结与讨论CSDN欲寄：https://blog.csdn.net/qq_62631255一、ThesisKeyMessag

ICLR20231intro时间序列一般是连续记录的，每个时刻只会记录一些标量之前的很多工作着眼于时间维度的变化，以捕捉时间依赖关系——>可以反映出、提取出时间序列的很多内在特征，比如连续性、趋势、周期性等但是现实时间序列数据中的时间序列通常是由很复杂的时间特征组成，不同的时间维度上的变化会糅杂在一起，使得建模时间维度的变化异常困难在深度学习领域，很多模型有很强的建模非线性的能力，因而可以捕获时间

在对BMS进行编译时，可以使用两个选项，即Type=DSECT和Type=Map；前者生成逻辑MAP，后者生成物理MAP。可以在LINKAGESECTION中说明一个数据结构，而用ADDRESS获取其地址，空间的分配命令包括GETMAIN，LOAD，READ和READQ。在多用户的环境下，不仅要考虑交易的完整性与一致性，而且要考虑多交易对资源的争夺，即避免死锁现象的出现。为此，1.所有的应用程序必

yolov1参考这篇文章https://zhuanlan.zhihu.com/p/46691043摘要weframeobjectdetectionasaregressionproblemtospatiallyseparatedboundingboxesandassociatedclassprobabilities.作者将目标检测问题变成一个回归问题，包括boundingboxes的计算和目标类别的

前言一、Abstract（概括）二、Introduction（介绍）三、UnifiedDetection（统一检测）1、NetworkDesign（网络设计）2、Training（训练）3、Inference（推论）4、LimitationsofYOLO（YOLO的局限性）前言看过很多的YOLO中文版学习笔记，干货比较多，但是，有点干，对于很多想要入门的童鞋来说，看着很难理解，一些概念晦涩难懂，一

开放词汇视觉定位OV-VG:ABenchmarkforOpen-VocabularyVisualGrounding论文笔记一、Abstract二、Abstract三、相关工作A、视觉定位B、短语定位C、

摘要计算机视觉任务中，探索大规模预训练基础模型具有重要意义，因为这些模型可以可以极快地迁移到下游任务中。本文提出的CoCa（ContrastiveCaptioner），一个极简设计，结合对比损失和captioning损失预训练一个image-textencoder-decoder基础模型，该模型包含对比方法，如CLIP，和生成方法，如SimVLM，的学习能力。与基本的encoder-decoder

1.词汇学习paradigm：典范；样式；引申为课题hierarchical：分层的；等级体系的2.小知识扩展：百度创始人李宏彦创办的第一个研究所就是深度学习研究所3.重点知识：（1）什么是机器学习？答：机器学习机器就是通过算法，使得机器能从大量历史数据中学习规律，从而对新的样本做智能识别或对未来做预测.（2）BP算法？答：BP算法是人工神经网络的反向传播算法（BackPropgation）利用B

原文作者：ZhaopengQiu,XianWu,JingyueGao,WeiFan原文标题：U-BERT:Pre-trainingUserRepresentationsforImprovedRecommendation原文来源：AAAI2021原文链接：https://www.aaai.org/AAAI21Papers/AAAI-2116.QiuZ.pdfU-BERT:Pre-trainingUs

DeepNeuralNetworksforYouTubeRecommendations文中把整个推荐过程分成两个步骤：•deepcandidategenerationmodel.即召回部分•deeprankingmodel.即精排部分文中指出YouTube推荐的三个主要挑战：•Scale.YouTube推荐的数据规模大，一些适合处理小规模数据的推荐算法效果不好。•Freshness.YouTube

文章目录1.chatgpt效果评估:EvaluatingChatGPT’sInformationExtractionCapabilities:AnAssessmentofPerformance,Explainability,Calibration,andFaithfulness文章简介文章结论2.事件抽取：OneEE:AOne-StageFrameworkforFastOverlappingand

网络优化不平衡问题妨碍了充分利用设计良好的架构，进而限制其总体性能。可概括如下：1.采样级的不平衡：随机采样会使所选样本受简单样本的支配；复杂采样方法，如OHEM，会使注意力更向复杂样本集中，但是却对噪声标签敏感，并且会提升内存的占用和计算量。2.特征级的不平衡：深度高水平的特征具有更多语义，而浅层低水平特征更容易描述。近年来，基于横向连接的特征整合如FPN和PANet的使用，使得目标检测获得了进

【作者】•XingyiZhou,UTAustin,[email protected]•JiachengZhuo,UTAustin,[email protected]•PhilippKrähenbühl,UTAustin,[email protected]【问题】自上而下的方法多年来一直主导着物体检测。流行的物体检测器将物体检测转换为矩形区域分类，通过（1）显式裁剪区域或区域特征（两

（后续更新完善）2.KG-ENHANCEDLLMS2.1KG-enhancedLLMPre-training以往将KGs集成到大型语言模型的工作主要分为三个部分:1)将KGs集成到训练目标中，2)将KGs集成到LLM输入中，3)将KGs集成到附加的融合模块中。2.1.1IntegratingKGsintoTrainingObjective这一类的研究工作集中在设计新的知识感知训练目标，一个直观的想

文章目录1简介1.1动机1.2创新2方法2.1事件抽取转换为结构生成2.2Sequence-to-Structure结构：2.3模型学习3实验1简介论文题目：TEXT2EVENT:ControllableSequence-to-StructureGenerationforEnd-to-endEventExtraction论文来源：ACL2021论文链接：https://arxiv.org/pdf/

https://ash-icon-968.notion.site/a7baf2af8362493f9379a9c471d15bf6

引言RetroMAE，中文题目为通过掩码自编码器预训练面向检索的语言模型。尽管现在已经在许多重要的自然语言处理任务上进行了预训练，但对于密集检索来说，仍然需要探索有效的预训练策略。本篇工作，作者提出RetroMAE，一个新的基于掩码自编码器(MaskedAuto-Encoder,MAE)的面向检索的预训练范式。主要有三个关键设计：一个新颖的MAE工作流，其中输入句子用不同的掩码进行了编码器和解码器

论文地址，点这里源码地址，点这里参考：softQ-learning-v1softQ-learning-v2softQ-learning-v3本人阅读目的：这篇文章是SoftActor-Critic的基础，建议在阅读SAC之前，先读懂这篇文章。（2017年发表于顶会ICML）文章核心：证明Energy-basedpolicy是Maximum-entropy强化目标函数的最优解。这篇文章在我们通常的强