论文阅读学习与总结第4页

AI Infra论文阅读之通过打表得到训练大模型的最佳并行配置

目录0x0.前言0x1.摘要0x2.介绍0x3.背景0x4.实验设置0x5.高效的LLM训练分析0x5.1FusedKernels和FlashAttention0x5.1.1Attention0x5.1.2RMSNormKernel0x5.2ActivationCheckpointing0x5.3Micro-Batch大小0x5.4TensorParallelism和PiplineParallel

just_sort·2024-01-27 09:38

Tortoise-tts Better speech synthesis through scaling——TTS论文阅读

笔记地址：https://flowus.cn/share/a79f6286-b48f-42be-8425-2b5d0880c648【FlowUs息流】tortoise论文地址：BetterspeechsynthesisthroughscalingAbstract:自回归变换器和DDPM：自回归变换器（autoregressivetransformers）是一种基于变换器架构的模型，能够处理序列数据

pied_piperG·2024-01-27 09:38

论文阅读：TradeoffBased Interactive MultiObjective Optimization Method Driven by Evolutionary Algorithms

ATradeoff-BasedInteractiveMulti-ObjectiveOptimizationMethodDrivenbyEvolutionaryAlgorithms作者：LuChen、BinXin、JieChen期刊：JournalofAdvancedComputationalIntelligenceandIntelligentInformatics、2017DOI：10.20965

还是要努力呀！·2024-01-27 02:41

论文阅读：Interactive Multiobjective Optimization from a Learning Perspective

InteractiveMultiobjectiveOptimizationfromaLearningPerspective作者：ValerieBelton、JürgenBranke、PetriEskelinen书名：MultiobjectiveOptimization:InteractiveandEvolutionaryApproaches、2008DOI：10.1007/978-3-540-88

还是要努力呀！·2024-01-27 02:11

论文阅读：求解约束多目标区间优化的交互多属性决策NSGA-II算法

求解约束多目标区间优化的交互多属性决策NSGA-II算法作者：陈志旺,陈林,白锌,杨七,赵方亮期刊：控制与决策、2015.05DOI：10.13195/j.kzyjc.2014.0455内容简介针对约束多目标区间优化问题,提出一种交互多属性决策NSGA-II算法.该算法将非线性问题线性化,定义P占优支配关系求出个体的序值,定义区间拥挤距离来区分具有相同序值个体的优劣,采用约束精英策略删除种群中不满

还是要努力呀！·2024-01-27 02:40

【论文阅读笔记】Towards Universal Unsupervised Anomaly Detection in Medical Imaging

TowardsUniversalUnsupervisedAnomalyDetectioninMedicalImagingarxiv，19Jan2024【开源】【核心思想】本文介绍了一种新的无监督异常检测方法—ReversedAuto-Encoders(RA)，旨在提高医学影像中病理检测的准确性和范围。RA通过生成类似健康的重建图像，能够检测到更广泛的病理类型，这在现有技术中是一个挑战。RA方法在多

cskywit·2024-01-26 12:10

论文阅读《thanking frequency fordeepfake detection》

项目链接：https://github.com/yyk-wew/F3Net这篇论文从频域的角度出发，提出了频域感知模型用于deepfake检测的模型整体架构图：1.FAD：频域感知分解，其实就是利用DCT变换，将空间域转换为频域，变换后的图像低频信息在左上角，高频信息在右下角，同时高频表示细粒度的伪造痕迹，因为进过DCT变换后的图像不再具有尺度不变性和局部相关性的RGB图像特性，故需要对其进行ID

一只发呆的猪·2024-01-26 12:08

【Image captioning】论文阅读七—Efficient Image Captioning for Edge Devices_AAAI2023

中文标题：面向边缘设备的高效图像描述（EfficientImageCaptioningforEdgeDevices）文章目录1.引言2.相关工作3.方法3.1ModelArchitecture（模型结构）3.2ModelTraining(模型训练)3.3KnowledgeDistillation（知识蒸馏）4.实验4.1数据集和评价指标4.2实施细节：4.3消融实验

安静到无声·2024-01-26 11:30

论文阅读——Mockingjay: unsupervised speech representation learning

《Mockingjay:UnsupervisedSpeechRepresentationLearningwithDeepBidirectionalTransformerEncoders》原文地址：https://arxiv.org/abs/1910.12638v2摘要文章提出了一种新的语音表示学习方法——Mockingjay。该方法使用双向的TransformerEncoder在大规模无标签数据集

没有热情得活着不如死去·2024-01-26 09:35

论证方法答题技巧 - 草稿

坚持目标【原创】分享第10010天2019.11.05议论文阅读是阅读的一个重要板块，也是比较难的一块。今天谈谈论证的四种方法。举例论证。

坚定目标·2024-01-26 08:50

离中考30天

四班一节课，先听写，然后讲了议论文阅读，但是挑选题目来让学生做，感觉翻去翻来，效果反而不好，还是一篇一篇的讲，效果可能会更好一些。

木木木倩·2024-01-26 05:54

CalvinFS: Consistent WAN Replication and Scalable Metadata Management for Distributed File...——论文泛读

FAST2015Paper元数据论文阅读汇总问题现有的文件系统，即使是存储数百PB数据的可伸缩系统，也会将文件元数据存储在单个服务器上，或通过共享磁盘架构，以确保元数据的一致性和有效性。

妙BOOK言·2024-01-25 14:02

Vigil-KV: Hardware-Software Co-Design to Integrate Strong Latency Determinism into Log-Stru...——论文泛读

ATC2022Paper论文阅读笔记整理问题在生产环境中，日志结构合并的键值存储（LSMKV）需要确保查询的延迟，特别是，读取的长尾延迟（和延迟一致性）是满足不同用户需求和服务级别协议（SLA）的问题[

妙BOOK言·2024-01-25 14:01

Building an Efficient Key-Value Store in a Flexible Address Space——论文泛读

EuroSys2022Paper论文阅读笔记整理问题数据管理应用程序使用结构化文件存储其数据，其中数据通常经过排序以提供索引和查询服务。

妙BOOK言·2024-01-25 14:01

Tebis: Index Shipping for Efficient Replication in LSM Key-Value Stores——论文泛读

EuroSys2022Paper论文阅读笔记整理问题基于LSM树的Key-value(KV)存储已成为数据中心和云服务存储栈中的基础层。

妙BOOK言·2024-01-25 14:30

论文阅读：Vary-toy论文阅读笔记

阶段Vary-toy结构数据集情况引言论文：SmallLanguageModelMeetswithReinforcedVisionVocabularyPaper|Github|Demo说来也巧，之前在写论文阅读

Liekkas Kono·2024-01-25 08:45

BIGVGAN: A UNIVERSAL NEURAL VOCODER WITHLARGE-SCALE TRAINING——TTS论文阅读

笔记地址：https://flowus.cn/share/a16a61b3-fcd0-4e0e-be5a-22ba641c6792【FlowUs息流】Bigvgan论文地址：BigVGAN:AUniversalNeuralVocoderwithLarge-ScaleTrainingAbstract背景：最近基于生成对抗网络（GAN）的声码器取得了一定的进展，这种模型可以基于声学特征生成原始波形。尽

pied_piperG·2024-01-25 08:14

论文阅读：Towards Automatic Testing of Reference Point Based Interactive Methods

TowardsAutomaticTestingofReferencePointBasedInteractiveMethods作者：VesaOjalehto、DmitryPodkopaev、KaisaMiettinen期刊：PPSN、2016DOI：10.1007/978-3-319-45823-645内容简介为了了解优化算法的优缺点，有必要了解不同类型的测试问题、定义良好的性能指标和分析工具。这样

还是要努力呀！·2024-01-25 08:44

mask transformer相关论文阅读

前面讲了mask-transformer对医学图像分割任务是非常适用的。本文就是总结一些近期看过的mask-transformer方面的论文。因为不知道masktransformer是什么就看了一些论文。后来得出结论，应该就是生成mask的transformer就是masktransformer。DETR很多这些论文都是受到DETR的启发得到的。DETR为数不多的目标检测里端到端的模型，它把目标检

鱼小丸·2024-01-25 08:43

LIO-SAM 论文阅读

论文链接LIO-SAM0.Abstract提出了一种通过平滑和映射进行紧耦合激光雷达惯性里程计的框架LIO-SAM，它实现了高精度、实时的移动机器人轨迹估计和地图构建LIO-SAM在因子图上制定激光雷达惯性里程计，允许将多种相对和绝对测量（包括闭环）从不同来源作为因子合并到系统中惯性测量单元(IMU)预积分的估计运动可以消除点云的倾斜，并为激光雷达里程计优化生成初始猜测对姿势优化进行了边缘化处理，

KrMzyc·2024-01-25 08:39

【论文阅读】Time-Series Anomaly Detection Service at Microsoft

Time-SeriesAnomalyDetectionServiceatMicrosoft前言论文原文：Time-SeriesAnomalyDetectionServiceatMicrosoft，KDD2019「异常检测」旨在发现数据中的意外事件或罕见项目。它在许多工业应用中非常流行，是数据挖掘中的一个重要研究领域。为了解决时间序列异常检测的问题，作者提出了一种基于谱残差(SR)以及卷积神经网络(

EmoryHuang·2024-01-24 18:04

【论文阅读】SadTalker: Learning Realistic 3D Motion Coefficients for Stylized Audio-Driven Single Image Ta

SadTalker：学习逼真的3D动作系数，用于风格化的音频驱动单张图像说话人脸动画code：paper：1介绍动机：生成说话头的方法都存在问题，耦合的2D运动场：不自然的头部动作、扭曲的表情和身份修改。显式使用3D信息：僵硬的表情和不连贯的视频等问题。因此提出SadTalker，从音频中生成3D运动系数（头部姿态、表情），并隐式调节一种3D感知人脸渲染，用于生成说话人头部。提出了ExpNet来通

李加号pluuuus·2024-01-24 14:31

【论文阅读】LLM-to-LM Interpreter for Enhanced Text-Attributed Graph Representation Learning

文章目录0、基本信息1、研究动机2、创新点3、准备3.1、文本属性图3.2、语言模型用于文本分类3.3、大语言模型和提示3.4、结点分类4、方法论4.1、生成基于LLM的预测和解释4.2、LM解释器的微调与节点特征提取4.2.1、原始文本和特征解释4.2.2、排序后的预测特征4.3、GNN在语义丰富的特征上训练4.4、理论分析5、实验5.1、数据集5.2、主要结果5.3、消融实验6、结论6.1、T

鲸可落·2024-01-24 10:39

【论文阅读】LLM4GCL: CAN LARGE LANGUAGE MODEL EM-POWER GRAPH CONTRASTIVE LEARNING?

文章目录0、基本信息1、研究动机2、创新点2.1、LLM-as-GraphAugmentor2.2、LLM-as-TextEncoder3、准备3.1、文本属性图3.2、图神经网络3.3、文本属性图上的对比学习4、LLM4GCL4.1、LLMv.s.GraphAugmentor4.1.1、LLM对特征增广4.1.2、LLM对结构增广4.2、LLM作为文本编码器4.2.1、MaskedLanguag

鲸可落·2024-01-24 10:37

『论文阅读|2024 WACV 多目标跟踪Deep-EloU|纯中文版』

论文题目：IterativeScale-UpExpansionIoUandDeepFeaturesAssociationforMulti-ObjectTrackinginSports论文特点：作者提出了一种迭代扩展的ExpansionIoU和深度特征关联方法Deep-EIoU，用于体育场景中的多目标跟踪，旨在解决非线性、不规则运动、相似外观的在线短时多目标跟踪问题，实验表明，提出的方法对于提高跟踪

Dymc·2024-01-24 10:07

论文阅读 1| 从仿真域到实验域无监督轴承故障诊断的新型联合传输网络

标题：NovelJointTransferNetworkforUnsupervisedBearingFaultDiagnosisFromSimulationDomaintoExperimentalDomain期刊：IEEE-ASMETRANSACTIONSONMECHATRONICS（2022）作者：YimingXiao,HaidongShao，SongYuHan,ZhiqiangHuo，andJ

每天都是被迫学习·2024-01-24 10:20

【论文阅读|2024 WACV 多目标跟踪Deep-EloU】

论文阅读|2024WACV多目标跟踪Deep-EloU摘要1引言（Introduction）2相关工作（RelatedWork）2.1基于卡尔曼滤波器的多目标跟踪算法（Multi-ObjectTrackingusingKalmanFilter

Dymc·2024-01-24 10:17

论文阅读2---多线激光lidar内参标定原理

前言：该论文介绍多线激光lidar的标定内参的原理，有兴趣的，可研读原论文。1、标定参数rotCorrection：旋转修正角，每束激光的方位角偏移（与当前旋转角度的偏移，正值表示激光束逆时针旋转），如图1avertCorrection：垂直校正角，每束激光的仰角（正值使激光束朝扫描仪顶部旋转），如图1bdistCorrection：距离校正偏移，应用于单个激光束的飞行时间距离vertOffset

鸿_H·2024-01-24 10:45

Making Large Language Models Perform Better in Knowledge Graph Completion论文阅读

文章目录摘要1.问题的提出引出当前研究的不足与问题KGC方法LLM幻觉现象解决方案2.数据集和模型构建数据集模型方法基线方法任务模型方法基于LLM的KGC的知识前缀适配器知识前缀适配器与其他结构信息引入方法对比3.实验结果与分析结果分析：可移植性实验：消融实验4.结论与启示结论总结局限性启发原文链接：MakingLargeLanguageModelsPerformBetterinKnowledge

GCTTTTTT·2024-01-24 10:44

【论文阅读】Automated Runtime-Aware Scheduling for Multi-Tenant DNN Inference on GPU

该论文发布在ICCAD’21会议。该会议是EDA领域的顶级会议。基本信息AuthorHardwareProblemPerspectiveAlgorithm/StrategyImprovment/AchievementFuxunYuGPUResourceunder-utilizationContentionSWSchedulingOperator-levelschedulingML-basedsch

误伤这又何妨·2024-01-24 07:25

【NeRF】NeRF: Representing Scenes as Neural Radiance Fields for View Synthesis论文阅读

文章目录简介创新点神经辐射场场景表示（NeuralRadianceFieldSceneRepresentation）带有辐射场的体渲染（VolumeRenderingwithRadianceFields）优化神经辐射场（OptimizingaNeuralRadianceField）位置编码（Positionalencoding）分层体积采样（Hierarchicalvolumesampling）参

气派飞鹰·2024-01-24 04:44

【论文阅读】【基于隐蔽带宽的汽车控制网络鲁棒认证】中的一些顶会论文摘要

读摘要，了解面貌文章目录[12][51][58][35][xx]原文：https://webofscience.clarivate.cn/wos/alldb/full-record/WOS:000387820900034Largenumbersofsmartconnecteddevices,alsonamedastheInternetofThings(IoT),arepermeatingouren

人工智能有点·2024-01-23 19:55

论文阅读- 人工智能安全 TEXTBUGGER: Generating Adversarial Text Against Real-world Applications

背景：DeepLearning-basedTextUnderstanding(DLTU)简介：基于深度学习的文本理解(DLTU)广泛运用于问答、机器翻译和文本分类，情感分析（eg电影评论分类）、有害内容检测（讽刺、讽刺、侮辱、骚扰和辱骂内容）等安全敏感应用中。DLTU天生容易受到对抗性文本攻击，在对抗性文本攻击中，恶意制作的文本会触发目标DLTU系统和服务行为不当。本文的target:提出TEXT

Che_Che_·2024-01-23 18:56

Scaling Up Memory Disaggregated Applications with Smart——论文泛读

ASPLOS2024Paper论文阅读笔记整理问题近期在RDMA网络方面的发展导致了内存分解的趋势。然而，每个计算节点的性能仍然受到网络的限制，特别是当它需要执行大量并发的细粒度远程访问时。

妙BOOK言·2024-01-23 11:28

【论文阅读笔记】Swin-Unet: Unet-like Pure Transformer for Medical Image Segmentation

1.介绍Swin-Unet:Unet-likePureTransformerforMedicalImageSegmentationSwin-Unet：用于医学图像分割的类Unet纯Transformer2022年发表在ComputerVision–ECCV2022WorkshopsPaperCode2.摘要在过去的几年里，卷积神经网络（CNN）在医学图像分析方面取得了里程碑式的成就。特别是基于U型

咔叽布吉·2024-01-23 11:28

ADOC: Automatically Harmonizing Dataflow Between Components in Log-Structured Key-Value Sto...——论文泛读

FAST2023Paper论文阅读笔记整理问题基于Log-StructureMerge-tree（LSM-tree）的键值（KV）系统被广泛部署。

妙BOOK言·2024-01-23 11:28

【论文阅读】Augmented Transformer network for MRI brain tumor segmentation

ZhangM,LiuD,SunQ,etal.AugmentedtransformernetworkforMRIbraintumorsegmentation[J].JournalofKingSaudUniversity-ComputerandInformationSciences,2024:101917.[开源]IF6.9SCIEJCI1.58Q1计算机科学2区【核心思想】本文提出了一种新型的MRI

cskywit·2024-01-23 11:58

SDM: Sharing-enabled Disaggregated Memory System with Cache Coherent Compute Express Link——论文阅读

PACT2023PaperCXL论文阅读汇总问题分离式内存作为一种有望解决数据中心中内存容量扩展和更好利用内存资源的方案，已经引起了极大的关注。

妙BOOK言·2024-01-23 11:58

ROLEX: A Scalable RDMA-oriented Learned Key-Value Store for Disaggregated Memory Systems——论文泛读

FAST2023Paper论文阅读笔记整理问题分离内存系统将单一的服务器分成不同的组件，包括计算节点和内存节点，以享受高资源利用率、灵活的硬件可扩展性和高效的数据共享。

妙BOOK言·2024-01-23 11:27

论文阅读笔记整理（持续更新）

KV存储ROLEX:AScalableRDMA-orientedLearnedKey-ValueStoreforDisaggregatedMemorySystemsFAST2023Paper泛读笔记针对分离式内存系统中，KV存储性能不高的问题，由于内存节点资源有限，现有方法难以直接修改B树或学习索引的模型。作者提出提出了ROLEX，一种可扩展的面向RDMA的有序键值存储，使用分解存储系统的学习索引

妙BOOK言·2024-01-23 11:56

【ICCV2023论文阅读】XNet(能跑通代码)

这里写目录标题论文阅读摘要介绍方法overviewwhyusewavelettransform?

鱼小丸·2024-01-23 06:25

ORB-SLAM 论文阅读

论文链接ORB-SLAM0.Abstract本文提出了ORB-SLAM，一种基于特征的单目同步定位和建图(SLAM)系统该系统对严重的运动杂波具有鲁棒性，允许宽基线环路闭合和重新定位，并包括全自动初始化选择重建的点和关键帧的适者生存策略具有出色的鲁棒性，并生成紧凑且可跟踪的地图1.Intro捆绑调整(BA)可以提供相机定位的准确估计以及稀疏几何重建，前提是提供了强大的匹配网络和良好的初始猜测。实时

KrMzyc·2024-01-22 08:50

NLP论文阅读记录 - 2021 | WOS 基于多头自注意力机制和指针网络的文本摘要

文章目录前言0、论文摘要一、Introduction1.1目标问题1.2相关的尝试1.3本文贡献二.问题定义和解决问题的假设问题定义解决问题的假设三.本文方法3.1总结为两阶段学习3.1.1基础系统3.2重构文本摘要四实验效果4.1数据集4.2对比模型4.3实施细节4.4评估指标4.5实验结果4.6细粒度分析五总结思考前言Textsummarizationbasedonmulti-headself

yuyuyu_xxx·2024-01-22 07:43

NLP论文阅读记录 - 2021 | WOS 使用预训练的序列到序列模型进行土耳其语抽象文本摘要

文章目录前言0、论文摘要一、Introduction1.1目标问题1.2相关的尝试1.3本文贡献二.相关工作2.1预训练的序列到序列模型2.2抽象文本摘要三.本文方法3.1总结为两阶段学习3.1.1基础系统3.2重构文本摘要四实验效果4.1数据集4.2对比模型4.3实施细节4.4评估指标4.5实验结果4.6细粒度分析五总结思考前言Turkishabstractivetextsummarizatio