知识蒸馏论文阅读第4页

论文阅读-EMS: History-Driven Mutation for Coverage-based Fuzzing（2022）模糊测试

一、背景本文研究了基于覆盖率的模糊测试中的历史驱动变异技术。之前的研究主要采用自适应变异策略或集成约束求解技术来探索触发独特路径和崩溃的测试用例，但它们缺乏对模糊测试历史的细粒度重用，即它们在不同的模糊测试试验之间很大程度上未能正确利用模糊测试历史。本文提出了一种轻量级且高效的概率字节定向模型（PBOM），以捕获来自试验历史的字节级变异策略，并因此有效地触发独特路径和崩溃。本文还提出了一种新的历史

Che_Che_·2024-02-19 13:34

动态头部:统一目标检测头部与注意力

论文地址:https://arxiv.org/pdf/2106.08322.pdfai阅读论文_论文速读_论文阅读软件-网易有道速读创新点是什么?

andeyeluguo·2024-02-19 10:23

论文阅读-面向机器学习的云工作负载预测模型的性能分析

论文名称：PerformanceAnalysisofMachineLearningCenteredWorkloadPredictionModelsforCloud摘要由于异构服务类型和动态工作负载的高变异性和维度，资源使用的精确估计是一个复杂而具有挑战性的问题。在过去几年中，资源使用和流量的预测已受到研究界的广泛关注。许多基于机器学习的工作负载预测模型通过利用其计算能力和学习能力得以发展。本文提出

向来痴_·2024-02-15 10:20

DCNNs之DNA论文阅读笔记

Article:DeepConvolutionalNeuralNetworkArchitectureWithReconfigurableComputationPatternsJournalTitle:IEEETransactionsonVeryLargeScaleIntegration(VLSI)SystemsIssue:No.08-Aug.(2017vol.25)ISSN:1063-8210pp

苏十一0421·2024-02-15 08:46

论文阅读-Pegasus：通过网络内一致性目录容忍分布式存储中的偏斜工作负载

论文名称：Pegasus:ToleratingSkewedWorkloadsinDistributedStoragewithIn-NetworkCoherenceDirectories摘要高性能分布式存储系统面临着由于偏斜和动态工作负载引起的负载不平衡的挑战。本文介绍了Pegasus，这是一个利用新一代可编程交换机ASIC来平衡存储服务器负载的新型存储系统。Pegasus使用数据存储中最受欢迎的对

向来痴_·2024-02-14 06:10

论文阅读，HeteroGen: Automatic Synthesis of Heterogeneous Cache Coherence Protocols（二）

目录一、Article:文献出处（方便再次搜索）（1）作者（2）文献题目（3）文献时间（4）引用二、Data:文献数据（总结归纳，方便理解）（1）背景介绍（2）目的（3）贡献（4）主要实现手段4.1前置知识AMBACHI简介PCIE和CXL缓存一致性协议（CacheCoherencyProtocols）内存一致性模型（MemoryConsistencyModels）4.2复合内存一致性模型comp

好啊啊啊啊·2024-02-14 06:10

论文阅读，ProtoGen: Automatically Generating Directory Cache Coherence Protocols（三）

目录一、Article:文献出处（方便再次搜索）（1）作者（2）文献题目（3）文献时间（4）引用二、Data:文献数据（总结归纳，方便理解）（1）背景介绍（2）目的（3）结论（4）主要实现手段4.1系统模型和定义4.2ProtoGen概述4.3ProtoGen的输入，输出和限制4.4ProtoGen示例（5）实验结果A.StallingProtocolsB.Non-StallingProtocol

好啊啊啊啊·2024-02-14 06:08

论文阅读：GamutMLP A Lightweight MLP for Color Loss Recovery

这篇文章是关于色彩恢复的一项工作，发表在CVPR2023，其中之一的作者是MichaelS.Brown，这个老师是加拿大York大学的，也是ISP领域的大牛，现在好像也在三星研究院担任兼职，这个老师做了很多这种类似的工作，通过一些轻量模型，将一些数据转换过程中的变换关系进行拟合，然后再进行恢复，比如RAW域到sRGB域的转换，这篇文章是wideRGB到sRGB的转换一般相机的ISP或者一些图像编辑

Matrix_11·2024-02-14 05:57

——知识蒸馏中即插即用的对抗性调度器以及调整向量Vector

在常规的知识蒸馏中，一般不会考虑知识的难度先后，按照我们人类的思维，肯定是先学习容易的再学习难一点的知识（总不能小学就学高数吧哈哈）。一个模型的理想状态也应该如此。

时光诺言·2024-02-14 01:23

【论文阅读笔记】UNSUPERVISED REPRESENTATION LEARNING FOR TIME SERIES WITH TEMPORAL NEIGHBORHOOD CODING

UNSUPERVISEDREPRESENTATIONLEARNINGFORTIMESERIESWITHTEMPORALNEIGHBORHOODCODINGABSTRACT 本文提出了一种自监督框架，名为“时间邻域编码”（TemporalNeighborhoodCoding，TNC），用于学习非平稳时间序列的可泛化表示。该方法利用信号生成过程的局部平滑性来定义具有平稳性质的时间邻域。通过使用去偏差对

少写代码少看论文多多睡觉·2024-02-13 11:39

论文阅读：《Deep Learning-Based Human Pose Estimation: A Survey》——Part 1：2D HPE

目录人体姿态识别概述论文框架HPE分类人体建模模型二维单人姿态估计回归方法目前发展优化基于热图的方法基于CNN的几个网络利用身体结构信息提供构建HPE网络视频序列中的人体姿态估计2D多人姿态识别方法自上而下自下而上2DHPE总结数据集和评估指标2DHPE数据集2DHPE评价指标2DHPE方法性能的比较单人2DHPE多人2DHPE未来展望人体姿态识别概述应用模块：人机交互、运动分析、增强现实、虚拟现

自信且放光芒66·2024-02-13 05:33

图像处理之《隐写网络的隐写术》论文阅读

一、文章摘要隐写术是一种在双方之间进行秘密通信的技术。随着深度神经网络(DNN)的快速发展，近年来越来越多的隐写网络被提出，并显示出良好的性能。与传统的手工隐写工具不同，隐写网络的规模相对较大。如何在公共信道上秘密传输隐写网络引起了人们的关注，这是隐写技术在实际应用中的关键阶段。为了解决这一问题，本文提出了一种新的隐写网络隐写方案。不像现有的隐写方案，其重点是微妙的修改封面数据，以适应秘密。我们建

Hard Coder·2024-02-13 02:08

Deep Learning Workload Scheduling in GPU Datacenters:Taxonomy, Challenges and Vision 论文阅读

【论文阅读笔记】DeepLearningWorkloadSchedulinginGPUDatacenters:Taxonomy,ChallengesandVision论文链接GPU数据中心的DL工作负载调度

牛码当驴·2024-02-13 02:31

论文阅读-One for All : 动态多租户边缘云平台的统一工作负载预测

论文名称：OneforAll:UnifiedWorkloadPredictionforDynamicMulti-tenantEdgeCloudPlatforms摘要多租户边缘云平台中的工作负载预测对于高效的应用部署和资源供给至关重要。然而，在多租户边缘云平台中，异构的应用模式、可变的基础设施性能以及频繁的部署给准确和高效的工作负载预测带来了重大挑战。基于聚类的动态多租户边缘云平台建模方法往往因需要

向来痴_·2024-02-13 02:31

【论文阅读】一文读懂Mamba：具有选择状态空间的线性时间序列建模

Mamba:Linear-TimeSequenceModelingwithSelectiveStateSpacesMamba：基于选择状态空间的线性时间序列建模论文两位作者AlbertGu和TriDao，博士都毕业于斯坦福大学，导师为ChristopherRé。AlbertGu现在是CMU助理教授，多年来一直推动SSM架构发展。他曾在DeepMind工作，目前是CartesiaAI的联合创始人及首

啵啵菜go·2024-02-11 21:27

【论文解读】Document-Level Relation Extraction with Adaptive Focal Loss and Knowledge Distillation

1Introduction1Docre任务比句子级任务更具挑战性：2现有的Docre方法：3现有的Docre方法存在三个局限性2Methodology1使用轴向注意力模块作为特征提取器：2第二，提出适应性焦距损失3第三用知识蒸馏相关知识类别不平衡问题长尾类分布交叉熵损失和二元交叉熵损失二元交叉熵损失定义为知识蒸馏全文翻译

Queen_sy·2024-02-11 14:19

英文论文阅读/写作-词汇

1.表达证明，证实的单词validate、verify、corroborate、confirm例：1.Samplesimulationresultsshallbepresentedtocorroborate(可用verify替代)thetheoreticalanalysisaswellasvalidatetheeffectivenessoftheproposedalgorithm.2.Weveri

踏乡墨客·2024-02-10 06:16

图像处理之《生成隐写流》论文阅读

一、文章摘要生成隐写术(GS)是一种新的数据隐藏方式，其特点是直接从秘密数据生成隐写介质。现有的GS方法通常因性能差而受到批评。本文提出了一种新的基于流的GS方法——生成隐写流(GSF)，该方法可以直接生成隐写图像而不需要封面图像。我们将隐写图像生成和秘密数据恢复过程作为一个可逆变换，在输入的秘密数据和生成的隐写图像之间建立可逆的双客观映射。在前向映射中，将秘密数据隐藏在Glow模型的输入潜变量中

Hard Coder·2024-02-09 17:59

论文阅读_对比学习_SimCLR

介绍英文题目：ASimpleFrameworkforContrastiveLearningofVisualRepresentations中文题目：视觉表征对比学习的简单框架论文地址：https://arxiv.org/abs/2002.05709v2领域：深度学习，知识表示，半监督学习，对比学习发表时间：2020作者：TingChen，Hinton团队，GoogleResearch出处：ICML被

xieyan0811·2024-02-09 15:20

实例分割论文阅读之：FCN：《Fully Convolutional Networks for Semantica Segmentation》

论文地址:https://openaccess.thecvf.com/content_cvpr_2015/papers/Long_Fully_Convolutional_Networks_2015_CVPR_paper.pdf代码链接：https://github.com/pytorch/vision摘要卷积网络是强大的视觉模型，可以产生特征层次结构。我们证明，经过端到端、像素到像素训练的卷积网络

交换喜悲·2024-02-09 09:44

论文阅读笔记 RPT: Learning Point Set Representation for Siamese Visual Tracking

论文阅读笔记RPT:LearningPointSetRepresentationforSiameseVisualTracking综合了可形变卷积、RepPoints检测、多层级卷积特征等思想论文地址代码地址现有跟踪方法中存在的问题现有的跟踪方法往往采用矩形框或四边形来表示目标的状态

faverr·2024-02-09 03:38

论文阅读-GROUP：一种聚焦于工作负载组行为的端到端多步预测方法

摘要准确地预测工作负载可以使网络服务提供商实现应用程序的主动运行管理，确保服务质量和成本效益。对于云原生应用程序来说，多个容器协同处理用户请求，导致每个容器的工作负载变化受到工作负载组行为的影响。然而，现有方法主要分析每个容器的个体变化，没有明确建模容器工作负载组的演化，导致结果次优。因此，我们提出了一种工作负载预测方法GROUP，将重点从个体转移到组别的工作负载预测焦点，从数据相似性到数据相关性

向来痴_·2024-02-08 06:45

论文阅读-Examining Zero-Shot Vulnerability Repair with Large Language Models

1.本文主旨：这篇论文探讨了使用大型语言模型（LLM）进行零射击漏洞修复的方法。人类开发人员编写的代码可能存在网络安全漏洞，新兴的智能代码补全工具是否能帮助修复这些漏洞呢？在本文中，作者研究了大型语言模型（如OpenAI的Codex和AI21的JurassicJ-1）在零射击漏洞修复中的使用。他们研究了如何设计提示来引导LLM生成不安全代码的修复版本，这由于自然语言在语义和句法上有很多种表达方式而

Che_Che_·2024-02-08 06:14

实例分割论文阅读之：《Mask Transfiner for High-Quality Instance Segmentation》

1.摘要两阶段和基于查询的实例分割方法取得了显著的效果。然而，它们的分段掩模仍然非常粗糙。在本文中，我们提出了一种高质量和高效的实例分割MaskTransfiner。我们的MaskTransfiner不是在规则的密集张量上操作，而是将图像区域分解并表示为四叉树。我们基于变压器的方法只处理检测到的容易出错的树节点，并并行地自我纠正它们的错误。虽然这些稀疏像素只占总数的一小部分，但它们对最终的掩模质量

交换喜悲·2024-02-08 06:14

PCKV: Locally Differentially Private Correlated Key-Value Data Collection with Optimized Utility论文阅读

天空仍灿烂..·2024-02-08 05:09

【论文阅读】HiLSM：An LSM-Based Key-Value Store for Hybrid NVM-SSD Storage Systems

论文标题：HiLSM:AnLSM-BasedKey-ValueStoreforHybridNVM-SSDStorageSystems论文作者：WenjieLi,DejunJiang,JinXiong,YungangBao单位：中国科学院计算机结构国家重点实验室；中国科学院大学；出处：computingfrontiers2020目录introduction&background1.NVM2.KVS前

想个id好难啊·2024-02-08 03:41

SpanDB: A Fast, Cost-Effective LSM-tree Based KV Store on Hybrid Storage——论文泛读

FAST2021Paper论文阅读笔记整理问题键值（KV）存储支持许多关键的应用和服务。它们在内存中执行快速处理，但通常受到I/O性能的限制。

妙BOOK言·2024-02-08 03:09

DyTIS: A Dynamic Dataset Targeted Index Structure Simultaneously Efficient for Search, Inse...——论文泛读

EuroSys2023Paper论文阅读笔记整理问题在现实生活中，许多数据集都是复杂且动态的，即它们的键密度在整个键空间上变化，它们的键分布随时间变化。

妙BOOK言·2024-02-08 03:09

Gan论文阅读笔记

GAN论文阅读笔记2014年老论文了，主要记录一些重要的东西。

Alex·Fall·2024-02-07 19:22

PairLIE论文阅读笔记

PairLIE论文阅读笔记论文为2023CVPR的LearningaSimpleLow-lightImageEnhancerfromPairedLow-lightInstances.论文链接如下：openaccess.thecvf.com

Alex·Fall·2024-02-07 19:52

知识蒸馏之Knowledge Distillation: A Survey

InternationalJournalofComputerVision2021JianpingGou1·BaoshengYu1·StephenJ.Maybank2·DachengTao11UBTECHSydneyAICentre,SchoolofComputerScience,FacultyofEngineering,TheUniversityofSydney,Darlington,NSW200

Diros1g·2024-02-07 11:39

论文阅读-Transformer-based language models for software vulnerability detection

「分享了一批文献给你，请您通过浏览器打开https://www.ivysci.com/web/share/biblios/D2xqz52xQJ4RKceFXAFaDU/您还可以一键导入到ivySCI文献管理软件阅读，并在论文中引用」本文主旨：本文提出了一个系统的框架来利用基于Transformer的语言模型来检测软件漏洞。该框架包括以下几个步骤：1.源代码翻译：将C/C++高级编程语言的源代码转换

Che_Che_·2024-02-07 04:27

论文阅读-Automated Repair of Programs from Large Language Models

文章主旨：研究了Codex自动生成的程序中的错误，并探讨了现有的程序修复（APR）工具以及新发布的Codex-e是否能够修复自动生成的有缺陷的程序。现在基于大语言模型，输入自然语言，生成代码的应用非常普遍。但是生成的代码正确率很低，文章以GPT-3模型的后代-Codex模型，为例，试图利用自动化程序修复（APR）技术来修复Codex产生的代码错误。自动化修复技术接受一个有缺陷的程序和一个正确性规范

Che_Che_·2024-02-07 04:27

论文阅读-面向公平性的分布式系统负载均衡机制

摘要当一组自利的用户在分布式系统中共享多个资源时，我们面临资源分配问题，即所谓的负载均衡问题。特别地，负载均衡被定义为将负载分配到分布式系统的服务器上，以便最小化作业响应时间并提高服务器的利用率。在本文中，研究了一个由有限数量的服务器和有限数量的用户组成的分布式系统中的负载均衡问题。这里考虑的负载均衡问题是一个双目标问题，具有两个高度可能冲突的目标：（i）最小化作业响应时间(ii)提供服务器的公平

向来痴_·2024-02-07 02:49

点云transformer算法: FlatFormer 论文阅读笔记

代码：https://github.com/mit-han-lab/flatformer论文：https://arxiv.org/abs/2301.08739[FlatFormer.pdf]Flatformer是对点云检测中的backbone3d部分的改进工作，主要在探究怎么高效的对点云应用transformer具体的工作如下：一个缩写：**PCTs即pointcloudtransformers*

zhaoyqcsdn·2024-02-07 02:49

论文阅读——MP-Former

MP-Former:Mask-PilotedTransformerforImageSegmentationhttps://arxiv.org/abs/2303.07336mask2former问题是：相邻层得到的掩码不连续，差别很大denoisingtraining非常有效地稳定训练时期之间的二分匹配。去噪训练的关键思想是将带噪声的GT坐标与可学习查询并行地送到Transformer解码器中，并训

じんじん·2024-02-07 02:17

论文阅读-通过云特征增强的深度学习预测云工作负载转折点

论文名称：CloudWorkloadTurningPointsPredictionviaCloudFeature-EnhancedDeepLearning摘要云工作负载转折点要么是代表工作负载压力的局部峰值点，要么是代表资源浪费的局部谷值点。预测这些关键点对于向系统管理者发出警告、采取预防措施以实现高资源利用率、服务质量（QoS）和投资收益至关重要。现有研究主要只关注于工作负载未来点值的预测，而没

向来痴_·2024-02-07 02:43

区块链可验证查询论文阅读（一）vChain: Enabling Verifiable Boolean Range Queriesover Blockchain Databases

2019年7月发表在顶会SIGMOD上的论文《vChain:EnablingVerifiableBooleanRangeQueriesoverBlockchainDatabases》，来自香港浸会大学。1论文解决的问题如果想查询区块链中的数据，一种可行的做法是用户可以维护整个区块链数据库，并在本地查询数据。但是，通常区块链中所存储的数据量很大，下载完整的数据到本地需要很大的存储空间和网络带宽。另一

lyhibo·2024-02-06 16:34

【论文初读】MUFFIN模型

【论文阅读----DDI（1）】MUFFIN:multi-scalefeaturefusionfordrug–druginteractionprediction_杨华霖的博客-CSDN博客论文连接：(PDF

~芜湖~·2024-02-06 05:48

论文阅读《TRANSITIVE TRANSFER SPARSE CODING FOR DISTANT DOMAIN》

八月啦！小李月更来了！时间过得好快好像一个夏天就要过了！这个夏天因为留校感觉压力比以往来得多也经历了比以往更苦的事只希望努力不会白费都值得！论文名称：《TRANSITIVETRANSFERSPARSECODINGFORDISTANTDOMAIN》论文地址：https://ieeexplore.ieee.org/document/9415021论文参考阅读：https://blog.csdn.net

LiBiscuit·2024-02-06 02:05

On the Spectral Bias of Neural Networks论文阅读

1.摘要众所周知，过度参数化的深度神经网络(DNNs)是一种表达能力极强的函数，它甚至可以以100%的训练精度记忆随机数据。这就提出了一个问题，为什么他们不能轻易地对真实数据进行拟合呢。为了回答这个问题，研究人员使用傅里叶分析来研究深层网络。他们证明了具有有限权值(或训练有限步长)的深度网络天生偏向于表示输入空间上的平滑函数。具体地说，深度ReLU网络函数的特定频率分量(k)的衰减速度至少与O(k

瞻邈·2024-02-06 01:50

Improving Language Understanding by Generative Pre-Training 论文阅读

论文题目：通过生成式预训练提高语言理解能力GPT的全称：GenerativePre-trainedTransformer。Generative是指GPT可以利用先前的输入文本来生成新的文本。GPT的生成过程是基于统计的，它可以预测输入序列的下一个单词或字符，从而生成新的文本。【参考自春日充电季——ChatGPT的GPT是什么意思】机翻：自然语言理解包括一系列不同的任务，如文本蕴含、问题回答、语义相

老熊软糖·2024-02-05 15:48

论文阅读-CARD：一种针对复制元数据服务器集群的拥塞感知请求调度方案

论文名称：CARD:ACongestion-AwareRequestDispatchingSchemeforReplicatedMetadataServerCluster摘要复制元数据服务器集群（RMSC）在分布式文件系统中非常高效，同时面对数据驱动的场景（例如，大规模分布式机器学习任务）。然而，考虑到成本效益和系统利用率，实践中通常会限制集群规模。在这种情况下，由于客户端对拥塞不知情的行为和非智

向来痴_·2024-02-05 14:54

AI Infra论文阅读之将流水线并行气泡几乎降到零（附基于Meagtron-LM的ZB-H1开源代码实现解读）

0x0.前言这篇论文对应的链接为：https://openreview.net/pdf?id=tuzTN0eIO5，最近被ICLR2024接收，但不少AIInfra的同行已经发现了这个工作的价值，并且已经开源在https://github.com/sail-sg/zero-bubble-pipeline-parallelism，在一些AIInfra相关的地方也存在一些讨论和介绍。比如https:/

just_sort·2024-02-05 10:27

【论文阅读笔记】InstantID : Zero-shot Identity-Preserving Generation in Seconds

InstantID:秒级零样本身份保持生成理解摘要Introduction贡献RelatedWorkText-to-imageDiffusionModelsSubject-drivenImageGenerationIDPreservingImageGenerationMethod实验定性实验消融实验与先前方法的对比富有创意的更多任务新视角合成身份插值多身份区域控制合成结论和未来工作project：

LuH1124·2024-02-05 10:53

3D Line Mapping Revisited论文阅读

1.代码地址GitHub-cvg/limap:Atoolboxformappingandlocalizationwithlinefeatures.2.项目主页3DLineMappingRevisited3.摘要提出了一种基于线的重建算法，Limap，可以从多视图图像中构建3D线地图，通过线三角化、精心设计的评分和track构建以及利用线的重合，平行性和正交性等结构先验来实现的，可以与现有的基于点的

瞻邈·2024-02-05 06:03

知识蒸馏综述---代码整理

1、KD:KnowledgeDistillation链接：https://arxiv.org/pdf/1503.02531.pd3f发表：NIPS14最经典的，也是明确提出知识蒸馏概念的工作，通过使用带温度的

qq_41920323·2024-02-05 01:58

论文阅读_视觉注意力模型生成图片标题

论文地址：https://arxiv.org/pdf/1502.03044.pdf参考代码：https://github.com/parksunwoo/show_attend_and_tell_pytorch（Reference部分内容更丰富）《Show,AttendandTell:NeuralImageCaptionGenerationwithVisualAttention》是2016年发表在c

xieyan0811·2024-02-04 22:33

论文阅读：Learning Lens Blur Fields

这篇文章是对镜头模糊场进行表征学习的研究，镜头的模糊场也就是镜头的PSF分布，镜头的PSF与物距，焦距，光学系统本身的像差都有关系，实际的PSF分布是非常复杂而且数量也很多，这篇文章提出用一个神经网络MLP来进行表征学习，相当于将镜头的PSF分布都压缩在了一个神经网络模型里面。Abstract光学模糊是光学镜头的固有性质，因为实际镜头都存在各种各样的像差，光学模糊与物距，焦距，入射光线的波长都有关

Matrix_11·2024-02-04 14:54

论文阅读-在分布式数据库环境中对哈希算法进行负载均衡基准测试

论文名称：BenchmarkingHashingAlgorithmsforLoadBalancinginaDistributedDatabaseEnvironment摘要现代高负载应用使用多个数据库实例存储数据。这样的架构需要数据一致性，并且确保数据在节点之间均匀分布很重要。负载均衡被用来实现这些目标。几乎所有负载均衡系统的核心都是哈希算法。自经典一致性哈希引入以来，已经为此目的设计了许多算法。负

向来痴_·2024-02-04 08:51

推荐频道

知识蒸馏论文阅读