论文阅读杂记第2页

【论文阅读】Mamba:选择状态空间模型的线性时间序列建模（二）

文章目录3.4一个简化的SSM结构3.5选择机制的性质3.5.1和门控机制的联系3.5.2选择机制的解释3.6额外的模型细节A讨论：选择机制C选择SSM的机制Mamba论文第一部分Mamba:选择状态空间模型的线性时间序列建模(一)3.4一个简化的SSM结构如同结构SSM，选择SSM是单独序列变换可以灵活地整合进神经网络。H3结构式最知名SSM结构地基础，其通常包括受线性注意力启发的和MLP交替地

syugyou·2024-09-08 15:52

2020杂记（106）万物都有自己的节奏

1我不仅入睡难，醒得早，睡眠还很浅，半夜有一丁点声音就会醒过来，半天睡不着。偏偏卧室外面的空地正在修建学校和市场，有时候通夜都是机器的轰鸣声。最近一段时间，醒得越来越早，醒后就再也睡不着。凌晨五点左右，会全身发热。白天老是犯困，身体总是僵着，像是黏着牛皮糖一样，连脑袋也不灵光了，做事效率越来越低。“我是不是早更了？”我跟朋友开玩笑。“啥早更？你现在更已经是正常时间段了。”“你找打哦！”“你的身体节

宁超群·2024-09-07 20:31

日常杂记

随着孩子一天天长大，专职宝妈的心中也因为和社会越来越脱节而心生惶恐，最近的状态就是：如果哪天看书了，心情就好点，否则就处于急躁加恐慌。这不，刚刚妈妈接了个电话，是一个从小看我长大的叔叔的，他听到我专职在家带孩子，很是诧异，居然连问了三遍确认，我听到了，心中更是无奈，看娃娃真的是占据太多时间，完全没有自己的空间，不知道什么时候能好点呢？还好，有盼头，等她上幼儿园了，我就可以重新回职场了，但是这之前真

气体_81bd·2024-09-07 12:19

2020杂记（102）整合资源进课堂

【摘录】制作《银汤匙》研究笔记时，先生会借助词典、百科事典等彻底查阅，但即便如此，也依然会有搞不清楚的地方。那该怎么办呢？据说，先生是直接写信向当时健在的《银汤匙》作者中勘助先生求教。《全世界都想上的课》P37【感悟】仅从桥本先生对教材的研究精神，我们也会被他折服，期待着能上他的课。借助工具书彻底查阅，我们平时在做教学准备的时候，也会用到，不算稀奇。但是桥本先生能够主动去联系作者来解答疑惑，却是我

宁超群·2024-09-07 09:04

回乡杂记|三三探幽

我知道影子没有求用，但是我要找回我的影子。我已经走了很久的路，很远很远。我记得我穿过了一片松林，厚厚的绵软的松针让双脚无比舒适。不时，在路边看到松针层凸起的小包，我轻轻地将它扒开，一朵或几朵奶黄而油滑的菌子显露出来，鲜艳而丰满，让我精神倍振。我记得我经过了一片坟堆，荒凉、破败，夕阳斜照残碑，我有时弯腰辨认碑上的字迹。生不闻名，死或留志，这或许也是人生一点安慰。我坐在一个垮落的坟旁，想起了写聊斋的蒲

之川_f6c2·2024-09-06 22:28

SAFEFL: MPC-friendly Framework for Private and Robust Federated Learning论文阅读笔记

SAFEFL:MPC-friendlyFrameworkforPrivateandRobustFederatedLearning适用于私有和鲁棒联邦学习的MPC友好框架SAFEFL，这是一个利用安全多方计算(MPC)来评估联邦学习(FL)技术在防止隐私推断和中毒攻击方面的有效性和性能的框架。概述传统机器学习（ML）：集中收集数据->隐私保护问题privacy-preservingML(PPML)采

慘綠青年627·2024-09-06 10:44

MixMAE(MixMIM):用于分层视觉变压器有效预训练的混合和掩码自编码器论文阅读

论文:MixMAE(arxiv.org)代码:Sense-X/MixMIM:MixMIM:MixedandMaskedImageModelingforEfficientVisualRepresentationLearning(github.com)摘要:本文提出MixMAE(MixedandmaskAutoEncoder)，这是一种简单而有效的预训练方法，适用于各种层次视觉变压器。现有的分层视觉变

皮卡丘ZPC·2024-09-06 08:04

【生活杂记】夜游黄鹤楼

夜游黄鹤楼明天正式对外开放了，今天是预演出，在开场前的半小时，我被通知去观看。好在距离黄鹤楼很近，10分钟后，我准时到达。没有看到预告，一切都是未知，我随着人流停留在了第一处表演区，幻彩留影，明月当空，秋风送爽，夜登黄鹤楼，可谓精神气爽。一切好似没有发生即使这么大的疫情面前，黄鹤楼经历这场疫情洗礼后，经过半年的策划，惊艳在武汉人民面前，除了震撼，就是骄傲。黄鹤一去不复返，白云千载空悠悠。黄鹤楼在1

7未末·2024-09-06 03:03

上海杂记（一）

上次游历祖国的大好河山还是差不多8年前。现在想来，只记得去了西安古城。那段稀稀散散的记忆，如今却怎么也没办法想起来当时游历的心情。或许是因为时间太过长久，也或许是因为那时的注意力更多的在于游玩，而并不是细细体会一座城市独特的魅力。我暗暗想，阔别十七年之后，今年在去上海上课时一定要用心感受这座城市的物，景与生活。我是个北方人，在北京生活了多年早已习惯了北方初春满天飞舞的白絮，盛夏令人汗流浃背的闷热，

隔壁的小宝·2024-09-06 00:32

【论文阅读】LLM4CP: Adapting Large Language Models for Channel Prediction（2024）

摘要Channelprediction（信道预测）isaneffectiveapproach（有效方法）forreducingthefeedback（减少反馈）orestimationoverhead（估计开销）inmassivemulti-inputmulti-output（大规模多输入输出）(m-MIMO)systems.However,existingchannelpredictionmet

Bosenya12·2024-09-05 23:39

【论文阅读】AugSteal: Advancing Model Steal With Data Augmentation in Active Learning Frameworks（2024）

摘要Withtheproliferationof（随着）machinelearningmodels（机器学习模型）indiverseapplications,theissueofmodelsecurity（模型的安全问题）hasincreasinglybecomeafocalpoint（日益成为人们关注的焦点）.Modelstealattacks（模型窃取攻击）cancausesignifican

Bosenya12·2024-09-05 14:40

杂记

在支付宝玩打卡，突然好多小哥哥要加我好友，妈耶，这是什么情况(゜ロ゜)？这么多空窗期的单身汪吗？如果是真的，在学校不应该又大把女孩可以追吗，何必在虚拟世界里这么累⊙﹏⊙。况且网上聊天和当面聊天感觉也不一样呐，就像在实体店和网络上购物一个道理。只不过实体店看好可以网上下单，人，倒是没有同款。呐呐呐呐，也可能是我头像太好看了(｡･ω･｡)ﾉ

那只树懒·2024-09-05 03:45

【杂记-浅谈LACP链路聚合技术】

浅谈LACP链路聚合技术一、LACP协议概述二、LACP的工作原理及要点三、LACP的配置与协商一、LACP协议概述1、概念①LinkAggregationControlProtocol，LACP，即链路聚合协议，它可以将多个物理链路聚合成一个逻辑链路，以提高带宽和冗余性。LACP通过链路聚合控制协议数据单元（LACPDU）与对端设备交互信息，维护链路聚合组的形成和运行状态。②链路聚合并不具备天然

叫我小虎就行了·2024-09-04 02:43

Bert系列：论文阅读Rethink Training of BERT Rerankers in Multi-Stage Retrieval Pipeline

一句话总结：提出LocalizedContrastiveEstimation(LCE)，来优化检索排序。摘要预训练的深度语言模型(LM)在文本检索中表现出色。基于丰富的上下文匹配信息，深度LM微调重新排序器从候选集合中找出更为关联的内容。同时，深度lm也可以用来提高搜索索引，构建更好的召回。当前的reranker方法并不能完全探索到检索结果的效果。因此，本文提出了LocalizedContrast

凝眸伏笔·2024-09-04 01:37

期中考试后杂记

期中考试后杂记期中考试结束了。为期两天的期中考试今天终于结束了，早上7:20，最后一场生物考试结束了，学生们脸上有抑制不住的喜悦，看得出考试后还很放松。

悠之不语斋·2024-09-03 23:16

A Tutorial on Near-Field XL-MIMO Communications Towards 6G【论文阅读笔记】

此系列是本人阅读论文过程中的简单笔记，比较随意且具有严重的偏向性（偏向自己研究方向和感兴趣的），随缘分享，共同进步~论文主要内容：建立XL-MIMO模型，考虑NUSW信道和非平稳性；基于近场信道模型，分析性能（SNRscalinglaws，波束聚焦、速率、DoF）XL-MIMO设计问题：信道估计、波束码本、波束训练、DAMXL-MIMO信道特性变化：UPW➡NUSW空间平稳–>空间非平稳（可视区域

Cc小跟班·2024-09-03 08:22

论文阅读：scMGCA----模型方法

Yu,Z.,Su,Y.,Lu,Y.etal.Topologicalidentificationandinterpretationforsingle-cellgeneregulationelucidationacrossmultipleplatformsusingscMGCA.NatCommun14,400(2023).https://doi.org/10.1038/s41467-023-36134

dundunmm·2024-09-03 07:46

论文阅读：scHybridBERT

ZhangWei,WuChenjun,XingFeiyang,JiangMingfeng,ZhangYixuan,LiuQi,ShiZhuoxing,DaiQi,scHybridBERT:integratinggeneregulationandcellgraphforspatiotemporaldynamicsinsingle-cellclustering,BriefingsinBioinform

dundunmm·2024-09-03 07:42

杂记

每一代人都有其鲜明特色，这可能也是一种时代特色。也有些是一种年龄特色，也许是成长中某一阶段的特色。最大的善意：不给别人添麻烦。昨晚很冷，零下十几度了。我看到老大在群上说，她家里停电停暖了，家里黑漆漆的，冻的受不了。我家六楼的房子八月初才装修完，虽然说是用的无醛板，但家里两个孩子都太小，考虑了下还是没有入住，准备在放上半年。于是我告诉她，可以到我家去住，水电暖气应有尽有。她同意了，最终确没有来，因为

何洁1981·2024-09-02 16:56

【论文阅读】Purloining Deep Learning Models Developed for an Ultrasound Scanner to a Competitor Machine

TheArtoftheSteal:PurloiningDeepLearningModelsDevelopedforanUltrasoundScannertoaCompetitorMachine（2024）摘要Atransferfunctionapproach（传递函数方法）hasrecentlyproveneffectiveforcalibratingdeeplearning(DL)algorit

Bosenya12·2024-09-02 06:40

《Motion Forecasting with Dual Consistency and Multi-Pseudo-Target Supervision》论文阅读之DCMS

山水之间2018·2024-09-02 04:30

能力越小责任越小YA·2024-09-02 00:37

【论文阅读|cryoET】本周粗读汇总

论文1：CryoDRGN-ET：深度重建生成网络以可视化细胞内动态生物分子Abstract虽然冷冻电子断层扫描可以以分子分辨率揭示结构，但图像处理算法仍然是解决原位生物分子结构异质性的瓶颈。本文介绍CryoDRGN-ET用于cryoET断层图的异质重建。CryoDRGN-ET直接从子断层扫描倾斜系列图像中学习三维密度图的深度生成模型，并且可以捕获成分和构象不同的状态。通过原位恢复肺炎支原体核糖体中

吃吃今天努力学习了吗·2024-09-01 20:46

Your Diffusion Model is Secretly a Zero-Shot Classifier论文阅读笔记

YourDiffusionModelisSecretlyaZero-ShotClassifier论文阅读笔记这篇文章我感觉在智源大会上听到无数个大佬讨论，包括OpenAISora团队负责人，谢赛宁，好像还有杨植麟

Rising_Flashlight·2024-09-01 20:46

【论文阅读】QUEEN: Query Unlearning against Model Extraction（2024）

摘要Modelextractionattacks（模型提取攻击）currentlyposeanon-negligiblethreat（不可忽视的威胁）tothesecurity（安全性）andprivacy（隐私性）ofdeeplearningmodels.Byqueryingthemodelwithasmalldataset（通过小数据集查询模型）andusingthequeryresultsa

Bosenya12·2024-09-01 20:45

【论文阅读33】Deep learning optoacoustic tomography with sparse data

Deeplearningoptoacoustictomographywithsparsedata论文题目：基于稀疏数据的深度学习光声断层扫描论文链接：Deeplearningoptoacoustictomographywithsparsedata|NatureMachineIntelligence代码链接：GitHub-ndavoudi/sparse_artefact_unet数据链接：Data发

弹伦琴的雷登·2024-09-01 18:29

《论语》共读·每天一句话

注解：1.孺悲，是鲁国人，《礼记·杂记》有记载：“恤由之丧，哀公使孺悲之孔子学士丧礼，士丧礼于是乎书。”孺悲曾经奉鲁哀公之命，来向孔子学习士的丧礼礼仪规范，并且书写传下来，所以孺悲也算是孔子的学生。

边丽红·2024-08-31 22:19

20210307-周末杂记

20210307-周末杂记。周末对于小商人来说逐步将成为稀缺品。年少打工岁月，不懂何为压力，对于周末无比期待，到了周末也就是休息与享受，现在想来时光流逝却并无积累，甚是可惜。

Aubzhang·2024-08-31 05:21

一个爱喝酒的女人是什么样子

已经很久不写文了，但是有趣的事还是得坚持记录一下，过了很久再来翻翻，真真是一种时光的味道徜徉其中[得意]喝酒趣事杂记一图片发自App到古镇已临近傍晚，天色略显昏沉，但溪头古镇却是热闹。

简枝残春·2024-08-30 16:55

论文阅读瞎记(四) Cascade R-CNN: Delving into High Quality Object Detection 2017

概述在物体检测中1，IOU阈值被用于判定正负样本。在低IOU阈值比如0.5的状态下训练模型经常产生噪音预测，然而检测效果会随着IOU增加而降低。两个主要因素：1.训练时的过拟合，正样本指数消失2.检测器最优IOU与输入假设的不匹配。一个单阶段的物体检测器CascadeR-CNN被提出用于解决这些问题。网络由一个检测序列组成，这些序列训练时会伴随IOU增长从而对FP样本更加有选择性地判别。检测器一个

码大哥·2024-08-30 15:58

2020-02-04

《杂记3》冬日六点夜未明大饼豆腐裹腹中工作闲暇把棋下输多赢少犯头疼人不为己不可能利他思维更盛行劝君凡事好处想悲欢离合转头空与人为善是习惯吃好睡好我看行

张林茂·2024-08-29 22:52

【论文阅读】LLM4SGG: Large Language Models for Weakly Supervised Scene Graph Generation

【论文阅读】LLM4SGG:LargeLanguageModelsforWeaklySupervisedSceneGraphGenerationabstract由于全监督方法严重依赖昂贵标注，最近弱监督场景图生成

进击的乔洋·2024-08-28 19:03

心情杂记1

每逢冬天变异常的焦躁不安，兴许是因为天气寒冷，兴许是因为别的。这段时间莫名其妙的变得懒懒散散，啥事都不想做，被毕业论文忙的晕头转向，却还是没多少头绪，每周一本书的生活也没有继续，整个人堕落不堪，整天浑浑噩噩，一睁眼一闭眼就一天。

往事随风轻烟一缕·2024-08-28 08:38

Code Llama: Open Foundation Models for Code论文阅读

整体介绍CodeLlama发布了3款模型，包括基础模型、Python专有模型和指令跟随模型，参数量分别为7B、13B、34B和70B。这些模型在长达16ktokens的序列上训练。都是基于Llama2。作者针对infilling(FIM)、长上下文、指令专门做了微调long-contextfine-tuning(LCFT).codellama细节CodeLlama模型家族初始化:所有CodeLla

yang_daxia·2024-08-27 18:46

黑屋子（348）杂记

网络日记散记随笔一、自我管理保持情绪稳定，为人处事不要闹情绪。人在发怒时，基本丧失了理智，智商几乎为零。我们之所以会在一些人事面前，情绪彻底失去控制，是因为遇到了问题，遇到了难题和苦难。要想事情顺利进展，我们的标的还是解决问题、走出苦难。而发怒、职责和抱怨除了伤害了自己和相关当事人，破坏了周边环境的愉悦、和睦气氛，于解决问题是没有任何意义的。而且，这种负面情绪对人体能量的耗损，比正常工作、学习、生

山的儿女2·2024-08-27 05:49

【论文阅读】Model Stealing Attacks Against Inductive Graph Neural Networks（2021）

摘要Manyreal-worlddata（真实世界的数据）comeintheformofgraphs（以图片的形式）.Graphneuralnetworks(GNNs图神经网络),anewfamilyofmachinelearning(ML)models,havebeenproposedtofullyleveragegraphdata（充分利用图数据）tobuildpowerfulapplicat

Bosenya12·2024-08-26 12:29

「碎语杂记」第七次人口普查的一些数

昨天网上都在转的一件大事，就是第七次人口普查的数据公布了，很多人写了很多文章研究分析这件事。这件事儿对国家来说，是件大事儿，对我来说，开始没觉得是件大事儿。后来想想，国家的大事儿，就是个人应该关注的事儿，就认真读了些文章。不同侧重，各种分析，各种观点，有些其实是预测和猜测。对这方面缺乏关注和研究，很多文章看不太明白。记一下有关数字，对中国人口现状有个大致的概念。主要条目和具体数字来自于新华视点公众

简叔老魏·2024-08-25 18:57

VIT论文阅读： A Image is Worth 16x16 Words

简介在2024年，大家都知道了transformer的故事，但是在4年前,CNN和Transformer谁才是CV的未来，还没有那么确定。在简介部分，作者提到了一个令人失望的事实，在基于imagenet的实验中发现，transformer的表现差于同尺寸的ResNet。作者把原因归结到biastranslationequivarianceandlocality，这些CNN具有，但是transfor

Undefined游侠·2024-08-24 17:37

【论文阅读】GLiRA: Black-Box Membership Inference Attack via Knowledge Distillation

摘要While（虽然）DeepNeuralNetworks(DNNs)havedemonstratedremarkableperformanceintasksrelatedtoperception（感知）andcontrol（控制）,therearestillseveralunresolvedconcerns（未解决的问题）regardingtheprivacyoftheirtrainingdat

Bosenya12·2024-08-24 16:35

【论文阅读】APMSA: Adversarial Perturbation Against Model Stealing Attacks（2023）

摘要TrainingaDeepLearning(DL)model（训练深度学习模型）requiresproprietarydata（专有数据）andcomputing-intensiveresources（计算密集型资源）.Torecouptheirtrainingcosts（收回训练成本）,amodelprovidercanmonetizeDLmodelsthroughMachineLearni

Bosenya12·2024-08-24 16:04

生活杂记 | 医院 • 说

图片来源于网络2019.08.15周四暴晒人的一生中，有一个地方是不得不去的，而且，一生中可能还要“光顾”很多次。这个地方就是医院。01.头疼脑热去医院，腰酸背痛去医院，开肠破肚去医院，命悬一线去医院，神志不清去医院，生老病死去医院。医院的服务再好，去医院的心情远远不如去餐厅，去歌厅，去商场。医院的环境再好，去医院的心情远远不如去公园，去游乐场，去大卖场。去医院见医生，远远不如去见心上人那样欢喜，

燕语诗心·2024-08-24 09:38

Conditional Flow Matching: Simulation-Free Dynamic Optimal Transport论文阅读笔记

ConditionalFlowMatching:Simulation-FreeDynamicOptimalTransport笔记发现问题连续正规化流（CNF）是一种有吸引力的生成式建模技术，但在基于模拟的最大似然训练中受到了限制。解决问题介绍一种新的条件流匹配（CFM)，一种针对CNFs的免模拟训练目标。具有稳定的回归目标，用于扩散模型中的随机流，但享有确定性流模型的有效推断。与扩散模型和CNF目

猪猪想上树·2024-08-23 03:06

生活杂记

今天有几件事情，觉得值得记录。第一，有两位学生家长被外面某培训机构忽悠，死活想把孩子带去外面培训机构上学。虽然昨天下午跟她们两位家长利弊讲得很清楚，但今晚小L妈妈打电话来又说这件事，听她的意思好像是怪我这个班主任不让孩子去外面学习。这些家长为什么对公立学校的免费义务教育这么不信任？宁愿在外面花几万十几万的高价，还赔上孩子的几个月宝贵的时间，听着某些培训机构的忽悠，冒险去外面高价培训，面对中考，我很

康康的教育视野·2024-08-22 12:29

黑屋子（169）杂记

杂记一、当你以最快的速度被打压下去的时候，你应该以最快的速度重新站起来。时间就是效率，时间就是生命。君子复chou，十年不晚。时代已经完全不同，有些模型和工具，已经不再适合用在今天。

山的儿女2·2024-05-24 17:13

《论文阅读》EmpDG：多分辨率交互式移情对话生成 COLING 2020

《论文阅读》EmpDG：多分辨率交互式移情对话生成COLING2020前言简介模型架构共情生成器交互鉴别器损失函数前言亲身阅读感受分享，细节画图解释，再也不用担心看不懂论文啦~无抄袭，无复制，纯手工敲击键盘

365JHWZGo·2024-03-26 00:13

论文阅读——SpectralGPT

SpectralGPT:SpectralFoundationModelSpectralGPT的通用RS基础模型，该模型专门用于使用新型3D生成预训练Transformer（GPT）处理光谱RS图像。重建损失由两个部分组成：令牌到令牌和频谱到频谱下游任务：

じんじん·2024-03-18 07:14

老年人的七夕，比年轻人更虐狗!

浪漫七夕的由来农历七月初七是七夕节，又名乞巧节，起源于汉代，东晋葛洪的《西京杂记》有“汉彩女常以七月七日穿七孔针于开襟楼，人俱习之”的记载。

松柏之青·2024-03-05 12:27

2018年10月17日日常供稿供稿：阎晓佳、发稿：王子翔

重阳节佩茱萸，在晋代葛洪《西经杂记》中就有记

16康复大家庭·2024-03-05 12:53

论文阅读：2020GhostNet华为轻量化网络

创新：（1）对卷积进行改进（2）加残差连接1、GhostModule1、利用1x1卷积获得输入特征的必要特征浓缩。利用1x1卷积对我们输入进来的特征图进行跨通道的特征提取，进行通道的压缩，获得一个特征浓缩。2、利用深度可分离卷积获得特征浓缩的相似特征图（Ghost）。在获得特征浓缩之后，利用深度可分离卷积进行逐层卷积，进行跨特征点的特征提取，获得额外的特征图，也就是Ghost。将这两个进行堆叠就是

A_my_*·2024-03-01 10:21

《论文阅读》e-CARE：探索可解释因果推理的新数据集 ACL2022

《论文阅读》e-CARE：探索可解释因果推理的新数据集ACL2022前言简介数据集优势数据集语料级别的统计数据集示例评分标准前言今天为大家带来的是《e-CARE:aNewDatasetforExploringExplainableCausalReasoning

365JHWZGo·2024-02-26 17:31

推荐频道

论文阅读杂记