efficient 第18页

大模型PEFT技术原理（三）：Adapter Tuning及其变体

随着预训练模型的参数越来越大，尤其是175B参数大小的GPT3发布以来，让很多中小公司和个人研究员对于大模型的全量微调望而却步，近年来研究者们提出了各种各样的参数高效迁移学习方法（Parameter-efficientTransferLearning

wshzd·2023-08-21 09:09

论文《Logram:使用n-Gram词典的高效日志解析》翻译

论文《Logram：EfficientLogParsingUsingn-GramDictionaries》翻译Logram：EfficientLogParsingUsingn-GramDictionaries

Programmer Monkey·2023-08-20 17:42

RTCM3消息类型大全【1002，1006，1107，1117，1127到底代表了些啥】

RTCMVersion3RTCMVersion3hasbeendevelopedasamoreefficientalternativetoRTCMVersion2.Servic

奈流云何·2023-08-20 16:10

论文《TALLRec: An Effective and Efficient Tuning Framework to Aligh LLM with Recommendation》阅读

论文《TALLRec:AnEffectiveandEfficientTuningFrameworktoAlignLargeLanguageModelwithRecommendation》论文概况BackgroundandIntroductionPreliminary

行者^_^煜煜·2023-08-20 14:21

DyLoRA：使用动态无搜索低秩适应的预训练模型的参数有效微调

又一个针对LoRA的改进方法：DyLoRA:Parameter-EfficientTuningofPretrainedModelsusingDynamicSearch-FreeLowRankAdaptationhttps

2201_75761617·2023-08-20 03:57

大模型之Bloom&LLAMA----SFT(模型微调)

最近作者在跟着hiyouga大佬的LLaMA-Efficient-Tuning进行学习，相较于其他的项目来说，该项目是非常适合跟着学习并入门的。1.什么是SFTSFT（

敢敢のwings·2023-08-20 02:12

论文阅读_时序聚类K-Shape

K-Shape高效且准确的时间序列的聚类方法基本信息论文题目：k-Shape:EfficientandAccurateClusteringofTimeSeries论文地址：https://dl.acm.org

xieyan0811·2023-08-19 00:33

Qt：隐式内存共享

classesinQtuseimplicitdatasharingtomaximizeresourceusageandminimizecopying.Implicitlysharedclassesarebothsafeandefficientwhenpassedasarguments

大白萝卜不紧张·2023-08-18 21:26

《Swin Transformer Hierarchical Vision Transformer using Shifted Windows》论文超详细解读（翻译＋精读）

SwinTransformerHierarchicalVisionTransformerusingShiftedWindows》作为2021ICCV最佳论文，屠榜了各大CV任务，性能优于DeiT、ViT和EfficientNet

路人贾'ω'·2023-08-18 20:05

Spark Streaming实时流处理项目

数据清洗==>数据统计分析==>统计结果入库==>数据可视化分布式日志收集框架Flume（印象笔记）Flumeisadistributed,reliable,andavailableserviceforefficientlycollecting

kangapp·2023-08-18 15:33

因果推断深度学习工具箱 - Reducing Selection Bias in Counterfactual Reasoning for Individual Treatment Effect...

作者通过AE结合利用PearsonCorrelationCoefficient的正则化，鼓励模型对cova

processor4d·2023-08-18 07:38

R语言实现非等比例风险生存资料分析（1）

非等比例风险的生存资料分析###1生成模拟数据###library(flexsurv)set.seed(123)#生成样本数量n%summarypz=775,]pzg2%summarypz2<-pzg2[["coefficients

weixin_49320263·2023-08-18 03:25

linux-vsock-internals-vsock框架

背景二、vsock框架send/recvdataguestsendhostrecvmulti-transportReference一、vsock背景VMSockets(vsock)isafastandefficientcommu

Yengi·2023-08-17 18:55

YOLOv8改进后效果

将c2f模块替换为DSConv加EMA注意力机制更换EfficientViT主干网络

汉卿HanQ·2023-08-17 13:30

LoRAHub：Efficient Cross-Task Generalization Dynamic LORA via dynamic LoRA Composition

*LoRAHub：EfficientCross-TaskGeneralizationDynamicLORAviadynamicLoRACompositionIntroductionMethod试验结果参考

HanZee·2023-08-17 06:25

遗传分化指数(Fst)的计算

Fst是针对一对等位基因，如果基因座上存在复等位基因，则需要用Gst衡量，基因差异分化系数（genedifferentiationcoefficient，Gst）。

要快乐_更要经历山河·2023-08-17 00:22

Semantic 3D Occupancy Mapping through Efficient High Order CRFs

摘要本文中我们提出一个增量式近实时的语义建图系统构建了一个3D滚动占用网格图来表示世界，内存和计算效率很高，并且适用于大规模环境。我们利用CNN分割作为先验预测，通过一个新的CRF模型进一步优化三维网格标签。利用超像素增强算法的平滑性，形成鲁棒的高阶势。针对图优化问题，提出了一种有效的平均域推理方法。我们在KITTI数据集熵评估了系统，并相对于已有的系统提高了超过10%分割精度Introducti

liampayne_66d0·2023-08-16 23:05

恒源云(GPUSHARE)_超越预训练 NLP 的模型来喽

正文开始：\本文基于Arxiv上的一篇论文NLPFromScratchWithoutLarge-ScalePretraining:ASimpleandEfficientFramework，清华的几位研究者提出一种任务驱动的语言模型

·2023-08-16 10:20

“One Size Fits All”：一个过时的想法？| StoneDB 学术分享会 #8

审校：李浩、宇亭设计：Yeekin责编：宇亭导语本篇是StoneDB学术分享会专栏的第八篇，在上一期里，我们分享了SAP发表的《EfficientTransactionProcessinginSAPHANADatabase–TheEndofaColumnStoreMyth

·2023-08-15 17:59

论文阅读——Sparse-RS: a Versatile Framework for Query-Efficient Sparse Black-Box Adversarial Attacks

Sparse-RS:aVersatileFrameworkforQuery-EfficientSparseBlack-BoxAdversarialAttacks作者：FrancescoCroce,MaksymAndriushchenko

小菜鸟的进阶史·2023-08-15 08:40

2023.8.14论文阅读

文章目录ESPNet:EfficientSpatialPyramidofDilatedConvolutionsforSemanticSegmentation摘要本文方法实验结果DeepFusion:Lidar-CameraDeepFusionforMulti-Modal3DObjectDetection

小杨小杨1·2023-08-15 08:08

轻量化YOLOv5改进 | 结合repghost结构冲参数化网络，实现轻量化和加速推理，

RepGhost:AHardware-EfficientGhostModuleviaRe-parameterization论文总结本文改进repghost核心代码测试参数量和计算量“引入RepGhostNet

一休哥※·2023-08-15 02:40

NLP预训练汇总

NLP预训练汇总transformerElmoBertLlama2023-arxiv-LLaMA:OpenandEfficientFoundationLanguageModelsLLaMA源码解析

发呆的比目鱼·2023-08-14 11:13

2023-arxiv-LLaMA: Open and Efficient Foundation Language Models

开放和高效的基础语言模型Paper：https://arxiv.org/abs/2302.13971Code:https://github.com/facebookresearch/llama摘要本文介绍了LLaMA，这是⼀个包含7B到65B参数的基础语⾔模型的集合。作者在数万亿个令牌上训练模型，并表明可以仅使⽤公开可⽤的数据集来训练最先进的模型。特别是，LLaMA-13B在⼤多数基准测试中都优于

发呆的比目鱼·2023-08-14 11:42

Faiss学习笔记

它的GitHub上描述是这样的Faissisalibraryforefficientsimilaritysearchandclusteringofdensevectors.Itcontainsalgorithmst

crookie·2023-08-14 09:53

变形金刚在图像识别方面比CNN更好吗？

大多数研究人员直接使用卷积层，或者将某些注意力块与卷积块一起添加到计算机视觉应用（如Xception，ResNet，EfficientNet，DenseNet，I

无水先生·2023-08-14 03:56

yolov5、YOLOv7、YOLOv8改进：注意力机制CA

论文题目：《CoordinateAttentionforEfficientMobileNetWorkDesign》论文地址：https://arxiv.org/pdf/2103.02907.pdf本文中

陈子迩·2023-08-13 20:32

EGE-UNet, 轻量化U-Net

今天我看到一篇很好的论文，上海交大发表在MICCAI2023的最新研究工作，一个称为EfficientGroupEnhancedUNet,EGE-UNet的模型，基于U-Net进行魔改，用于解决医学图像

skyfengye·2023-08-13 09:37

2023.8.12号论文阅读

TriFormer:AMulti-modalTransformerFrameworkForMildCognitiveImpairmentConversionPrediction摘要本文方法实验结果SwIPE:EfficientandRobustMedicalImageSegmentationwithImplicitPatchEmbeddings

小杨小杨1·2023-08-13 05:45

EfficientNet介绍

什么是EfficientNetEfficientNet的设想就是能否设计一个标准化的卷积网络扩展方法，既可以实现较高的准确率，又可以充分的节省算力资源。

Acapella_Zhang·2023-08-13 04:50

LeetCode（240）：搜索二维矩阵 II（Java）

传送门：搜索二维矩阵IIWriteanefficienta

NJU_ChopinXBP·2023-08-12 23:32

FlashAttention

一、论文题目（发表处-时间）FlashAttention:FastandMemory-EfficientExactAttentionwithIO-Awareness二、主要方向新型注意力机制三、细化任务一种具有

be_humble·2023-08-12 14:21

CUTLASS: Efficient GEMM in CUDA

以下内容翻译自：CUTLASS中的EfficientGEMMinCUDAEfficientGEMMinCUDACUTLASS实现了CUTLASS:FastLinearAlgebrainCUDAC++和CUTLASSGTC2018talk

图波列夫·2023-08-11 20:28

[Machine Learning] 线性回归和平滑方法

华北小龙虾·2023-08-11 18:53

超分算法ESPCN：《Real-Time Single Image and Video Super-Resolution Using an Efficient Sub-Pixel》

文章目录1.ESPCN概述2.论文详解2.1Introduction2.2Method2.2.1Deconvolutionlayer2.2.2Efficientsub-pixelconvolutionlayer3

zyw2002·2023-08-11 14:04

高中英语新课标新增词汇 E字母

easen[U]舒适；悠闲；自在；容易；不费力vi&vt减轻；缓解；(使)小心缓慢地移动economicadj经济(学)的；经济上的；有利可图的；合算的efficientadj有效率的；高效能的elderlyadj

HellenJin·2023-08-11 12:59

apache paimon-update

apachepaimonApachePaimon(incubating)isastreamingdatalakeplatformthatsupportshigh-speeddataingestion,changedatatrackingandefficientreal-timeanalytics

呵呵小短腿·2023-08-10 10:28

CUDA C++ Programming Guide

其它计算设备如FPGA，也是energyefficient，但是不如GPU的programflexibility。GPU和CPU的设计目标不同：1）CPU设计为：擅于executeasequenc

mutourend·2023-08-10 03:12

【转】ShuffleNet算法详解

转自：http://m.blog.csdn.net/u014380165/article/details/75137111论文：ShuffleNet:AnExtremelyEfficientConvolutionalNeuralNetworkforMobileDevices

lanyuxuan100·2023-08-10 02:08

S-NER: A Concise and Efficient Span-Based Model for NamedEntity Recognition

原文链接：Sensors|FreeFull-Text|S-NER:AConciseandEfficientSpan-BasedModelforNamedEntityRecognitionSensors2022

pepsi_w·2023-08-09 17:46

Efficient localization method based on RSSI for AP clusters

TwoproblemsinindoorRSSI-basedlocalizationareaddressed:RSSIfluctuationandnon-convexityofthemaximumlikelihoodestimationlocalizationproblem.Weproposetwocorrespondingalgorithmstosolvethem,namelytheRelativ

带着地球去浪一浪·2023-08-09 14:01

【深度学习注意力机制系列】—— ECANet注意力机制（附pytorch实现）

ECANet（EfficientChannelAttentionNetwork）是一种用于图像处理任务的神经网络架构，它在保持高效性的同时，有效地捕捉图像中的通道间关系，从而提升了特征表示的能力。

卖报的大地主·2023-08-09 10:46

【MATLAB第66期】#源码分享 | 基于MATLAB的PAWN全局敏感性分析模型（有条件参数和无条件参数）

【MATLAB第66期】#源码分享|基于MATLAB的PAWN全局敏感性分析模型（有条件参数和无条件参数）文献参考Pianosi,F.,Wagener,T.,2015.Asimpleandefficientmethodforglobalsensitivityanalysisbasedoncumulativedistributionfunctions.Environ.Model.Softw

随风飘摇的土木狗·2023-08-09 10:02

t_hash.c

在redis.conf中存在如下配置：#Hashesareencodedusingamemoryefficientdatastructur

生命就是个Bug·2023-08-09 06:01

CNN成长路：从AlexNet到EfficientNet（01）

现在，我们超过90%的EfficientNet架构和师生训练（teacher-student）。

无水先生·2023-08-09 04:41

2023.8.7论文阅读

文章目录CMUNeXt:AnEfficientMedicalImageSegmentationNetworkbasedonLargeKernelandSkipFusion摘要本文方法实验结果BoundaryDifferenceOverUnionLossForMedicalImageSegmentation

小杨小杨1·2023-08-08 07:21

「论文阅读」RandLA-Net：Efficient Semantic Segmentation of Large-Scale Point Clouds

目录1)局部空间编码块(LocSE)2)注意力池化模块（AttentivePooling）3)膨胀残差模块文章提出的局部特征聚合模块并行应用于每个3D点，它由三个神经单元组成:1)局部空间编码(LocSE)，2)注意力池化(attentivepooling)，3)扩张残留块。局部特征聚合模块的结构如下：顶部的两个模块分别是提取特征的局部空间编码块(LocSE)和基于局部上下文和几何形状的加权注意力

小麋鹿跑了·2023-08-08 05:24

论文阅读：RandLA-Net: Efficient Semantic Segmentation of Large-Scale Point Clouds

2020年7月18日周六天气晴【不悲叹过去，不荒废现在，不惧怕未来】RandLA-Net:EfficientSemanticSegmentationofLarge-ScalePointCloudsRandLA-Net

LikeMarch·2023-08-08 05:51

论文翻译 | RandLA-Net: Efficient Semantic Segmentation of Large-Scale Point Clouds

论文：RandLA-Net:EfficientSemanticSegmentationofLarge-ScalePointClouds代码：code前言：最近很犹豫要不要继续翻译点云方面的论文，直到看到这篇论文的作者是自己学校以前的学长

btee·2023-08-08 05:50

《论文阅读13》Efficient Urban-scale Point Clouds Segmentationwith BEV Projection

一、论文研究领域：城市级3D语义分割论文：EfficientUrban-scalePointCloudsSegmentationwithBEVProjection论文链接注：BEV：Bird'sEyeViewBEV

Darren_pty·2023-08-08 05:49

推荐频道

efficient