efficient

The Power of Scale for Parameter-Efficient Prompt Tuning及prefix tuning与prompt tuning的区别

1.本文贡献（1）提出prompttuning，并在大型语言模型领域展示其与modeltuning(finetuning)的竞争力；（2）减少了许多设计选择，显示质量和鲁棒性随着规模的增加而提高。（3）在域转移问题上，显示prompttuning优于modeltuning。（4）提出“promptensembling”，并展示其有效性。2.Prompttuning在GPT-3中，提示标记P={p1
BBBBBAAAAAi·2023-09-05 05:05

详解大模型微调方法Prompt Tuning(内附实现代码)

分别是Prefix-Tuning、P-Tuningv1、Parameter-EfficientPromptTuning、P-Tuningv2。
MLTalks·2023-09-05 05:34

networkX-03-连通度、全局网络效率、局部网络效率、聚类系数计算

连通度1.1检查图是否连通1.2检查有向图是否为强连通1.3点连通度、边连通度：2.网络效率2.1全局效率2.2局部效率2.2.1查找子图2.2.3局部效率源码分析3.聚类系数（ClusteringCoefficient
Sheyueyu·2023-09-05 01:01

关于大模型参数微调的不同方法

原始网络的参数保持不变，实现了高度的参数共享Paper1:Parameter-EfficientTransferLearningforNLP为了证明适配器的有效性，我们将最近提出的BERTTransformer
银晗·2023-09-04 21:47

leetCode 240: Search a 2D Matrix II

题目Writeanefficientalgorithmthatsearchesforavalueinanmxnmatrix.Thismatrixhasthefollowingproperties:写一个搜索
34码的小孩子·2023-09-04 10:39

How to Be a Good Project Manager

Beingagoodprojectmanagerrequiresacombinationofstrongleadershipskills,effectivecommunication,andtheabilitytomanagevarioustasksandresourcesefficiently.Whetheryou
卢延吉·2023-09-04 08:19

Efficient Participant Contribution Evaluation forHorizontal and Vertical Federated Learning

论文链接：https://ieeexplore.ieee.org/abstract/document/9835159?casa_token=tAKz5UFwHcQAAAAA:Dpab22Nq0_aH7wRk1eHImK47y3uVjp7ocsZ8U2DvavpL_OvQxPt1T1qgTM3qWH3SSr3Xk3ii99eC中国科学技术大学计算机科学与技术学院IEEEICDE2022.(CCF推荐
白兔1205·2023-09-04 08:45

matlab函数：residue和residuez的用法

（Convertbetweenpartialfractionexpansionandpolynomialcoefficients）。
weixin_30698527·2023-09-03 20:54

ModaHub魔搭社区：自动化机器学习神器Auto-Sklearn

并在他们2015年题为“efficientandrobustautomatedmachinelearning高效且稳健的自动化机器学习[1]”的论文中进行了描述。…weintrod
LCHub低代码社区·2023-09-03 14:25

【论文精读】Learning Transferable Visual Models From Natural Language Supervision

Abstract1.IntroductionandMotivatingWork2.Approach2.1.CreatingaSufficientlyLargeDataset2.2.SelectinganEfficientPre-TrainingMethod2.3
HERODING77·2023-09-03 04:30

YOLOv5算法改进（11）— 替换主干网络之EfficientNetv2

EfficientNetV2是一个网络模型，旨在提供更小的模型和更快的训练速度。它是EfficientNetV1的改进版本。
小哥谈·2023-09-02 20:41

spring-boot-plus后台快速开发框架1.0.0.RELEASE发布了

Everyonecandevelopprojectsindependently,quicklyandefficiently！
geekidea·2023-09-02 16:07

19篇论文速览大模型微调技术进展与热门方法

目前较为流行的大模型微调技术是PEFT(Parameter-EfficientFineTuning)，只对部分的参数进行训练，主要有PromptTuning、PrefixTuning、L
深度之眼·2023-09-02 07:52

我是吴磊的粉丝，也是我自己

文/苏桐efficient01若是让我们说出自己喜欢的人，多数人都会吞吞吐吐、遮遮掩掩；若是让我们介绍自己喜欢的明星，则会像演说家般滔滔不绝，甚至都忘了自己从何时开始有着这般强大的演说能力，也许，是来自一种光明磊落的喜欢的力量
苏桐efficient·2023-09-02 00:51

Trained Quantization Thresholds for Accurate and Efficient Fixed-Point Inference of Deep Neural N...

一、摘要我们提出了一种使用标准反向传播和梯度下降的均匀对称量化器训练量化阈值（TQT）的方法。与先前的工作相反，我们表明，对阈值梯度的直通估计器的仔细分析允许自然的范围-精度权衡，导致更好的优化。我们提出了对我们方法的一般稳健性的分析支持，并在ImageNet分类的各种CNN上对其进行了经验验证。我们能够在传统的困难网络（如MobileNets）上实现ear-floating-point的准确度，
加油11dd23·2023-09-01 23:31

Nonlinear Image Enhancement to Improve Face Detection in Complex Lighting Environment 翻译

Abstract:摘要：Arobustandefficientimageenhancementtechniquehasbeendevelopedtoimprovethevisualqualityofdigitalimagesthatexhibitdarkshadowsduetothelimiteddynamicrangesofimaginganddisplaydeviceswhichareinca
dsjdjsa·2023-09-01 20:44

第一章：NodeJS 概述

isaJavaScriptruntimebuiltonChrome'sV8JavaScriptengine.Node.jsusesanevent-driven,non-blockingI/Omodelthatmakesitlightweightandefficient.Node.js'packageecosystem
中v中·2023-09-01 06:35

WebGPU助力客户端Crypto/ZK

1.引言前序博客：CUDA入门WebGPU+ZKP：客户端证明WebGPU入门正如PersonaeLabs团队2022年11月博客EfficientECDSA&thecaseforclient-sideproving
mutourend·2023-09-01 04:58

[K8S]Check the usage for PV/PVC in Kubernetes

stackoverflow:IsthereanefficientwaytochecktheusageforPV/PVCinKubernetesimage.pngIfthere'sarunningpodwithmountedPVfromthePVC
Mokaffee·2023-08-31 19:53

高效学习英语的几个关键点（中英双语）Key points of learning English efficiently

图片发自App要想高效快速的学习英语，心理素质是最重要的。目前现在许多人面临的状态是恐惧和焦虑。因为开口不知道怎么说而焦虑，因为听不懂对方说的而焦虑。于是越紧张越焦虑，越不知道怎么说也听不懂，陷入了一个恶性循环。要想英语有所提升，最重要的就是走出这个恶性循环，调整自己的心理状态。接纳自己目前英语学习中的所有问题和目前的英语水平，以积极乐观的心态，轻松的去学习英语。因为只有对英语感觉好了，爱上英语加
Wendy说英语·2023-08-31 10:45

【ES】illegal_argument_exception“,“reason“:“Result window is too large

Resultwindowistoolarge,from+sizemustbelessthanorequalto:[10000]butwas[999999].Seethescrollapiforamoreefficientwaytorequestlarge
醇氧·2023-08-31 08:31

Qlik Sense On-demand apps

On-demandappsOn-demandappsenableyoutoloadandanalyzebigdatasourcesinQlikSense.Tryingtoanalyzeanentirebigdatastoreatonetimeishighlyinefficient.Nevertheless
Moshow郑锴·2023-08-31 06:48

深度学习的低秩优化:在紧凑架构和快速训练之间取得平衡（上）

论文出处：[2303.13635]LowRankOptimizationforEfficientDeepLearning:MakingABalancebetweenCompactArchitectureandFastTraining
山科智能信息处理实验室·2023-08-31 05:59

[LLM] 大模型训练

微调：工具：https://github.com/huggingface/peft对chatGLM微调：https://github.com/hiyouga/ChatGLM-Efficient-Tuning
风可。·2023-08-31 04:23

基于大核注意力的高效鲁棒脑损伤分割

文章目录Large-kernelAttentionforEfficientandRobustBrainLesionSegmentation摘要本文方法实验结果Large-kernelAttentionforEfficientandRobustBrainLesionSegmentation
小杨小杨1·2023-08-29 19:06

【深度学习】半监督学习 Efficient Teacher: Semi-Supervised Object Detection for YOLOv5

https://arxiv.org/abs/2302.07577https://github.com/AlibabaResearch/efficientteacher文章目录AbstractIntroductionRelatedWorkEfficientTeacherDenseDetectorAbstract
XD742971636·2023-08-29 16:40

Meta最新模型LLaMA详解（含部署+论文）

文章标题：LLaMA:OpenandEfficientFoundationLanguageModels向量空间中词表示的有效估计文章链接：https://arxiv.org/pdf/2302.13971
深度之眼·2023-08-29 08:48

判断聚类 n_clusters

目录基本原理代码实现：肘部法则（ElbowMethod）：轮廓系数（SilhouetteCoefficient）GapStatistic（间隙统计量）：Calinski-HarabaszIndex（Calinski-Harabasz
碱化钾·2023-08-29 07:14

[已解决] 决定系数R2为何为负 from sklearn.metrics import r2_score

1、定义：R2决定系数（CoefficientofDetermination）是一种用于评估回归模型拟合优度的指标。它表示模型能够解释数
daphne odera�·2023-08-29 03:35

比较

改动前{{item.completionRateGte}}≤达成率{{item.completionRateLt}}{{item.performanceCoefficient}}改动后{{item.completionRateGte
friendshi洛初Udo邭·2023-08-28 22:56

什么是 PNPM？

Fast,diskspaceefficientpackagemanager本质上他是一个包管理工具，和npm/yarn没有区别，主要优势在于包安装速度极快磁盘空间利用效率高使用方法：npmipnpm-g
涅槃快乐是金·2023-08-28 19:52

2021-10-12

爱可可老师7月至9月的推荐(2021.10.12整理)——MLPs与VisionTransformer主干架构专题，时间从近（9月）至远（7月）PoNet:PoolingNetworkforEfficientTokenMixinginLongSequencesPoNet
Valar_Morghulis·2023-08-28 16:46

自然语言处理: 第九章DeepSpeed的实践

microsoft/DeepSpeed:DeepSpeedisadeeplearningoptimizationlibrarythatmakesdistributedtrainingandinferenceeasy,efficient
曼城周杰伦·2023-08-28 15:12

【大模型】基于 LlaMA2 的高 star 的 GitHub 开源项目汇总

【大模型】基于LlaMA2的高star的GitHub开源项目汇总Llama2简介开源项目汇总NO1.FlagAlpha/Llama2-ChineseNO2.hiyouga/LLaMA-Efficient-TuningNO3
szZack·2023-08-27 19:48

Google Earth Engine ——全球森林/非森林地图（FNF）数据集

Theglobalforest/non-forestmap(FNF)isgeneratedbyclassifyingtheSARimage(backscatteringcoefficient)intheglobal25mresolutionPALSAR
此星光明·2023-08-26 10:42

How Do I Read Textbook

Asastudentwhoareworkingonschoolcareer,Knowinghowtoreadtextbookwouldbethemostimportantstepforthem.Readingtextbookmoreefficientlymeansalottoastudent
Wang_1291·2023-08-26 03:24

END-TO-END、SCALE HYPERPRIOR、Checkerboard梳理总结

END-TO-ENDOPTIMIZEDIMAGECOMPRESSION》、《VARIATIONALIMAGECOMPRESSIONWITHASCALEHYPERPRIOR》、《CheckerboardContextModelforEfficientLearnedImageCompression
什么都不懂的小小青蛙·2023-08-25 21:39

轻量化模型：MobileNet/SqueezeNet/ShuffleNet

MobileNetv1论文链接：MobileNets:EfficientConvolutionalNeuralNetworksforMobileVisionApplications创新点轻量化体现在：深度可分离卷积
HRain·2023-08-25 17:27

【计算机视觉 | 图像分割】arxiv 计算机视觉关于图像分割的学术速递（8 月 22 日论文合集）

文章目录一、分割|语义相关(16篇)1.1Test-timeaugmentation-basedactivelearningandself-trainingforlabel-efficientsegmentation1.2ImprovingDiversityinZero-ShotGANAdaptationwithSemanticVariations1.3CVFC
旅途中的宽~·2023-08-25 16:22

剪枝基础与实战(1): 概述

论文:LearningEfficientConvolutionalNetworksthroughNetworkSlimming作者对VGG、DenseNet、ResNet进行剪枝，发现模型剪
@BangBang·2023-08-25 14:22

安装madRoot

Github网址：davidjamesbryant/MADroot:EfficientimplementationoftheMADmethodforinferringthelocationoftherootinalargephylogeny
江有枫xx·2023-08-25 07:28

DiffIR: Efficient Diffusion Model for lmage Restoration

DiffIR:用于图像复原的有效扩散模型论文链接：https://arxiv.org/abs/2303.09472项目链接：https://github.com/Zj-BinXia/DiffIRAbstract扩散模型(DM)通过将图像合成过程建模为去噪网络的顺序应用，实现了SOTA的性能。然而，与图像合成从头生成每个像素不同，图像复原(IR)的大部分像素是给定的。因此，对于IR，传统的DMs在大
通街市密人有·2023-08-24 21:15

EG3D: Efficient Geometry-aware 3D Generative Adversarial Networks [2022 CVPR]

长期以来，仅使用单视角二维照片集无监督生成高质量多视角一致图像和三维形状一直是一项挑战。现有的三维GAN要么计算密集，要么做出的近似值与三维不一致；前者限制了生成图像的质量和分辨率，后者则对多视角一致性和形状质量产生不利影响。在这项工作中，我们在不过度依赖这些近似值的情况下，提高了三维GAN的计算效率和图像质量。为此，我们引入了一种富有表现力的显式-隐式混合网络架构，结合其他设计选择，不仅能实时合
一直在努力的小宁·2023-08-24 07:18

Nonstationary Stokes Equations 简介

如下内容来自:AnEfficientChorin–TemamProjectionProperOrthogonalDecompositionBasedReduced-OrderModelforNonstationaryStokesEquations
夜晓岚渺渺·2023-08-24 03:51

【高效学习】《How to work more efficiently》一 part one

书名Commenttravaillerplusefficacement直译英语为Howtoworkmoreefficiently，意思是如何高效学习。
Loup&卡普·2023-08-23 18:54

CSS选择器原理以及如何提高CSS选择器效率？

ChrisCoyier曾在《EfficientlyRenderingCSS》一文中说过“浏览器读取你的选择器，遵循的原则是从选择器的右边到左边读取。换句话说，浏览器读取选择器的顺序是由右到左进行”。
如来如往·2023-08-22 02:54

NASH：基于丰富网络态射和爬山算法的神经网络架构搜索 | ICLR 2018

，使用网络态射来生成一系列效果一致且继承权重的复杂子网，本文的网络态射更丰富，而且仅需要简单的爬山算法辅助就可以完成搜索，耗时0.5GPUday 来源：晓飞的算法工程笔记公众号论文:SimpleAndEfficientArchitectureSearchforConvolutionalNeuralNetworks
VincentTeddy·2023-08-22 01:10

迈入大模型时代的深度学习：使用 Flash Attention 技术让 Transformer 起飞

FlashAttention:FastandMemory-EfficientExactAttentionwithIO-Aware
·2023-08-21 17:31

剪枝基础与实战(3): 模型剪枝和稀疏化训练流程

 ModelPruning相关论文：LearningEfficientConvolutionalNetworksthroughNetworkSlimming(ICCV2017)考虑一个问题，深度学习模型里面的卷积层出来之后的特征有非常多
@BangBang·2023-08-21 16:06

大模型PEFT技术原理（二）：P-Tuning、P-Tuning v2

随着预训练模型的参数越来越大，尤其是175B参数大小的GPT3发布以来，让很多中小公司和个人研究员对于大模型的全量微调望而却步，近年来研究者们提出了各种各样的参数高效迁移学习方法（Parameter-efficientTransferLearning
wshzd·2023-08-21 09:39
上一页 13 14 15 16 17 18 19 20 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他