fine

2022-arxiv-P-Tuning v2 Prompt Tuning Can Be Comparable to Fine-tuning Universally Across Scales and

2022-arxiv-P-Tuningv2PromptTuningCanBeComparabletoFine-tuningUniversallyAcrossScalesandTasksP-Tuningv2：快速调优可以与跨规模和任务的普遍微调相媲美提示微调，只用一个冻结的语言模型来微调连续的提示，大大减少了训练时每个任务的存储和内存使用。然而，在NLU的背景下，先前的工作显示，提示微调对于正常大小
发呆的比目鱼·2023-10-30 11:00

小学英语常用情景对话汇总及练习

5.Fine,thankyou/thanks.我很好，谢谢。6.Notbad,thankyou.不错，谢谢。
天天说英语·2023-10-30 06:13

我家那小子——是什么主宰了00后男孩子的业余生活？

长大以后，一字千金，说一件事，启发引导半天，都只用“嗯、啊、OK、fine”来应付，让老母亲常常气不打一处来。老母亲有满脑子的疑问，可能这辈子都找不到答案。1为啥，男孩子玩起游戏来没完没了？
Claudia克姐·2023-10-30 00:11

帆软FineReport我常用的参数及JavaScript

一、简单的参数1.条件参数${if(len(area)=0,"","andareain('"+area+"')")}2.用户名参数username='${fine_username}'3.引用数据集校验
WU_54361109·2023-10-29 18:24

帆软初级证书 第一部分 Fine Report 答案

帆软初级证书第一部分FineReport数据库中使用索引查询一定能提高查询速度B移动端消息推送需要依赖与FS平台的定时调度功能A决策系统中的用户一旦创建，无法编辑B决策系统的主题是可以自己定制开发的A如果对用户名做了权限分配，则相应的权限内容将不受其他如部门、角色等权限的控制A用户在购买并发数时一定要根据同时在线的最小用户数来决定并发数的多少B目前决策报表报表块滚动的方法只能通过JS，没有现成的功
谷雨雪白·2023-10-29 18:51

LLM 位置编码及外推

你只需要对PT（pretraining)模型fine-turing最多1000步就能实现。
sunghosts·2023-10-28 13:26

论文阅读——BERT

Pre-trainingofDeepBidirectionalTransformersforLanguageUnderstanding1.Motivation2.Contribution3.Method3.1BERT3.2Pre-trainingBERT3.3Fine-tuningBERT4
猫猫头不写bug·2023-10-28 05:37

ChatGLM2-6b小白部署教程(windows系统，16G内存即可，对显卡无要求，CPU运行)

一.前言近期清华KEG和智谱AI公司一起发布了中英双语对话模型ChatGLM2-6B(小尺寸LLM)，开源在https://github.com/THUDM/ChatGLM2-6B，可单机部署推理和fine-tune
Life_Is_Good占用·2023-10-28 03:06

【网安专题10.25】论文8：华为团队+静默漏洞检测（识别+多分类）+数据增强、样本扩充+对比学习+微调+结果分析（降到二维空间，分类错误样本的归纳，具体应用场景优势，有效性威胁分析）

写在最前面论文主要贡献启发论文主要工作对论文工作的一些启发摘要目标问题:静默依赖修复问题现有工作本文工作主要贡献Proposedapproach提出的方法PPT中"Proposedapproach"和"Methodology"的区别背景知识知识迁移微调（Fine-tuning
是Yu欸·2023-10-27 22:34

Generative AI 新世界 | Falcon 40B 开源大模型的部署方式分析

在上期文章，我们探讨了如何在自定义数据集上来微调（fine-tuned）模型。
亚马逊云开发者·2023-10-27 19:21

01_finetuning_and_guidance_CN

Fine-TuningandGuidance在这一节的笔记本中，我们将讲解两种主要的基于现有模型实现改造的方法：通过微调（fine-tuning），我们将在新的数据集上重新训练已有的模型，来改变它原有的输出类型通过引导
Mr_yuekitty·2023-10-27 06:55

GPT-1、GPT-2和GPT-3模型详解及其进化之路

GPT的核心思想是先通过无标签的文本去训练生成语言模型，再根据具体的NLP任务（如文本蕴涵、QA、文本分类等），来通过有标签的数据对模型进行fine-tuning。
-柚子皮-·2023-10-26 12:16

针对多分类问题，使用深度学习--Keras进行微调提升性能

前面的文章对二分类问题用Keras进行了Fine-tune，使得模型的准确率进一步提升，此处对于多分类问题，尝试使用Fine-tune来提升性能。
weixin_44119674·2023-10-26 11:41

[BELLE] A comparative study between full-parameter and LoRA-based fine-tuning on chinese instruction

1.introduction在模型训练领域，两种广泛使用的方法是全参数微调和参数高效微调。2.experiments选择了BELLE-0.6M，BELLM-2M，BELLE-4M三个数据集。通过结合这三个数据集，旨在研究不同数据规模对基于lora的调优性能的影响。评估集包含了1000个经过严格的人工筛选和处理的数据条目，涵盖9个类别，包括翻译、开放型问答、封闭性问答、生成以及其他。2.1model
Kun Li·2023-10-26 08:58

Fine-tune时代结束？清华P-Tuning v2大幅提升小模型性能，NER也可promp tuning了！

每天给你送来NLP技术干货！文|JayJay来自|高能AI近日，清华大学发布P-Tuningv2版本，其重点解决了Prompttuning在小模型上效果不佳的问题（如下图所示），并将Prompttuning拓展至更复杂的NLU任务，如MRC答案抽取、NER实体抽取等序列标注任务。P-Tuningv2并不是一个全新的方法，其事实上是将文本生成的prefix-tuning技术适配到NLU任务中，其主要
zenRRan·2023-10-26 07:13

大学生有哪些信息安全认证可以考？

OK，fine！我还能说什么呢？说起证书的作用，各方说法不一，也有不少人交了高额的智商税，但是不管是专业人员还是HR，都不可
安全牛课堂牛油果·2023-10-25 07:03

寻常的活着

事后也有人跟她说她被拒绝的原因正是那个师姐不喜欢她，觉得她态度不好，fine，无所谓了。她重新把心放在
花拉子米的故事·2023-10-25 05:47

tensorflow官方教程-高级-图像-迁移学习和微调,fine-tuning

colab链接数据预处理importmatplotlib.pyplotaspltimportnumpyasnpimportosimporttensorflowastffromtensorflow.keras.preprocessingimportimage_dataset_from_directory下载数据在本教程中，您将使用一个包含数千张猫和狗图像的数据集。下载并解压缩包含图像的zip文件，然
cvvoid·2023-10-24 08:54

I am fine

凡事都有偶然的凑巧，结果却又如宿命的必然。爱过的人，就随风飘散吧！人一生不过短短几十年，不必太委屈自己，更不要拿别人的错误买惩罚自己。别人的错可以原谅，为什么就不能原谅自己的过错？只怪自己还活在那个“从前车马很慢，书信很远一生只够爱一人”的唯美爱情时代里。不服输的人总有千万种理由安慰自己，明明伤的千疮百洞，却仍然固装坚强，强颜欢笑给每一个人看，因为心里知道，别人并不亏欠自己，所以别人没有理由去面对
小枫丫头·2023-10-23 21:12

XLNet

缺点是1、输入侧引入[Mask]标记，导致预训练阶段和Fine-tuning阶段不一致的问题。2、Bert是基于被Mask的token
京漂的小程序媛儿·2023-10-23 19:48

VGG16使用finetune

在使用vgg16预训练模型image-net对网络进行fine-tune的时候发现loss一直维持在12左右，准确率稳定在20%左右，并不会有明显的变化。
美环花子若野·2023-10-23 16:35

自然语言处理---Transformer机制详解之BERT模型特点

1BERT的优点和缺点1.1BERT的优点通过预训练,加上Fine-tunning,在11项NLP任务上取得最优结果.BERT的根基源于Transformer,相比传统RNN更加高效,可以并行化处理同时能捕捉长距离的语义和结构依赖
lichunericli·2023-10-23 15:59

BERT要点理解

包含两个步骤：pre-training以及fine-tuning预训练阶段，使用无标签数据在不同的预训练任务上训练微调阶段，首先使用预训练的参数进行初始化，然后根据下游任务的标签数据进行微调，不同的下游任务有不同的微调模型
Unintented·2023-10-22 14:18

Parameter-Efficient Transfer Learning for NLP

Abstract对大型预训练模型进行fine-tune是NLP领域一个有效的迁移学习机制。
chansonzhang·2023-10-21 18:13

论文|RAFT: Recurrent All-Pairs Field Transforms for Optical Flow

RecurrentAll-PairsFieldTransformsforOpticalFlow作者ZacharyTeedandJiaDeng发表期刊ECCV2020主要思想简述优点不像之前的coarse-to-fine
爱吃鱼的森先生·2023-10-21 18:50

How to Fine-Tune BERT for Text Classification?

文章目录论文信息1.论文内容2.论文结论2.1微调流程2.2微调策略(Fine-TuningStrategies)2.3FurtherPretrain3.论文实验介绍3.1实验数据集介绍3.2实验超参数
iioSnail·2023-10-21 13:55

【多模态】平衡多模态学习（讨论与文章汇总）

Adjustlearningrate04.Imbalancedmulti-modallearning05.条件利用（效）率06.Pre-traineduni-modalencoder07.Onemorestep:fine-grainedcases08
杀生丸学AI·2023-10-21 06:20

社区版Visual Studio通过安装开源插件Fine Code Coverage实现单元测试代码覆盖率统计

1、在VisualStudio上安装FineCodeCoverage插件扩展->管理扩展->联机搜索到FineCodeCoverage插件，选中进行下载安装2、修改FineCodeCoverage配置如果单元测试框架用的是MSTest，一般需要修改插件配置，否则测试结果不正确工具->选项->FineCodeCoverage，将下图标红的配置项改成Yes3、运行单元测试以上配置完成后运行单元测试，查
头顶榴莲树·2023-10-20 17:55

2021-08-06 - 草稿

朋友圈打造生活圈思想圈产品圈案例圈反馈圈（顾客改变对话截图客户见证老师点评对fine好评）勤奋简单了解客户需求对症解决。
瑜伽普拉提蓉蓉·2023-10-18 14:04

Android如何获取当前位置

第一步，权限，检查Manifest.permission.ACCESS_FINE_LOCATION是否授予；第二步，locationManager.getAllProviders()获取所有的定位方式，
dong咕猫·2023-10-18 11:52

New 900 Sentences

Fine,thanks.很好，谢谢。8.Howisyourmother?你妈妈好吗？9.Shei
aaron8219·2023-10-18 08:29

大模型LLM相关面试题整理-PEFT

微调（Fine-tuning）是一种迁移学习的技术，用于在一个已经预训练好的模型基础上，通过进一步训练来适应特定的任务或数据集。
zhurui_xiaozhuzaizai·2023-10-18 05:49

深度学习目标检测——anchor锚框

目录一：回顾二：生成锚框生成多个锚框：每个像素点生成不同的框所有项目代码+UI界面一：回顾上一节课我们了解了迁移学习中的微调（Fine-tuning）是指在已经预训练好的模型基础上，对部分或全部模型参数进行调整以适应新任务
QTreeY123·2023-10-17 23:04

自然语言处理：XLNet 模型

模型介绍语言模型划分为自回归语言模型（AutoregressiveLM），根据上文预测下文，或反过来（例如GPT）自编码语言模型（AutoencoderLM），同时利用上下文，例如bertbert模型缺点要引入mask，使得预训练和和fine-t
空腹熊猫·2023-10-17 15:26

GPT-3.5 Turbo推出微调功能：支持用自己的数据训练模型，打造专属GPT

OpenAI前几天推出了GPT-3.5Turbo的微调功能（fine-tuningforGPT-3.5Turbo），用户可以用自己的数据训练模型并大规模运行它，打造专属GPT，并且早期测试显示，经过微调的
ChatGPT研究院·2023-10-17 05:08

OpenAI 为 GPT-3.5 Turbo 推出微调功能 (fine-tuning)

OpenAI为GPT-3.5Turbo推出微调功能(fine-tuning)。微调允许用户可以在自己的数据上训练模型并大规模运行。
深圳市晶立弘泰电子·2023-10-17 05:28

OpenAI开放gpt-3.5turbo微调fine-tuning测试教程

文章目录openai微调fine-tuning介绍openai微调地址jsonl格式数据集准备点击上传文件openai微调fine-tuning介绍openai微调地址网址：https://platform.openai.com
Cachel wood·2023-10-17 05:24

LLM-微调-全参数微调：Full-Param Fine-tuning（100% parameters）

fine-tuning的过程就是用训练好的参数（从已训练好的模型中获得）初始化自己的网络，然后用自己的数据接着训练，参数的调整方法与fromscratch训练过程一样（梯度下降）。
u013250861·2023-10-17 03:16

Pruning Pre-trained Language Models Without Fine-Tuning

本文是LLM系列文章，针对《PruningPre-trainedLanguageModelsWithoutFine-Tuning》的翻译。修剪未微调的预训练语言模型摘要1引言2相关工作3背景4静态模型剪枝5实验6分析7结论8局限性摘要为了克服预训练语言模型(PLMs)中的过度参数化问题，剪枝作为一种简单直接的压缩方法被广泛使用，它直接去除不重要的权重。先前的一阶方法成功地将plm压缩到极高的稀疏度
UnknownBody·2023-10-17 00:26

【实操】基于ChatGPT构建知识库

前言最近有些实践，因为后面要去研究fine-tune了，想着记录一下chatgpt+向量数据库构建知识库的一些实操经验，不记我很快就忘了，哈哈。首先，提一下为啥会出现向量数据库这个技术方案？
懒编程-二两·2023-10-16 07:52

大模型-DeltaTuning-增量式03：Prompt-Tuning（连续型）（P-tuning v1）【只在输入层加入可训练参数层】

一、前言Bert时代，我们常做预训练模型微调（Fine-tuning），即根据不同下游任务，引入各种辅助任务loss和垂直领域数据，将其添加到预训练模型中，以便让模型更加适配下游任务的方式。
u013250861·2023-10-16 01:14

【NLP经典论文精读】Prefix-Tuning: Optimizing Continuous Prompts for Generation

Prefix-Tuning:OptimizingContinuousPromptsforGeneration前言Abstract1.Introduction2.RelatedWork2.1Fine-tuningfornaturallanguagegeneration2.2Lightweightfine-tuning2.3Prompting2.4Controllablegeneration2.5P
HERODING77·2023-10-16 01:13

prefix-tuning: optimizing continuous prompt for generation

现有的方法fine-tune，参数量太大，GPT2774M，GPT3175B。
onlyxinbaby·2023-10-16 01:42

微调Yolov8动物姿势估计模型

本文主要以狗的姿势估计为例，展示如何对当下流行的YOLOv8姿势模型进行Fine-tuning，并附录完整代码。
穿着帆布鞋也能走猫步·2023-10-15 19:14

深度学习之微调

在现代深度学习领域，精细调整（Fine-tune）已经成为一种非常重要的技术手段。预训练模型在介绍finetune之前，先了解一下什么是预训练模型。
会的东西有点杂·2023-10-15 14:26

模型轻量化操作——剪枝

剪枝基本概念1.1什么是剪枝NetworkPruning删除权重小于一定阈值的连接或者神经元节点得到更加稀疏的网络1.2剪枝的不同粒度从单个神经元和连接到整个网络层非结构化剪枝(需要特殊硬件支持)权重级别(Fine-gained
氵文大师·2023-10-15 01:12

2022-5-26晨间日记

今天是什么日子Almost70days起床：6:40am就寝：11:00pm天气：rainy心情：Fine纪念日：NA任务清单昨日完成的任务，最重要的三件事：改进：锻炼身体trainingforheart
长夏碧玉·2023-10-14 23:19

《语音用户界面设计：对话式体验设计原则》第5章 语音用户界面设计进阶

不同类型的语音输入1.受限回复比如，英文单词“fine”这个词经常被误识别为“find”（与比较长的词组相比，短词更难进行语音识别的解读和处理，相较于“fine”而言，“I‘mfine”更容易被语音设备识别
Jacquelineliu·2023-10-14 17:45

大语言模型之十七-QA-LoRA

由于基座模型通常需要海量的数据和算力内存，这一巨大的成本往往只有巨头公司会投入，所以一些优秀的大语言模型要么是大公司开源的，要么是背后有大公司身影公司开源的，如何从优秀的开源基座模型针对特定场景fine-tune
shichaog·2023-10-13 17:06

迁移学习中的常见技巧:微调（fine-tuning）

目录一：回顾二：微调2.1热狗识别获取数据集定义和初始化模型微调模型所有项目代码+UI界面一：回顾上一篇我们理解了深度学习中的跟RestNet结构很相似的网络——DenseNet，它是一种密集连接卷积神经网络，由李沐等人于2017年提出。与ResNet等传统卷积神经网络不同，DenseNet中每个层都直接与前面的所有层相连，这种直接的密集连接架构有助于信息和梯度在网络中的流通，从而在训练中提高了梯
QTreeY123·2023-10-13 13:51
上一页 3 4 5 6 7 8 9 10 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他