Tune

钗头凤 译文

Tune:"PhoenixHairpin"Softpinkhands,Yellowvinewine,SpringcoloursPalacewithgreenwillows.Eastwindisevil,
之彦·2023-10-25 11:13

VGG16使用finetune

在使用vgg16预训练模型image-net对网络进行fine-tune的时候发现loss一直维持在12左右，准确率稳定在20%左右，并不会有明显的变化。
美环花子若野·2023-10-23 16:35

Parameter-Efficient Transfer Learning for NLP

Abstract对大型预训练模型进行fine-tune是NLP领域一个有效的迁移学习机制。
chansonzhang·2023-10-21 18:13

How to Fine-Tune BERT for Text Classification?

文章目录论文信息1.论文内容2.论文结论2.1微调流程2.2微调策略(Fine-TuningStrategies)2.3FurtherPretrain3.论文实验介绍3.1实验数据集介绍3.2实验超参数3.3Fine-Tuning策略探索3.3.1处理长文本3.3.2不同层的特征探索3.3.3学习率探索（灾难性遗忘探索）3.3.4不同层使用不同学习率3.2FurtherPretraining探索3
iioSnail·2023-10-21 13:55

【实操】基于ChatGPT构建知识库

前言最近有些实践，因为后面要去研究fine-tune了，想着记录一下chatgpt+向量数据库构建知识库的一些实操经验，不记我很快就忘了，哈哈。首先，提一下为啥会出现向量数据库这个技术方案？
懒编程-二两·2023-10-16 07:52

prefix-tuning: optimizing continuous prompt for generation

现有的方法fine-tune，参数量太大，GPT2774M，GPT3175B。
onlyxinbaby·2023-10-16 01:42

深度学习之微调

在现代深度学习领域，精细调整（Fine-tune）已经成为一种非常重要的技术手段。预训练模型在介绍finetune之前，先了解一下什么是预训练模型。
会的东西有点杂·2023-10-15 14:26

戏说文件系统之ext3【上】

在不用备份ext2文件系统数据的情况下，可以用：tune2fs–j/dev/hdName在不用卸载分区的状态下直接将ext2文件系统转换成ext3文件系统。至于ext3的好处和优势我就不在这里废话了，
乱乱熊猫·2023-10-14 13:39

大语言模型之十七-QA-LoRA

由于基座模型通常需要海量的数据和算力内存，这一巨大的成本往往只有巨头公司会投入，所以一些优秀的大语言模型要么是大公司开源的，要么是背后有大公司身影公司开源的，如何从优秀的开源基座模型针对特定场景fine-tune
shichaog·2023-10-13 17:06

迁移学习（Transfer learning）相关名词解释

文献：SinnoPanandQiangYang,Asurveyontransferlearning.IEEETNN2010迁移学习的第一大范式：Pre-trainandfine-tune（预训练-微调）
m0_59838738·2023-10-13 07:07

Mellanox CX-5 RoCE网络性能测试数据

系统未做明显优化，仅跑了一遍tuned_adm和mlnx_tune。
JiuShi猪·2023-10-10 11:18

微调GPT（fine-tune）与向量数据库结合-优化GPT

GPT回答问题GPT（GenerativePretrainedTransformer）是一种强大的预训练模型，它可以生成连贯且富有创造性的文本。然而，GPT并不是完美的，它在生成回答时存在一些问题：缺乏一致性：GPT可能会在不同的时间或在不同的上下文中给出不一致的回答。这是因为GPT是一个生成模型，它每次生成回答时都是从头开始的，没有记住之前的状态或回答。缺乏准确性：虽然GPT可以生成看起来很合理
小~小·2023-10-08 15:37

微调（fine-tune）

迁移学习不是一种算法而是一种机器学习思想，应用到深度学习就是微调（Fine-tune)。
盐巴饭团193·2023-10-06 19:29

Tune-A-Video论文阅读

论文链接：Tune-A-Video:One-ShotTuningofImageDiffusionModelsforText-to-VideoGeneration文章目录摘要引言相关工作文生图扩散模型文本到视频生成模型文本驱动的视频编辑从单个视频生成方法前提
zzfive·2023-10-05 14:02

Ray和RLlib用于快速并行强化学习

作者|ChristianHubbs编译|VK来源|TowardsDataScienceRay不仅仅是一个用于多处理的库，Ray的真正力量来自于RLlib和Tune库，它们利用了强化学习的这种能力。
磐创 AI·2023-10-04 06:41

简单走近ChatGPT

ChatGPT整体背景认知（一）ChatGPT引起关注的原因（二）与其他公司的竞争情况二、NLP学习范式的发展（一）规则和机器学习时期（二）基于神经网络的监督学习时期（三）PretrainthenFine-tune
张彦峰ZYF·2023-10-03 01:36

本地部署 川虎 Chat

支持GPT-4·基于文件问答·LLM本地部署·联网搜索·Agent助理·支持Fine-tune2.Github地址https://github.com/GaiZhe
engchina·2023-09-30 15:12

LLM-大模型训练-步骤(一)：词表扩充【sentencepiece】

在通用中文语料上训练了基于sentencepiece的20K中文词表并与原版LLaMA模型的32K词表进行合并排除重复的token后，得到的最终中文LLaMA词表大小为49953需要注意的是，在fine-tune
u013250861·2023-09-23 22:37

对比学习NLP

非联合方法自监督：构造增强样本，fine-tune模型：Bert-CT，ConSERT，SimCSE。
zhurui_xiaozhuzaizai·2023-09-22 03:51

ATF编译报错，更新工具链后解决

同一个问题被两个人问到，都是ATF源码编译不过，更新工具链后解决unknownvaluearmv8.5-a’for-marchcc1:error:unknownvaluecortex-a55’for-tune
代码改变世界ctw·2023-09-21 04:03

大语言模型之八-提示工程（Prompt engineer）

LLM中的prompt方法主要用于fine-tune阶段，即在预训练的基础上，针对特定任务的模板或提示语，这些提示语通常包含了问题的关键信息，例如问题类型、答案类型、限制条件等，通过少量的标注数据（提示语
shichaog·2023-09-12 16:10

使用RoBERT进行fine tune来复现GLUE的效果

文章目录一.参考博客or文献二.ProprocessGLUEtaskdata2.1下载GLUE的数据集2.2预处理GLUE的数据集2.2.1算法思路与整体代码以及运行结果图2.2.2完整代码与处理结果三.使用预处理好的数据集进行finetune3.1将RoBERTa的模型下载到本地3.2微调任务之RTE(句子二分类任务)一.参考博客or文献FinetuningRoBERTaonGLUEtasks二
phac123·2023-09-12 10:35

打卡记（0402）吉隆坡的酒店

以下是我去吉隆坡旅游曾住过的酒店，有5星级的且紧邻吉隆坡电视塔的如pacificregency，有位于安邦路上离双子塔比较近的公寓式酒店SuCasa，有位于唐人街的有点像招待所的SwissINN，还有亚航自有的经济酒店Tune
玥父·2023-09-11 19:19

Windows10上使用llama-recipes(LoRA)来对llama-2-7b做fine-tune

刚刚在Windows10上搭建环境来对llama2做finetune，里面坑还是挺多的，这里把印象中的坑整理了一下以作备忘。llama-recipes是meta的开源项目，Github地址为：GitHub-facebookresearch/llama-recipes:ExamplesandrecipesforLlama2modelllama2同样也是meta的开源LLM模型，因此用此项目做fine
lhf2112·2023-09-03 04:24

keras ”冻结“ 网络层

在进行fine-tune时我们经常会需要这项操作。在使用固定的embedding层处理文本输入时，也需要这个技术。
Matrix0·2023-09-01 18:46

一篇文章搞定OpenAI的微调fine-tune

GPT推出了Fine-tune微调模型，让我们可以基于自己的数据，对GPT进行微调训练。这里不讲述概念，因为网上都是概念，这里直接上实操。
小~小·2023-08-31 07:15

文本匹配模型实验报告-text2vec

为解决BERT原生句子表示这种“坍缩”现象，Su[21]提出了一种排序Loss的句向量表示模型——CoSENT，通过在目标领域的监督语料上Fine-tune，使模型生成的句子表示与下游任务的数据分
狮子座明仔·2023-08-29 02:51

Prompt Tuning 和instruct tuning

我们想判断一下这句话的情感是正面还是负面fine-tune的方法是在bert之后接一个head，然后调整整个模型。
泯灭XzWz·2023-08-26 10:04

Pytorch-day09-模型微调-checkpoint

模型微调（fine-tune)-迁移学习torchvision微调timm微调半精度训练起源：1、随着深度学习的发展，模型的参数越来越大，许多开源模型都是在较大数据集上进行训练的，比如Imagenet-
闪闪发亮的小星星·2023-08-24 11:26

ffmpeg从摄像头获取视频流

ffmpeg-list_devicestrue-fdshow-idummyffmpeg-fdshow-ivideo="e2eSoftiVCam"-vcodeclibx264-preset:vultrafast-tune
kellerxq·2023-08-22 20:32

Pytorch-day09-模型微调-checkpoint

模型微调（fine-tune)-迁移学习torchvision微调timm微调半精度训练起源：1、随着深度学习的发展，模型的参数越来越大，许多开源模型都是在较大数据集上进行训练的，比如Imagenet-
闪闪发亮的小星星·2023-08-22 01:55

Fine tune简介

IntroRelatedworkExample.1重新训练.2使用新的数据集进行finetune.3修改net结构References移学习不是一种算法而是一种机器学习思想，应用到深度学习就是微调（Fine-tune
啥也不是的py人·2023-08-19 05:40

openEuler Meetup 广州站 精彩回顾

10月21日，openEulerMeetup广州站成功举办，本次Meetup上就openEuler嵌入式平台openEulerEmbedded、智能调优工具A-Tune、智能运维项目A-ops、高性能用户协议栈
openEuler社区·2023-08-16 17:05

BLIP-Diffusion

优点：1.几乎不用fine-tune2.生成图像所需的step数很少3.zero-shot生成4.
52Tiramisu·2023-08-15 23:48

自然语言处理: 第八章chatGPT的搭建

Transformer大模型家族可以分成三类,至于三者的区别可以参考上一章:Encoder-only,Decoder-only,只需要Pre_trainEncoder-decoder,可以在一些任务上无需进行fine_tune
曼城周杰伦·2023-08-15 07:31

pytorch使用Ray-tune对原有训练模型的代码改写，自动调参（一）

借助Ray-tune可以对pytorch自动调参，下面就一步步地改写，从原始的训练代码慢慢变为可以自动调参的代码的教程•保姆级：文章目录安装依赖pytorch模型改写至自动调参步骤1：原有代码要跑通步骤
呆萌的代Ma·2023-07-31 15:51

机器学习分布式框架ray tune笔记

RayTune作为Ray项目的一部分，它的设计目标是简化和自动化机器学习模型的超参数调优和分布式训练过程。RayTune简化了实验过程，使研究人员和数据科学家能够高效地搜索最佳超参数，以优化模型性能。RayTune的主要特点包括：超参数搜索空间规范:RayTune允许您使用多种方法定义超参数搜索空间，如网格搜索、随机搜索和贝叶斯优化。这使您能够轻松地尝试不同的超参数组合。与多种机器学习库集成:Ra
Aresiii·2023-07-29 13:06

机器学习：GPT3

训练GPT3的代价是$12百万美元Zero-shotAbilityGPT3的思想是不是能拿掉Fine-tune只需要给定few-shot或者zero-shot就能干相应的任务了。
uncle_ll·2023-07-26 08:34

【论文精读】Tune-A-Video: One-Shot Tuning of Image Diffusion Models for Text-to-Video Generation

Tune-A-Video:One-ShotTuningofImageDiffusionModelsforText-to-VideoGenerationvideo-to-videoAbstractIntroductionMethodDiffusionModelsLatentDiffusionModelOne-shotVideoGenerationOurTune-A-Videoattentionblo
_企鹅_·2023-07-25 23:30

独步潮流！如何在私有数据集上塑造GPT式大型语言模型的独特风格！

导读Fine-tune是一种能够以成本效益的方式调整预训练LLM的技巧。
CVHub·2023-07-24 18:34

Fine-tune mT5模型

我们之前介绍过，Google的大规模预训练语言模型T5(Text-to-TextTransferTransformer)是仅仅基于英文语料训练的，因此无法应用在中文语料上。之后，Google又相继推出了支持多语言的版本——mT5(MultilingualT5)，没错，就是“走自己的路，让别人无路可走”的感觉，不过因此也就方便我们(站在巨人的肩膀上)使用中文数据了。本文会介绍调用mT5模型的关键代码
乘瓠散人·2023-07-21 05:29

ChatGLM-6B微调实践与问题汇总（fine-tune+p-tuning+知识遗忘解决尝试）

ChatGLM-6B微调实践与问题汇总（fine-tune+p-tuning+知识遗忘解决尝试）1.介绍ChatGLM-6B是一个开源的、支持中英双语的对话语言模型，基于GeneralLanguageModel
bmfire·2023-07-19 09:10

x264编码参数详细介绍：cpu与Video properties

x264编码器全部参数的集合可以参考：x264参数全集_DogDaoDao的博客-CSDN博客profile、preset、tune等参数集具体详细介绍可以参考：x264编码参数详细介绍
DogDaoDao·2023-07-17 10:16

x264参数全集

本文只备注全部参数集合，其中profile、preset、tune参数具体含义可参考：x264编码参数详细介绍：profile、preset、tune_DogDaoDao的博客-CSDN博客其中cpu、
DogDaoDao·2023-07-17 10:15

x264编码参数详细介绍：profile、preset、tune

说明下载：https://www.videolan.org/developers/x264.html一款遵循h264标准的开源视频编码器；x264编码器全部参数的集合可以参考：https://blog.csdn.net/yanceyxin/article/details/131726940cpu、Videoproperties模块的参数详细介绍可参考：https://blog.csdn.net/y
DogDaoDao·2023-07-17 10:45

X264编码---基本参数设置

x264编码有3个重要的相关参数，preset-tune-profile参数设置相关函数：x264_param_t*pParam=(x264_param_t*)malloc(sizeof(x264_param_t
人间凑数·2023-07-17 10:14

x264编码参数详细介绍：Encoder

x264编码器全部参数的集合可以参考：x264参数全集_DogDaoDao的博客-CSDN博客profile、preset、tune等参数集具体详细介绍可以参考：x264编码参数详细介绍_DogDaoDao
DogDaoDao·2023-07-17 10:37

如何使用OpenCV RTMP直播推流

目录本文前提Python代码推流测试参数详解码率控制X264的preset和tune参数优化一般概念本文前提安装Python环境、安装OpenCV、安装安装FFmpeg并添加到系统环境变量；如果是Linux
小锋学长生活大爆炸·2023-07-16 10:50

大模型Founation Model

一、背景自从chatgpt，gpt4以特别好的效果冲入人们的视野中，也使得AI产业发生了巨大变革，从17年以来的bert，将AI的各种领域都引入bert类的fine-tune方法，来解决单个领域单个任务的一一个预训练模型
be_humble·2023-07-15 15:29

OpenEuler上MySQL性能测试工具sysbench的部署与使用

此篇接上一篇OpenEuler上MySQL的部署与使用，最终目的是在OpenEuler上用A-Tune工具实现对MySQL的性能调优，调优过程需要能对性能进行评价的工具，于是选择了sysbench。
albert-rabbit·2023-07-15 01:16
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他