Fine

【AI】一文读懂大模型套壳——神仙打架？软饭硬吃？

目录一、套壳的风波此起彼伏二、到底什么是大模型的壳2.1大模型的3部分，壳指的是哪里大模型的内核预训练（Pre-training）调优（Fine-tuning）2.2内核的发展历程和万流归宗2.3套壳不是借壳三
giszz·2024-01-06 04:47

对Stable Diffusion做fine-tune时遇见的bug

由于我的显卡比较垃圾(3050),加载模型时都用的torch.dtype=float16后来用下列方式保存模型：pipeline=StableDiffusionPipeline(text_encoder=text_encoder,vae=vae,unet=unet,tokenizer=tokenizer,scheduler=PNDMScheduler(beta_start=0.00085,beta
幼稚的云锣·2024-01-05 21:03

自然语言转SQL，一个微调ChatGPT3.5的实例(下)--模型微调及模型性能

os.getenv("OPENAI_API_KEY")print(openai.File.create(file=open("spider-finetuning.jsonl","rb"),purpose='fine-tun
数大招疯·2024-01-05 08:01

在Ubuntu22.04上部署Stable Diffusion

在AI绘画软件领域Stable-Diffusion（简称SD）在开源领域绝对是不二之选，他的插件方式可以让此软件具有更多的功能，开发者社群为此提供了大量免费高质量的外接预训练模型（fine-tune）和插件
BBM的开源HUB·2024-01-05 01:20

BERT(Bidirectional Encoder Representations from Transformers)理解

因此，预训练的BERT表示可以通过一个额外的输出层进行微调（fine-tuning），适用于广泛任务的最先进模型的构建，比如问答任务和语言推理，无需针对具体任务做大幅架构修改。
weixin_30425949·2024-01-04 13:59

#开始记日记#540 模子菜是咋回事，古城老院的fine dining

昨天日记里说了一个小青菜拌百叶，我是这样写的：喜欢这个爽口有味有嚼头的小青菜拌百叶。这个在上海叫模子菜，当年一些混社会的人到乍浦路、黄河路宵夜，经常会让厨师做一些自己配搭出的菜，慢慢这些菜流行起来，上了一些餐厅的菜单。上海把这种混社会的人叫做模子，他们编创的菜也就被叫做模子菜了。图片发自App在朋友圈里引起了很多上海本地朋友的评论。仔细看过后，大致清楚了所谓模子菜的意思以及来龙去脉。方言有些时候只
董克平日记·2024-01-04 12:42

大语言模型LLM微调技术：P-Tuning

1引言Bert时代，我们常做预训练模型微调（Fine-tuning），即根据不同下游任务，引入各种辅助任务loss和垂直领域数据，将其添加到预训练模型中，以便让模型更加适配下游任务的方式。
智慧医疗探索者·2024-01-04 07:28

五年级Lesson 14 Jenny Writes a Postcard反思

2.能听懂、会说、认读并书写下列词汇：write,mum,dad,dear,fine,left,right3.能认读、理解并运用下列基本句型结构：Wheredoyouwriteonapostcard?
远方那朵格桑花·2024-01-04 07:47

AI智能助手peropure·AI正式上线，打造场景化智慧服务空间

面对技术浪潮,清越科技(PeroPure)立足多样化生活场景、精准把握用户实际需求,持续精确Fine-tune技术能力,创新AI应用方式,于今年7月正式推出智能服务式AI产品——peropure·
仙剑魔尊重楼·2024-01-04 04:52

BERT -Bidirectional Encoder Representation from Transformers[2018GoogleLab]

整体介绍Bert主要工作分为pre-traing(预训练)与fine-tuning（微调），核心工作是预训练，微调是根据down-streamtask（下游任务）进行修改即可预训练的输入：unlabelledsentencepair
思考实践·2024-01-03 15:26

论文笔记BERT: Bidirectional Encoder Representations from Transformers

BERT:BidirectionalEncoderRepresentationsfromTransformers.应用预训练模型于下游任务有两种策略，分别是feature-based和fine-tuning
AI强仔·2024-01-03 15:26

大语言模型LLM微调技术：Prompt Tuning

预训练语言模型的发展历程截止23年3月底，语言模型发展走过了三个阶段：第一阶段：设计一系列的自监督训练目标（MLM、NSP等），设计新颖的模型架构（Transformer），遵循Pre-training和Fine-tuning
智慧医疗探索者·2024-01-03 08:57

记录很久没有的工作到深夜

但是通宵写ppt这个已经很久没有感受过了，可能偶尔是会突然大脑短路了，心脏也有点钝钝的，但是Fine，一切都还不错。图片发自App希望明天超越妹妹保佑，逆天改命！心想事成！一切顺利！
Louiefff·2024-01-03 04:55

大语言模型（LLM）框架及微调 (Fine Tuning)

大语言模型（LLM）是指由大规模训练语言模型所得的模型。这些模型通常使用深度学习方法，在巨大的文本语料库上进行训练，以学习语言的各种结构、规则和特征。LLM在自然语言处理（NLP）任务中表现出色，如机器翻译、文本生成、问题回答等。LLM框架由两个主要步骤组成：预训练和微调。在预训练阶段，模型通过对大规模语料库进行无监督学习来学习语言。这个过程通常使用Transformer模型结构，在大规模计算资源
m0_黎明·2024-01-03 01:06

day4--GPT/GPT2.0

GPTGPT训练的两个阶段：GPT的架构图：自注意力机制：GPT-2GPT-2的架构图：GPTGPT训练的两个阶段：第一个阶段是Pre-training阶段，主要利用大型语料库完成非监督学习；第二阶段是Fine-tuning
呆呆有库·2024-01-02 14:13

嵌入式视频播放器（mplayer）

1.文件准备：MPlayer-1.0rc2.tar.bz2libmad-0.15.1b.tar.gz直接Git到本地gitclonehttps://gitee.com/zxz_FINE/mplayer_tarball.git2
想和我重名？·2024-01-02 08:06

BERT: Pre-training of Deep Bidirectional Transformers for Language Understading

通过这种方式预训练的表示只需要一个额外的输出层来fine-tune一下就可以在众多任务上实现SOTA。BERT一共在7个自然语言处理任务上获得SOTA结果，并且将GLU
chansonzhang·2023-12-31 07:28

Language Models as Knowledge Bases?

语言模型相比于结构化的知识库具有很多优势，比如不需要schemaengineering支持对于开放关系类别的查询容易扩展到更多数据训练时不需要humansupervision我们对各种预训练语言模型中已有的（没有fine-tuning
chansonzhang·2023-12-31 07:28

Fine-Tuning Language Models from Human Preferences

Abstract奖励学习（rewardlearning）可以将强化学习（RL）应用到由人类判断定义奖励的任务中，通过询问人类问题来构建奖励模型。奖励学习的大部分工作使用了模拟环境，但是关于价值的复杂信息经常是以自然语言的形式表达的。我们相信语言奖励学习是使强化学习在现实世界任务中实用且安全的关键。在本文中，我们基于语言模型生成式预训练方面的进展，将奖励学习应用于四种自然语言任务：continuin
chansonzhang·2023-12-31 07:54

大语言模型（LLM）框架及微调 (Fine Tuning)

大语言模型（LLM）技术作为人工智能领域的一项重要创新在今年引起了广泛的关注。LLM是利用深度学习和大数据训练的人工智能系统，专门设计来理解、生成和回应自然语言。这些模型通过分析大量的文本数据来学习语言的结构和用法，从而能够执行各种语言相关任务。LLM技术也发挥了关键作用。此外，它还在代码生成、文本摘要、翻译等任务中展现了强大的通用性。LLM技术应用类型分别为大模型、AI编程、工具和平台、基础设施
ejinxian·2023-12-31 06:20

【 FILIP】一种大规模细粒度交互式语言图像预训练方法

FILIPPaper:Fine-grainedInteractiveLanguage-ImagePretrainAuthor:LeweiYao,RunhuiHuang,LuHou1,GuansongLu
菜鸡不叫·2023-12-31 04:03

Android BLE扫描不到设备

AndroidBLE相关功能开发问题描述AndroidBLE存在扫描不到设备的情况原因分析：1.Android6.0及以上版本BLE扫描需要配置定位权限（ACCESS_COARSE_LOCATION和ACCESS_FINE_LOCATION
潇潇独行侠·2023-12-30 12:53

工具系列：TimeGPT_(5)特定领域微调模型

Fine-tuning（微调）是一种更有效地利用TimeGPT的强大过程。基础模型在大量数据上进行预训练，捕捉广泛的特征和模式。然后可以将这些模型专门用于特定的上下文或领域。
愤斗的橘子·2023-12-30 03:40

【图像拼接】论文精读：Coarse-to-fine Seam Estimation for Image Stitching

第一次来请先看这篇文章：【图像拼接（ImageStitching）】关于【图像拼接论文精读】专栏的相关说明，包含专栏使用说明、创新思路分享等（不定期更新）图像拼接系列相关论文精读SeamCarvingforContent-AwareImageResizingAs-Rigid-As-PossibleShapeManipulationAdaptiveAs-Natural-As-PossibleImag
十小大·2023-12-29 09:47

Fine BI-区域销售分析

一、数据准备：本篇文章数据来源：FineBI官方数据1.数据表：销售明细表、品牌维度表、门店维度表、品类维度表2.创建关联关系：关联关系视图3.最终数据结构：二、区域销售从以下几方面分析：1.总销售额、毛利额和毛利率；2.各大区销售占比情况；3.各小区销售排名情况；4.各大区、小区门店分布情况；5.各小区各品类销售情况；6.各小区各品牌销售情况；7.各小区月销售趋势；8.华北区7月与6月各品牌销售
AoEliauk·2023-12-28 20:31

You're Going to Be Fine(ACT I) 1

Molly,Ineedyourspecialtalentforhandingspecialmatters.Likewhatspecialmatters?Well,Ihaveascheduling(日程)problem.Yes?Ihavethreetonsillectomies(扁桃体切除术)setforFridaywithDr.Earl.Yes?Ineedtofitafourthoperation
LuminaryWL·2023-12-28 18:01

【翻译】Ian回复V神的7个问题

本文原文链接为https://steemit.com/eos/@iang/another-fine-mess-you-ve-got-us-into，由本号“EOS技术爱好者”翻译。"
Lochaiching·2023-12-28 17:01

【Kimi帮我看论文(二)】Parameter-Efficient Fine-Tuning Methods for Pretrained Language Models—Survey

一、论文信息1标题Parameter-EfficientFine-TuningMethodsforPretrainedLanguageModels:ACriticalReviewandAssessment2作者LinglingXu,HaoranXie,Si-ZhaoJoeQin,XiaohuiTao,FuLeeWang3研究机构HongKongMetropolitanUniversity,Hong
ZedKingCarry·2023-12-28 00:45

Huggingface T5模型代码笔记

0前言本博客主要记录如何使用T5模型在自己的Seq2seq模型上进行Fine-tune。1文档介绍本文档介绍来源于Huggingface官方文档，参考T5。
Q同学的nlp笔记·2023-12-27 19:14

使用 PAI-Blade 加速 StableDiffusion Fine-Tuning

01背景StableDiffusion模型自从发布以来在互联网上发展迅猛，它可以根据用户输入的文本描述信息生成相关图片，用户也可以提供自己喜爱的风格的照片，来对模型进行微调。例如当我们输入"Aphotoofsksdoginabucket"，StableDiffusion模型会生成类似下面的图片：02PAI-Blade加速PyTorch训练PAI-Blade使用编译优化技术提高PyTorch程序的执
阿里云大数据AI技术·2023-12-27 00:49

2018-08-10

5.Fine,thankyou/thanks.我很好，谢谢。6.Notbad,thankyou.不错，谢谢。7.Howdoyoudo?你好。8.Nicetom
入夏孤桐·2023-12-26 22:15

《Learning Fine-grained Features via a CNN Tree for Large-scale Classification》阅读笔记

论文标题《LearningFine-grainedFeaturesviaaCNNTreeforLarge-scaleClassification》通过CNN树学习细粒度特征，实现大规模分类作者ZhenhuaWang，XingxingWang，GangWang以色列耶路撒冷希伯来大学计算机科学与工程学院新加坡南洋理工大学电气与电子工程学院阿里巴巴人工智能实验室，杭州，中国初读摘要我们提出了一种增强卷
AncilunKiang·2023-12-26 09:09

You're Going to Be Fine(ACT I) 2

Well,Mrs.Herrera,Carlwillbeperfectlyfineafterweremovehistonsils.Thankyouforyourreassurance,Dr.Stewart.He'shadsomanycoldsandsorethroatsrecently.Well,it'saveryeasyoperstion,Carl.Youwon'tfeelathing.Butwh
LuminaryWL·2023-12-25 13:06

python AI视觉实现口罩检测实时语音报警系统

PaddlenHub模块PaddleHub是飞桨预训练模型管理和迁移学习工具，通过PaddleHub开发者可以使用高质量的预训练模型结合Fine-tuneAPI快速完成迁移学习到应用部署的全流程工作。
qq_30895747·2023-12-25 10:36

多模态大模型：关于分辨率那些事儿

Overview多模态大模型：关于分辨率那些事儿一：DocPedia总览二：Monkey总览三：Vary总览3.1Motivation3.2Method3.3Results3.3.1Fine-grainedPerceptionPerformance3.3.2DownstreamTaskPerformance3.3.3GeneralP
猴猴猪猪·2023-12-25 05:13

ros2humble使用gazebo加载urdf文件的基本流程

1：编写xacro文件2：把xacro文件转换为urdf文件3：使用gazebo建立sdf文件fine，也就是ros1里面的world文件，现在后缀是sdf文件了4：把urdf文件转换为sdf文件good5
geniusNMRobot·2023-12-24 12:47

权限列表

访问登记属性读取或写入登记check-in数据库属性表的权限ACCESS_COARSE_LOCATION获取错略位置通过WiFi或移动基站的方式获取用户错略的经纬度信息,定位精度大概误差在30~1500米ACCESS_FINE_LOCATION
支豪亮·2023-12-24 10:39

论文笔记--A Fine-grained Interpretability Evaluation Benchmark for Neural NLP

论文笔记--AFine-grainedInterpretabilityEvaluationBenchmarkforNeuralNLP1.文章简介2.文章概括3文章重点技术3.1数据收集3.2数据扰动3.3迭代标注和检查根因3.4度量3.4.1TokenF1-score3.4.2MAP(MeanAveragePrecision)4.文章亮点5.原文传送门1.文章简介标题：AFine-grainedI
Isawany·2023-12-24 03:35

计算机视觉任务汇总（超全）

目录四大基本任务1、分类（解决"what"）(1)图像分类常用数据集(2)图像分类经典网络结构（分类模型的解读）(3)模型设计领域热点回顾(4)模型上下游任务上游任务：下游任务：(5)细粒度图像分类(fine-grainedimageclassification
twinkle 222·2023-12-23 14:16

【Active Learning - 02】Fine-tuning Convolutional Neural Networks for Biomedical Image Analysis...

主动学习系列博文：【ActiveLearning-00】主动学习重要资源总结、分享（提供源码的论文、一些AL相关的研究者）：https://blog.csdn.net/Houchaoqun_XMU/article/details/85245714【ActiveLearning-01】深入学习“主动学习”：如何显著地减少标注代价：https://blog.csdn.net/Houchaoqun_XM
Houchaoqun_XMU·2023-12-23 03:22

标签正则化和硬标签、软标签、单标签、多标签

起因：最近在训练一个非常简单的二分类任务（计算描述两个实体的文本是否描述的是同一个实体），任务训练模式是用NLP大模型批量标注样本，在蒸馏后的robert_base上进行fine-tune，但是存在以下问题
云从天上来·2023-12-23 02:48

English phrase

morechallengingyetmorepractical更有挑战性但是更符合实际的pairwise成对的fine-grained精细的manifold流形zeroshotlearning0样本学习
satadriver·2023-12-22 15:10

Dynamic Coarse-to-Fine Learning for Oriented Tiny Object Detection（CVPR2023待补）

文章目录BeginningAbstract挑战方法成果Introduction引出问题早期的work及存在的问题近期的work及存在的问题ourworkContributionRelatedWork（paperforme）OrientedObjectDetectionPriorforOrientedObjectsLabelAssignmentTinyObjectDetectionMulti-sca
怎么全是重名·2023-12-22 08:15

顧問小學堂-7

Team1:DA4線-時間量測實操图片发自App複盤走線图片发自AppTeam2:業績對話評分員培訓图片发自AppM360&V360報廢共識會議图片发自App與P1T2Scrap交流图片发自AppTeam3:Fine
可小姐的繽紛世界·2023-12-22 07:57

python安装paddlehub时出现JSONDecodeError的解决方法

paddlehub是由百度的飞桨预训练模型管理和迁移学习工具，通过paddlehub开发者可以使用高质量的预训练模型结合Fine-tuneAPI快速完成迁移学习到应用部署的全流程工作。
qq_17219645·2023-12-21 14:26

Fine-Grained Semantically Aligned Vision-Language Pre-Training细粒度语义对齐的视觉语言预训练

abstract大规模的视觉语言预训练在广泛的下游任务中显示出令人印象深刻的进展。现有方法主要通过图像和文本的全局表示的相似性或对图像和文本特征的高级跨模态关注来模拟跨模态对齐。然而，他们未能明确学习视觉区域和文本短语之间的细粒度语义对齐，因为只有全局图像-文本对齐信息可用。在本文中，我们介绍放大镜，一个细粒度语义的LignedvisiOn-langUagePrE训练框架，从博弈论交互的新视角学习
Mars_prime·2023-12-19 08:34

谷歌笔记应用Notebook LM，添加Gemini Pro模型并扩大应用范围；Fine-Tuning预训练模型

AI新闻谷歌更新AI笔记应用NotebookLM，添加GeminiPro模型并扩大应用范围摘要：谷歌在今年5月推出的AI笔记应用NotebookLM进行了更新，主要添加了最新的GeminiPro模型，并扩大了应用使用范围。NotebookLM可以为用户生成笔记摘要等内容，并基于用户笔记上下文产生见解。谷歌还表示，开发人员使用了一系列模型确保用户得到快速而妥当的响应。不过，谷歌强调NotebookL
go2coding·2023-12-17 23:43

No Way & On Way

fine生活可真棒，前一秒，你满心欢喜觉得可以有一个planB保底了，总算长长舒了一口气。可是这种随时被人决定的感受真的一点也不好受，走入职场这条路真的好难，可是你有什么办法呢。你还能孩子多久呢。
personneye·2023-12-17 10:57

【示波器的基本使用】以及【示波器按键面板上各个按键含义的介绍】

文章目录一、面板按钮介绍1.1面板介绍1.2面板从上至下、从左至右，各常用按钮作用简述如下：1.2.1【最上面一排按钮】：（1）【通用旋钮】【选择(Select)】【精细(Fine)】:（2）【光标】:
Old_Driver_Lee·2023-12-17 00:01

ChatGPT原理学习

区别：BERT：完形填空：中间扣空了预测；GPT：预测未来GPT1：先要有个预训练模型，然后基于具体的应用做fine-tune（下游任务做微调），才能用GPT2不搞fine-tune了，直接搞个大模型，
stevewongbuaa·2023-12-16 18:59
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他