feature-based

论文笔记BERT: Bidirectional Encoder Representations from Transformers

BERT:BidirectionalEncoderRepresentationsfromTransformers.应用预训练模型于下游任务有两种策略，分别是feature-based和fine-tuning
AI强仔·2024-01-03 15:26

yolov8知识蒸馏代码详解：支持logit和feature-based蒸馏

文章目录1.知识蒸馏理论2.yolov8蒸馏代码应用2.1环境配置2.2训练模型(1)训练教师模型(2)训练学生模型baseline(3)蒸馏训练3.知识蒸馏代码详解3.1蒸馏参数设置3.2蒸馏损失代码讲解3.2.1Featurebasedloss3.2.1Logitloss3.3获取蒸馏的featuremap及channels
@BangBang·2024-01-01 23:13

知识蒸馏概述及开源项目推荐

文章目录1.介绍2.知识2.1基于响应的知识（response-based）2.2基于特征的知识(feature-based)2.3基于关系的知识(relation-based)3.蒸馏机制3.1离线蒸馏
@BangBang·2023-11-12 13:39

[半监督学习] FeatMatch: Feature-Based Augmentation for Semi-Supervised Learning

一些先进的半监督学习方法使用基于图像的转换增强和一致性正则化的组合策略.在FeatMatch中,提出了一种新颖的基于学习特征的细化和增强方法,该方法可产生各种复杂的转换集.重要的是,这些转换使用了通过聚类提取的类内和跨类原型表示中的信息.这些转换与传统的基于图像的增强相结合,被用作基于一致性的正则化损失的一部分.论文地址:FeatMatch:Feature-BasedAugmentationfor
码侯烧酒·2023-11-04 10:41

BERT论文解读: Pre-training of Deep Bidirectional Transformers for Language Understanding（2018）

论文同时也进行了模型下游任务训练时feature-based和fine-tuning的对比分析。BERT模型的测试结果，有几个重要结论和启
响尾大菜鸟·2023-09-03 08:14

图像质量评价（IQA）MULTIPLE LEVEL FEATURE-BASED UNIVERSAL BLIND IMAGE QUALITY ASSESSMENT MODEL

2018年icip的一篇文章，主要提出的问题是现有的数据库（LIVE,CSIQ）中，人为合成的具有单一变形的distortion图片，根据low-level的特征可以与人眼感知达到一个很好的一致性。但是对于更为复杂的distortion，亮度，对比度等全局的统计特性发生了改变，low-level的特征作用就有限了，同时很难找到一张合适的图片作为referenceimage做有参考的质量评价。针对这
牛肉塔克·2023-03-23 17:00

[2021ICLR]Improve Object Detection with Feature-based Knowledge Distillation 论文笔记

动机认为目标检测知识蒸馏效果不好的问题出在两个地方。1.前背景像素比例不平衡问题。提出了基于注意力引导的提取方法，利用==注意机制(而非gt)找到前景物体的关键像素点==，使学生更加努力地学习前景物体的特征。具体做法是在backbone处，利用attention生成一个fine-grainedmask而非二值mask，并且生成的mask包含空间maskMs∈RH,W和通道maskMc∈Rc两个部分
机器就不学习·2023-01-12 13:34

【论文解读：bCNN-Methylpred: Feature-Based Prediction of RNA Sequence Modification Using Branch Convoluti】

bCNN-Methylpred:基于特征的基于分支卷积神经网络的RNA序列修饰预测摘要1、介绍2、相关研究（1）CNN的一个新分支：该网络结合了不同编码方案的特征，准确地预测了不同RNA序列中的m6a位点（2）一种新的编码方案：我们提出了一种新的环状编码方案，它考虑了RNA序列中四个核苷酸碱基的每一个可能的组合，即腺嘌呤(A)、胞嘧啶(C)、鸟嘌呤(G)和尿嘧啶(U)。该编码方案进一步提高了对不同
HXH@·2023-01-06 16:57

三万字整理深度匹配模型

的这篇综述性slides《DeepLearningforMatchinginSearchandRecommendation》，重点阐述搜索和推荐中的深度匹配问题，非常solid的综述，针对里面的一些方法，尤其是feature-based
zenRRan·2022-12-21 13:43

BERT基于transformer的双向编码器

BERT（BidirectionEcoderRepresentationsfromTransformers）：左右信息，深的双向Transformer编码（enceder）模型基于特征的模型feature-based
山上的小酒馆·2022-12-03 20:09

CS224W: Machine Learning with Graphs - 02 Traditional Feature-based Methods

TraditionalFeature-basedMethods1.TraditionalMLPipelineDesignfeaturesfornodes/links/graphsObtainfeaturesforalltrainingdata2.DesignChoicesFeatures:ddd-dimensionalvectorsObjects:Nodes,edges,setofnodes,en
xbfu-xjtu·2022-11-30 23:21

Bert预训练模型

之前的：基于特征（feature-based）ELMO预训练的表示作为附加特征基于微调（fine-tuning）GPTBERT（BidirectionalEncoderRepresentationfromTransformers
绿箭薄荷·2022-11-29 13:05

IMPROVE OBJECT DETECTION WITH FEATURE-BASED KNOWLEDGE DISTILLATION: TOWARDS (2021 ICLR)----论文和博客读书笔记

IMPROVEOBJECTDETECTIONWITHFEATURE-BASEDKNOWLEDGEDISTILLATION:TOWARDSACCURATEANDEFFICIENTDETECTORSABSTRACTRELATEDWORKComparisonbetweentheproposedattention-guideddistillationandothermethods.METHODOLOGYA
落了一地秋·2022-11-26 21:30

推荐系统——开源代码

也有重量级的适用于工业系统的Mahout、Oryx、EasyRecd等#1.SVDFeature主页：http://svdfeature.apexlab.org/wiki/Main_Page语言：C++一个feature-based
傅里叶、·2022-11-25 06:21

Self-Supervised Learning (ELMO, BERT, GPT, Auto-encoder)

目录Themodelsbecomelargerandlarger…Self-supervisedLearningELMO(feature-based)Howtorepresentaword?
连理o·2022-11-19 13:47

GID：旷视提出全方位的检测模型知识蒸馏 | CVPR 2021

论文提出的GID框架能够自动选择可辨别目标用于知识蒸馏，而且综合了feature-based、relation-based和response-based知识，全方位蒸馏，适用于不同的检测框架中。
晓飞的算法工程笔记·2022-07-03 13:57

GID：旷视提出全方位的检测模型知识蒸馏 | CVPR 2021

论文提出的GID框架能够自动选择可辨别目标用于知识蒸馏，而且综合了feature-based、relation-based和response-based知识，全方位蒸馏，适用于不同的检测框架中。
·2022-07-01 12:11

transformer-Autoencoding Language Models数学原理及模型架构解析

1，Auto-encodingLanguageModels通用数学原理详解2，为何要放弃采用Feature-Based语言模型ELMo而使用Fine-tuning模型？
普通网友·2022-06-25 07:05

学习笔记：深度学习（5）——词向量的相关概念

学习时间：2022.04.21文章目录4.词向量的相关概念4.1概念定义4.1.1词向量4.1.2词嵌入WordEmbedding4.1.3预训练Pre-training（1）Frozon/Feature-based
新四石路打卤面·2022-04-23 07:59

Feature-Based Matrix Factorization

前记上一篇讲到libFM的作者对比了libFM和SVDFeature，认为SVDFeature也是一种通用的矩阵分解模型，但是各有优缺点：缺点：SVDFeature有限制条件，只能对两个类别型的特征进行分解；只能用SGD算法来优化，MCMC更好用优点：在有限制条件下的情况可以使用更高效的优化算法所以，我们看看为什么作者这么说？SVDFeatureSVDFeature作者是大神陈天奇，也是XGBoo
xiiatuuo·2021-04-30 12:44

Reliable Data Association for Feature-Based Vehicle Localization using Geometric Hashing Methods

文章目录生成几何哈希表基于哈希表的定位  基于几何哈希的全局定位，由特征的相对位置关系生成局部地图加入哈希表，通过相对位置关系实现定位。从实验看，精度有待提高的同时，算法在空间和时间等方法也不能令人满意。生成几何哈希表  针对现有的地图离线生成哈希表供定位查询，目前算法生成的哈希表规模较大。在距离阈值内选择一对特征生成二维坐标系，将领域的地图投影到坐标系中压缩到指定大小加入哈希表中。同时还考虑了测
翡翠之幻·2021-02-21 21:59

A Two-stage Approach for Extending Event Detection to New Types via Neural Networks

在新数据上比较CNN和feature-based方法。提出一个两阶段训练算法，帮助CNN将知识从旧事件转到新事件。
青椒rose炒饭·2021-01-10 11:25

[Search Engines笔记] 16: Ranked retrieval: Feature-based models

参考文档：Jamie的课件：http://boston.lti.cs.cmu.edu/classes/11-642/阿衡的SE笔记：http://www.shuang0420.com/categories/NLP/Search-Engines/为啥要LearningtoRank：我们已经学习了很多的检索方法：RetrievalModels：VectorSpace，BM25，languagemode
cos2cot·2020-09-14 13:31

条件随机场（CRF）和隐马尔科夫模型（HMM）

转载自机器不学习（2018-02-28）的回答CRF是一个feature-based模型。你实际用的时候可以把feature放到node或者边上面。
Group3304·2020-08-22 12:47

RGB-D dense mapping with feature-based method

RGB-Ddensemappingwithfeature-basedmethod基于ORB-SLAM2和Kintinuous的稠密建图。系统框图：系统流程描述：（1）使用Kintinuous中提出的movingvolume来表示当前帧视野范围内的重建区域，不同于kintinous在位姿图优化后用嵌入的变形图修正点，文中将图像与优化后的相机位姿重新融合，在用户扫描结束后再生成稠密的表面。（2）用重构
Lucas19970106·2020-07-27 18:29

搜索推荐中的召回匹配模型综述(一)：传统方法

的这篇综述性slides《DeepLearningforMatchinginSearchandRecommendation》，重点阐述搜索和推荐中的深度匹配问题，非常solid的综述，针对里面的一些方法，尤其是feature-based
hellozhxy·2020-07-11 07:06

LSD SLAM和ORB SLAM的对比

和LSDSLAM想对应的feature-based的ORBSLAM则是又一代表性工作。
OsgoodWu·2020-07-01 12:34

BERT简单理解-入门

之前，利用预训练的语言表征来完成下游NLP任务的研究，可以概括为两类：feature-based
lijfrank·2020-06-21 20:40

预训练语言模型 | (3) Bert

原文链接目录1.背景2.Bert流程和技术细节3.总结1.背景在bert之前，将预训练的embedding应用到下游任务的方式大致可以分为2种，一种是feature-based，例如ELMo这种将经过预训练的
CoreJT·2020-02-05 22:41

开源的推荐系统收集

#1.SVDFeatureSVDFeature语言：C++一个feature-based协同过滤和排序工具，由上海交大Apex实验室开发，代码质量较高。
朱立志·2019-11-03 14:17

预训练语言表达模型之BERT

Pre-trainingofDeepBidirectionalTransformersforLanguageUnderstanding介绍语言模型的预训练能够提高语言任务的性能（就像cv中的imagenet预训练），将预训练的语言表达应用到下游的任务(down-streamtasks)有两种策略：（1）Feature-based
萧风萧雨·2019-05-30 20:57

bert原理和实验

回顾现在有很多利用预训练的语言表征来完成下游NLP任务的研究，作者把它们概括为两类feature-based和fine-tuning:分类代表task-specific模型使用
阿尔法小队·2019-03-22 11:08

BERT介绍

回顾现在有很多利用预训练的语言表征来完成下游NLP任务的研究，作者把它们概括为两类feature-based和fine-tuning:分类代表task-specific模型使用
triplemeng·2018-10-20 12:53

10大开源的推荐系统

#1.SVDFeatureSVDFeature语言：C++一个feature-based协同过滤和排序工具，由上海交大Apex实验室开发，代码质量较高。
EasyUX·2016-09-06 14:24

基于图像特征的视觉跟踪系统（Feature-based visual tracking systems）

最近读到一篇关于视觉跟踪的综述性文章，“Evaluation of Interest Point Detectors and Feature Descriptors for Visual Tracking”，发表在2011年3月International Journal of Computer Vision上。作者非常详尽的评估了2010年之前的图像检测子及图像描述子（检测子包括Harris
·2015-11-13 18:20

Google Play和基于Feature的过滤

田海立@CSDN 翻译自Google Play and Feature-Based Filtering GooglePlay会过滤出那些对用户可见的应用程序，因此用户只能看到和下载那些与他们的设备兼容的应用程序
·2015-11-12 23:37

基于图像特征的视觉跟踪系统（Feature-based visual tracking systems）--一篇综述

最近读到一篇关于视觉跟踪的综述性文章，“EvaluationofInterestPointDetectorsandFeatureDescriptorsforVisualTracking”，发表在2011年3月InternationalJournalofComputerVision上。作者非常详尽的评估了2010年之前的图像检测子及图像描述子（检测子包括HarrisCorner、Shi-Tomasi
anshan1984·2013-04-29 11:00
上一页 1 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他