PTM

预训练语言模型transformer

决定PTM模型表现的真正原因主要有以下几点：更高质量、更多数量的预训练数据增加模型容量及复杂度，例如GoogleT5增加纵向复杂度，ALBERT增加横向复杂度，GPT3结合两者。
Icevivina·2024-01-28 11:48

科技查看测控哪块板子坏了

坏的点会变问号DIM遥信DOM遥控DLM遥测PTM母线遥测AIM直流图片发自App图片发自App图片发自App
苏帆_d731·2024-01-10 13:36

【芯片DFX】Arm调试架构篇

【芯片DFX】万字长文带你搞懂JTAG的门门道道【芯片DFX】ARM：CoreSight、ETM、PTM、ITM、HTM、ETB等常用术语解析
安全-Hcoco·2023-12-29 07:36

【芯片DFX】探索Arm调试架构

【芯片DFX】万字长文带你搞懂JTAG的门门道道【芯片DFX】ARM：CoreSight、ETM、PTM、ITM、HTM、ETB等常用术语解析
安全-Hcoco·2023-12-24 10:04

ARM调试CoreSight、ETM、PTM、ITM、HTM、ETB等常用术语解析

CoreSightCoreSightCoreSight是一种基础架构，它可对完整的芯片上系统(SoC)设计的性能进行调试、监视和优化，CoreSight™跟踪宏单元在SoC中提供全面的非干预性可见性。通过遵循CoreSight架构规范，可以方便地将合作伙伴特定的跟踪宏单元集成到CoreSight系统中ETM，嵌入式跟踪宏单元ETM宏单元为ARM微处理器提供实时指令跟踪和数据跟踪。跟踪软件工具使用E
天蓝如海_321·2023-11-21 21:30

本周最新文献速递20220327

Geneticregulationofpost-translationalmodificationoftwodistinctproteins不想看英文题目：两种不同蛋白质翻译后修饰的遗传调控模式杂志和影响因子：NatCommun(IF:14.92;Q1)研究意义：翻译后修饰(PTM
橙子牛奶糖·2023-11-13 16:06

windows 语音识别

进入“中文语音识别”目录，然后运行下面的命令pocketsphinxbinreleasex64pocketsphinx_continuous.exe-hmmzh_broadcastnews_ptm256
编程大乐趣·2023-11-07 03:51

谷歌AlphaFold模型迎来重大突破！可以预测生物分子、配体

据悉，AlphaFold可以对蛋白质数据库(PDB)中的几乎所有分子进行预测，包括配体、蛋白质、核酸（DNA和RNA）以及含有翻译后修饰(PTM)的分子，达到原子精度实验室级别水准，这对于医药研究至关
RPA中国·2023-11-04 22:50

prefix-tuning: optimizing continuous prompt for generation

有一类方法是使用了adaptertuning，freeze大多数的ptm的参数，嵌入额外的task-specific的参数，只调整部
onlyxinbaby·2023-10-16 01:42

Pre-Trained_Models_Past_Present_and_Future

论文：Pre-TrainedModels:Past,PresentandFuture摘要BERT、GPT等大规模预训练模型（PTM）最近取得了巨大成功，成为人工智能领域的里程碑。
RyanC3·2023-09-07 07:47

公平的轮换制度

整个规则以三个数学家名字的首字母命名，叫“PTM规则”。思路是这样的——第一轮是AB，第二轮就得反过来，变成BA，所以前两轮是ABBA。可是如果ABBA仍然有所偏向，那怎么办呢？
一枚冰儿·2023-09-04 13:04

ProtTrans-Glutar: 整合来自Pre-trained Transformer-Based Models的特征用于预测谷氨酰化位点【Frontiers in Genetics，2022】

研究背景：氨基酸的PTM(post-translationalmodification)能够改变蛋白的功能，其中赖氨酸谷氨酰化修饰(lysineglutarylation)指的是谷氨酰基团连接到赖氨酸残基上
@ZyuanZhang·2023-08-05 22:08

X - Transformer

回顾Transformer的发展Transformer最初是作为机器翻译的序列到序列模型提出的，而后来的研究表明，基于Transformer的预训练模型（PTM）在各项任务中都有最优的表现。
银晗·2023-07-25 12:50

【ARM Coresight 系列文章 10 - ARM Coresight STM 介绍及使用】

文章目录ARMSystemTraceMacrocellSTMFeaturesSTM与ETM/PTM的差异STMMasterARMSystemTraceMacrocellARM对STM的解释是其支持高带宽的
CodingCos·2023-07-18 05:39

项目模板管理脚手架ptm-cli开发

一、ptm-cli使用说明  projecttemplatemanagercli  一款对项目模板/项目进行管理的脚手架工具，具有添加模板/项目、编辑模板/项目、删除模板/项目、查看模板/项目以及下载项目和根据模板初始化项目等功能
Goodloving·2023-06-11 04:02

百度UNIMO模型--统一模态理解、跨模态对比学习

git地址：https://unimo-ptm.github.io。目前预训练模型仅使用单模态数据（文本或者图片），或者仅使用多模态数据（图片-文本对）。我们提出了UNIMO（UN
AI强仔·2023-06-08 19:27

教授专栏53 | 唐少军: 揭示spike蛋白PTM 探索蛋白功能位点

唐少军教授简介唐少军教授，香港科技大学（广州）系统枢纽生命科学与生物医学工程学域助理教授、香港科技大学EMIA学部助理教授、香港科技大学生命科学部联署助理教授。唐博士本科毕业于中山大学生命科学学院，于美国佛罗里达大学获得计算机工程硕士及生物信息学博士学位。随后唐博士在哈佛医学院从事博士后研究，并在美国乔治城大学医学院任助理教授。唐博士的研究主要集中在基因组、蛋白组大数据分析、生物信息软件和数据库开
香港科大商学院内地办事处·2023-04-16 12:33

本周最新文献速递20220327

Geneticregulationofpost-translationalmodificationoftwodistinctproteins不想看英文题目：两种不同蛋白质翻译后修饰的遗传调控模式杂志和影响因子：NatCommun(IF:14.92;Q1)研究意义：翻译后修饰(PTM
橙子牛奶糖·2023-04-09 08:34

Linux：获取高精度时间

timelocaltimetime函数，获取从1970到现在的秒数，精确度只有秒，通过localtime转换time_ttesttm;time(&testtm);testtm=time(NULL);structtm*ptm
技术探索者·2023-04-02 13:19

KE_PM

[TOC]动机现有的PTM有以下缺点：以预训练的语言模型为例，它们很好地学习频繁词的语义，但在受长尾数据分布限制的稀有词上表现不佳。
尼大玛·2023-03-31 18:53

扬帆起航，为你加油!

————参加初一家长会一点感想回忆在此之前参加的PTM，大多是总结孩子的性格和学习态度，孩子除了体育需要加强，面谈结束的总结就是保持端正认真的学习态度并继续A+，愉快而轻松。
窗外飘香·2023-03-22 22:48

万字解读：预训练模型最新综述！

本文深入研究了预训练的前世今生，并带领读者一起回顾PTM取得的最新突破，与未来的研究方向（文末附90分钟解读视频）。利用深度学习自动学习特征已经逐步取代了人工构建特征和统计方法。
文文学霸·2023-03-14 07:41

NLP之PTM：自然语言处理领域—预训练大模型时代的各种吊炸天大模型算法概述(Word2Vec→ELMO→Attention→Transfo→GPT系列/BERT系列等)、关系梳理、模型对比之详细攻略

NLP之PTM：自然语言处理领域—预训练大模型时代的各种吊炸天大模型算法概述(Word2Vec→ELMO→Attention→Transformer→GPT系列/BERT系列等)、关系梳理、模型对比之详细攻略导读
一个处女座的程序猿·2023-02-07 07:12

【PTM】Transformer-XL：捕捉超长上下文依赖

今天学习的是谷歌大脑的同学和CMU的同学于2019年联合出品的论文《Transformer-XL:AttentiveLanguageModelsBeyondaFixed-LengthContext》，目前被引次数超200次。这篇论文提出的Transformer-XL主要是针对Transformer在解决长依赖问题中受到固定长度上下文的限制，如Bert采用的Transformer最大上下文为512。
阿泽的学习笔记·2023-01-14 07:54

论文解读《STALLION：一个基于堆叠的原核赖氨酸乙酰化位点预测的集成学习框架》

期刊：BriefingsinBioinformatics分区：二区摘要蛋白质翻译后修饰(PTM)是一种重要的调节机制，在正常和疾病状态中都发挥着关键作用。
HXH@·2023-01-06 16:28

预训练综述 Pre-trained Models for Natural Language Processing: A Survey 阅读笔记

原文链接：https://arxiv.org/pdf/2003.08271.pdf此文为邱锡鹏大佬发布在arXiv上的预训练综述，主要写了预训练模型（PTM）的历史，任务分类，PTM的扩展，将PTM转换到下游任务的方式
sanananana·2023-01-04 09:39

【PTM】GPT-2：四只角的独角兽

今天阅读的是OpenAI的同学于2019年发表的论文《LanguageModelsareUnsupervisedMultitaskLearners》，目前具有300多引用量。在有了之前论文的基础后读这篇论文就比较简单了，论文介绍的是OpenAI对GPT的一个改进模型GPT-2，其模型结构与GPT相比几乎没有什么变化，只是让模型变得更大更宽，并且取消了Fine-tuning的步骤。也就是说GPT-2
阿泽的学习笔记·2022-12-23 08:27

AlphaFold2源码解析(4)--模型架构

Alphafold的流程分为一下几个部分：搜索同源序列和模板特征构造特征表示MSA表示与残基对表示之间互相交换信息残基的抽象表示转换成具体的三维空间坐标模型参数AlphaFold有多个不同类型的参数（单体，多聚体，ptm
发呆的比目鱼·2022-12-16 01:29

CPT：刷爆少样本REC任务！清华刘知远团队提出跨模态预训练Prompt Tuning

详细信息如下：论文链接：https://arxiv.org/abs/2109.11797项目链接：未开源导言：预训练的视觉语言模型（VL-PTM）在
我爱计算机视觉·2022-12-12 19:56

【PTM】Transformer：Attention Is All You Need

今天阅读的来自谷歌大脑的同学于2017年发表的论文《AttentionIsAllYouNeed》，目前论文被引次数高达6100次。Attention机制是Bengio等同学在2014年提出的，并广泛应用于深度学习各个领域，如计算机视觉、NLP等。其中，Seq2Seq模型采用了RNN和Attention的结合成功应用于机器翻译领域，在诸多任务中都有显著的提升。在这篇文论文中，作者提出了Transfo
阿泽的学习笔记·2022-11-29 09:04

腾讯云在CLUE自然语言理解分类任务中勇夺第一

近年来随着人工智能的发展，NLP（自然语言处理）一直是业内外关注的焦点，其中预训练模型(Pre-TrainedModel，PTM)技术作为当下最具有革命性的创新成果，正成为国内外互联网企业探索的重点，构建以中文为核心的超大规模预训练模型及生态势
腾讯云AI平台·2022-11-26 20:32

关于BERT预训练模型，你想知道的都在这~

BERT问世即引起轰动，之后，各种改进版本的预训练模型（Pre-TrainingModel,PTM）与应用层出不穷。
笑傲NLP江湖·2022-11-22 08:33

预训练模型最新综述：过去、现在和未来

©PaperWeekly原创·作者|王馨月学校|四川大学本科生研究方向|自然语言处理BERT、GPT等大规模预训练模型（PTM）最近取得了巨大成功，成为人工智能领域的里程碑。
PaperWeekly·2022-11-19 05:23

Paper Reading《Torch.manual_seed(3407) is all you need》

isallyouneed:Ontheinfluenceofrandomseedsindeeplearningarchitecturesforcomputervision》PaperUrl.GithubUrl.使用PTM
SUFEHeisenberg·2022-11-13 18:13

多模态信息抽取（二）——多模态预训练模型综述（上）

多模态预训练任务2.1MLM预训练任务2.2MRM预训练任务2.2.1MRC预训练任务2.2.2MRC-KL预训练任务2.2.3MRFR预训练任务2.3ITM预训练任务2.4多模态数据融合摘要：近年来，预训练模型(PTM
椒椒。·2022-10-02 07:52

万字解读：预训练模型最新综述！

本文深入研究了预训练的前世今生，并带领读者一起回顾PTM取得的最新突破，与未来的研究方向（文末附90分钟解读视频）。利用深度学习自动学习特征已经逐步取代了人工构建特征和统计方法。
Datawhale·2022-09-26 07:39

最近爆火的机器学习注意力机制Transfromer算法，究竟是何方神圣？

后来的工作表明，基于Transformer的预训练模型(PTM)可以在各种任
Lierence·2022-06-28 07:53

NLP预训练模型综述

2.4NLP的PTMs的历史2.4.1第一代PTM：预先训练的词嵌入将单词表示为密集的矢量已有很长的历史[60]。
Mystery_zero·2022-06-27 07:48

安全KNN

=E(p)，即使q==p最简单的构造是这样的：p和q的标量积可以表示为pTIq=(pTM)(
Joey Liao·2022-05-26 17:40

自然语言预训练模型大总结

这一通过PTM
凌冰_lonny·2022-02-03 14:45

好了的咳嗽

必带的三件宝：PTM(护照Passp
嗑瓜子的大蛋·2021-06-24 02:07

预训练模型PTM

目录自监督学习图像领域的模型迁移学习和预训练预训练模型预训练模型在CV上预训练模型在NLP上word2VecCBOWskip-GramGloVe(与word2Vec相似的模型)ELMo局限性GPT2018缺点transformer（自注意力的堆叠）输入-单词特征BERT（NLP预训练模型）KG-BERT（知识图谱BERT）ERNIEALBERTRobertaspanbertBERT电影评论情感分析
Nefelibat·2021-04-20 19:11

如何使用预训练模型优雅的生成sentence embedding

前言预训练语言模型在目前的大部分nlp任务中做个微调都能取得不错的一个结果，但是很多场景下，我们可能没办法微调，例如文本聚类，我们更需要的是文本的向量表示；又亦如文本匹配，特别是实时搜索场景，当候选集数量较多时，直接使用ptm
爱编程真是太好了·2021-04-15 20:59

Epigenetics笔记一：Writers, Readers, Erasers

PTM:post-translationalmodificationswriting:acetyltransferase
生信start_site·2021-01-23 09:22

项目模板管理脚手架ptm-cli开发

一、ptm-cli使用说明  projecttemplatemanagercli  一款对项目模板/项目进行管理的脚手架工具，具有添加模板/项目、编辑模板/项目、删除模板/项目、查看模板/项目以及下载项目和根据模板初始化项目等功能
哇喔WEB·2020-12-26 21:50

项目模板管理脚手架ptm-cli开发

一、ptm-cli使用说明  projecttemplatemanagercli  一款对项目模板/项目进行管理的脚手架工具，具有添加模板/项目、编辑模板/项目、删除模板/项目、查看模板/项目以及下载项目和根据模板初始化项目等功能
哇喔WEB·2020-12-26 21:01

乘风破浪的PTM：两年来预训练模型的技术进展

它卜一问世即引起轰动，之后，各种改进版本的预训练模型（Pre-TrainingModel,PTM）与应用如过江之鲫，层出不穷。
AI科技大本营·2020-09-30 15:10

预训练模型的技术演进：乘风破浪的PTM

它卜一问世即引起轰动，之后，各种改进版本的预训练模型（Pre-TrainingModel,PTM）与应用如过江之鲫，层出不穷。Bert及它的继任者们，
zenRRan·2020-09-29 12:14

imp ORA-00604: 递归错误

impora-00604ora-06502错误ptm-c1的是生产库，一直都是10.2.0.4客户端是windows版10.2.0.1pri-1是测试库，之前的版本是10.2.0.1，导出导入都是正常的
cuici1885·2020-09-16 09:03

VC++获得当前系统日期和时间问题汇总

主要方法如下：1)使用CRT函数C++代码charszCurrentDateTime[32];time_tnowtime;structtm*ptm;time(&nowtime);ptm=localtime
南京-菜根谭·2020-09-15 11:01
上一页 1 2 3 4 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他