TRANSFORM

大语言模型诞生、探索和爆发阶段

2017年：Google发表了Transformer架构，这是一种基于自注意力机制的神经网络架构，它彻底改变了自然语言处理（NLP）领域，使得大规模并行化处理成为可能，
花开盛夏^.^·2024-09-02 10:38

GPT-3：一个新应用生态系统诞生了

Transformerencoder-decoder模型之间由超过1,750亿个被称为参数的单词之间的加权值连接，将其15亿个参数的前身GPT-2打的落花流水。您只要输入要执行的任务
派派AI学院·2024-09-02 09:34

Transformer面试真题详解——覆盖99%的Transformer面试问题（建议收藏）

文章目录1.请简述一下Transformer的基本结构和原理2.Transformer为什么使用多头注意力机制3.Transformer计算attention为什么选择点乘而不是加法？
爱睡觉的咋·2024-09-02 05:34

unity 保存实例到新预制，保存实例到原预制

保存预制，很简单的功能，但是走了弯路，记录一下吧privatevoidSavePrefab(Transformroot){  PrefabInstanceStatusstatus=PrefabUtility.GetPrefabInstanceStatus
米酒老花生·2024-09-02 01:13

【论文笔记】Training language models to follow instructions with human feedback B部分

TraininglanguagemodelstofollowinstructionswithhumanfeedbackB部分回顾一下第一代GPT-1：设计思路是“海量无标记文本进行无监督预训练+少量有标签文本有监督微调”范式；模型架构是基于Transformer
Ctrl+Alt+L·2024-09-02 01:12

【HuggingFace Transformers】BertIntermediate 和 BertPooler源码解析

BertIntermediate和BertPooler源码解析1.介绍1.1位置与功能1.2相似点与不同点2.源码解析2.1BertIntermediate源码解析2.2BertPooler源码解析1.介绍1.1位置与功能(1)BertIntermediate位置：位于BertLayer的注意力层（BertSelfAttention）和输出层（BertOutput）之间。功能：它执行一个线性变换（
CS_木成河·2024-09-01 17:25

在浏览器上使用transformers.js运行（WebGPU）RMBG-1.4进行抠图（背景移除）

在浏览器上使用transformers.js运行（WebGPU）RMBG-1.4进行抠图（背景移除）说明：首次发表日期：2024-08-28官方Github仓库地址：https://github.com
shizidushu·2024-09-01 17:55

驾驶模拟左拐右拐

目录根据4个点确定投影变换关系：驾驶模拟左拐右拐平移四个点选根据4个点确定投影变换关系：importcv2importnumpyasnpdefapply_perspective_transform(image
AI算法网奇·2024-09-01 17:23

html css怎么做太阳,HTML+CSS 绘制太阳系各个行星运行轨迹

solarsys{width:800px;height:800px;position:relative;margin:0auto;background-color:#000000;padding:0;transform
weixin_42316909·2024-09-01 17:50

【面试经验】滴滴 秋招储备实习 前端面经

滴滴秋招储备实习前端面经时间线：5.1511点半一面，下午2点半二面一面●自我介绍+项目介绍●拷打项目●文件断点续传+切片上传●不知道盒子宽高情况下水平垂直居中●transform的属性●scale是怎么放大盒子宽高的
litterfinger·2024-09-01 11:46

LLM-项目详解（一）：Chinese-LLaMA-Alpaca【transformers/models/llama/modeling_llama.py文件】

site-packages/transformers/models/llama/modeling_llama.py#coding=utf-8#Copyright2022EleutherAIandtheHuggingFaceInc.team.Allrightsreserved
u013250861·2024-08-31 22:57

总结：大模型技术栈---算法与原理

word-levelchar-levelsubword-levelBPEWordPieceUniLMSentencePieceByteBPE2.positionencoding绝对位置编码ROPEAliBi相对位置编码Transformer-XLT5
lichunericli·2024-08-31 22:26

《BERT基础教程：Transformer大模型实战》读书笔记

概念BERT，BidirectionalEncoderRepresentationsfromTransformers，多Transformer的双向编码器表示法。
johnny233·2024-08-31 19:39

深度学习项目实践——QQ聊天机器人（transformer）（三）功能实现的方法——NoneBot2插件结构与编写

深度学习项目实践——QQ聊天机器人（transformer）（三）功能实现的方法——NoneBot2插件结构与编写在前两节中，我们详细讲解了QQ聊天的原理、QQ机器人的框架与环境配置的流程。
Linductor·2024-08-31 18:58

YOLOv9独家改进：一种高效移动应用的卷积加性自注意Vision Transformer

本文独家改进：轻量化改进之高效移动应用的卷积加性自注意VisionTransformer，构建了一个新颖且高效实现方式——卷积加性相似度函数，并提出了一种名为卷积加性标记混合器（CATM）的简化方法来降低计算开销
AI小怪兽·2024-08-31 17:28

自己设计一个Transformer模型

Transformer模型在2017年被Google提出，直接基于self-attention结构，不再依赖于RNN、LSTM或者CNN，是一种Seg2Seg模型。
郑不凡·2024-08-31 13:23

巴伦射频变器（Balun RF Transformer）的常规产品通常包括以下几种类型

1:1高频变压器：用于将平衡和非平衡信号进行转换，通常在信号传输和接收电路中使用，如无线通信设备和各种高频电子设备中。1:4高频变压器：主要用于阻抗匹配和信号传输，能够将低阻抗的平衡信号转换为高阻抗的非平衡信号，广泛应用于射频收发器件和天线系统。双平衡变压器：用于同时处理两个平衡信号的变压器，如应用于差分放大器和差分信号处理电路中。4:1高频变压器：类似于1:4变压器，用于信号匹配和转换，将高阻抗
Hqst88888·2024-08-31 08:50

第65期 | GPTSecurity周报

GPTSecurity是一个涵盖了前沿学术研究和实践经验分享的社区，集成了生成预训练Transformer（GPT）、人工智能生成内容（AIGC）以及大语言模型（LLM）等安全领域应用的知识。
云起无垠·2024-08-31 05:26

快速使用transformers的pipeline实现各种深度学习任务

目录引言安装情感分析文本生成文本摘要图片分类实例分割目标检测音频分类自动语音识别视觉问答文档问题回答图文描述引言在这篇中文博客中，我们将深入探讨使用transformers库中的pipeline()函数
E寻数据·2024-08-31 04:54

1-pipeline()函数-transformers-python库

pipeline()函数pipeline()函数是Transformers库中最基本的工具。Transformer模型用于解决各种NLP任务，Transformers库提供了创建和使用这些模型的功能。
Flora-pi·2024-08-31 04:53

百度飞桨教程（一）

mirror.baidu.com/pypi/simple手写数字识别案例我们来通过一个案例，大概了解paddle的使用importpaddleimportnumpyasnpfrompaddle.vision.transformsimportNormalizetransfo
怎么这么多名字都被占了·2024-08-31 00:55

Transformer模型整体构建的实现

编码器-解码器结构classEncoderDecoder(nn.Module):def__init__(self,encoder,decoder,source_embedding,target_embedding,generator):"""初始化函数中有5个参数,分别是编码器对象,解码器对象,源数据嵌入函数,目标数据嵌入函数,以及输出部分的类别生成器对象"""super(EncoderDecod
好好学习Py·2024-08-30 22:14

Bert中文预训练模型（Bert-base-chinese）

使用importtorchfromtransformersimportBertTokenizer,BertModel#第一步：离线下载#fromtran
好好学习Py·2024-08-30 22:14

CSS基础 水平垂直居中

几种实现水平垂直居中方式利用定位+margin:auto利用定位+margin:负值利用定位+transformtable布局flex布局grid布局利用定位+margin:auto先上代码：.father
呼叫6945·2024-08-30 14:49

safari中filter: drop-shadow()导致图片展示不出来

图片的颜色，比如让其跟随主题色改变.send-button{overflow:hidden;.send-button-img{filter:drop-shadow(@primary-24px0px0px);transform
史努比的大头·2024-08-30 11:02

Prompt Engineering Concepts

Introduction,ConceptsTextgenerationmodelsgenerationpre-trainedtransformers,GPTforshort.所以呢，前置知识是TransformerAssistants
初梦语雪·2024-08-30 06:59

大模型训练优化方法

本文主要参考HF上的一篇文章：https://huggingface.co/docs/transformers/perf_train_gpu_one，以及笔者在实际训练中的一些经验，给出一些比较实用的方法
少喝冰美式·2024-08-30 05:28

前端实现奥运五环图标

htmlDocumentcssbody{display:flex;justify-content:center;height:100vh;align-items:center;transform-style
小刘|·2024-08-30 03:43

大模型训练和推理

文章目录一、NLP基础1.Tokenizer2.positionencoding3.注意力机制与transformer架构二、大模型训练1.SFT训练2.RLHF训练3.分布式并行训练技术（1）模型并行
李明朔·2024-08-30 01:27

HuggingFace - linux环境 修改下载默认缓存路径

_使用huggingface下载bert保存在哪里怎么看-CSDN博客Howtochangehuggingfacetransformersdefaultcachedirectory-StackOverflowlinux
如果曾经拥有·2024-08-30 01:53

使用css实现水球效果

通过在制定overflow：hidden的元素上添加非常大圆形，而且圆形设置圆角，并不断滚动，数量多了就可以显示出水波效果@keyframesroll{form{transform:rotate(0deg
——jinqiang12345·2024-08-29 22:36

【多变量输入超前多步预测】基于Transformer的光伏功率预测研究（Matlab代码实现）

本文目录如下：目录⛳️赠与读者1概述一、Transformer模型概述二、多变量输入三、超前多步预测四、实现步骤五、优势与挑战优势：挑战：六、结论与展望2运行结果3参考文献4Matlab代码、数据⛳️赠与读者‍做科研
科研_G.E.M.·2024-08-29 21:58

[从0开始AIGC][LLM]：Pre-Norm or Post-Norm？训练效率还是训练效果？

Pre-NormorPost-NormPre-NormorPost-Norm1.什么是Pre-Norm和Post-Norm2.为什么Pre-Norm比Post-Norm易于训练2.1Transformer
Way_X·2024-08-29 05:42

AIGC深度学习教程：Transformer模型中的Position Embedding实现与应用

在进入深度学习领域时，Transformer模型几乎是绕不开的话题，而其中的PositionEmbedding更是关键。
玩AI的小胡子·2024-08-29 05:10

TPAMI 2024 | TransVG++：基于语言条件视觉Transformer的端到端视觉定位

题目：TransVG++:End-to-EndVisualGroundingWithLanguageConditionedVisionTransformerTransVG++：基于语言条件视觉Transformer
小白学视觉·2024-08-29 00:33

论文：Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks

论文：Retrieval-AugmentedGenerationforKnowledge-IntensiveNLPTaskscode:https://github.com/huggingface/transformerscode
Ian_Wonder·2024-08-28 18:27

【好书分享第十期】大模型应用解决方案_基于ChatGPT和GPT-4等Transformer架构的自然语言处理（文末送书）

文章目录前言一、内容简介二、作者简介三、目录四、摘录粉丝福利前言在不到4年的时间里，Transformer模型以其强大的性能和创新的思想，迅速在NLP社区崭露头角，打破了过去30年的记录。
屿小夏·2024-08-28 14:56

Python深度学习：构建下一代智能系统

为了帮助广大学员更加深入地学习人工智能领域最近3-5年的新理论与新技术，本文讲解注意力机制、Transformer模型（BERT、GPT-1/2/3/3.5/4、DETR、ViT、SwinTransformer
2401_83402415·2024-08-28 10:04

js实现3d拖拽环绕旋转

js实现拖动节点围绕圆心转动1.使用transform属性，将圆环放倒展示为椭圆圆环上有不同的色彩，在转动的同时，需要让圆环也转动，所以圆环不能是椭圆，而是圆形，这样在转动的时候，改变rotate，可以让圆环绕中间转动
一个萌新小土豆·2024-08-28 09:56

PyTorch实现CIFAR-10分类代码

下面实例数据集位于：C:\Users\22130\Learning_Pytorch\dataset完整代码（还未训练）importtorchimporttorchvisionimporttorchvision.transformsas
曹勖之·2024-08-28 04:56

掌握CSS3的transform-origin：让你的网页动画更生动

标题：掌握CSS3的transform-origin：让你的网页动画更生动CSS3的transform属性为网页设计带来了革命性的变化，它允许我们对元素进行旋转、缩放、倾斜和移动等变换操作。
2401_85439108·2024-08-28 04:23

回归预测|基于鲸鱼优化WOA-Transformer-BiLSTM组合模型的数据回归预测Matlab程序多特征输入单输出

回归预测|基于鲸鱼优化WOA-Transformer-BiLSTM组合模型的数据回归预测Matlab程序多特征输入单输出文章目录前言时序预测|基于鲸鱼优化WOA-Transformer-BiLSTM组合模型的数据时序预测
机器不会学习CL·2024-08-28 02:14

讲解如何使用RAG（检索增强生成）和LLM（大语言模型）来构建一个法律咨询网站。

2.环境配置安装必要的Python库：pipinstallopenaifaiss-cpusentence-transformersflask二、设计系统架构整个系统将包括以下几个部分：前端：用户输入问题和上传文件的界面
winfredzhang·2024-08-27 12:44

Unity世界坐标转屏幕坐标计算

这个是最近工作当中遇到的问题，世界坐标转Canvas坐标，实际操作过可以，在这里记录一下privateVector2WorldToScreen(Transformtrans){//首先找到你画布的矩形框
问道飞鱼·2024-08-26 23:25

深度学习学习经验——变换器（Transformer）

变换器（Transformer）变换器（Transformer）是一种用于处理序列数据的深度学习模型，与循环神经网络（RNN）不同，它不依赖于顺序处理数据，而是依靠一种称为注意力机制（AttentionMechanism
Linductor·2024-08-26 19:44

[stain norm] 病理图片染色处理笔记

失败的stainnorm因为要涉及多张病理图片的stainnorm，所以需要一对一地进行transforms，但是即使这么做了，使用vahadane还是出现了奇怪的染色情况。
PigeonGuan·2024-08-26 18:11

CVPR2024部分研究方向文章梳理（持续更新中）

CVPR2024部分研究方向文章梳理（持续更新中）长尾分布（Long-Tailed）DeiT-LT:DistillationStrikesBackforVisionTransformerTrainingonLong-TailedDatasets
路漫漫独求索·2024-08-26 14:12

神经网络微调技术全解（02）-针对每种微调技术的具体实施示例（含代码）

python复制代码fromtransformersimportBertModel,AdapterConfig,AdapterModel#加载预训练的BERT模型model=BertModel.from_pretrai
技术与健康·2024-08-26 11:20

深度学习--Transformer和BERT区别详解

Transformer的概念、作用、原理及应用概念Transformer是一种基于注意力机制（AttentionMechanism）的神经网络架构，由Vaswani等人在2017年提出。
Ambition_LAO·2024-08-26 08:36

从零开始大模型开发与微调：有趣的词嵌入

从最初的词袋模型、隐语义模型，到如今的Transformer模型，PLMs在NLP任务中取得了
AGI通用人工智能之禅·2024-08-26 08:33
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他