embedding微调

Transformer模型:Postion Embedding实现

GPT-4o(OpenAI)Transformer模型中的PositionEmbedding（位置编码）是用于在不使用循环神经网络的情况下捕捉序列数据的位置信息的一种方法。
109702008·2024-08-22 10:58

大模型应用中什么是SFT（监督微调）？

大模型应用中什么是SFT（监督微调）？一、SFT的基本概念监督微调（SupervisedFine-Tuning,SFT）是对已经预训练的模型进行特定任务的训练，以提高其在该任务上的表现。
Chauvin912·2024-08-22 04:47

使用Python实现文本向量化（一）——腾讯词向量

Docs向量化（Embedding）Embedding也是文本语义含义的信息密集表示，每个嵌入都是一个浮点数向量，使得向量空间中两个嵌入之间的距离与原始格式中两个输入之间的语义相似性相关联。
Shy960418·2024-08-21 23:14

Spinbox 控件是 Tkinter 库中一个相对较新的控件

Spinbox控件可以看作是Entry控件的升级版，#它不仅允许用户直接在文本框中输入内容，还提供了一个微调选择器，即上下按钮调节器#，允许用户通过点击按钮来选择一个范围内的值importtkinterastk
我不是立达刘宁宇·2024-08-21 21:33

UNDERSTANDING HTML WITH LARGE LANGUAGE MODELS

我们为HTML理解模型（经过微调
liferecords·2024-03-28 21:56

使用POI以OLE对象的形式向excel中插入附件（pdf为例）

但是目前只发现POI可以插入附件，于是将方法记录如下：实现：这个方法主要是使用ApachePOI的HSSFWorkbook类来创建一个Excel文件，并在其中插入了一个作为OLE(ObjectLinkingandEmbedding
庄周的大鱼·2024-03-27 05:22

SWIFT环境配置及大模型微调实践

SWIFT环境配置及大模型微调实践SWIFT环境配置基础配置增量配置SWIFTQwen_audio_chat大模型微调实践问题1:问题2:问题定位解决方法手动安装pytorchSWIFT介绍参考：这里SWIFT
weixin_43870390·2024-03-26 22:42

SWIFT介绍和学习(简单入门级别)

部署指南vllm非官方介绍资料项目地址：https://github.com/modelscope/swift任何有疑惑的地方，参考项目首页readme寻求答案SWIFT功能介绍SWIFT（可扩展的轻量级微调基础设施
weixin_43870390·2024-03-26 22:42

Analysis of Negative Sampling Methods for Knowledge Graph Embedding

摘要负采样是一种用于加速知识图嵌入学习和最大化嵌入模型在链接预测和实体解析等支持任务中的有效性的方法。负采样对于提高准确性、减少偏差、提高效率和改善代表性至关重要。本文仔细研究了在基准数据集Fb15k上，张量分解和平移嵌入模型的两种基本负采样技术增加每正负采样数量的后果。对于均匀抽样和伯努利抽样，值得注意的是，基于每阳性负的数量增加而显示性能变化的模式。我们的目标是确定不同的负采样参数对张量分解模
小蜗子·2024-03-26 11:58

大模型加速与性能对比

事实证明安装之后对于推理速度的提升也很小（5%），网上说对于微调训练的速度提升比较大，因为是在内网环境下，安装还费了一番周折。
__如风__·2024-03-12 11:58

刘建华|Day118感恩日记

感恩周末了可以稍微调整一下作息时间。早上可以懒懒的躺在床上。感恩柔软的床。感恩我们这些劳动者有休息的周末时光。感恩母亲为我们做好的早餐，泡好的茶。感我吃到的所有食物。
蓝色与星光·2024-03-05 17:58

预训练大模型LLM的微调PEFT（概述）

微调的分类对大模型进行二次训练的操作我们通常称为微调（Fine-T
若石之上·2024-03-05 00:49

054 人民日报图卡仿制-新冠疫苗诈骗套路（20210118）

在图标的亮度，颜色设置方面需要进行微调。
霍霍的图卡笔记·2024-03-04 13:58

大模型训练——PEFT与LORA介绍

PEFT是一种参数高效的微调技术，由Huggingface发布。这种方法的核心思想是仅微调少量（额外）模型参数，同时冻结预训练LLM的大部分参数。这样做的好处是大大降低了
MarkHD·2024-03-03 10:30

关于数据大屏的设计与开发

但1920放到更高分辨率会出现图片模糊现象、原因就是图片1像素低，可以使用2倍图2、关于开发：大屏使用场景一般是全屏显示，如果在非全屏场景，比例就会与设计稿不同，可以监听全屏和非全屏，使用两套样式进行微调
码云的一天·2024-02-27 03:41

AI相关技能

AI相关掌握Python语言，了解基本的机器学习和深度学习神经网络算法，会使用PyTorch框架进行深度学习模型训练，例如基于生成对抗网络的图像恢复处理对视频，文本、Embedding等的特征数据进行存储管理和分发的平台
liuhehe321·2024-02-26 05:46

db-gpt docker部署进坑

停止定位问题：（1）查看日志dockerlogsdbgpt-f（2）日志错误最后一行：ValueError:Path/app/models/text2vec-large-chinesenotfound发现没有embedding
gaohongfeng1·2024-02-22 13:01

人工智能_普通服务器CPU_安装清华开源人工智能AI大模型ChatGlm-6B_001---人工智能工作笔记0096

然后执行yumupdate先去更新一下系统,可以省掉很多麻烦20240219_150031这里我们使用centos系统吧,使用习惯了.ChatGlm首先需要一台个人计算机,或者服务器,要的算力,训练最多,微调次之
脑瓜凉·2024-02-20 21:01

美国首届生成式人工智能与法律研讨（上）

、生成式AI与法律的跨学科研究3.1确定和定义跨学科术语3.2构建有价值的隐喻3.3理解不断发展的商业模式四、生成式AI的独特性4.1从执行狭义任务到处理开放式任务的转变4.2训练流程的发展：预训练和微调
岛屿旅人·2024-02-20 19:40

devc++跑酷小游戏3.0.0

1.0.0devc++跑酷小游戏1.2.5devc++跑酷游戏1.2.6devc++跑酷游戏2.0.0devc++跑酷游戏2.0.1devc++跑酷游戏2.4.0【更新内容每日废话】关卡数量没变，每个都微调了一下
Jsjjsnmsk·2024-02-20 16:22

MinIO 和 Apache Tika：文本提取模式

前提假设我想构建一个文本数据集，然后我可以用它来微调LLM.为了做到这一点，我们首先需要组装各种文档（由于它们的来源，这些文档可能采用不同的形式）并从中提取文本。
MinIO官方账号·2024-02-20 16:42

60分钟吃掉ChatGLM2-6b微调范例~

干货预警：这可能是你能够找到的最容易懂的，最完整的，适用于各种NLP任务的开源LLM的finetune教程~ChatGLM2-6b是清华开源的小尺寸LLM，只需要一块普通的显卡(32G较稳妥)即可推理和微调
算法美食屋·2024-02-20 14:59

Hugging Face PEFT文档指南 - 第一章：开始使用

原文:PEFT文档指南-第一章：开始使用https://huggingface.co/docs/peft/indexPEFTPEFT（参数高效微调）是一个库，用于有效地将预训练的语言模型（PLMs）适应各种下游应用
Tim_Van·2024-02-20 13:28

CSS：定位

定位1、static定位无定位2、fixed定位相对于窗口得定位3、relative定位相对于自己得正常位置，可以使用leftrighttopbottom进行元素得微调4、absolute定位绝对定位的元素的位置相对于最近的已定位父元素
无敌的黑星星·2024-02-20 10:44

使用 Coze 搭建 TiDB 助手

文章深入讨论了实现原理，包括知识库、functioncall、embedding模型等关键概念，最后成功演示了如何在Coze平台上快速创建TiDBHelpBot。
TiDB_PingCAP·2024-02-20 07:21

【PyTorch][chapter 16][李宏毅深度学习][Neighbor Embedding][t-SNE]

讲了两个点在高维空间距离相近，通过降维后也要保持这种关系但是如果两个点在高维空间距离很远（不属于K邻近）,降维后有可能叠加在一起了.t-SNE(t-DistributedStochasticNeighborEmbedding
明朝百晓生·2024-02-20 07:33

多目标检测与跟踪技术详解

代表性的方法包括JDE(JointDetectionandEmbedding)和SORT(Sim
小厂程序猿·2024-02-20 06:32

LLM 参数，显存，Tflops? 训练篇(1)

Transfomer模型的套路和大家简单说一下为了后文大家看算式明白，我们先约定一下每个变量代表的意义L:Transfomer有多少层H：代表两个意义，第一个意义是hiddensize的维度，第二个就是token被embedding
周博洋K·2024-02-20 06:59

[模型学习]Transformer机制及其过程

seq2seq模型类似，Transformer是一种编码器-解码器结构的模型Transformer的过程——编码器(Encoder)Encoder步骤1对于encoder，第一步是将所有的输入词语进行Embedding
Amigo_5610·2024-02-20 04:46

关于Embedding 操作的理解

1.什么是embeddingembedding的本质是用一个较低维度的向量来代替较高维度的原始特征。
小新0077·2024-02-20 03:10

Elasticsearch：特定领域的生成式 AI - 预训练、微调和 RAG

对特定领域数据集进行预训练和微调等方法使LLMs能够推理并生成特定领域语言。然而，使用这些LLM作为知识库仍然容易产生幻觉。
Elastic 中国社区官方博客·2024-02-20 01:33

DL4J中文文档/Keras模型导入/嵌入层

KerasEmbedding[源码]从Keras导入一个嵌入层KerasEmbeddingpublicKerasEmbedding()throwsUnsupportedKerasConfigurationExceptionimage.gif
hello风一样的男子·2024-02-20 01:37

【AIGC】Stable Diffusion的模型微调

为什么要做模型微调模型微调可以在现有模型的基础上，让AI懂得如何更精确生成/生成特定的风格、概念、角色、姿势、对象。StableDiffusion模型的微调方法通常依赖于您要微调的具体任务和数据。
AIGCExplore·2024-02-20 01:42

PyTorch-线性回归

已经进入大模微调的时代，但是学习pytorch，对后续学习rasa框架有一定帮助吧。
一个高效工作的家伙·2024-02-20 00:46

【论文精读】SimCLR2

摘要本文提出了一个半监督学习框架，包括三个步骤：无监督或自监督的预训练；有监督微调；使用未标记数据进行蒸馏。
None-D·2024-02-19 22:40

（2024，提示优化，监督微调，强化学习，近端策略优化）用于安全生成文本到图像的通用提示优化器

UniversalPromptOptimizerforSafeText-to-ImageGeneration公和众和号：EDPJ（进Q交流群：922230617或加VX：CV_EDPJ进V交流群）目录0.摘要2.相关工作3.提议的框架4.实验0.摘要文本-图像（Text-to-Image，T2I）模型在基于文本提示生成图像方面表现出色。然而，这些模型对于不安全的输入以生成不安全的内容，如性、骚扰和
EDPJ·2024-02-19 22:37

LLaMA 2 - 你所需要的一切资源

它的微调模型则在超过100万个人工标注数据下完成。这篇博客包含了所有的相关资源，以帮助您快速入
·2024-02-19 21:59

阿松上师每日开示（1208）

特别说明：文章内容转自阿松上师微信号的每日开示，仅作尽少部分排版、错字、标点、配图等微调处理。
曾路·2024-02-19 20:29

日更

本来想获得日更365天徽章以后，就不用每日去写心愿，稍微调整一下方向，写一些有的放矢的内容，不是每日碎碎念。从开始的每日苦思冥想，到现在每日随手写一篇文章，难度已经不大。但是觉得想写深度好像
夜幽莲·2024-02-19 19:07

作物模型狂奔 Apsim 脚本并行思路

这里没图，去B站看看整体思路：Python-》R-》Apsimx0、准备工作0.0电脑环境我用的Win10啦，Linux、Mac可能得自己再去微调一下。
F_Dregs·2024-02-19 16:20

作物模型狂奔：WOFOST(PCSE) 数据同化思路

去B吧，这里没图整体思路：PCSE-》敏感性分析-》调参-》同化0、准备工作0.0电脑环境我用的Win10啦，Linux、Mac可能得自己再去微调一下。
F_Dregs·2024-02-19 16:20

神经网络算法 —— Embedding（嵌入）！！

文章目录前言1、Embedding的本质（1）机器学习中的Embedding（2）NLP中的Embedding2、Embedding的原理（1）ImageEmbedding（图像嵌入）（2）WordEmbedding
JOYCE_Leo16·2024-02-19 15:15

HuggingFists-低代码玩转LLM-腾讯云RAG(1)

可通过以下的文章链接回顾一下之前介绍的内容：《HuggingFists-低代码玩转LLMRAG-准备篇》《HuggingFists-低代码玩转LLMRAG(1)Embedding》《HuggingFists
colorknight·2024-02-19 14:49

Flink部署——细粒度资源管理

对于希望根据对特定场景的了解来微调资源消耗的用户，Flink提供了细粒度的资源管理。本页介绍细粒度资源管理的用法、适用场景及其工作原理。
京河小蚁·2024-02-19 14:14

Transformer实战-系列教程19：DETR 源码解读6（编码器：TransformerEncoder类/TransformerEncoderLayer类）

DETR源码解读1（项目配置/CocoDetection类/ConvertCocoPolysToMask类）DETR源码解读2（DETR类）DETR源码解读3（位置编码：Joiner类/PositionEmbeddingSine
机器学习杨卓越·2024-02-19 13:45

Transformer实战-系列教程20：DETR 源码解读7（解码器：TransformerDecoder类/TransformerDecoderLayer类）

DETR源码解读1（项目配置/CocoDetection类/ConvertCocoPolysToMask类）DETR源码解读2（DETR类）DETR源码解读3（位置编码：Joiner类/PositionEmbeddingSine
机器学习杨卓越·2024-02-19 13:45

Transformer实战-系列教程18：DETR 源码解读5（Transformer类）

DETR源码解读1（项目配置/CocoDetection类/ConvertCocoPolysToMask类）DETR源码解读2（DETR类）DETR源码解读3（位置编码：Joiner类/PositionEmbeddingSine
机器学习杨卓越·2024-02-19 13:44

Transformer实战-系列教程21：DETR 源码解读8 损失计算:（SetCriterion类）

DETR源码解读1（项目配置/CocoDetection类/ConvertCocoPolysToMask类）DETR源码解读2（DETR类）DETR源码解读3（位置编码：Joiner类/PositionEmbeddingSine
机器学习杨卓越·2024-02-19 13:03

单细胞转录组基础分析六：伪时间分析

Monocle进行伪时间分析的核心技术是一种机器学习算法——反向图形嵌入(ReversedGraphEmbedding)。
Seurat_Satija·2024-02-19 12:25

【论文精读】BERT

摘要以往的预训练语言表示应用于下游任务时的策略有基于特征和微调两种。
None-D·2024-02-19 12:03
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他