BERT 第2页

大模型（LLM）的若干科普之问（七）：如何隔离LLM微调结果？

以下是微调的关键点：预训练模型：大模型LLM（如GPT、BERT等）通过大量通用文本进行预训练，学习语言的基本结构和知识。微调目的：使模型适应特定任务或领域，如文本分类、机器翻译、问答系统等。

人工干智能·2025-03-06 04:12

完整代码详解：Python实现基于文本内容的用户隐私泄露风险评估

以下是一个完整的Python代码示例，涵盖了基于BERT的文本表示、基于聚类的文本隐私体系构建、基于命名实体识别的隐私信息提取、以及基于信息熵的文本隐私量化。

mosquito_lover1·2025-03-06 03:04

[Machine Learning] K-means算法

HuBERT预训练过程中会用到K-means算法，本文简单介绍一下K-means算法的基本流程。简单地讲，K-means就是给特征向量集进行聚类。

进阶的小蜉蝣·2025-03-06 02:24

深度解析大模型蒸馏方法：原理、差异与案例

深度解析大模型蒸馏方法：原理、差异与案例1.引言随着深度学习的飞速发展，大模型（LargeModels）如GPT、BERT、ViT逐渐成为AI领域的主流。

赵大仁·2025-03-05 21:46

《西西弗神话》：在荒诞中书写生命的尊严

一、加缪与《西西弗神话》的诞生法国作家阿尔贝·加缪（AlbertCamus）是20世纪存在主义文学的代表人物之一。

曦紫沐·2025-03-05 14:44

微调（Fine-tuning）

1.微调的核心思想预训练模型：像BERT、GPT这样的模型，已经在大量通用文本数据上进行了预训练，学习到了丰富的语言知识（如语法、语义、上下文关系等

路野yue·2025-03-04 20:49

BERT 和 Milvus 构建智能问答系统的全面技术解析，涵盖从原理到实践的完整流程

结合BERT和Milvus构建智能问答系统的全面技术解析，涵盖从原理到实践的完整流程。

·2025-03-04 14:28

BERT 模型和 Milvus 向量数据库分步骤讲解如何实现「文本相似度搜索」

结合BERT模型和Milvus向量数据库，通过一个Python示例分步骤讲解如何实现「文本相似度搜索」。整个过程分为：文本向量化→存储到Milvus→相似度搜索。

·2025-03-04 10:23

AI大模型知识图谱和学习路线！

一、大模型全套的学习路线学习大型人工智能模型，如GPT-3、BERT或任何其他先进的神经网络模型，需要系统的方法和持续的努力。

hhaiming_·2025-03-03 22:35

AI大语言模型概述：从GPT到BERT的技术演进

1.背景介绍1.1什么是大语言模型大语言模型是一种基于深度学习的自然语言处理技术，它可以理解和生成人类语言。这些模型通过学习大量的文本数据，捕捉到语言的语法、语义和情感等信息，从而实现对自然语言的理解和生成。1.2为什么大语言模型如此重要大语言模型在近年来取得了显著的进展，它们在各种自然语言处理任务中都取得了最先进的性能。这些任务包括机器翻译、情感分析、文本摘要、问答系统等。大语言模型的成功在很大

AI智能涌现深度研究·2025-03-03 15:40

网络基础-笔记

互联网创始人互联网之父，指互联网的创始人、发明人，这一美称被先后授予多人，包括：蒂姆·伯纳斯·李（TimBerners-Lee），温顿·瑟夫VintCerf原名：VintonGray"Vint"Cerf罗伯特·卡恩（RobertElliotKahn

一夜沐白·2025-03-03 12:13

NLP自然语言处理：文本表示总结 - 上篇word embedding（基于降维、基于聚类、CBOW 、Skip-gram、 NNLM 、TF-ID、GloVe ）

文本表示分类（基于表示方法）离散表示one-hot表示词袋模型与TF-ID分布式表示基于矩阵的表示方法降维的方法聚类的方法基于神经网络的表示方法NNLMCBOWSkip-gramGloVeELMoGPTBERT

陈宸-研究僧·2025-03-03 10:26

XLNet：超越BERT的新星

-XLNet：超越BERT的新星1.背景介绍1.1自然语言处理的重要性自然语言处理(NaturalLanguageProcessing,NLP)是人工智能领域的一个重要分支,旨在使计算机能够理解和生成人类语言

AI天才研究院·2025-03-03 07:03

【Elasticsearch】一文读懂ES向量搜索：原理剖析与技术全景

如：文本嵌入(Embedding)：BERT等模型生成768维向量图像特征：ResNet提取2048维特征向量1.2向量搜索简介向量

程序员大任·2025-03-03 03:34

深度学习五大模型：CNN、Transformer、BERT、RNN、GAN解析

今天探讨它们各自适用的场景，让您知道在何种情况下选择何种模型；同时分析它们的优势与局限，助您全面评估这些模型的性能。一、卷积神经网络（ConvolutionalNeuralNetwork,CNN）原理：CNN主要由卷积层、池化层和全连接层组成。卷积层通过卷积核在输入数据上进行卷积运算，提取局部特征；池化层则对特征图进行下采样，降低特征维度，同时保留主要特征；全连接层将特征图展开为一维向量，并进行分

大模型_学习路线·2025-03-02 16:04

自然语言处理之语法解析：BERT：自然语言处理基础理论

自然语言处理之语法解析：BERT：自然语言处理基础理论自然语言处理基础自然语言处理的定义与应用自然语言处理（NaturalLanguageProcessing，NLP）是计算机科学领域与人工智能领域中的一个重要方向

zhubeibei168·2025-03-02 14:15

基于 BERT 的自定义中文命名实体识别实现

基于BERT的自定义中文命名实体识别实现在自然语言处理中，命名实体识别（NamedEntityRecognition，NER）是一项重要的任务，旨在识别文本中的特定实体，如人名、地名、组织机构名等。

风清扬【coder】·2025-03-01 21:04

实体识别处理--在给定的文本中识别特定类型的实体

它结合了字典匹配和向量相似度匹配两种方法，利用预训练的BERT模型来获取实体的嵌入表示，通过构建Trie树来提高字典匹配的效率。

风清扬【coder】·2025-03-01 21:04

【大模型】大模型分类

以下是大模型的常见分类方式：1.按应用领域分类自然语言处理（NLP）模型如GPT-3、BERT、T5等，主要用于文本生成、翻译、问答等任务。

IT古董·2025-03-01 16:29

全方位解析：大语言模型评测方法的综合指南

自2017年Transformer模型提出以来，自然语言处理研究逐步转向基于该框架的预训练模型，如BERT、GPT、BART和T5等。这些预训练模型与下游任务适配后，持续刷新最优结果。

大模型玩家·2025-03-01 08:28

BERT模型深入理解——自然语言处理的里程碑

1BERT的诞生背景2018年谷歌团队发布了BERT（BidirectionalEncoderRepresentationsfromTransformers）模型，在自然语言处理领域引领了技术性的革命。

cufewxy2018·2025-03-01 06:47

大模型技术在电商平台商品评价分析中的应用

大模型技术在电商平台商品评价分析中的应用关键词：大模型技术电商平台商品评价分析情感分析商品推荐Transformer模型BERT模型摘要：本文详细探讨了大模型技术在电商平台商品评价分析中的应用。

AI天才研究院·2025-03-01 05:35

lauxlib.c（5.3.4）解析

/***$Id:lauxlib.c,v1.2892016/12/2018:37:00robertoExp$**AuxiliaryfunctionsforbuildingLualibraries**SeeCopyrightNoticeinlua.h

活在阳光下·2025-02-28 22:20

100种算法【Python版】第38篇—— Tarjan算法

本文目录1算法说明2算法示例：社交群体分析3算法示例：交通路网中的强连通分量识别4算法应用1算法说明Tarjan算法由计算机科学家RobertTarjan于1972年提出，目的是在有向图中有效地找到强连通分量

AnFany·2025-02-28 05:38

Python实现强连通分量算法——Tarjan算法

Python实现强连通分量算法——Tarjan算法Tarjan算法是一种基于深度优先搜索（DFS）的强连通分量（SCC）查找算法，由RobertTarjan在1972年提出。

NoABug·2025-02-28 05:38

Tarjan求无向图割边

文章目录Tarjan算法无向连通图的搜索树时间戳dfn追溯值low无向图的割边及判定对重边的处理参考实现Tarjan算法不得不说RobertTarjan真的是大师，发个网站大家感受一下——论文索引。

Visors·2025-02-28 05:04

C++ 书籍分享：带你畅游编程世界

提高C++性能的编程技术.左飞深度探索C++对象模型C和C++安全编码（中文版）.Robert.C.SeacordC++编程艺术C++编程规范-101条规则准则与最佳实践无论你是刚踏入编程领域的新手，还是寻求技术突破的进阶者

七七知享·2025-02-27 12:19

论文笔记：Enhancing Sentence Embeddings in Generative Language Models

2024ICIC1INTRO对于文本嵌入，过去几年的相关研究主要集中在像BERT和RoBERTa这样的判别模型上。

UQI-LIUWJ·2025-02-26 20:17

算力100问☞第59问：如何评估大模型的性能？

以下是详细的评估指标、评估方法和案例示意：1、评估指标（1）准确性（Accuracy）事实正确性：衡量模型生成内容与真实事实的一致性，通常使用BLEU、ROUGE、BERTScore等指标。

正儿八经的数字经·2025-02-26 14:01

困惑度的估计

需要注意的是，这个指标专门适用于经典的语言模型（有时称为自回归模型或因果语言模型），而对于像BERT这样的掩码语言模型，则定义不太清楚（请参考模型总结）。

转码的小石·2025-02-25 22:06

Python微调DeepSeek-R1-Distill-Qwen-1.5B模型：使用Transformers和PyTorch进行训练

前言近年来，基于Transformer架构的预训练语言模型如GPT、BERT等已经取得了显著的成果，广泛应用于自然语言处理（NLP）的各个领域。

煤炭里de黑猫·2025-02-25 21:02

mesh threejs 属性_threejs 材质

，该材质决定如何给网格染色MeshNormalMaterial：根据物体表面的法向量计算颜色MeshFaceMaterial：这是一种容器，可以在该容器中为物体的各个表面上设置不同的颜色MeshLambertMaterial

一璇·2025-02-25 18:09

阅读笔记：ViLBERT: Pretraining Task-Agnostic Visiolinguistic Representations for Vision-and-Language Task

阅读笔记：ViLBERT:PretrainingTask-AgnosticVisiolinguisticRepresentationsforVision-and-LanguageTasksContribution

Araloak·2025-02-25 14:44

使用 DistilBERT 进行资源高效的自然语言处理

DistilBERT是BERT的一个更小、更快的版本，在减少资源消耗的同时仍能保持良好性能。对于计算能力和内存受限的环境来说，它是一个理想的选择。

真智AI·2025-02-25 06:43

DeepSeek混合精度训练核心技术解析与实践指南

1.1Why混合精度训练（价值）混合精度训练通过结合FP16和FP32数据格式，在保证模型精度的前提下实现：40-60%显存占用降低（ResNet50案例：从7.8GB降至4.2GB）1.5-3倍训练速度提升（BERT-Large

燃灯工作室·2025-02-24 15:33

RAG+LLM和直接将整理的知识训练到模型中去有什么区别，各自有什么优缺点

具体来说，RAG会从一个知识库（如数据库、文档库、向量数据库等）中检索相关的信息片段或条目，然后将这些信息与输入的查询一起传递给一个生成模型（如GPT、T5、BERT等）进行回答生成。

MonkeyKing.sun·2025-02-24 06:54

GPT和BERT的异同

GPT（GenerativePre-trainedTransformer）和BERT（BidirectionalEncoderRepresentationsfromTransformers）都是基于Transformer

彬彬侠·2025-02-23 15:04

大语言模型架构：从基础到进阶，如何理解和演变

1.大语言模型架构概述大语言模型（例如GPT、BERT、T5）是基于神经网络的计算模型，它们通过分析大量文本数据，学习语言的结构和规律。语言模型的

运维小子·2025-02-23 08:44

告别 AI 幻觉：LangChain + 知识图谱 + 大模型，打造可靠的智能应用

总结与展望后记1.前言：知识图谱在AI中的地位在当今的人工智能领域，各类语言模型（如GPT系列、BERT等）已经深刻地影

海棠AI实验室·2025-02-22 00:20

视觉分析之边缘检测算法

9.1Roberts算子Roberts算子又称为交叉微分算法，是基于交叉差分的梯度算法，通过局部差分计算检测边缘线条。

Erekys·2025-02-21 09:42

使用 AnyscaleEmbeddings 进行文本嵌入

通过预训练模型（如BERT、GPT等），我们可以获得语义丰富

dgay_hua·2025-02-21 03:04

【自然语言处理|迁移学习-08】：中文语料完型填空

定义下游任务模型4模型训练5.模型测试1中文语料完型填空任务介绍任务介绍：完成中文语料完型填空完型填空是一个分类问题，[MASK]单词有21128种可能数据构建实现分析：使用迁移学习方式完成使用预训练模型bert

爱学习不掉头发·2025-02-20 14:50

Python库 - transformers

以下是关于transformers库的详细介绍：1.主要特点预训练模型：transformers库包含了多种预训练的语言模型，如BERT、GPT、T5、XLNet等。这些模型在大规模文本

司南锤·2025-02-19 03:28

【NLP-04】tranformers库保姆级使用教程---以BERT模型为例

安装要安装一个非常轻量级的Transformers库，您可以执行以下步骤：1、打开终端或命令提示符。2、运行以下命令来安装Transformers库：pipinstalltransformers这将使用pip工具从PythonPackageIndex（PyPI）下载并安装Transformers库。请确保您的计算机上已经安装了pip。然后，您可以在Python代码中导入Transformers库：

云天徽上·2025-02-19 03:28

书籍-《掌握Transformer：从BERT到大模型和Stable Diffusion（第二版）》

书籍：MasteringTransformers:TheJourneyfromBERTtoLargeLanguageModelsandStableDiffusion，2ndEdition作者：SavaşYıldırım

·2025-02-18 00:36

红 - 黑树和 B+树？

红黑树是一种自平衡二叉查找树，由RudolfBayer发明，在1978年被LeoJ.Guibas和RobertSedgewick改称为“红黑树”。

百态老人·2025-02-17 16:43

Lua 5.1 参考手册

weixin_30822451·2025-02-17 14:51

CAP与BASE：分布式系统设计的灵魂与妥协

2000年，由加州大学伯克利分校的EricBrewer教授在分布式计算原理研讨会（PODC）上提出，因此CAP定理又被称作布鲁尔定理（Brewer’stheorem）2年后，麻省理工学院的SethGilbert

·2025-02-17 11:37

知识图谱大模型系列之 11什么是 Neo4j LLM 知识图谱构建器？

知识大胖·2025-02-17 07:53

大数据知识图谱之深度学习——基于BERT+LSTM+CRF深度学习识别模型医疗知识图谱问答可视化系统_bert+lstm

文章目录大数据知识图谱之深度学习——基于BERT+LSTM+CRF深度学习识别模型医疗知识图谱问答可视化系统一、项目概述二、系统实现基本流程三、项目工具所用的版本号四、所需要软件的安装和使用五、开发技术简介

2301_76348014·2025-02-17 06:49

推荐频道

BERT