【NLP】第17页

深入了解Transformer：从编码器到解码器的神经网络之旅

深入了解Transformer：从编码器到解码器的神经网络之旅0.引言自2017年问世以来，Transformer模型在自然语言处理（NLP）领域引发了一场革命。

机智的小神仙儿·2024-01-18 09:16

NLP教练式父母第二天学习感悟

今天上午的学习，让我对妈妈有了更深的看见和理解，兰馨老师帮我呈现出了和妈妈的关系，那个无力的、麻木的妈妈，她一直在渴望看见。我内心一方面知道她需要支持和看见，另一方面却又害怕背负她的人生课题，重复以前拯救者的模式，这个时候助教艳霞老师又给了我新的启发，不做拯救者，我也可以用作为女儿的方式去爱妈妈，支持妈妈，真正的看见妈妈。在和父母连接的体验中，我首先扮演了妈妈的角色，当我的手指指向那个孩子的时候，

缘方_8190·2024-01-18 09:58

大创项目推荐深度学习的智能中文对话问答机器人

1项目架构2项目的主要过程2.1数据清洗、预处理2.2分桶2.3训练3项目的整体结构4重要的API4.1LSTMcells部分：4.2损失函数：4.3搭建seq2seq框架：4.4测试部分：4.5评价NLP

laafeer·2024-01-18 09:11

大语言模型系列-ELMo

word2vec的缺点：为每个词汇表中每个分词静态生成一个对应的词向量表示，没有考虑到语境，因此无法无法处理多义词ps：先训练一个词嵌入模型，生成词向量表示，然后将生成的词向量输入下游任务新的模型中进行具体NLP

学海一叶·2024-01-18 09:11

大语言模型系列-word2vec

的网络结构和流程1.Skip-Gram模型2.CBOW模型二、word2vec的训练机制1.Hierarchicalsoftmax2.NegativeSampling总结前言在前文大语言模型系列-总述已经提到传统NLP

学海一叶·2024-01-18 08:39

On Data Scaling in Masked Image Modelin

前言本文验证SIMMIM无监督预训练方法，是否会出现与NLP类似的拓展法则现象。1、结论这篇论文做了大量的对比实验，因此，先说结论： 1）大模型在小数据上过拟合；（感觉没啥a） 2）MIM

武乐乐~·2024-01-18 07:49

NLP任务中常用的损失函数

损失函数类型适用于：文本分类，情感分析，机器翻译，抽取式问答的有：y,y^y,\hat{y}y,y^分别表示真实和预测值二分类交叉熵损失L(y,y^)=−(ylogy^+(1−y)log(1−y^)L(y,\hat{y})=-(ylog\hat{y}+(1-y)log(1-\hat{y})L(y,y^)=−(ylogy^+(1−y)log(1−y^)多分类交叉熵损失函数L(y,y^)=−∑i=1m

bulingg·2024-01-18 04:22

中文NLP笔记：11. 基于 LSTM 生成古诗

基于LSTM生成古诗1.语料准备一共四万多首古诗，一行一首诗2.预处理将汉字表示为One-Hot的形式在每行末尾加上]符号是为了标识这首诗已经结束，说明]符号之前的语句和之后的语句是没有关联关系的，后面会舍弃掉包含]符号的训练数据。puncs=[']','[','（','）','{','}','：','《','》']defpreprocess_file(Config):#语料文本内容files_c

不会停的蜗牛·2024-01-18 04:37

我也有灰色地带

别以为我整天写NLP的好处，我的生活就一定过得完美，不可能的。NLP虽好，我也有用错的时候。在我看来，一旦用错，就必然会导致我所不期的结果。我把我行差踏错的场景标识成“我的灰色地带”。

福哥0075826·2024-01-17 22:23

NLP三大特征提取器全梳理：RNN vs CNN vs Transformer

【嵌牛鼻子】RNNCNNTransformer【嵌牛提问】NLP三大特征提取器是什么？【嵌牛正文】如果用

d5cc63d9e177·2024-01-17 20:10

【OUC深度学习入门】第6周学习记录：Vision Transformer & Swin Transformer & ConvNeXt

Part1VisionTransformer1网络结构ViT模型不仅适用于NLP领域，在CV领域也能取得不错的效果。

深蓝与夜的呼吸·2024-01-17 19:41

【深度学习：BERT 】开源 BERT：最先进的自然语言处理预训练

双向性的力量使用云TPU进行训练BERT结果让BERT为您服务自然语言处理（NLP）的最大挑战之一是训练数据的短缺。

jcfszxc·2024-01-17 19:27

2022-03-21

#知识##校园学习##NLP##自然语言处理##人工智能专业建设##textblob##文本数据清洗##实验视频##正则表达式##Python##keras##文本分词#个人用户获取相关代

跨象乘云·2024-01-17 19:45

儿子写给母亲的表扬颂

为期四天的心理学NLP系统学习结束了，回忆四天的学习，第三天培训的肖导留了一个作业，给我留下了深刻的印象，作业内容是要我们站在他人角度给自己写一篇表扬颂，她人可以是朋友，孩子，父母，兄弟姐妹。

蜗居娃娃·2024-01-17 18:48

PyTorch Tutorial 2.0

这里是对于PyTorchTutorial-CSDN博客的补充，但是与其相关的NLP内容无关，只是一些基础的PyTorch用法的记录，主要目的是能够自己生成一些模拟的数据集。

Karen_Yu_·2024-01-17 15:55

stanfordcorenlp 提示RuntimeError: Java not found.

遇到问题：/anaconda3/envs/tensorflow/bin/python3/anaconda3/demo/demo/gcn_eca/gcn_model_tf/get_w2v_corpus.pyTraceback(mostrecentcalllast):File“/anaconda3/demo/demo/gcn_eca/gcn_model_tf/get_w2v_corpus.py”,li

liqiang12689·2024-01-17 15:18

normalization in nn （batchnorm layernorm instancenorm groupnorm）

importtorchimporttorch.nnasnn定义输入，本文以nlp或时间序列预测的数据结构为例。即[batch_size,time_ste

sdu_study·2024-01-17 14:48

使用Hanlp加载大字典

问题因为需要加载一个近1G的字典到Hanlp中，一开始使用了CustomDictionay.add()方法来一条条的加载，果然到了中间，维护DoubleArraTre的成本太高，添加一个节点，都会很长时间

lanlantian123·2024-01-17 12:10

技术动态 | 知识图谱遇上RAG行业问答:回顾知识检索增强范式、挑战及与知识图谱的结合...

转载公众号|老刘说NLP今天我们来看看AIDD2023(https://aidd.vip/dhrc-sz2023)中有关知识图谱与行业问答上的一些有趣的分享，供大家一起参考。

开放知识图谱·2024-01-17 11:46

冻结Prompt微调LM： T5 & PET （a）

2019.10ExploringtheLimitsofTransferLearningwithaUnifiedText-to-TextTransformerTask:EverythingPrompt:前缀式人工promptModel:Encoder-DecoderTakeAway:加入前缀Prompt，所有NLP

AI-智能·2024-01-17 11:55

如何十分钟快速看懂一篇英文NLP论文？

已经2024年了，该出现一个写论文解读AIAgent了。大家肯定也在经常刷论文吧。但真正尝试过用GPT去刷论文、写论文解读的小伙伴，一定深有体验——费劲。其他agents也没有能搞定的，今天我发现了一个超级厉害的写论文解读的agent，传送门：赛博马良智能体-AI论文解读达人它不仅可以每天推荐你想看的AI论文，而且当你想快速看懂一篇英文论文的时候，可以直接丢给我们的agent，它就会给你写一篇详细

夕小瑶·2024-01-17 10:16

2024年1月16日Arxiv热门NLP大模型论文：Ada-Retrieval: An Adaptive Multi-Round Retrieval Paradigm for Sequential R

夕小瑶·2024-01-17 10:16

2024年1月16日Arxiv热门NLP大模型论文：Using Natural Language Inference to Improve Persona Extraction from Dialog

霍普斯金新研究:提高对话智能体在新领域中从对话中提取个性信息的能力引言：探索跨领域对话智能体的个性化挑战在构建对话智能体时，个性化是一个关键挑战，尤其是在跨领域的情况下。对话智能体需要能够根据其被赋予的角色或个性来生成回应，这要求它们能够理解并表达与特定角色相关的特征和行为。然而，现有的对话智能体往往在维持一致的个性上存在困难，尤其是在从现实世界场景转移到如幻想世界等不同叙事领域时。为了解决这一问

夕小瑶·2024-01-17 10:45

2024年1月16日Arxiv热门NLP大模型论文：A Closed-form Solution for Weight Optimization in Fully-connected ......

颠覆传统！一次迭代，全层并行，新神经网络权重优化方法，让机器学习效率飞跃引言：机器学习的崛起与发展概述在21世纪初，强大的计算机硬件和工作站的出现使得机器学习得以迅猛发展。作为人工智能的一部分，机器学习领域不断演进，并吸引了大量的研究兴趣，特别是在成功应用于各种学术和工业问题之后。这些机器的强大处理能力甚至在某些情况下超越了人类的表现。机器学习工具对于那些难以建立精确数学模型的实际问题尤其有趣，因

夕小瑶·2024-01-17 10:45

十分钟读完 OpenAI提出InstructGPT模型的经典论文：Training language models to follow instructions with human feedback

OpenAI提出新模型InstructGPT：通过人类反馈微调大型语言模型，减少有害输出引言：探索大型语言模型与用户意图对齐的新途径随着人工智能技术的飞速发展，大型语言模型（LMs）在自然语言处理（NLP

夕小瑶·2024-01-17 10:15

2024年1月16日Arxiv最热NLP大模型论文：The Unreasonable Effectiveness of Easy Training Data for Hard Tasks

让AI从简单学起，竟然能解决难题？AllenAI最新研究发现：简单到困难的泛化能力出奇地强引言：探讨训练模型在难题上的表现：简单数据的不合理有效性在人工智能的发展过程中，一个重要的问题是如何训练模型以便它们能够在难度较高的测试数据上表现良好，尤其是在难以获取准确标注的难题训练数据的情况下。这个问题被称为可扩展监督问题（scalableoversightproblem），随着语言模型的不断进步，这个

夕小瑶·2024-01-17 10:14

2024年1月16日Arxiv热门NLP大模型论文：Improved Learned Sparse Retrieval with Corpus-Specific Vocabularies

亚马逊颠覆搜索技术：自定义词汇库提升检索性能，效率提高50%，准确度飙升12%！引言：搜索引擎中的词汇选择与检索效率在搜索引擎的世界中，词汇的选择对于检索效率至关重要。传统的搜索引擎技术，如BM25，依赖于对文档中词汇的频率统计来估计词汇的重要性。然而，随着预训练语言模型（如BERT）的兴起，我们现在可以通过直接优化检索任务来学习文档中词汇的重要性。这些学习到的词汇重要性分数是许多学习型稀疏检索技

夕小瑶·2024-01-17 10:14

2024年1月16日Arxiv最热NLP大模型论文：How Johnny Can Persuade LLMs to Jailbreak Them: Rethinking Persuasion to C

让大语言模型轻松「越狱」，人大研究揭示AI安全新风险，攻击成功率高达92%！引言：人工智能安全的新视角——以人类沟通者的角色挑战大型语言模型（LLMs）随着大型语言模型（LLMs）的日益普及和能力提升，它们在日常互动中的安全性问题也逐渐显现。传统的人工智能（AI）安全研究多从算法角度出发，关注由安全专家开发的基于算法的攻击手段。然而，非专家用户在与LLMs的日常交互中也可能带来风险。本文提出了一种

夕小瑶·2024-01-17 10:43

2024 年1月15日Arxiv最热NLP大模型论文：APAR: LLMs Can Do Auto-Parallel Auto-Regressive Decoding

清华大学让大语言模型自动并行自回归解码，速度提升高达4倍！引言：大型语言模型的高效部署挑战随着大型语言模型（LLMs）在各种人工智能应用中的广泛应用，对于这些模型的高效部署需求日益增长。高效部署在这里指的是低延迟和高吞吐量。然而，LLMs的基础自回归（AR）结构给实现更高效的服务带来了显著挑战。首先，自回归解码过程中，每一个新的词元都是基于之前生成的所有词元条件生成的，这种增量式解码导致生成速度不

夕小瑶·2024-01-17 10:13

2024年1月16日Arxiv热门NLP大模型论文：Multi-Candidate Speculative Decoding

大幅提速NLP任务，无需牺牲准确性！

夕小瑶·2024-01-17 10:03

刘知远LLM入门到实战——自然语言基础

文章目录自然语言处理基础词表示语言模型N-gramModelNeuralLanguageModel:为什么NLP等领域的模型越来越大？大模型会带来哪些新的范式和挑战？

李日音·2024-01-17 08:41

深入探索智能问答：从检索到生成的技术之旅

一、智能问答概述智能问答(IntelligentQuestionAnswering,IQA)是自然语言处理（NLP）中的一个核心子领域，旨在设计和开发

工业甲酰苯胺·2024-01-17 06:38

java调用Hanlp分词器获取词性；自定义词性字典

一、配置pom，导包：com.hankcshanlpportable-1.6.8二、java代码实现分词：/****hanlp分词*@paraminput*/publicstaticMapgetOut(

你好龙卷风！！！·2024-01-16 21:08

使用PaddleNLP识别垃圾邮件准确率98.5%的垃圾邮件分类器（附数据集下载）

使用PaddleNLP识别垃圾邮件准确率98.5%的垃圾邮件分类器（附数据集下载）。什么是垃圾邮件？垃圾邮件泛指未经请求而发送的电子邮件，例如未经发件人请求或允许而发送的商业广告或非法的电子邮件。

代码讲故事·2024-01-16 21:29

今天的领悟

感谢NLP平台给了我一个机会，感谢马老师精彩的教学，感谢

胖龙_fd9d·2024-01-16 19:48

一周NLP实践记录

幸好在nlp执行师课堂也做过类似的练习。当时和伙伴对练，她要我大声、再大声、再再大声。那时还没搞懂为啥。现在我明白那是给大脑创建新的回路。

晴空壹鹤·2024-01-16 18:31

springboot 通过代码自动生成pid

获取pid有很多种写法，简答粗暴netstat-nlpport|grepport|grep-v。其实springboot本身就有更简单方式来

神易风·2024-01-16 17:06

【AIGC入门一】Transformers 模型结构详解及代码解析

Transformers开启了NLP一个新时代，注意力模块目前各类大模型的重要结构。作为刚入门LLM的新手，怎么能不感受一下这个“变形金刚的魅力”呢？

不想动脑筋的亮亮·2024-01-16 15:59

【大模型】大语言模型前沿技术系列讲座-学习笔记2：Transformer -＞ChatGPT

系列讲座的内容由浅入深，讲解非常细致，没有任何水分，很适合我这种NLP刚入门的小白，听了这些讲座之后感觉收获满满8.26讲座安排（实际时长17：30-21

不雨_亦潇潇·2024-01-16 15:28

自然语言处理实战项目25-T5模型和BERT模型的应用场景以及对比研究、问题解答

T5是一种序列到序列模型，可以处理各种NLP任务，而BERT主要用于预训练语言表示。T5使用了类似于BERT的预训练方式，但采用了更广泛的输入输出形式。

微学AI·2024-01-16 14:40

AIGC大模型必备知识——LLM ，你知道它是如何训练的吗？小白必读深度好文

OJAC近屿智能·2024-01-16 14:03

RAG检索式增强技术是什么——OJAC近屿智能带你一探究竟

OJAC近屿智能·2024-01-16 14:30

【Python相关】anaconda介绍、安装及conda命令详解

❤️觉得内容不错的话，欢迎点赞收藏加关注，后续会继续输入更多优质内容❤️有问题欢迎大家加关注私戳或者评论（包括但不限于NLP算法相关，linux学习相关，读研读博相关......）博主原文链接：https

Chaos_Wang_·2024-01-16 14:52

NLP复习笔记-FA

DFA和NFA的区别1.DFA没有epsilontransaction（必须读入字符）2.对每一个确定的状态和读入字符，最多只能到一个下个状态，（不能有多的选择）Recognitioninputposition:0-ninitialconfiguration:(q0,0)agenda:asetofconfigurations,initialempty如何计算一个新的configuration从ag

乔茜_7b45·2024-01-16 12:28

深度学习：大规模模型分布式训练框架DeepSpeed

特别是在自然语言处理（NLP）等领域，模型大都达到了数十亿甚至数千亿参数的规模，这就需要多卡或者多节点分布式训练。为了有效地训练这些巨型

AI Player·2024-01-16 12:31

NLP 学习资源

红烧肉_2121·2024-01-16 11:10

机器学习在什么场景下最常用-九五小庞

机器学习在多个场景中都有广泛的应用，下面是一些常见的应用场景：自然语言处理（NLP）：如语音识别、自动翻译、情感分析、垃圾邮件过滤等。数据挖掘和分析：如市场分析、用户画像、推荐系统、欺诈检测等。

Up九五小庞·2024-01-16 10:33

开源项目汇总：机器学习前沿探索 | 开源专题 No.60

这些组件与领域无关，被视觉、NLP等领域的研究人员广泛使用。以研究为先导：xFormers包含在pytorch等主流库中还不可用的尖端组件。注重效率：因

开源服务指南·2024-01-16 10:01

LLM论文：ALCE （Enabling Large Language Models to Generate Text with Citations）

这是一篇RAG领域的文章，原文在这：https://aclanthology.org/2023.emnlp-main.398.pdf时间[Submittedon24May2023(v1),lastrevised31Oct2023

__心似大海__·2024-01-16 08:19

【文本到上下文 #5】：RNN、LSTM 和 GRU

一、说明欢迎来到“完整的NLP指南：文本到上下文#5”，这是我们对自然语言处理（NLP）和深度学习的持续探索。

无水先生·2024-01-16 08:42

推荐频道

【NLP】