NLP学习历程第18页

如何十分钟快速看懂一篇NLP论文？

大家如果经常在刷NLP论文，肯定会觉得非常耗时耗力。已经2024年了，该出现一个写论文解读AIAgent了。但真正尝试过用GPT去刷论文、写论文解读的小伙伴，一定深有体验——费劲。

夕小瑶·2024-01-18 12:14

2024年1月17日Arxiv热门NLP大模型论文：MIT、IBM推出新方法，大幅提升LLMs的连贯性、准确性和可更新性！

引言：探索语言模型的真实性和一致性在当今信息爆炸的时代，语言模型（LanguageModels，简称LMs）已成为获取信息和验证事实的重要工具。然而，现有的LMs在生成事实性内容时常常出现错误，甚至自相矛盾，更新新信息也颇具挑战。为了解决这些问题，研究者们提出了一种新的LM微调方法——DeductiveClosureTraining（DCT）。DCT的核心思想是利用LMs自身在推理时的能力，通过自

夕小瑶·2024-01-18 12:13

2024年1月17日Arxiv热门NLP大模型论文：Generative Multi-Modal Knowledge Retrieval with Large Language Models

清华&腾讯AAAI2024联手突破！提出多模态知识检索新框架，性能大幅领先引言：多模态知识检索的重要性与挑战在当今信息爆炸的时代，多模态知识检索已成为支持知识密集型多模态应用的关键技术。例如，在视觉问答（VQA）、多模态实体链接和多模态对话等应用中，多模态上下文内的信息可能不足以满足需求，因此需要获取外部知识。然而，现有的方法在有效性和训练效率方面面临挑战，尤其是在训练和整合多个检索器以处理多模态

夕小瑶·2024-01-18 12:43

基于Python大数据的京东产品评论的情感分析的研究，包括snwonlp情感分析和LDA主题分析

研究背景网上购物已经成为大众生活的重要组成部分。人们在电商平台上浏览商品和购物，产生了海量的用户行为数据，其中用户对商品的评论数据对商家具有重要的意义。利用好这些碎片化、非结构化的数据，将有利于企业在电商平台上的持续发展，对这部分数据进行分析，依据评论数据来优化现有产品也是大数据在企业经营中的实际应用。用户对商品的评论数据对商家来说非常重要，可以为他们提供宝贵的市场洞察和决策依据，帮助他们改进产品

叫我：松哥·2024-01-18 12:11

2024年1月17日Arxiv热门NLP大模型论文：THE FAISS LIBRARY

Meta革新搜索技术！提出Faiss库引领向量数据库性能飞跃引言：向量数据库的兴起与发展随着人工智能应用的迅速增长，需要存储和索引的嵌入向量（embeddings）数量也在急剧增加。嵌入向量是由神经网络生成的向量表示，其主要目的是将输入媒体项映射（嵌入）到向量空间中，空间中的局部性编码了输入的语义。这些嵌入向量从各种媒体形式中提取，包括文字、图像、用户和推荐项目等。它们甚至可以编码对象关系，例如多

夕小瑶·2024-01-18 12:05

深入了解Transformer：从编码器到解码器的神经网络之旅

深入了解Transformer：从编码器到解码器的神经网络之旅0.引言自2017年问世以来，Transformer模型在自然语言处理（NLP）领域引发了一场革命。

机智的小神仙儿·2024-01-18 09:16

NLP教练式父母第二天学习感悟

今天上午的学习，让我对妈妈有了更深的看见和理解，兰馨老师帮我呈现出了和妈妈的关系，那个无力的、麻木的妈妈，她一直在渴望看见。我内心一方面知道她需要支持和看见，另一方面却又害怕背负她的人生课题，重复以前拯救者的模式，这个时候助教艳霞老师又给了我新的启发，不做拯救者，我也可以用作为女儿的方式去爱妈妈，支持妈妈，真正的看见妈妈。在和父母连接的体验中，我首先扮演了妈妈的角色，当我的手指指向那个孩子的时候，

缘方_8190·2024-01-18 09:58

大创项目推荐深度学习的智能中文对话问答机器人

1项目架构2项目的主要过程2.1数据清洗、预处理2.2分桶2.3训练3项目的整体结构4重要的API4.1LSTMcells部分：4.2损失函数：4.3搭建seq2seq框架：4.4测试部分：4.5评价NLP

laafeer·2024-01-18 09:11

大语言模型系列-ELMo

word2vec的缺点：为每个词汇表中每个分词静态生成一个对应的词向量表示，没有考虑到语境，因此无法无法处理多义词ps：先训练一个词嵌入模型，生成词向量表示，然后将生成的词向量输入下游任务新的模型中进行具体NLP

学海一叶·2024-01-18 09:11

大语言模型系列-word2vec

的网络结构和流程1.Skip-Gram模型2.CBOW模型二、word2vec的训练机制1.Hierarchicalsoftmax2.NegativeSampling总结前言在前文大语言模型系列-总述已经提到传统NLP

学海一叶·2024-01-18 08:39

On Data Scaling in Masked Image Modelin

前言本文验证SIMMIM无监督预训练方法，是否会出现与NLP类似的拓展法则现象。1、结论这篇论文做了大量的对比实验，因此，先说结论： 1）大模型在小数据上过拟合；（感觉没啥a） 2）MIM

武乐乐~·2024-01-18 07:49

NLP任务中常用的损失函数

损失函数类型适用于：文本分类，情感分析，机器翻译，抽取式问答的有：y,y^y,\hat{y}y,y^分别表示真实和预测值二分类交叉熵损失L(y,y^)=−(ylogy^+(1−y)log(1−y^)L(y,\hat{y})=-(ylog\hat{y}+(1-y)log(1-\hat{y})L(y,y^)=−(ylogy^+(1−y)log(1−y^)多分类交叉熵损失函数L(y,y^)=−∑i=1m

bulingg·2024-01-18 04:22

中文NLP笔记：11. 基于 LSTM 生成古诗

基于LSTM生成古诗1.语料准备一共四万多首古诗，一行一首诗2.预处理将汉字表示为One-Hot的形式在每行末尾加上]符号是为了标识这首诗已经结束，说明]符号之前的语句和之后的语句是没有关联关系的，后面会舍弃掉包含]符号的训练数据。puncs=[']','[','（','）','{','}','：','《','》']defpreprocess_file(Config):#语料文本内容files_c

不会停的蜗牛·2024-01-18 04:37

我也有灰色地带

别以为我整天写NLP的好处，我的生活就一定过得完美，不可能的。NLP虽好，我也有用错的时候。在我看来，一旦用错，就必然会导致我所不期的结果。我把我行差踏错的场景标识成“我的灰色地带”。

福哥0075826·2024-01-17 22:23

UE4特效萌新上手笔记-Houdini导Niagara配置

本文记录UE4学习历程的第一天（第N个），通过快速浏览视频来认识Niagara，分析学习方向，并尝试上手Houdini导入数据到UE4。希望能对自己还有大家能有一点帮助。如何学习？

无天大人·2024-01-17 20:55

NLP三大特征提取器全梳理：RNN vs CNN vs Transformer

【嵌牛鼻子】RNNCNNTransformer【嵌牛提问】NLP三大特征提取器是什么？【嵌牛正文】如果用

d5cc63d9e177·2024-01-17 20:10

【OUC深度学习入门】第6周学习记录：Vision Transformer & Swin Transformer & ConvNeXt

Part1VisionTransformer1网络结构ViT模型不仅适用于NLP领域，在CV领域也能取得不错的效果。

深蓝与夜的呼吸·2024-01-17 19:41

【深度学习：BERT 】开源 BERT：最先进的自然语言处理预训练

双向性的力量使用云TPU进行训练BERT结果让BERT为您服务自然语言处理（NLP）的最大挑战之一是训练数据的短缺。

jcfszxc·2024-01-17 19:27

2022-03-21

#知识##校园学习##NLP##自然语言处理##人工智能专业建设##textblob##文本数据清洗##实验视频##正则表达式##Python##keras##文本分词#个人用户获取相关代

跨象乘云·2024-01-17 19:45

go语言gui的库andlabs/ui官方代码实例

今天我们记录andlabs/ui库的学习历程，我们看一下官方的例子，因为它教程比较少，只能看官方的案例，百度看介绍的时候功能也可以。准备用它写一个自动升级用的小工具，两三个窗口，以为能搞定的。

无电不音乐·2024-01-17 18:06

儿子写给母亲的表扬颂

为期四天的心理学NLP系统学习结束了，回忆四天的学习，第三天培训的肖导留了一个作业，给我留下了深刻的印象，作业内容是要我们站在他人角度给自己写一篇表扬颂，她人可以是朋友，孩子，父母，兄弟姐妹。

蜗居娃娃·2024-01-17 18:48

PyTorch Tutorial 2.0

这里是对于PyTorchTutorial-CSDN博客的补充，但是与其相关的NLP内容无关，只是一些基础的PyTorch用法的记录，主要目的是能够自己生成一些模拟的数据集。

Karen_Yu_·2024-01-17 15:55

stanfordcorenlp 提示RuntimeError: Java not found.

遇到问题：/anaconda3/envs/tensorflow/bin/python3/anaconda3/demo/demo/gcn_eca/gcn_model_tf/get_w2v_corpus.pyTraceback(mostrecentcalllast):File“/anaconda3/demo/demo/gcn_eca/gcn_model_tf/get_w2v_corpus.py”,li

liqiang12689·2024-01-17 15:18

normalization in nn （batchnorm layernorm instancenorm groupnorm）

importtorchimporttorch.nnasnn定义输入，本文以nlp或时间序列预测的数据结构为例。即[batch_size,time_ste

sdu_study·2024-01-17 14:48

使用Hanlp加载大字典

问题因为需要加载一个近1G的字典到Hanlp中，一开始使用了CustomDictionay.add()方法来一条条的加载，果然到了中间，维护DoubleArraTre的成本太高，添加一个节点，都会很长时间

lanlantian123·2024-01-17 12:10

技术动态 | 知识图谱遇上RAG行业问答:回顾知识检索增强范式、挑战及与知识图谱的结合...

转载公众号|老刘说NLP今天我们来看看AIDD2023(https://aidd.vip/dhrc-sz2023)中有关知识图谱与行业问答上的一些有趣的分享，供大家一起参考。

开放知识图谱·2024-01-17 11:46

冻结Prompt微调LM： T5 & PET （a）

2019.10ExploringtheLimitsofTransferLearningwithaUnifiedText-to-TextTransformerTask:EverythingPrompt:前缀式人工promptModel:Encoder-DecoderTakeAway:加入前缀Prompt，所有NLP

AI-智能·2024-01-17 11:55

如何十分钟快速看懂一篇英文NLP论文？

已经2024年了，该出现一个写论文解读AIAgent了。大家肯定也在经常刷论文吧。但真正尝试过用GPT去刷论文、写论文解读的小伙伴，一定深有体验——费劲。其他agents也没有能搞定的，今天我发现了一个超级厉害的写论文解读的agent，传送门：赛博马良智能体-AI论文解读达人它不仅可以每天推荐你想看的AI论文，而且当你想快速看懂一篇英文论文的时候，可以直接丢给我们的agent，它就会给你写一篇详细

夕小瑶·2024-01-17 10:16

2024年1月16日Arxiv热门NLP大模型论文：Ada-Retrieval: An Adaptive Multi-Round Retrieval Paradigm for Sequential R

夕小瑶·2024-01-17 10:16

2024年1月16日Arxiv热门NLP大模型论文：Using Natural Language Inference to Improve Persona Extraction from Dialog

霍普斯金新研究:提高对话智能体在新领域中从对话中提取个性信息的能力引言：探索跨领域对话智能体的个性化挑战在构建对话智能体时，个性化是一个关键挑战，尤其是在跨领域的情况下。对话智能体需要能够根据其被赋予的角色或个性来生成回应，这要求它们能够理解并表达与特定角色相关的特征和行为。然而，现有的对话智能体往往在维持一致的个性上存在困难，尤其是在从现实世界场景转移到如幻想世界等不同叙事领域时。为了解决这一问

夕小瑶·2024-01-17 10:45

2024年1月16日Arxiv热门NLP大模型论文：A Closed-form Solution for Weight Optimization in Fully-connected ......

颠覆传统！一次迭代，全层并行，新神经网络权重优化方法，让机器学习效率飞跃引言：机器学习的崛起与发展概述在21世纪初，强大的计算机硬件和工作站的出现使得机器学习得以迅猛发展。作为人工智能的一部分，机器学习领域不断演进，并吸引了大量的研究兴趣，特别是在成功应用于各种学术和工业问题之后。这些机器的强大处理能力甚至在某些情况下超越了人类的表现。机器学习工具对于那些难以建立精确数学模型的实际问题尤其有趣，因

夕小瑶·2024-01-17 10:45

十分钟读完 OpenAI提出InstructGPT模型的经典论文：Training language models to follow instructions with human feedback

OpenAI提出新模型InstructGPT：通过人类反馈微调大型语言模型，减少有害输出引言：探索大型语言模型与用户意图对齐的新途径随着人工智能技术的飞速发展，大型语言模型（LMs）在自然语言处理（NLP

夕小瑶·2024-01-17 10:15

2024年1月16日Arxiv最热NLP大模型论文：The Unreasonable Effectiveness of Easy Training Data for Hard Tasks

让AI从简单学起，竟然能解决难题？AllenAI最新研究发现：简单到困难的泛化能力出奇地强引言：探讨训练模型在难题上的表现：简单数据的不合理有效性在人工智能的发展过程中，一个重要的问题是如何训练模型以便它们能够在难度较高的测试数据上表现良好，尤其是在难以获取准确标注的难题训练数据的情况下。这个问题被称为可扩展监督问题（scalableoversightproblem），随着语言模型的不断进步，这个

夕小瑶·2024-01-17 10:14

2024年1月16日Arxiv热门NLP大模型论文：Improved Learned Sparse Retrieval with Corpus-Specific Vocabularies

亚马逊颠覆搜索技术：自定义词汇库提升检索性能，效率提高50%，准确度飙升12%！引言：搜索引擎中的词汇选择与检索效率在搜索引擎的世界中，词汇的选择对于检索效率至关重要。传统的搜索引擎技术，如BM25，依赖于对文档中词汇的频率统计来估计词汇的重要性。然而，随着预训练语言模型（如BERT）的兴起，我们现在可以通过直接优化检索任务来学习文档中词汇的重要性。这些学习到的词汇重要性分数是许多学习型稀疏检索技

夕小瑶·2024-01-17 10:14

2024年1月16日Arxiv最热NLP大模型论文：How Johnny Can Persuade LLMs to Jailbreak Them: Rethinking Persuasion to C

让大语言模型轻松「越狱」，人大研究揭示AI安全新风险，攻击成功率高达92%！引言：人工智能安全的新视角——以人类沟通者的角色挑战大型语言模型（LLMs）随着大型语言模型（LLMs）的日益普及和能力提升，它们在日常互动中的安全性问题也逐渐显现。传统的人工智能（AI）安全研究多从算法角度出发，关注由安全专家开发的基于算法的攻击手段。然而，非专家用户在与LLMs的日常交互中也可能带来风险。本文提出了一种

夕小瑶·2024-01-17 10:43

2024 年1月15日Arxiv最热NLP大模型论文：APAR: LLMs Can Do Auto-Parallel Auto-Regressive Decoding

清华大学让大语言模型自动并行自回归解码，速度提升高达4倍！引言：大型语言模型的高效部署挑战随着大型语言模型（LLMs）在各种人工智能应用中的广泛应用，对于这些模型的高效部署需求日益增长。高效部署在这里指的是低延迟和高吞吐量。然而，LLMs的基础自回归（AR）结构给实现更高效的服务带来了显著挑战。首先，自回归解码过程中，每一个新的词元都是基于之前生成的所有词元条件生成的，这种增量式解码导致生成速度不

夕小瑶·2024-01-17 10:13

2024年1月16日Arxiv热门NLP大模型论文：Multi-Candidate Speculative Decoding

大幅提速NLP任务，无需牺牲准确性！

夕小瑶·2024-01-17 10:03

刘知远LLM入门到实战——自然语言基础

文章目录自然语言处理基础词表示语言模型N-gramModelNeuralLanguageModel:为什么NLP等领域的模型越来越大？大模型会带来哪些新的范式和挑战？

李日音·2024-01-17 08:41

ImageNet Classification with Deep Convolutional 论文笔记

✅作者简介：人工智能专业本科在读，喜欢计算机与编程，写博客记录自己的学习历程。个人主页：小嗷犬的个人主页个人网站：小嗷犬的技术小站个人信条：为天地立心，为生民立命，为往圣继绝学，为万世开太平。

小嗷犬·2024-01-17 06:25

学生真实的学习历程是缓慢而复杂的

学生真实的学习历程是缓慢而复杂的！是缓慢而复杂的！！从思维产生的过程阐释“学习的历程”:思维不是自然发生的，它是由“难题”和“疑问”引发的，而正是“解决方案的需要”，维持和引导着反思性思维的整个过程。

吴晓妮·2024-01-17 06:24

深入探索智能问答：从检索到生成的技术之旅

一、智能问答概述智能问答(IntelligentQuestionAnswering,IQA)是自然语言处理（NLP）中的一个核心子领域，旨在设计和开发

工业甲酰苯胺·2024-01-17 06:38

java调用Hanlp分词器获取词性；自定义词性字典

一、配置pom，导包：com.hankcshanlpportable-1.6.8二、java代码实现分词：/****hanlp分词*@paraminput*/publicstaticMapgetOut(

你好龙卷风！！！·2024-01-16 21:08

R语言实现bilidown下载的视频文件汇总及视频MP4格式转换为MP3格式

这次得到了质的转变，用R语言实现MP4到MP3的格式转换~这次用到了一个很厉害的工具：ffmpeg菜鸡学习历程：如何下载b站视频及音频转换R脚本实现bilidown下载的视频汇总1下载ffmpeg下载地址自定义安装位置

生信摆渡·2024-01-16 21:53

[自动驾驶算法][从0开始轨迹预测]：一、坐标系和坐标系变换

回想下自己的学习历程，真正有挑战性的不是模型结构，不是繁琐的训练和调参，而是数据的制作！！！

Way_X·2024-01-16 21:09

使用PaddleNLP识别垃圾邮件准确率98.5%的垃圾邮件分类器（附数据集下载）

使用PaddleNLP识别垃圾邮件准确率98.5%的垃圾邮件分类器（附数据集下载）。什么是垃圾邮件？垃圾邮件泛指未经请求而发送的电子邮件，例如未经发件人请求或允许而发送的商业广告或非法的电子邮件。

代码讲故事·2024-01-16 21:29

今天的领悟

感谢NLP平台给了我一个机会，感谢马老师精彩的教学，感谢

胖龙_fd9d·2024-01-16 19:48

一周NLP实践记录

幸好在nlp执行师课堂也做过类似的练习。当时和伙伴对练，她要我大声、再大声、再再大声。那时还没搞懂为啥。现在我明白那是给大脑创建新的回路。

晴空壹鹤·2024-01-16 18:31

springboot 通过代码自动生成pid

获取pid有很多种写法，简答粗暴netstat-nlpport|grepport|grep-v。其实springboot本身就有更简单方式来

神易风·2024-01-16 17:06

小嗷犬·2024-01-16 16:58

Transformer 位置编码