天池nlp 第19页

On Data Scaling in Masked Image Modelin

前言本文验证SIMMIM无监督预训练方法，是否会出现与NLP类似的拓展法则现象。1、结论这篇论文做了大量的对比实验，因此，先说结论： 1）大模型在小数据上过拟合；（感觉没啥a） 2）MIM

武乐乐~·2024-01-18 07:49

NLP任务中常用的损失函数

损失函数类型适用于：文本分类，情感分析，机器翻译，抽取式问答的有：y,y^y,\hat{y}y,y^分别表示真实和预测值二分类交叉熵损失L(y,y^)=−(ylogy^+(1−y)log(1−y^)L(y,\hat{y})=-(ylog\hat{y}+(1-y)log(1-\hat{y})L(y,y^)=−(ylogy^+(1−y)log(1−y^)多分类交叉熵损失函数L(y,y^)=−∑i=1m

bulingg·2024-01-18 04:22

中文NLP笔记：11. 基于 LSTM 生成古诗

基于LSTM生成古诗1.语料准备一共四万多首古诗，一行一首诗2.预处理将汉字表示为One-Hot的形式在每行末尾加上]符号是为了标识这首诗已经结束，说明]符号之前的语句和之后的语句是没有关联关系的，后面会舍弃掉包含]符号的训练数据。puncs=[']','[','（','）','{','}','：','《','》']defpreprocess_file(Config):#语料文本内容files_c

不会停的蜗牛·2024-01-18 04:37

我也有灰色地带

别以为我整天写NLP的好处，我的生活就一定过得完美，不可能的。NLP虽好，我也有用错的时候。在我看来，一旦用错，就必然会导致我所不期的结果。我把我行差踏错的场景标识成“我的灰色地带”。

福哥0075826·2024-01-17 22:23

NLP三大特征提取器全梳理：RNN vs CNN vs Transformer

【嵌牛鼻子】RNNCNNTransformer【嵌牛提问】NLP三大特征提取器是什么？【嵌牛正文】如果用

d5cc63d9e177·2024-01-17 20:10

荷花定律

请问：在第几天池塘中的荷花开了一半？第15天？错！是第29天。因为:第一天开放的只是一小部分，第二天，它们会以前一天的两倍速度开放。到第29天时荷花仅仅开满了一半，直到最后一天才会开满另一半。

1如是我闻·2024-01-17 19:01

【OUC深度学习入门】第6周学习记录：Vision Transformer & Swin Transformer & ConvNeXt

Part1VisionTransformer1网络结构ViT模型不仅适用于NLP领域，在CV领域也能取得不错的效果。

深蓝与夜的呼吸·2024-01-17 19:41

【深度学习：BERT 】开源 BERT：最先进的自然语言处理预训练

双向性的力量使用云TPU进行训练BERT结果让BERT为您服务自然语言处理（NLP）的最大挑战之一是训练数据的短缺。

jcfszxc·2024-01-17 19:27

2022-03-21

#知识##校园学习##NLP##自然语言处理##人工智能专业建设##textblob##文本数据清洗##实验视频##正则表达式##Python##keras##文本分词#个人用户获取相关代

跨象乘云·2024-01-17 19:45

儿子写给母亲的表扬颂

为期四天的心理学NLP系统学习结束了，回忆四天的学习，第三天培训的肖导留了一个作业，给我留下了深刻的印象，作业内容是要我们站在他人角度给自己写一篇表扬颂，她人可以是朋友，孩子，父母，兄弟姐妹。

蜗居娃娃·2024-01-17 18:48

PyTorch Tutorial 2.0

这里是对于PyTorchTutorial-CSDN博客的补充，但是与其相关的NLP内容无关，只是一些基础的PyTorch用法的记录，主要目的是能够自己生成一些模拟的数据集。

Karen_Yu_·2024-01-17 15:55

stanfordcorenlp 提示RuntimeError: Java not found.

遇到问题：/anaconda3/envs/tensorflow/bin/python3/anaconda3/demo/demo/gcn_eca/gcn_model_tf/get_w2v_corpus.pyTraceback(mostrecentcalllast):File“/anaconda3/demo/demo/gcn_eca/gcn_model_tf/get_w2v_corpus.py”,li

liqiang12689·2024-01-17 15:18

normalization in nn （batchnorm layernorm instancenorm groupnorm）

importtorchimporttorch.nnasnn定义输入，本文以nlp或时间序列预测的数据结构为例。即[batch_size,time_ste

sdu_study·2024-01-17 14:48

使用Hanlp加载大字典

问题因为需要加载一个近1G的字典到Hanlp中，一开始使用了CustomDictionay.add()方法来一条条的加载，果然到了中间，维护DoubleArraTre的成本太高，添加一个节点，都会很长时间

lanlantian123·2024-01-17 12:10

观明史有感

望眼欲穿苍穹日，暗雪急落九天池。一朝国本争不尽，矿索荣华入宫闱。

名字也没有·2024-01-17 12:29

技术动态 | 知识图谱遇上RAG行业问答:回顾知识检索增强范式、挑战及与知识图谱的结合...

转载公众号|老刘说NLP今天我们来看看AIDD2023(https://aidd.vip/dhrc-sz2023)中有关知识图谱与行业问答上的一些有趣的分享，供大家一起参考。

开放知识图谱·2024-01-17 11:46

冻结Prompt微调LM： T5 & PET （a）

2019.10ExploringtheLimitsofTransferLearningwithaUnifiedText-to-TextTransformerTask:EverythingPrompt:前缀式人工promptModel:Encoder-DecoderTakeAway:加入前缀Prompt，所有NLP

AI-智能·2024-01-17 11:55

如何十分钟快速看懂一篇英文NLP论文？

已经2024年了，该出现一个写论文解读AIAgent了。大家肯定也在经常刷论文吧。但真正尝试过用GPT去刷论文、写论文解读的小伙伴，一定深有体验——费劲。其他agents也没有能搞定的，今天我发现了一个超级厉害的写论文解读的agent，传送门：赛博马良智能体-AI论文解读达人它不仅可以每天推荐你想看的AI论文，而且当你想快速看懂一篇英文论文的时候，可以直接丢给我们的agent，它就会给你写一篇详细

夕小瑶·2024-01-17 10:16

2024年1月16日Arxiv热门NLP大模型论文：Ada-Retrieval: An Adaptive Multi-Round Retrieval Paradigm for Sequential R

夕小瑶·2024-01-17 10:16

2024年1月16日Arxiv热门NLP大模型论文：Using Natural Language Inference to Improve Persona Extraction from Dialog

霍普斯金新研究:提高对话智能体在新领域中从对话中提取个性信息的能力引言：探索跨领域对话智能体的个性化挑战在构建对话智能体时，个性化是一个关键挑战，尤其是在跨领域的情况下。对话智能体需要能够根据其被赋予的角色或个性来生成回应，这要求它们能够理解并表达与特定角色相关的特征和行为。然而，现有的对话智能体往往在维持一致的个性上存在困难，尤其是在从现实世界场景转移到如幻想世界等不同叙事领域时。为了解决这一问

夕小瑶·2024-01-17 10:45

2024年1月16日Arxiv热门NLP大模型论文：A Closed-form Solution for Weight Optimization in Fully-connected ......

颠覆传统！一次迭代，全层并行，新神经网络权重优化方法，让机器学习效率飞跃引言：机器学习的崛起与发展概述在21世纪初，强大的计算机硬件和工作站的出现使得机器学习得以迅猛发展。作为人工智能的一部分，机器学习领域不断演进，并吸引了大量的研究兴趣，特别是在成功应用于各种学术和工业问题之后。这些机器的强大处理能力甚至在某些情况下超越了人类的表现。机器学习工具对于那些难以建立精确数学模型的实际问题尤其有趣，因

夕小瑶·2024-01-17 10:45

十分钟读完 OpenAI提出InstructGPT模型的经典论文：Training language models to follow instructions with human feedback

OpenAI提出新模型InstructGPT：通过人类反馈微调大型语言模型，减少有害输出引言：探索大型语言模型与用户意图对齐的新途径随着人工智能技术的飞速发展，大型语言模型（LMs）在自然语言处理（NLP

夕小瑶·2024-01-17 10:15

2024年1月16日Arxiv最热NLP大模型论文：The Unreasonable Effectiveness of Easy Training Data for Hard Tasks

让AI从简单学起，竟然能解决难题？AllenAI最新研究发现：简单到困难的泛化能力出奇地强引言：探讨训练模型在难题上的表现：简单数据的不合理有效性在人工智能的发展过程中，一个重要的问题是如何训练模型以便它们能够在难度较高的测试数据上表现良好，尤其是在难以获取准确标注的难题训练数据的情况下。这个问题被称为可扩展监督问题（scalableoversightproblem），随着语言模型的不断进步，这个

夕小瑶·2024-01-17 10:14

2024年1月16日Arxiv热门NLP大模型论文：Improved Learned Sparse Retrieval with Corpus-Specific Vocabularies

亚马逊颠覆搜索技术：自定义词汇库提升检索性能，效率提高50%，准确度飙升12%！引言：搜索引擎中的词汇选择与检索效率在搜索引擎的世界中，词汇的选择对于检索效率至关重要。传统的搜索引擎技术，如BM25，依赖于对文档中词汇的频率统计来估计词汇的重要性。然而，随着预训练语言模型（如BERT）的兴起，我们现在可以通过直接优化检索任务来学习文档中词汇的重要性。这些学习到的词汇重要性分数是许多学习型稀疏检索技

夕小瑶·2024-01-17 10:14

2024年1月16日Arxiv最热NLP大模型论文：How Johnny Can Persuade LLMs to Jailbreak Them: Rethinking Persuasion to C

让大语言模型轻松「越狱」，人大研究揭示AI安全新风险，攻击成功率高达92%！引言：人工智能安全的新视角——以人类沟通者的角色挑战大型语言模型（LLMs）随着大型语言模型（LLMs）的日益普及和能力提升，它们在日常互动中的安全性问题也逐渐显现。传统的人工智能（AI）安全研究多从算法角度出发，关注由安全专家开发的基于算法的攻击手段。然而，非专家用户在与LLMs的日常交互中也可能带来风险。本文提出了一种

夕小瑶·2024-01-17 10:43

2024 年1月15日Arxiv最热NLP大模型论文：APAR: LLMs Can Do Auto-Parallel Auto-Regressive Decoding

清华大学让大语言模型自动并行自回归解码，速度提升高达4倍！引言：大型语言模型的高效部署挑战随着大型语言模型（LLMs）在各种人工智能应用中的广泛应用，对于这些模型的高效部署需求日益增长。高效部署在这里指的是低延迟和高吞吐量。然而，LLMs的基础自回归（AR）结构给实现更高效的服务带来了显著挑战。首先，自回归解码过程中，每一个新的词元都是基于之前生成的所有词元条件生成的，这种增量式解码导致生成速度不

夕小瑶·2024-01-17 10:13

2024年1月16日Arxiv热门NLP大模型论文：Multi-Candidate Speculative Decoding

大幅提速NLP任务，无需牺牲准确性！

夕小瑶·2024-01-17 10:03

兵团警校行（20）祖国边疆

4天池底有没有我的梦想？胡杨林戍守边防，老龙河流尽了

我行正道·2024-01-17 09:36

刘知远LLM入门到实战——自然语言基础

文章目录自然语言处理基础词表示语言模型N-gramModelNeuralLanguageModel:为什么NLP等领域的模型越来越大？大模型会带来哪些新的范式和挑战？

李日音·2024-01-17 08:41

部署大模型API的实战教程

曾获得阿里云天池比赛第一名，CCF比赛第二名，科大讯飞比赛第三名。拥有多项发明专利。对机器学习和深度学习拥有自己独到的见解。曾经辅导过若干个非计算机专业的学生进入到算法行业就业。

herosunly·2024-01-17 08:30

深入探索智能问答：从检索到生成的技术之旅

一、智能问答概述智能问答(IntelligentQuestionAnswering,IQA)是自然语言处理（NLP）中的一个核心子领域，旨在设计和开发

工业甲酰苯胺·2024-01-17 06:38

基于SPARK的淘宝用户购物行为可视化分析

数据来源数据集：淘宝用户购物行为数据集_数据集-阿里云天池(aliyun.com)下载到：/opt/module/taobao/UserBehavior.csv商品类目纬度数据来源：bigdata_analyse

番茄薯仔·2024-01-17 02:14

万物涌动，奔腾向前「读《庄子·逍遥游》有感」

《齐谐》中描述说：「当大鹏飞往南海的时候，水波相激，浪花激起三千里，展翅飞翔，乘旋风直上九万里，大鹏一去半岁乃六月之久，至天池而息。」如野马般奔腾之

彩云飞处·2024-01-16 22:41

java调用Hanlp分词器获取词性；自定义词性字典

一、配置pom，导包：com.hankcshanlpportable-1.6.8二、java代码实现分词：/****hanlp分词*@paraminput*/publicstaticMapgetOut(

你好龙卷风！！！·2024-01-16 21:08

使用PaddleNLP识别垃圾邮件准确率98.5%的垃圾邮件分类器（附数据集下载）

使用PaddleNLP识别垃圾邮件准确率98.5%的垃圾邮件分类器（附数据集下载）。什么是垃圾邮件？垃圾邮件泛指未经请求而发送的电子邮件，例如未经发件人请求或允许而发送的商业广告或非法的电子邮件。

代码讲故事·2024-01-16 21:29

今天的领悟

感谢NLP平台给了我一个机会，感谢马老师精彩的教学，感谢

胖龙_fd9d·2024-01-16 19:48

一周NLP实践记录

幸好在nlp执行师课堂也做过类似的练习。当时和伙伴对练，她要我大声、再大声、再再大声。那时还没搞懂为啥。现在我明白那是给大脑创建新的回路。

晴空壹鹤·2024-01-16 18:31

springboot 通过代码自动生成pid

获取pid有很多种写法，简答粗暴netstat-nlpport|grepport|grep-v。其实springboot本身就有更简单方式来

神易风·2024-01-16 17:06

小嗷犬·2024-01-16 16:58

【AIGC入门一】Transformers 模型结构详解及代码解析

Transformers开启了NLP一个新时代，注意力模块目前各类大模型的重要结构。作为刚入门LLM的新手，怎么能不感受一下这个“变形金刚的魅力”呢？

不想动脑筋的亮亮·2024-01-16 15:59

【大模型】大语言模型前沿技术系列讲座-学习笔记2：Transformer -＞ChatGPT

系列讲座的内容由浅入深，讲解非常细致，没有任何水分，很适合我这种NLP刚入门的小白，听了这些讲座之后感觉收获满满8.26讲座安排（实际时长17：30-21

不雨_亦潇潇·2024-01-16 15:28

自然语言处理实战项目25-T5模型和BERT模型的应用场景以及对比研究、问题解答

T5是一种序列到序列模型，可以处理各种NLP任务，而BERT主要用于预训练语言表示。T5使用了类似于BERT的预训练方式，但采用了更广泛的输入输出形式。

微学AI·2024-01-16 14:40

AIGC大模型必备知识——LLM ，你知道它是如何训练的吗？小白必读深度好文

OJAC近屿智能·2024-01-16 14:03

RAG检索式增强技术是什么——OJAC近屿智能带你一探究竟

OJAC近屿智能·2024-01-16 14:30

【Python相关】anaconda介绍、安装及conda命令详解

❤️觉得内容不错的话，欢迎点赞收藏加关注，后续会继续输入更多优质内容❤️有问题欢迎大家加关注私戳或者评论（包括但不限于NLP算法相关，linux学习相关，读研读博相关......）博主原文链接：https

Chaos_Wang_·2024-01-16 14:52

NLP复习笔记-FA

DFA和NFA的区别1.DFA没有epsilontransaction（必须读入字符）2.对每一个确定的状态和读入字符，最多只能到一个下个状态，（不能有多的选择）Recognitioninputposition:0-ninitialconfiguration:(q0,0)agenda:asetofconfigurations,initialempty如何计算一个新的configuration从ag

乔茜_7b45·2024-01-16 12:28

深度学习：大规模模型分布式训练框架DeepSpeed

特别是在自然语言处理（NLP）等领域，模型大都达到了数十亿甚至数千亿参数的规模，这就需要多卡或者多节点分布式训练。为了有效地训练这些巨型

AI Player·2024-01-16 12:31

NLP 学习资源

红烧肉_2121·2024-01-16 11:10

机器学习在什么场景下最常用-九五小庞

机器学习在多个场景中都有广泛的应用，下面是一些常见的应用场景：自然语言处理（NLP）：如语音识别、自动翻译、情感分析、垃圾邮件过滤等。数据挖掘和分析：如市场分析、用户画像、推荐系统、欺诈检测等。

Up九五小庞·2024-01-16 10:33

开源项目汇总：机器学习前沿探索 | 开源专题 No.60

这些组件与领域无关，被视觉、NLP等领域的研究人员广泛使用。以研究为先导：xFormers包含在pytorch等主流库中还不可用的尖端组件。注重效率：因

开源服务指南·2024-01-16 10:01

推荐频道

天池nlp