NLP学习日志

NLP_ChatGPT的RLHF实战

文章目录介绍小结介绍ChatGPT之所以成为ChatGPT，基于人类反馈的强化学习是其中重要的一环。而ChatGPT的训练工程称得上是复杂而又神秘的，迄今为止，OpenAl也没有开源它的训练及调优的细节。从OpenAl已经公开的一部分信息推知，ChatGPT的训练主要由三个步骤组成，如下图所示。原文：译文：第1步，先使用大量数据(从Prompt数据库中抽样)通过监督学习在预训练的GPT-3.5基础
you_are_my_sunshine*·2024-02-15 09:41

NLP快速入门

NLP入门课程链接：https://www.bilibili.com/video/BV17K4y1W7yb/?
Knoka705·2024-02-15 09:10

NLP_GPT到ChatGPT

GPT在多种NLP任务上取得了显著进步。GPT-2：2019年，OpenAI推出了GPT的升级版，拥有更多参数[15亿
you_are_my_sunshine*·2024-02-15 09:39

【AI视野·今日NLP 自然语言处理论文速览 第七十八期】Wed, 17 Jan 2024

AI视野·今日CS.NLP自然语言处理论文速览Wed,17Jan2024(showingfirst100of163entries)Totally100papers上期速览✈更多精彩请移步主页DailyComputationandLanguagePapersDeductiveClosureTrainingofLanguageModelsforCoherence
hitrjj·2024-02-15 09:57

Prompt Tuning：深度解读一种新的微调范式

面向不同种类NLP任务，prompt如何选择和设计？面向超大规模模型，如何借助prompt进行参数有效性训练？面向GPT3，什么是In-ContextLearning？什么是Chain-Of-
lichunericli·2024-02-15 09:55

时间是画面

图片发自App上海NLP专业执行师第三天，时间即是画面，每分每秒呈现不同的画面，说一说今天印象最深的几幅。
感恩生命中有你·2024-02-15 09:57

word embedding是什么，word embedding之前需要做什么？

从自然语言的角度看，NLP可以大致分为自然语言处理和自然语言生成这两部分，就是理解文本和文本生成。
liaolaa·2024-02-15 08:43

java实现beamsearch_beam search原理以及在NLP中应用

BeamSearch简介一、概要传统的广度优先策略能够找到最优的路径，但是在搜索空间非常大的情况下，内存占用是指数级增长，很容易造成内存溢出，因此提出了beamsearch的算法。beamsearch尝试在广度优先基础上进行进行搜索空间的优化(类似于剪枝)达到减少内存消耗的目的。二、BeamSearch算法新的概念为了达到搜索的目的，beamsearch引入了启发函数的概念(h)来估计从当前节点到
知乎汽车·2024-02-15 08:13

【AI视野·今日NLP 自然语言处理论文速览 第七十九期】Thu, 18 Jan 2024

AI视野·今日CS.NLP自然语言处理论文速览Thu,18Jan2024Totally35papers上期速览✈更多精彩请移步主页DailyComputationandLanguagePapersDecipheringTextualAuthenticity
hitrjj·2024-02-15 06:17

NLP 人生三件事

人生里的很多困扰并不是因为事件，而是我们没有区分清楚事情里面的边界，我们把很多事件揉在一起，就会变得乱，纠缠，从而让自己活得很累。人生三件事：1.自己的事:只能自己去做，对自己的人生负责任，自己的事情全力以赴，不把自己人生的钥匙交给他人。2.别人的事:一个人不能改变另一个人，尊重他人的选择，放下对他人的期待3.老天的事：臣服，尊重，顺势而为例：你开心了我就开心你关心我我心情就好这是一种托付心态，把
YOKI陶·2024-02-15 05:30

NLP4

限制性信念潜意识我的收获：我有很多时候会感到无助，无望，无资格或者叫无价值感，比如曾经有一次自己想卖东西，结果没人买，被拒绝，当时只觉得好没面子，原来以为别人也会像我一样热衷，结果没有人捧场，被拒绝了一次，我就再也没骨气第二次的勇气，可能是我小时候被这样拒绝了太多次，那种身体里的感觉太深刻，所以再一次体验，就陷在里面出不来了，全是羞耻，恐惧，就更不会去想一想，也许有人需要呢？也许有人跟我一样看好这
素月分辉·2024-02-15 05:44

闲聊自然语言处理NLP

原文链接无论在工程界还是学术界自然语言处理(NLP)一直是一个比较热的话题，尤其随着近些年深度学习的发展给NLP也带来一些新思路。对于这个话题随便聊聊，想到哪写到哪。
热血沸腾·2024-02-15 04:25

PaddleNLP 自然语言处理 知识图谱 uie-x-base,uie-m-large,uie-m-base模型使用时，报错Out of memory error on GPU 0 gpu内存不够

Hi,I’m@货又星I’minterestedin…I’mcurrentlylearning…️I’mlookingtocollaborateon…Howtoreachme…README目录（持续更新中）各种错误处理、爬虫实战及模板、百度智能云人脸识别、计算机视觉深度学习CNN图像识别与分类、PaddlePaddle自然语言处理知识图谱、GitHub、运维…WeChat：1297767084Git
货又星·2024-02-15 04:42

对话系统 | (6) 医疗健康领域的短文本理解

主要内容包括：丁香园主要的业务和所服务的对象，以及在垂直领域下NLP工作可能需要面对的挑战在医疗健康领域短文本理解上的尝试结合工
CoreJT·2024-02-15 04:08

第3.2讲学习日志

【向成功人士学精时力课·第3.2讲学习日志】这是2019年3月19日“崔律精时力之成功人士精时力”系列课第3.2讲（晨间六部曲）的学习日志。
孔雀勇士·2024-02-15 04:44

nlp成长

这次写不出东西了，但是我知道我一直在坚持，我学会了坚持，坚持快乐，坚持nlp的核心理念我的人生是成功快乐的
宁静致远2009·2024-02-15 02:15

今日arXiv最热NLP大模型论文：清华提出LongAlign，打破长上下文对齐瓶颈，数据、训练策略、评估基准一网打尽

随着LLMs的发展，其支持的上下文长度越来越长。仅一年时间，GPT-4就从一开始的4K、8K拓展到了128k。128k什么概念？相当于一本300页厚的书。这是当初只支持512个tokens的BERT时代不敢想象的事情。随着上下文窗口长度的增加，可以提供更丰富的语义信息，从而减少LLM的出错率和“幻觉”发生的可能性，提升用户体验。但现有的构建长上下文LLMs的工作主要集中在上下文扩展方面，即位置编码
夕小瑶·2024-02-15 02:27

今日arXiv最热NLP大模型论文：智能谈判Agent综述，一文读懂谈判桌上的人工智能

谈判，就是大家坐下来聊聊，看怎么能达成共识，共同解决问题。可以是朋友间的闲聊，也可以是国与国之间的外交场合。但谈判这事儿，说简单也不简单。人们往往会带着偏见和情绪，忽略了别人的好建议，导致结果不尽如人意。而且，谈判也是门技术活，不是谁都能轻易搞定的。为了促进人类谈判过程，研究者们提出了智能谈判Agent，能够在多轮互动中辅助人类甚至直接与人类进行谈判。一个典型的谈判对话涉及到Agent和人类之间的
夕小瑶·2024-02-15 02:27

今日arXiv最热NLP大模型论文：基于语言模型模拟的经济学研究

引言：经济选择预测的新视角在经济决策的预测领域，传统方法通常受限于获取人类选择数据的难度。实验经济学研究大多集中在简单的选择设置上，而这些设置往往无法捕捉复杂的人类行为。近年来，人工智能社区通过两种方式为这一领域做出了贡献：一是探讨大型语言模型（LLMs）是否能在简单的选择预测设置中替代人类；二是通过机器学习（ML）的视角研究更复杂的实验经济学设置，这些设置涉及不完全信息、重复游戏和自然语言交流，
夕小瑶·2024-02-15 02:26

今日arXiv最热NLP大模型论文：大语言模型为什么始终会产生幻觉

随着LLMs的广泛应用，幻觉问题引起了越来越多的安全和道德关注，各种各样的幻觉缓解方法也层出不穷，比如各类知识增强方法、对模型答案进行验证、新的评估基准等。相信大家会和我一样有一个疑问：幻觉问题有望被彻底解决吗？今天介绍的这篇文章很特别，它没有具体讨论缓解幻觉的方法，而是通过对幻觉问题进行明确定义和形式化分析，对幻觉精确讨论与验证实验，最终得出了一个基本结果：即无论模型架构、学习算法、提示技术或训
夕小瑶·2024-02-15 02:56

今日arXiv最热NLP大模型论文：无需数据集，大模型可通过强化学习与实体环境高效对齐 | ICLR2024

引言：将大型语言模型与环境对齐的挑战虽然大语言模型（LLMs）在自然语言生成、理解等多项任务中取得了显著成就，但是在面对看起来简单的决策任务时，却常常表现不佳。这个问题的主要原因是大语言模型内嵌的知识与实际环境之间存在不对齐的问题。相比之下，强化学习（RL）能够通过试错的方法从零开始学习策略，从而确保内部嵌入知识与环境的对齐。但是，怎样将先验知识高效地融入这样的学习过程是一大挑战，为了解决这一差距
夕小瑶·2024-02-15 02:56

AllenAI 开源了关于大模型的所有细节！数据、代码、参数、训练过程，完全复现

开篇：OLMo的诞生与开放模型的重要性在人工智能领域，语言模型（LMs）的发展一直是推动自然语言处理（NLP）技术进步的核心力量。
夕小瑶·2024-02-15 02:56

NLP学习-05.问答系统基础-文本表示(word representation)-距离计算

上几节已经介绍了文本的分词,拼写纠错,这节介绍wordrepresentation和距离的计算都比较简单,不做详细说明.什么是wordrepresentation即将一个文本进行向量化,这样可以容易地进行距离的度量.有哪些方法进行文本向量化onehot:每个词都用onehot变化表示成稀疏向量;booleanrepresentation:即词典的长度为向量长度,有词的记为1;booleanrepr
logi·2024-02-15 01:35

学习日志-3.3 嗅觉：榴梿是香的还是臭的？-20210203

【精时力学习日志】本训练营：每天一点大脑课今日主题：3-3嗅觉：榴梿是香的还是臭的？
幻雪美美哒·2024-02-15 01:01

ApacheCN 交流社区热点汇总 2019.3

出国留学-微信讨论组自然语言处理（NLP）学习路线【每日一问】ID3、C4.5、C5.0和CART有什么联系、区别和优劣？【每日一问】假设模型准确率接近的情况下，模型融合越多越好吗？
布客飞龙·2024-02-14 21:40

20201110-NLP的巨人肩膀-1引子

转载：https://zhuanlan.zhihu.com/p/50443871没办法，写的太好了图片.pngNLP的巨人肩膀我们都知道，牛顿说过一句名言IfIhaveseenfurther,itisbystandingontheshouldersofgiants
野山羊骑士·2024-02-14 20:54

手动下载spacy的en_core_web_sm模型

https://github.com/explosion/spacy-models/releases例子代码importspacynlp=spacy.load("your/base/path/en_core_web
茫茫人海一粒沙·2024-02-14 19:08

学习日志

1.线性表的排序中的冒泡排序法，快速排序法，简单插入排序法和简单选择排序法在最坏情况下都是需要进行n(n-1)/2次比较。希尔排序是n的r次方(1
ss毅·2024-02-14 12:55

自然语言处理N天-AllenNLP学习（实现简单的词性标注）

有一篇帖子总结了一下学习处理NLP问题中间的坑。NLP数据预处理要比CV的麻烦很多。去除停用词，建立词典，加载各种预训练词向量，Sentence->Wo
我的昵称违规了·2024-02-14 12:54

学习日志-第6课 服务的行为-20200421

【精时力学习日志·勇士版】本训练营：阅读营·预热周本周书籍：《赞赏的5种语言》学习日期：2020年4月21日（复习：服务的行为）1.[复盘]我在课程中的收获：1.1温故（1）复盘怎么写？崔律有妙招。
幻雪美美哒·2024-02-14 11:28

2021-08-28【精时力学习日志】

【精时力学习日志】本训练营：第3期梦想营(2021年)今日主题：2-6本周复盘&答疑课学习日期：2021年8月28日1、[收获1]本周我在梦想学习方面的收获：1.1知识点：1.1.1本营的重要前提（预防异议
echo_41cd·2024-02-14 11:42

使用模型Helsinki-NLP/opus-mt-en-zh实现英译中

googlecodlab运行需要5秒fromtransformersimportAutoModel,AutoTokenizer,MarianMTModelfromhuggingface_hub.hf_apiimportHfFolderHfFolder.save_token('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')text="Memphisisaserieso
hehui0921·2024-02-14 11:18

断舍离（3）

22017年的夏日的洛阳，凯旋路上高大的梧桐树依稀可见，参加NLP专业执行师的学习，遇见应童老师，收到小树宝宝的礼物。回来
波光粼粼_·2024-02-14 10:30

Day30

3月nlp经验层次时，我有个心愿是未来12个月带领12场工作坊。
Vidya程莹·2024-02-14 09:14

随感

这次的讲师居然是我16年学习NLP时的同学，当叶老师讲述她自己的故事时，我有一种心有戚戚然的感觉。
10f4aa464b14·2024-02-14 06:13

学习日志-早起营2.4 日间小睡-20200421

【精时力学习日志】本训练营：早起营（4月版）今日主题：2-4日间小睡学习日期：2020年4月21日（学优版）1.
幻雪美美哒·2024-02-14 05:31

使用word2vec+tensorflow自然语言处理NLP

目录介绍：搭建上下文或预测目标词来学习词向量建模1：建模2：预测：介绍：Word2Vec是一种用于将文本转换为向量表示的技术。它是由谷歌团队于2013年提出的一种神经网络模型。Word2Vec可以将单词表示为高维空间中的向量，使得具有相似含义的单词在向量空间中距离较近。这种向量表示可以用于各种自然语言处理任务，如语义相似度计算、文本分类和命名实体识别等。Word2Vec的核心思想是通过预测上下文或
取名真难.·2024-02-14 05:18

使用Word Embedding+Keras进行自然语言处理NLP

目录介绍：one-hot：pad_sequences:建模:介绍：WordEmbedding是一种将单词表示为低维稠密向量的技术。它通过学习单词在文本中的上下文关系，将其映射到一个连续的向量空间中。在这个向量空间中，相似的单词在空间中的距离也比较接近，具有相似含义的单词在空间中的方向也比较一致。WordEmbedding可以通过各种方法来实现，包括基于统计的方法（如Word2Vec和GloVe）和
取名真难.·2024-02-14 05:18

ERNIE实现酒店情感分析（文本分类）

ERNIE实现酒店情感分析（文本分类）引言在自然语言处理（NLP）领域，文本分类是一项重要的任务，它能够帮助我们理解和分析大量的文本数据。
OverlordDuke·2024-02-14 02:42

nlp专业执行师课程单元一作业

NLP专业执行师课程单元一（程晓毅）功课1.请列出身心语言程序学(NLP)的七项预设前题(Presuppositions)。试描述我们如何可以在日常生活里运用它们。一.尊重别人的内心世界。
似水流年cxy·2024-02-14 02:07

NLP是什么?神经语言编程和自然语言处理是同一种技术吗？

NLP是什么?
高达可以过山车不行·2024-02-14 01:53

6.28 丰盛日记

仍然记得老师在NLP讲的终极目标和过程目标的案例。本次进入这个项目，最大的不同是焦虑情绪明显减少，明确知道要去控制什么，要去监管什么。家里领导说，也看不到我焦虑不安的样子。也许这是一个好的开始。
可乐加冰_007·2024-02-14 01:41

13自然语言处理基础入门

什么是自然语言处理NLP（NaturalLanguageProcessing，自然语言处理）当中所谓的「自然」是为了
Jachin111·2024-02-13 21:04

DS Wannabe之5-AM Project: DS 30day int prep day6

Q1.WhatisNLP?
wendyponcho·2024-02-13 20:01

ICLR 2024 | MolGen: 化学反馈引导的预训练分子生成

Domain-AgnosticMolecularGenerationwithChemicalFeedback发表会议：ICLR2024论文链接：https://arxiv.org/abs/2301.11259代码链接：https://github.com/zjunlp
奈何辰星无可奈·2024-02-13 19:54

ICLR 2024 | Mol-Instructions: 面向大模型的大规模生物分子指令数据集

ALarge-ScaleBiomolecularInstructionDatasetforLargeLanguageModels论文链接：https://arxiv.org/pdf/2306.08018.pdf代码链接：https://github.com/zjunlp
奈何辰星无可奈·2024-02-13 19:23

学习日志-13.4 目标与计划-20190718

【100天崔律阅读营·Day87-13.4日志】这是2019年7月18日“100天崔律阅读营”之“趣味30岁主题·《30岁，请痴迷于梦想》13.4目标与计划”的学习日志。
幻雪美美哒·2024-02-13 16:10

学习日志-2.3 专注才能改变大脑-20210127

【精时力学习日志】本训练营：每天一点大脑课今日主题：2-3专注才能改变大脑学习日期：2021年1月27日1、[脑力]我在课程里的收获：【我学】（1）学习能改变大脑、影响大脑。
幻雪美美哒·2024-02-13 15:03

5.27.丰盛日记：

在NLP学习的过程中，须对人事物“全然”接纳、爱和尊重。可是，在我回家看到外面晾晒的衣服被雨水打湿时，心里还是有点小失落的叹了口气。又感觉自己好像否定了前面喜欢雨的感觉，并没有全然接纳。
佳馨_958·2024-02-13 15:19

简快身心积极疗法介绍

简快身心积极包含NLP疗法（此疗法由完形治疗、催眠治疗和家庭治疗三者提炼而成）、家族系统排列、情绪管理理论、其他后现代心理学（如能量心理学、运动机制学和催眠等）以及李中莹老师的研究心得五个部分构成。
子淇的自由天空·2024-02-13 14:29
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他