NLP学习总结

NLP_ChatGPT的RLHF实战

文章目录介绍小结介绍ChatGPT之所以成为ChatGPT，基于人类反馈的强化学习是其中重要的一环。而ChatGPT的训练工程称得上是复杂而又神秘的，迄今为止，OpenAl也没有开源它的训练及调优的细节。从OpenAl已经公开的一部分信息推知，ChatGPT的训练主要由三个步骤组成，如下图所示。原文：译文：第1步，先使用大量数据(从Prompt数据库中抽样)通过监督学习在预训练的GPT-3.5基础
you_are_my_sunshine*·2024-02-15 09:41

NLP快速入门

NLP入门课程链接：https://www.bilibili.com/video/BV17K4y1W7yb/?
Knoka705·2024-02-15 09:10

NLP_GPT到ChatGPT

GPT在多种NLP任务上取得了显著进步。GPT-2：2019年，OpenAI推出了GPT的升级版，拥有更多参数[15亿
you_are_my_sunshine*·2024-02-15 09:39

【AI视野·今日NLP 自然语言处理论文速览 第七十八期】Wed, 17 Jan 2024

AI视野·今日CS.NLP自然语言处理论文速览Wed,17Jan2024(showingfirst100of163entries)Totally100papers上期速览✈更多精彩请移步主页DailyComputationandLanguagePapersDeductiveClosureTrainingofLanguageModelsforCoherence
hitrjj·2024-02-15 09:57

Prompt Tuning：深度解读一种新的微调范式

面向不同种类NLP任务，prompt如何选择和设计？面向超大规模模型，如何借助prompt进行参数有效性训练？面向GPT3，什么是In-ContextLearning？什么是Chain-Of-
lichunericli·2024-02-15 09:55

时间是画面

图片发自App上海NLP专业执行师第三天，时间即是画面，每分每秒呈现不同的画面，说一说今天印象最深的几幅。
感恩生命中有你·2024-02-15 09:57

word embedding是什么，word embedding之前需要做什么？

从自然语言的角度看，NLP可以大致分为自然语言处理和自然语言生成这两部分，就是理解文本和文本生成。
liaolaa·2024-02-15 08:43

java实现beamsearch_beam search原理以及在NLP中应用

BeamSearch简介一、概要传统的广度优先策略能够找到最优的路径，但是在搜索空间非常大的情况下，内存占用是指数级增长，很容易造成内存溢出，因此提出了beamsearch的算法。beamsearch尝试在广度优先基础上进行进行搜索空间的优化(类似于剪枝)达到减少内存消耗的目的。二、BeamSearch算法新的概念为了达到搜索的目的，beamsearch引入了启发函数的概念(h)来估计从当前节点到
知乎汽车·2024-02-15 08:13

【AI视野·今日NLP 自然语言处理论文速览 第七十九期】Thu, 18 Jan 2024

AI视野·今日CS.NLP自然语言处理论文速览Thu,18Jan2024Totally35papers上期速览✈更多精彩请移步主页DailyComputationandLanguagePapersDecipheringTextualAuthenticity
hitrjj·2024-02-15 06:17

NLP 人生三件事

人生里的很多困扰并不是因为事件，而是我们没有区分清楚事情里面的边界，我们把很多事件揉在一起，就会变得乱，纠缠，从而让自己活得很累。人生三件事：1.自己的事:只能自己去做，对自己的人生负责任，自己的事情全力以赴，不把自己人生的钥匙交给他人。2.别人的事:一个人不能改变另一个人，尊重他人的选择，放下对他人的期待3.老天的事：臣服，尊重，顺势而为例：你开心了我就开心你关心我我心情就好这是一种托付心态，把
YOKI陶·2024-02-15 05:30

NLP4

限制性信念潜意识我的收获：我有很多时候会感到无助，无望，无资格或者叫无价值感，比如曾经有一次自己想卖东西，结果没人买，被拒绝，当时只觉得好没面子，原来以为别人也会像我一样热衷，结果没有人捧场，被拒绝了一次，我就再也没骨气第二次的勇气，可能是我小时候被这样拒绝了太多次，那种身体里的感觉太深刻，所以再一次体验，就陷在里面出不来了，全是羞耻，恐惧，就更不会去想一想，也许有人需要呢？也许有人跟我一样看好这
素月分辉·2024-02-15 05:44

每日总结学习总结反思与规划

2020-05-18分享人：05TBE演讲高级班胡慧中今日总结：6：00起床6：00-7：00背单词7：10-7：45练声+走圈运动8：00-10：00市场营销10：00-12：00经济学12：15-12：45头脑风暴14：30-16：00阅读《拆掉思维里的墙》+感悟打卡17：10-18：20小故事视频录制+剪辑18：00-19：00帮妈妈做事19：15-21：00演讲高级班上课21：30-21：
零散三·2024-02-15 04:06

闲聊自然语言处理NLP

原文链接无论在工程界还是学术界自然语言处理(NLP)一直是一个比较热的话题，尤其随着近些年深度学习的发展给NLP也带来一些新思路。对于这个话题随便聊聊，想到哪写到哪。
热血沸腾·2024-02-15 04:25

PaddleNLP 自然语言处理 知识图谱 uie-x-base,uie-m-large,uie-m-base模型使用时，报错Out of memory error on GPU 0 gpu内存不够

Hi,I’m@货又星I’minterestedin…I’mcurrentlylearning…️I’mlookingtocollaborateon…Howtoreachme…README目录（持续更新中）各种错误处理、爬虫实战及模板、百度智能云人脸识别、计算机视觉深度学习CNN图像识别与分类、PaddlePaddle自然语言处理知识图谱、GitHub、运维…WeChat：1297767084Git
货又星·2024-02-15 04:42

对话系统 | (6) 医疗健康领域的短文本理解

主要内容包括：丁香园主要的业务和所服务的对象，以及在垂直领域下NLP工作可能需要面对的挑战在医疗健康领域短文本理解上的尝试结合工
CoreJT·2024-02-15 04:08

nlp成长

这次写不出东西了，但是我知道我一直在坚持，我学会了坚持，坚持快乐，坚持nlp的核心理念我的人生是成功快乐的
宁静致远2009·2024-02-15 02:15

今日arXiv最热NLP大模型论文：清华提出LongAlign，打破长上下文对齐瓶颈，数据、训练策略、评估基准一网打尽

随着LLMs的发展，其支持的上下文长度越来越长。仅一年时间，GPT-4就从一开始的4K、8K拓展到了128k。128k什么概念？相当于一本300页厚的书。这是当初只支持512个tokens的BERT时代不敢想象的事情。随着上下文窗口长度的增加，可以提供更丰富的语义信息，从而减少LLM的出错率和“幻觉”发生的可能性，提升用户体验。但现有的构建长上下文LLMs的工作主要集中在上下文扩展方面，即位置编码
夕小瑶·2024-02-15 02:27

今日arXiv最热NLP大模型论文：智能谈判Agent综述，一文读懂谈判桌上的人工智能

谈判，就是大家坐下来聊聊，看怎么能达成共识，共同解决问题。可以是朋友间的闲聊，也可以是国与国之间的外交场合。但谈判这事儿，说简单也不简单。人们往往会带着偏见和情绪，忽略了别人的好建议，导致结果不尽如人意。而且，谈判也是门技术活，不是谁都能轻易搞定的。为了促进人类谈判过程，研究者们提出了智能谈判Agent，能够在多轮互动中辅助人类甚至直接与人类进行谈判。一个典型的谈判对话涉及到Agent和人类之间的
夕小瑶·2024-02-15 02:27

今日arXiv最热NLP大模型论文：基于语言模型模拟的经济学研究

引言：经济选择预测的新视角在经济决策的预测领域，传统方法通常受限于获取人类选择数据的难度。实验经济学研究大多集中在简单的选择设置上，而这些设置往往无法捕捉复杂的人类行为。近年来，人工智能社区通过两种方式为这一领域做出了贡献：一是探讨大型语言模型（LLMs）是否能在简单的选择预测设置中替代人类；二是通过机器学习（ML）的视角研究更复杂的实验经济学设置，这些设置涉及不完全信息、重复游戏和自然语言交流，
夕小瑶·2024-02-15 02:26

今日arXiv最热NLP大模型论文：大语言模型为什么始终会产生幻觉

随着LLMs的广泛应用，幻觉问题引起了越来越多的安全和道德关注，各种各样的幻觉缓解方法也层出不穷，比如各类知识增强方法、对模型答案进行验证、新的评估基准等。相信大家会和我一样有一个疑问：幻觉问题有望被彻底解决吗？今天介绍的这篇文章很特别，它没有具体讨论缓解幻觉的方法，而是通过对幻觉问题进行明确定义和形式化分析，对幻觉精确讨论与验证实验，最终得出了一个基本结果：即无论模型架构、学习算法、提示技术或训
夕小瑶·2024-02-15 02:56

今日arXiv最热NLP大模型论文：无需数据集，大模型可通过强化学习与实体环境高效对齐 | ICLR2024

引言：将大型语言模型与环境对齐的挑战虽然大语言模型（LLMs）在自然语言生成、理解等多项任务中取得了显著成就，但是在面对看起来简单的决策任务时，却常常表现不佳。这个问题的主要原因是大语言模型内嵌的知识与实际环境之间存在不对齐的问题。相比之下，强化学习（RL）能够通过试错的方法从零开始学习策略，从而确保内部嵌入知识与环境的对齐。但是，怎样将先验知识高效地融入这样的学习过程是一大挑战，为了解决这一差距
夕小瑶·2024-02-15 02:56

AllenAI 开源了关于大模型的所有细节！数据、代码、参数、训练过程，完全复现

开篇：OLMo的诞生与开放模型的重要性在人工智能领域，语言模型（LMs）的发展一直是推动自然语言处理（NLP）技术进步的核心力量。
夕小瑶·2024-02-15 02:56

NLP学习-05.问答系统基础-文本表示(word representation)-距离计算

上几节已经介绍了文本的分词,拼写纠错,这节介绍wordrepresentation和距离的计算都比较简单,不做详细说明.什么是wordrepresentation即将一个文本进行向量化,这样可以容易地进行距离的度量.有哪些方法进行文本向量化onehot:每个词都用onehot变化表示成稀疏向量;booleanrepresentation:即词典的长度为向量长度,有词的记为1;booleanrepr
logi·2024-02-15 01:35

2.13学习总结

1.出差（Bleeman—ford）（spfa）（dijkstra）2.最小生成树（prim）（Kruskal）最短路问题：出差https://www.luogu.com.cn/problem/P8802题目描述AA国有�N个城市，编号为1…�1…N小明是编号为11的城市中一家公司的员工，今天突然接到了上级通知需要去编号为�N的城市出差。由于疫情原因，很多直达的交通方式暂时关闭，小明无法乘坐飞机直
啊这泪目了·2024-02-15 01:21

2.12学习总结

https://leetcode.cn/problems/remove-linked-list-elements/description/classSolution{public:ListNode*removeElements(ListNode*head,intval){while(head!=NULL&&head->val==val){head=head->next;}ListNode*now=
啊这泪目了·2024-02-15 01:20

2.14学习总结

1.区间嵌套https://www.acwing.com/problem/content/description/5462/2.卡片https://www.lanqiao.cn/problems/1443/learning/?page=1&first_category_id=1&second_category_id=3&name=%E5%8D%A1%E7%89%873.逆序对https://www
啊这泪目了·2024-02-15 01:50

ApacheCN 交流社区热点汇总 2019.3

出国留学-微信讨论组自然语言处理（NLP）学习路线【每日一问】ID3、C4.5、C5.0和CART有什么联系、区别和优劣？【每日一问】假设模型准确率接近的情况下，模型融合越多越好吗？
布客飞龙·2024-02-14 21:40

20201110-NLP的巨人肩膀-1引子

转载：https://zhuanlan.zhihu.com/p/50443871没办法，写的太好了图片.pngNLP的巨人肩膀我们都知道，牛顿说过一句名言IfIhaveseenfurther,itisbystandingontheshouldersofgiants
野山羊骑士·2024-02-14 20:54

手动下载spacy的en_core_web_sm模型

https://github.com/explosion/spacy-models/releases例子代码importspacynlp=spacy.load("your/base/path/en_core_web
茫茫人海一粒沙·2024-02-14 19:08

【Chrono Engine学习总结】4-vehicle-4.2-车辆轨迹跟踪

由于Chrono的官方教程在一些细节方面解释的并不清楚，自己做了一些尝试，做学习总结。
larry_dongy·2024-02-14 17:45

【Chrono Engine学习总结】5-sensor-5.1-sensor基础并创建一个lidar

由于Chrono的官方教程在一些细节方面解释的并不清楚，自己做了一些尝试，做学习总结。1、Sensor模块Sensor模块是附加模块，需要单独安装。
larry_dongy·2024-02-14 17:15

2021-12-04【智慧父母成长营】第五期学习总结

补发一下之前学习的总结3月26日学习总结：周老师以《动物恋爱也疯狂》来分析雌雄动物的区别，对比人类，有很多地方的确是连动物都不如的，动物界的雌性是聪明而平静的为自己的后代选择最优秀的基因来传承，雄性会全力以赴的争取传承机会
广州陈连弟·2024-02-14 16:05

艾语团19期进阶班-10月13号学习总结

当我在朋友圈第一眼看到艾语团速成班的招生海报时，毫不犹豫的报名了，因为我害怕上舞台，我想克服这种困扰，我也想跟很多优秀的主持人&讲师一样，在台上侃侃而谈。当我结束短短的两天速成班课程后，收获颇多，忍不住跟身边的亲朋好友分享速成的课程，因为我想他们变得更好！今天我来到了进阶班，我知道这才是真正的开始，今天是我近几年来上课最投入最深入的一天，维持到将近凌晨12点，虽然很累到时很开心快乐，给我触动的莫过
Z_利娜·2024-02-14 15:01

学习小结

领航工程已启动，名师培训氛围浓——商丘市中小学教师“领航工程”第一期名师培训班学习总结夜来春雨润垂杨，名师工程即领航。
商丘李渊文·2024-02-14 13:48

自然语言处理N天-AllenNLP学习（实现简单的词性标注）

有一篇帖子总结了一下学习处理NLP问题中间的坑。NLP数据预处理要比CV的麻烦很多。去除停用词，建立词典，加载各种预训练词向量，Sentence->Wo
我的昵称违规了·2024-02-14 12:54

比打孩子更有效的教育方法

图片发自App读熊太行的《打孩子是最没本事的父母》学习总结，这篇讲述的是，打孩子的坏处，提供了比暴力更有效的方法。
释然一笑十年少·2024-02-14 12:48

使用模型Helsinki-NLP/opus-mt-en-zh实现英译中

googlecodlab运行需要5秒fromtransformersimportAutoModel,AutoTokenizer,MarianMTModelfromhuggingface_hub.hf_apiimportHfFolderHfFolder.save_token('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')text="Memphisisaserieso
hehui0921·2024-02-14 11:18

感谢遇到你，我的N师——第三届N师学习总结

时光荏苒，如白驹过隙。不知不觉，第三届N师学员就要毕业了。回想两个多月前，市教育局黄老师通知我被N师学院录取时，我开始是难以置信，接着表示无比欣喜！我不敢相信我居然能加入这么优秀的团队，我为自己能加入这个集体，能结识来自全国各地的优秀教师而感到自豪！感谢这个平台，感谢吴校长将大家汇集到一起，让我有更多学习的机会。录取通知书2020.1.17N师开班典礼开学典礼在小年夜，在开学典礼中，我认识了很多优
3e9cd8811aa4·2024-02-14 11:17

2017年12月7日学习总结

今天上午老师把昨天留的作业讲解了一下，后来又讲了伺服电机转动角度的控制，还有中断的运用。转到angle(-60，1500)-60☞角度1500☞时间(ms)s1.speed(value)设置速度v=s1.speed()无参数则返回当前速度ext.disalbe()关中断ext.enable()开中断ext.line()返回中断线ext.swint()软件触发中断ext.regs清空配置中断寄存器中
王柏焜·2024-02-14 11:45

断舍离（3）

22017年的夏日的洛阳，凯旋路上高大的梧桐树依稀可见，参加NLP专业执行师的学习，遇见应童老师，收到小树宝宝的礼物。回来
波光粼粼_·2024-02-14 10:30

学习日记第121天——4月学习总结，又是全勤！

时间真是好不经用，转眼又是一个月。刚刚过去的这个月，我真的是很忙，上班赶上了全年业务高峰，然后家里老人生病住院，加上自己的其他事情还很多。所以，这个月，过得感觉更加的快一些。还好，早起全勤，日记全勤，30篇一天不少，虽然有时写得很仓促，但是毕意是写了，有时候做的过程比结果要重要很多。一周一本书完成的也很好，这个月读了4本书。但是，我的习惯养成计划没有做好。从1月开始，我每个月要培养一个好习惯，4月
逸瑞同学·2024-02-14 10:37

Day30

3月nlp经验层次时，我有个心愿是未来12个月带领12场工作坊。
Vidya程莹·2024-02-14 09:14

DevExpress控件学习总结 z

1、Navigation&Layout1.1BarManager如果想在窗体或用户控件（usercontrol)上添加工具条（bars）或弹出菜单（popupmenus），我们需要把一个不可见的控件（component）BarManager（Navigation&Layout）拖放到这个窗体或用户控件上。这个控件维护工具条在窗体上的布局，处理用户的行为（processesanend-user'sa
weixin_34402090·2024-02-14 09:13

DevExpress控件学习总结

1、Navigation&Layout1.1BarManager如果想在窗体或用户控件（usercontrol)上添加工具条（bars）或弹出菜单（popupmenus），我们需要把一个不可见的控件（component）BarManager（Navigation&Layout）拖放到这个窗体或用户控件上。这个控件维护工具条在窗体上的布局，处理用户的行为（processesanend-user'sa
快乐的害虫·2024-02-14 09:13

学习总结 - swift适配器 为 Hadoop 的存储层增加对 OpenStack Swift 的支持

虽然文档内所涉及的版本有点旧，但内容很精彩，值得推荐背景在Hadoop中有一个抽象文件系统的概念，它有多个不同的子类实现，由DistributedFileSystem类代表的HDFS便是其中之一。在Hadoop的1.x版本中，HDFS存在NameNode单点故障，并且它是为大文件的流式数据访问而设计的，不适合随机读写大量的小文件。本文将探讨通过使用其他的存储系统，例如OpenStackSwift对
天地不仁以万物为刍狗·2024-02-14 07:37

随感

这次的讲师居然是我16年学习NLP时的同学，当叶老师讲述她自己的故事时，我有一种心有戚戚然的感觉。
10f4aa464b14·2024-02-14 06:13

使用word2vec+tensorflow自然语言处理NLP

目录介绍：搭建上下文或预测目标词来学习词向量建模1：建模2：预测：介绍：Word2Vec是一种用于将文本转换为向量表示的技术。它是由谷歌团队于2013年提出的一种神经网络模型。Word2Vec可以将单词表示为高维空间中的向量，使得具有相似含义的单词在向量空间中距离较近。这种向量表示可以用于各种自然语言处理任务，如语义相似度计算、文本分类和命名实体识别等。Word2Vec的核心思想是通过预测上下文或
取名真难.·2024-02-14 05:18

使用Word Embedding+Keras进行自然语言处理NLP

目录介绍：one-hot：pad_sequences:建模:介绍：WordEmbedding是一种将单词表示为低维稠密向量的技术。它通过学习单词在文本中的上下文关系，将其映射到一个连续的向量空间中。在这个向量空间中，相似的单词在空间中的距离也比较接近，具有相似含义的单词在空间中的方向也比较一致。WordEmbedding可以通过各种方法来实现，包括基于统计的方法（如Word2Vec和GloVe）和
取名真难.·2024-02-14 05:18

ERNIE实现酒店情感分析（文本分类）

ERNIE实现酒店情感分析（文本分类）引言在自然语言处理（NLP）领域，文本分类是一项重要的任务，它能够帮助我们理解和分析大量的文本数据。
OverlordDuke·2024-02-14 02:42

nlp专业执行师课程单元一作业

NLP专业执行师课程单元一（程晓毅）功课1.请列出身心语言程序学(NLP)的七项预设前题(Presuppositions)。试描述我们如何可以在日常生活里运用它们。一.尊重别人的内心世界。
似水流年cxy·2024-02-14 02:07
上一页 2 3 4 5 6 7 8 9 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他