NLP知识图谱论文笔记第2页

《深入浅出多模态》（九）多模态经典模型：MiniGPT-v2、MiniGPT5

GoAI·2024-09-05 22:29

NLP-预训练模型-中文：封神榜系列【姜子牙（通用大模型）、太乙（多模态）、二郎神（语言理解）、闻仲（语言生成）、燃灯（语言转换）、余元（领域）、...】

封神榜模型系列简介系列名称需求适用任务参数规模备注姜子牙通用通用大模型>70亿参数通用大模型“姜子牙”系列，具备翻译，编程，文本分类，信息抽取，摘要，文案生成，常识问答和数学计算等能力太乙特定多模态8千万-10亿参数应用于跨模态场景，包括文本图像生成，蛋白质结构预测,语音-文本表示等

u013250861·2024-09-05 14:35

大模型--个人学习心得

LargeLanguageModel，即大型语言模型LLM是一种基于Transformer架构模型，它通过驯良大量文本数据，学习语言的语法、语义和上下文信息，从而能够对自然语言文本进行建模这种模型在自然语言处理(NLP

挚爱清&虚·2024-09-05 12:27

用AI改变对话：ChatGPT的全面研究

进化与影响实际上，ChatGPT的发展可以说是源于NLP（自然语言处理）和ML（机器学习）领域的整体进步。ChatG

AI立志传·2024-09-05 10:09

[论文笔记]Circle Loss: A Unified Perspective of Pair Similarity Optimization

引言为了理解CoSENT的loss，今天来读一下CircleLoss:AUnifiedPerspectiveofPairSimilarityOptimization。为了简单，下文中以翻译的口吻记录，比如替换"作者"为"我们"。这篇论文从对深度特征学习的成对相似度优化角度出发，旨在最大化同类之间的相似度sps_ps

愤怒的可乐·2024-09-05 07:18

NLP从零开始------17.文本中阶处理之序列到序列模型（2）

3.学习序列到序列模型可以看成一种条件语言模型，以源句x为条件计算目标句的条件概率该条件概率通过概率乘法公式分解为从左到右每个词的条件概率之积：序列到序列模型的监督学习需要使用平行语料，其中每个数据点都包含一对源句和目标句。以中译英机器翻译为例，平行语料的每个数据点就是一句中文句子和对应的一句英文句子。机器翻译领域较为有名的平行语料库来自机器翻译研讨会(workshoponmachinetrans

人生百态，人生如梦·2024-09-04 22:20

基于Bert-base-chinese训练多分类文本模型(代码详解）

目录一、简介二、模型训练三、模型推理一、简介BERT（BidirectionalEncoderRepresentationsfromTransformers）是基于深度学习在自然语言处理（NLP）领域近几年出现的

一颗洋芋·2024-09-04 15:41

格局？境界？思想的维度的外衣！

我们把格局和境界，用NLP中的一个工具来解释！这个工具叫做“思想健身室”。通常，我们都知道保持良好的身体状态，需要健康饮食，充足睡眠，合理运动，思维也一样，想要达到更高的境界，需要刻意练习。

晓小女子·2024-09-04 11:24

【深度学习 transformer】使用pytorch 训练transformer 模型,hugginface 来啦

HuggingFace是一个致力于开源自然语言处理（NLP）和机器学习项目的社区。

东华果汁哥·2024-09-04 06:39

NLP中的词向量及其应用

这些是解决大多数NLP问题所必需的。领域适应是一种技术，它允许机器学习和转移学习模型来映射小生境数据集，这些数据集都是用同一种语言编写的，但在语言上仍然不同。例如

喜欢打酱油的老鸟·2024-09-04 05:01

基于人工智能的智能客服系统

目录引言项目背景客服系统的现状与挑战AI在客服领域的应用前景系统设计系统架构模块划分关键技术与实现自然语言处理（NLP）对话管理语音识别与合成情感分析数据准备与训练数据收集数据预处理模型训练系统集成与部署前端接口设计后端服务实现系统集成部署方案测试与优化系统测试性能优化用户反馈与迭代应用场景与案例分析电子商务客服银行与金融服务医疗健康咨询常见问题及解决方案常见问题解决方案未来发展与展望结论

嵌入式详谈·2024-09-04 05:58

LLM大模型落地-从理论到实践

学习目标熟悉主流LLM（Llama,ChatGLM,Qwen）的技术架构和技术细节；有实际应用RAG、PEFT和SFT的项目经验较强的NLP基础，熟悉BERT、T5、Transformer和GPT的实现和差异

hhaiming_·2024-09-04 01:12

TorchText宝典：解锁PyTorch下的NLP炼金术

标题：TorchText宝典：解锁PyTorch下的NLP炼金术在深度学习与自然语言处理(NLP)的交叉领域中，PyTorch已经成为了一个强大的工具。

2401_85702623·2024-09-04 01:06

宁缺100·2024-09-03 18:57

一文讲清楚，AI、AGI、AIGC与AIGC、NLP、LLM，ChatGPT等概念

本文旨在深入解析人工智能（AI）、通用人工智能（AGI）、人工智能生成内容（AIGC）、自然语言处理（NLP）、大型语言模型（LLM）以及ChatGPT等关键概念，并探讨它们在现代科技发展中的重要性和实际应用

GPT-Hub·2024-09-03 10:07

【论文笔记】Multi-Task Learning as a Bargaining Game

Abstract本文将多任务学习中的梯度组合步骤视为一种讨价还价式博弈(bargaininggame)，通过游戏，各个任务协商出共识梯度更新方向。在一定条件下，这种问题具有唯一解(NashBargainingSolution)，可以作为多任务学习中的一种原则方法。本文提出Nash-MTL，推导了其收敛性的理论保证。1Introduction大部分MTL优化算法遵循一个通用方案。计算所有任务的梯度g

xhyu61·2024-09-03 09:26

[论文笔记] LLaVA

一、LLaVA论文中的主要工作和实验结果ExistingGap:之前的大部分工作都在做模态对齐，做图片的representationlearning，而没有针对ChatBot（多轮对话，指令理解）这种场景优化。Contribution:这篇工作已经在BLIP-2之后了，所以Image的理解能力不是LLaVA希望提升的重点，LLaVA是想提升多模态模型的Instruction-Followingab

心心喵·2024-09-03 08:53

[论文笔记] LLM模型剪枝

AttentionIsAllYouNeedButYouDon’tNeedAllOfItForInferenceofLargeLanguageModelsLLaMA2在剪枝时，跳过ffn和跳过fulllayer的效果差不多。相比跳过ffn/fulllayer，跳过attentionlayer的影响会更小。跳过attentionlayer：7B/13B从100%参数剪枝到66%，平均指标只下降1.7～

心心喵·2024-09-03 08:53

计算机毕业设计hadoop+spark知识图谱房源推荐系统房价预测系统房源数据分析房源可视化房源大数据大屏大数据毕业设计机器学习

创新点：1.支付宝沙箱支付2.支付邮箱通知(JavaMail)3.短信验证码修改密码4.知识图谱5.四种推荐算法(协同过滤基于用户、物品、SVD混合神经网络、MLP深度学习模型)6.线性回归算法预测房价

计算机毕业设计大全·2024-09-03 07:05

Liunx最常用命令

1.系统命令命令帮助命令名-help查看ip地址ipaddr清屏clear重启reboot关机shutdown关闭防火墙systemctlstopfirewalld查看端口号占用情况netstat-tnlp

陈恒源·2024-09-03 07:54

0607 三组27号学习《NLP最有效用的十二条前提假设》心得

凡事都有他自身的规矩，与人沟通，想得到回应，就要做对方能够接受的状态，同时会有相应的回应，才会找到方法进行下一步的沟通，做事情，没有成功是选择的方式不对，不必纠结，换思路，换方法，总能找到成功的路。重复老套的做，就会得到老样子的结果！

幸福的水滴·2024-09-02 15:19

【Linux命令】进程、端口查询命令

1、根据进程ID查询占用的端口号netstat-nlp|grep[进程ID]2、根据端口号查询占用它的进程IDlsof-i:[端口号]或者netstat-nlp|grep[端口号]

iku!!·2024-09-02 12:20

大语言模型诞生、探索和爆发阶段

2017年：Google发表了Transformer架构，这是一种基于自注意力机制的神经网络架构，它彻底改变了自然语言处理（NLP）领域，使得大规模并行化处理成为可能，

花开盛夏^.^·2024-09-02 10:38

GPT-3：一个新应用生态系统诞生了

GPT-3以其庞大的规模成为OpenAI令人印象深刻的自然语言处理（NLP）模型。

派派AI学院·2024-09-02 09:34

Hugging Face教程

HuggingFace教程1.引言在当今数字化时代，自然语言处理（NLP）在各个领域中扮演着重要角色。从文本分类、情感分析到机器翻译和对话系统，NLP技术的应用日益广泛。

小牛笔记·2024-09-02 07:22

王梦雪中原焦点团队网络初期27期坚持分享第1天 20210325

之前看NLP方面书籍觉得自己顿悟了一些生活的道理。今晚上完第一节课感觉自己豁然开朗。在听刘老师讲课的时候我才真正觉察到自己的问题。所以拿起手机给老公发了条信息，得到的是温暖的回应。这种感觉真的很好。

王天才要努力·2024-09-02 06:16

【论文笔记】Training language models to follow instructions with human feedback B部分

TraininglanguagemodelstofollowinstructionswithhumanfeedbackB部分回顾一下第一代GPT-1：设计思路是“海量无标记文本进行无监督预训练+少量有标签文本有监督微调”范式；模型架构是基于Transformer的叠加解码器（掩码自注意力机制、残差、Layernorm）；下游各种具体任务的适应是通过在模型架构的输出后增加线性权重WyW_{y}Wy实

Ctrl+Alt+L·2024-09-02 01:12

找出影响无意识的办法使它支持目标。

我的摘录：第一，重塑情绪、行为和记忆，这是基于约翰·格林德和理查德·班德勒最先开发的神经语言编程NLP的理解。1）NLP理论认为，无意识会控制人的体验、感知过去的记忆、以及当前发生的事。

如意笔记·2024-09-01 17:26

WeKnow-RAG：智能自适应的检索增强生成方法

步子哥·2024-09-01 13:58

Day285 你爱学习吗

我说：NLP考试20多道题，写的我手胳膊酸疼，不听使唤，写的

李春华_7db6·2024-09-01 12:19

大数据毕业设计hadoop+spark+hive微博舆情情感分析知识图谱微博推荐系统

（一）Selenium自动化Python爬虫工具采集新浪微博评论、热搜、文章等约10万条存入.csv文件作为数据集；（二）使用pandas+numpy或MapReduce对数据进行数据清洗，生成最终的.csv文件并上传到hdfs；（三）使用hive数仓技术建表建库，导入.csv数据集；（四）离线分析采用hive_sql完成，实时分析利用Spark之Scala完成;（五）统计指标使用sqoop导入m

qq_79856539·2024-09-01 11:16

大数据毕业设计天hadoop+spark+hive游戏推荐系统游戏数据分析可视化大屏 steam游戏爬虫游戏大数据机器学习知识图谱计算机毕业设计机器学习深度学习人工智能知识图谱

|—||一、选题的目的和意义用户往往因为不能及时查看游戏信息而造成许多烦恼。另一方面，游戏商城平台没能进行系统的管理与维护使游戏信息没能及时的更新。而传统的游戏信息管理，采用的还是手工备案、人工查询的方式。但是随之游戏信息的增多这种管理方式的工作量不断加大，这种做法就存在费时费力、缺乏时效性、不利于调动人员的积极性等缺点。一旦网站建立好之后，一方面，用户可以在第一时间在系统里查询所需的信息，另一方

2401_84159688·2024-09-01 11:45

【论文笔记】：LAYN：用于小目标检测的轻量级多尺度注意力YOLOv8网络

背景针对嵌入式设备对目标检测算法的需求，大多数主流目标检测框架目前缺乏针对小目标的具体改进，然后提出的一种轻量级多尺度注意力YOLOv8小目标检测算法。小目标检测精度低的原因随着网络在训练过程中的加深，检测到的目标容易丢失边缘信息和灰度信息等。获得高级语义信息也较少，图像中可能存在一些噪声信息，误导训练网络学习不正确的特征。映射到原始图像的感受野的大小。当感受野相对较小时，空间结构特征保留较多，但

hhhhhhkkkyyy·2024-09-01 10:39

周报 | 24.8.19-24.8.25文章汇总

《黑神话：悟空》石破天惊，RTX4090D飞越花果山_新智元悟空-CSDN博客OpenCV学堂|汇总|深度学习图像去模糊技术与模型-CSDN博客深度学习与NLP|

双木的木·2024-09-01 08:26

深度探索：机器学习中的序列到序列模型（Seq2Seq）原理及其应用

从语言翻译、文本摘要、语音识别到对话系统，众多自然语言处理（NLP）任务的成功解决离不开一种强大的模型架构——序列到序列（Sequence-to

生瓜蛋子·2024-09-01 08:22

Firefly多轮对话微调书生·浦语InternLM-7B实践

Firefly项目链接：https://github.com/yangjianxin1/Fireflyfirefly-internlm-7b模型权重：https://huggingface.co/YeungNLP

u013250861·2024-09-01 00:09

大语言模型原理与工程实践：混合微调策略

ZenandtheArtofComputerProgramming1.背景介绍1.1问题的由来随着深度学习技术的迅猛发展，大语言模型（LargeLanguageModels，LLMs）在自然语言处理（NaturalLanguageProcessing，NLP

AGI通用人工智能之禅·2024-08-31 15:13

中标 | 极客天成分布式存储软件成功中标华泰证券并行文件系统软件项目

华泰证券并行文件系统软件项目是服务于华泰证券量化投研的重点项目,是华泰证券能否取得可持续性竞争优势的关键所在,华泰证券多年深耕信用量化投研领域，基于大数据、人工智能、NLP等技术自主研发。

极客天成ScaleFlash·2024-08-31 14:31

学习课程

个人成长方面：1.家庭系统排列——慧和心理机构王良炳老师2.脉轮舞——十堰菲竼空间宋佳奕老师3.有效沟通（非暴力沟通）实操练习课程——刘运华老师（我本人）二，心理咨询师技术方面1.儿童沙盘游戏治疗2.NLP

静待花开_602f·2024-08-31 12:11

graphRAG原理解析——基于微软graphRAG+Neo4j llm-graph-builder

知识图谱生成llm-graph-builder（以下简称LGB）也使用了最新的graph+RAG的思路，使用知识图谱来加持RAG，提供更加准确和丰富的知识问答。

赖皮猫·2024-08-31 05:32

在neo4j中导入csv文件并构建知识图谱

本文csv文件数据来源于openKG中达观的开源知识图谱数据。从开源社区中下载下来的数据文件还是json，先用python把json文件转为csv文件。

芹菜还是菜·2024-08-31 05:31

文字模型训练分析评论（算法实战）

文字模型训练，尤其是在自然语言处理（NLP）领域，是构建能够理解、解释、生成人类语言系统的核心步骤。这类模型广泛应用于文本分类、情感分析、机器翻译、聊天机器人、摘要生成等多个方面。

富士达幸运星·2024-08-31 04:55

1-pipeline()函数-transformers-python库

Transformer模型用于解决各种NLP任务，Transformers库提供了创建和使用这些模型的功能。我们先来看一看pipeline()是如何解决NLP问题。

Flora-pi·2024-08-31 04:53

小琳AI课堂：单向模型 vs 双向模型 —— 揭秘大语言模型生成文本的奥秘

今天，我们要深入探讨自然语言处理（NLP）领域中的两种基础模型架构：单向模型和双向模型。这两种模型在处理和理解语言序列（如句子）的方式上有显著差异，它们的工作原理直接影响着大语言模型生成文本的方式。

小琳ai·2024-08-31 01:29

激光SLAM--(8) LeGO-LOAM论文笔记

论文标题：LeGO-LOAM：LightweightandGround-OptimizedLidarOdometryandMappingonVariableTerrain应用在可变地形场景的轻量级的、并利用地面优化的LOAMABSTRACT轻量级的、基于地面优化的LOAM实时进行六自由度位姿估计，应用在地面的车辆上。强调应用在地面车辆上是因为在这里面要求雷达必须水平安装，而像LOAM和LIO-SA

lonely-stone·2024-08-30 20:29

【Python机器学习】NLP词频背后的含义——隐性语义分析

隐性语义分析基于最古老和最常用的降维技术——奇异值分解（SVD）。SVD将一个矩阵分解成3个方阵，其中一个是对角矩阵。SVD的一个应用是求逆矩阵。一个矩阵可以分解成3个最简单的方阵，然后对这些方阵求转置后再把它们相乘，就得到了原始矩阵的逆矩阵。它为我们提供了一个对大型复杂矩阵求逆的捷径。SVD适用于桁架结构的应力和应变分析等机械工程问题，它对电气工程中的电路分析也很有用，它甚至在数据科学中被用于基

zhangbin_237·2024-08-30 14:22

自然语言处理（NLP）与机器学习：深度探索两者的关系

自然语言处理（NLP）与机器学习：深度探索两者的关系1.自然语言处理(NLP)的概述NLP的主要任务包括：2.机器学习(ML)的概述机器学习的主要类型包括：3.NLP与机器学习的关系1.机器学习驱动NLP

听忆.·2024-08-30 10:51

论文浅尝 - AAAI2020 | 迈向建立多语言义元知识库：用于 BabelNet Synsets 义元预测...

论文笔记整理：潘锐，天津大学硕士。来源：AAAI2020链接：https://arxiv.org/pdf/1912.01795.pdf摘要义原被定义为人类语言的最小语义单位。

开放知识图谱·2024-08-30 07:35

深入理解PyTorch中的MessagePassing

深入理解PyTorch中的MessagePassing图神经网络（GraphNeuralNetworks，简称GNNs）在近年来已成为处理图形数据的一种强大工具，广泛应用于社交网络分析、蛋白质结构预测、知识图谱增强等多个领域

小桥流水---人工智能·2024-08-30 06:00

大模型训练和推理

文章目录一、NLP基础1.Tokenizer2.positionencoding3.注意力机制与transformer架构二、大模型训练1.SFT训练2.RLHF训练3.分布式并行训练技术（1）模型并行

李明朔·2024-08-30 01:27

推荐频道

NLP知识图谱论文笔记