N-gram语言模型

大模型微调方法

LoRALoRA名为大语言模型的低阶适应，最初设计用于微调LLM，但却在文生图领域大放异彩，并逐渐被人数知。
transformer_WSZ·2023-09-22 18:09

【大模型】—GLM大模型介绍

大模型——GLM大模型介绍随着人工神经网络和深度学习技术的不断发展和应用场景的不断拓展，大型语言模型已经成为了自然语言处理领域中的重要研究方向之一。
麦道先生·2023-09-22 16:15

论文浅尝 | 基于预训练语言模型的简单问题知识图谱问答

笔记整理：刘赫，天津大学硕士链接：https://doi.org/10.1007/s11280-023-01166-y动机大规模预训练语言模型(PLM)如BERT近取得了巨大的成功，成为自然语言处理(NLP
开放知识图谱·2023-09-22 15:29

“新KG”视点 | 漆桂林——知识图谱和大语言模型的共存之道

OpenKG大模型专辑导读知识图谱和大型语言模型都是用来表示和处理知识的手段。
开放知识图谱·2023-09-22 15:28

微调GPT-3.5 Turbo是空中楼阁吗？

大型语言模型（LLM）领域不断演变，日新月异.OpenAI发布了GPT-3.5Turbo的微调，标志着一个即将载入史册的里程碑。
·2023-09-22 15:43

RNN LSTM语言模型 ——RNN

RNN的结构RNN的缺点ref:https://blog.csdn.net/jizhidexiaoming/article/details/81743584梯度消失梯度爆炸梯度消失：一句话，RNN梯度消失是因为激活函数tanh函数的倒数在0到1之间，反向传播时更新前面时刻的参数时，当参数W初始化为小于1的数，则多个(tanh函数’*W)相乘，将导致求得的偏导极小（小于1的数连乘），从而导致梯度消失
jenye_·2023-09-22 14:05

大模型Tuning分类

类型总结微调（Fine-tunning）语言模型的参数需要一起参与梯度更新轻量微调（lightweightfine-tunning）冻结了大部分预训练参数，仅添加任务层，语言模型层参数不变适配器微调（Adapter-tunning
HIT-LQM·2023-09-22 13:37

微调大型语言模型(一)：为什么要微调(Why finetune)?

今天我们来学习Deeplearning.ai的在线课程微调大型语言模型(一)的第一课：为什么要微调(Whyfinetune)。
-派神-·2023-09-22 12:54

秒懂生成式AI—大语言模型是如何生成内容的？

备受关注的大语言模型，核心是自然语言的理解与文本内容的生成，对于此，你是否好奇过它们究竟是如何理解自然语言并生成内容的，其工作原理又是什么呢？
RPA中国·2023-09-22 11:48

[论文笔记]Prefix Tuning

作者提出了用于自然语言生成任务的prefix-tuning(前缀微调)的方法，固定语言模型的参数而优化一些连续的任务相关的向量，称为prefix。
愤怒的可乐·2023-09-22 09:51

ChatGPT技术原理

目录一、Tokenization二、Transformer模型三、预训练四、微调五、Beamsearch总结自从OpenAI的ChatGPT在2022年底横空出世以来，这款大型语言模型在各种任务中都展现了惊人的性能
傻啦嘿哟·2023-09-22 05:07

人工智能大语言模型微调技术：SFT 监督微调、LoRA 微调方法、P-tuning v2 微调方法、Freeze 监督微调方法

人工智能大语言模型微调技术：SFT监督微调、LoRA微调方法、P-tuningv2微调方法、Freeze监督微调方法1.SFT监督微调1.1SFT监督微调基本概念SFT（SupervisedFine-Tuning
·2023-09-22 01:08

大语言模型之十一 Transformer后继者Retentive Networks (RetNet)

在《大语言模型之四-LlaMA-2从模型到应用》的LLama-2推理图中可以看到，在输入“你好！”时，是串行进行的，即先输入“你”这个token，然后是“好”，再然后是“！”
shichaog·2023-09-21 22:25

亚马逊发布更新Alexa语音助手以应对Bard等大语言模型带来的竞争

亚马逊公司周三推出了一系列新的和更新的设备，并用生成人工智能更新了Alexa语音助手，以吸引用户使用这款尚未盈利的产品，因为来自谷歌Bard等聊天机器人的竞争日益激烈。Alexa将更加自然地交谈，一改近十年来的机器人语气，并回答诸如足球比赛开始时间和食谱创意等问题。亚马逊在弗吉尼亚州阿灵顿举行的年度产品发布会上展示了它还能够创作和朗诵诗歌。亚马逊于2014年推出了Alexa，但尚未找到一致的方法来
坐望云起·2023-09-21 22:55

ChatGLM微调基于P-Tuning/LoRA/Full parameter（中）

1.ChatGLM模型介绍ChatGLM-6B是一个开源的、支持中英双语的对话语言模型，基于GeneralLanguageModel(GLM)架构，具有62亿参数。
张志翔的博客·2023-09-21 22:46

Java中人工智能的框架

Mallet:一个用于自然语言处理的开源Java框架,包含大量的工具和算法,可以用于文本分类,语言模型
永远的12·2023-09-21 19:07

Transformer的上下文学习能力

它给众多大语言模型带来的上下文学习(In-ContextLearning)能力是从何而来？在人工智能领域里，transformer已成为深度学习中的主导模型，但人们对于它卓越性能的
Angelina_Jolie·2023-09-21 18:23

Text-to-SQL小白入门（六）Awesome-Text2SQL项目介绍

项目理念这个项目主要收集了针对大型语言模型和Text2SQL等的精选教程和资源，希望能够共同学习、共同推动Text2S
junewgl·2023-09-21 17:27

AI究竟能提升多少效率？哈佛已揭秘量化结果

大型语言模型（LLM）的公开发布引发了人们对人工智能（AI）在各种任务中的应用方式产生了巨大兴趣。
AI 研习所·2023-09-21 12:03

太强了开源的AI工具APP，AIdea -支持 AI聊天、协作、图片生成

简介AIdea是一款支持GPT以及国产大语言模型通义千问、文心一言等，支持StableDiffusion文生图、图生图、SDXL1.0、超分辨率、图片上色的全能型APP。
AI 研习所·2023-09-21 12:33

Transformer之傲慢与偏见：主流大语言模型的技术细节揭秘

文章首发地址目前，主流的大语言模型包括GPT（GenerativePre-trainedTransformer）系列、BERT（BidirectionalEncoderRepresentationsfromTransformers
Walter Sun·2023-09-21 12:00

【整理】text2kgbench: 语言模型根据本体生成知识图谱的能力

概述该论文的研究背景是大型语言模型（LLM）和基于本体的知识图谱（KG）在自然语言处理（NLP）任务中的性能提升。
YoungerChina·2023-09-21 11:59

Rasa：使用大语言模型进行意图分类

Rasa：使用大语言模型进行意图分类在Rasa的最新版本（3.x）中，引入了一种新的意图分类方法，即使用大型语言模型（LLM）和一种称为检索增强生成（RAG）的方法进行意图分类。
段智华·2023-09-21 11:17

【AI语言模型】阿里推出音视频转文字引擎

一、前言阿里的音视频转文字引擎可以正式使用，用户可体验所有AI功能，含全文概要、章节速览、发言总结等高阶AI功能。通过阿里云主账号登录，可享受以下权益：每日登录，自动获得2小时转写时长；每邀请1名好友注册并登录通，邀请者可获得2小时转写时长；输入口令即可获得额外的转写时长；绑定阿里云盘账号，共享云盘超大存储空间。二、功能介绍1、实时语音转写，生成智能记录，搜索定位助力高效回顾2、文件转写，海量文件
珞瑜··2023-09-21 10:10

论文阅读_大语言模型_Llama2

英文名称:Llama2:OpenFoundationandFine-TunedChatModels中文名称:Llama2：开源的基础模型和微调的聊天模型文章:http://arxiv.org/abs/2307.09288代码:https://github.com/facebookresearch/llama作者:HugoTouvron日期:2023-07-19引用次数:1101读后感这是一篇77页
xieyan0811·2023-09-21 10:57

极光笔记 | 大语言模型插件

在人工智能领域，大语言模型（LLMs）是根据预训练数据集进行”学习“，获取可以拟合结果的参数，虽然随着参数的增加，模型的功能也会随之增强。
极光JIGUANG·2023-09-21 07:43

LoRA模型是什么？

LoRA（Low-RankAdaptationofLargeLanguageModels，大型语言模型的低秩适应）是微软研究员提出的一种新颖技术，旨在解决微调大型语言模型的问题。
黑风风·2023-09-21 05:02

ChatGPT技术原理

：训练回报模型（RewardModel,RM）阶段三：使用强化学习微调SFT模型ChatGPT是由GPT-3迭代来的，原有的GPT-3可能难以从文本中学会一些更高层次的表示，这就导致了GPT-3这样的语言模型
Runjavago·2023-09-21 05:19

AI 时代的向量数据库、关系型数据库与 Serverless 技术丨TiDB Hackathon 2023 随想

大规模语言模型（LLM）的问世使得个人开发者能够在短短5分钟内为程序赋予推理能力，而这在以往，几乎只有超大型团队才能胜任。从应用开发者的角度来看，AI时代也已经到来了。
TiDB_PingCAP·2023-09-21 04:09

BERT： 面向语言理解的深度双向Transformer预训练

让语言模型预训练出圈！
Scabbards_·2023-09-21 00:15

Appilot发布：打造面向DevOps场景的开源AI助手

今日，数澈软件Seal（以下简称“Seal”）宣布推出面向DevOps场景的AI助手Appilot，这款产品将充分利用AI大语言模型的能力为用户提供变革性的部署和应用管理体验。
Seal软件·2023-09-21 00:39

LLM预训练之RLHF（一）：RLHF及其变种

在ChatGPT引领的大型语言模型时代，国内外的大模型呈现爆发式发展，尤其是以年初的LLaMA模型为首的开源大模型和最近百川智能的baichuan模型，但无一例外，都使用了「基于人类反馈的强化学习」（RLHF
wshzd·2023-09-20 20:02

清华裴丹 | 运维大模型展望-上篇

人工智能场景落地效果的重大突破，尤其是以ChatGPT为代表的大语言模型的出现，彰显了AI技术能够在更多领域场景中普及，并将引发令人瞩目的行业变革。
BizSeer必示科技·2023-09-20 19:57

如何用ChatGPT使开发效率提高50%以上？

简介  ChatGPT是一个大型语言模型，由OpenAI开发。它被训练用于进行对话式交互，能够理解和生成自然语言文本。
小夏陌·2023-09-20 19:51

极光笔记 | 大语言模型插件

在人工智能领域，大语言模型（LLMs）是根据预训练数据集进行”学习“，获取可以拟合结果的参数，虽然随着参数的增加，模型的功能也会随之增强。
·2023-09-20 18:00

一键实现冒泡排序算法，代码质量有保障！

近年来，深度学习和神经语言模型作为提高开发人员生产力的手段，尤其是2022年11月30日，ChatGPT这一现象级热点得出横空出世，在全球范围内形成了热烈的讨论，其中关于自动化代码生成和其它软件工程方面受到了极大的关注
·2023-09-20 17:21

文本控制3D打印模型，麻省理工最新产品并公布论文

据悉，Style2Fab借助了大语言模型的便利性，同时使用了Thingiverse的1000个3D模型进行
RPA中国·2023-09-20 17:44

大型语言模型 (LLM) 初学者指南

训练大型语言模型的巨大影响彻底改变了NLP，彻底改变了我们的技术交互。时间回到2017年，这是一个以“注意力就是你所需要的”为标志的关键时刻，开创性的“Transformer”架构诞生了。
·2023-09-20 14:38

基于Dify和AIGC2D快速构建你的智能对话和功能应用

GPT4.0的接口，免去国内访问不了openai,没有国外信用卡的烦恼AIGC2D官方地址:https://www.aigc2d.comDifyDify的目标是让开发者（甚至非开发者）可以快速基于大型语言模型搭建出有用的东西
qq_15502821安好·2023-09-20 14:57

【AI语言大模型】文心一言功能使用介绍

一、前言文心一言是一个知识增强的大语言模型，基于飞桨深度学习平台和文心知识增强大模型，持续从海量数据和大规模知识中融合学习具备知识增强、检索增强和对话增强的技术特色。
珞瑜··2023-09-20 13:13

Appilot发布：打造面向DevOps场景的开源AI助手

今日，数澈软件Seal（以下简称“Seal”）宣布推出面向DevOps场景的AI助手Appilot，这款产品将充分利用AI大语言模型的能力为用户提供变革性的部署和应用管理体验。
·2023-09-20 13:33

tokenizer的group_texts

数据集文本生成几乎是可以随便选择数据集的，毕竟建立语言模型不需要人工标注，只要是序列数据，哪怕是Latex公式，程序代码，都可以进行训练与生成。
不当菜鸡的程序媛·2023-09-20 13:18

Through the Lens of Core Competency: Survey on Evaluation of Large Language Models

从核心能力看大型语言模型的评价摘要1引言2核心能力3未来方向4结论摘要从预训练语言模型（PLM）到大型语言模型（LLM），自然语言处理（NLP）领域已经见证了巨大的性能提升和广泛的实际应用。
UnknownBody·2023-09-20 10:47

A Survey on Fairness in Large Language Models

大型语言模型中的公平性研究综述摘要1引言2评估度量3内在去偏4外部去偏5大型LLM的公平性6讨论7结论摘要大型语言模型（LLM）已经显示出强大的性能和发展前景，并在现实世界中得到了广泛的部署。
UnknownBody·2023-09-20 10:47

EdgeMoE: Fast On-Device Inference of MoE-based Large Language Models

EdgeMoE：基于MoE的大型语言模型的快速设备推理摘要1引言2实验与分析3EDGEMOE设计4评估5相关工作6结论摘要GPT和LLaMa等大型语言模型（LLM）由于其在广泛的机器学习任务中的卓越能力
UnknownBody·2023-09-20 10:47

EasyEdit: An Easy-to-use Knowledge Editing Framework for Large Language Models

EasyEdit：一个易于使用的大型语言模型知识编辑框架摘要1引言2背景3设计和实现4评估5实验6结论和未来工作摘要大型语言模型（LLM）通常存在知识截断或谬论问题，这意味着它们不知道看不见的事件，或者由于过时
UnknownBody·2023-09-20 10:46

AIGC入门 - LLM 信息概览

LLMOPTLLaMaAlpacaVicunaMosschatGLMBaichuanOpenbuddy一、OPT1、背景OPT全称OpenPre-trainedTransformerLanguageModels，即“开放的预训练Transformer语言模型
TFATS·2023-09-20 09:30

再议态势感知

态势感知模型如大语言模型类似，其结构改进、预训练、指令微调和奖励模型是提高态势感知模型生成质量和效果的常用方法。下面对每个方法进行详细说明：结构改进：改进模型的结构是提高生成质量和效果的重要手段。
人机与认知实验室·2023-09-20 08:19

nlp面试题大全

词袋模型与N-gram  最基本的文本表示模型是词袋模型(BagofWords)。基本思想是把每篇文章看成一袋子词，并忽略每个词出现的顺序。具体来看：将整段文本表示成一个长向量，每一维代表一个单词。
Viterbi·2023-09-20 08:44

搭建部署属于自己的基于gpt3.5的大语言模型（基于flask+html+css+js+mysql实现）

一、简介本项目是一个基于GPT-3.5模型的聊天机器人网站，旨在为用户提供一个简便、直接的方式来体验和利用GPT-3.5模型的强大功能。项目以Flask为基础，构建了一个完整的Web应用程序，其中包含了多个前端页面和后端API接口，能够处理用户输入并与GPT-3.5模型进行交互来生成响应。一个显著的特点是，该项目可以在国内环境下无障碍访问，无需借助任何形式的科学上网工具。这得益于项目的服务器和AP
盘古开天1666·2023-09-20 05:46
上一页 64 65 66 67 68 69 70 71 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他