N-gram语言模型

llama2.c｜纯C语言推理开源语言模型Baby LLaMA

你是否曾经想过在纯C语言中推理一个babyLlama2模型？没有？现在你可以了！llama2.c｜BabyLLaMA使用这段代码，你可以在PyTorch中从头开始训练Llama2LLM架构，然后将权重保存为原始二进制文件，再将其加载到一个简单的500行C文件(run.c)中，用于推理模型，目前仅支持fp32。在我的云Linux开发机上，一个dim2886层6头模型（约15M个参数）在fp32下的推
产品大道·2023-10-25 11:32

llama2.c - 垂直领域LLM训练/推理全栈利器

llama2.c是一个极简的Llama2LLM全栈工具，非常适合用于制作面向细分市场垂直领域的大规模语言模型。推荐：用NSDT设计器快速搭建可编程3D场景。
新缸中之脑·2023-10-25 11:02

macbook m1 本地部署llama2模型

测试环境：芯片：AppleM1内存：8Gllama-cpp-python==0.1.79Llama2Llama2是MetaAI开发的Llama大语言模型的迭代版本，提供了7B，13B，70B参数的规格。
Zaldini0711·2023-10-25 11:28

在 Mac M1 上运行 Llama 2 并进行训练

在MacM1上运行Llama2并进行训练Llama2是由领先的人工智能研究公司Meta（前Facebook）开发并发布的下一代大型语言模型(LLM)。
JarodYv·2023-10-25 11:23

利用传统方法（N-gram，HMM等）、神经网络方法（CNN，LSTM等）和预训练方法（Bert等）的中文分词任务实现

自然语言处理中文分词利用传统方法（N-gram，HMM等）、神经网络方法（CNN，LSTM等）和预训练方法（Bert等）的中文分词任务实现【Thewordsegmentationtaskisrealizedbyusingtraditionalmethods
JackHCC·2023-10-25 09:46

【大模型系列 01】ChatGLM-6B 昇腾迁移

一、ChatGLM-6B说明ChatGLM-6B是62亿参数的语言模型，同等参数下中文对话能力极好。
hiascend·2023-10-25 07:12

《论文阅读》LORA：大型语言模型的低秩自适应 2021

LOW-RANKADAPTATIONOFLARGELAN-GUAGEMODELS前言简介现有方法模型架构优点前言今天为大家带来的是《LORA:LOW-RANKADAPTATIONOFLARGELAN-GUAGEMODELS》出版：时间：2021年10月16日类型：大语言模型的微调方法关键词
365JHWZGo·2023-10-25 07:13

文档图像前沿技术探索 | 多模态及图像安全

目录前言多模态模型进展与探索大语言模型（LLM）多模态大语言模型（MLLM）图像安全研究背景系统架构生成式AI合合信息前言近期，第六届中国模式识别与计算机视觉大会（厦门PRCV2023）顺利闭幕。
@每天都要敲代码·2023-10-25 07:19

一篇关于LLM指令微调的综述

深度学习自然语言处理原创作者：cola指令微调(IT)是提高大型语言模型(LLM)能力和可控性的关键技术。
大数据AI人工智能培训专家培训讲师叶梓·2023-10-25 06:42

AI_Papers周刊：第五期

2023.03.06—2023.03.12TopPapersSubjects:cs.CL1.Largerlanguagemodelsdoin-contextlearningdifferently标题：更大的语言模型以不同的方式进行上下文学习作者
AiCharm·2023-10-25 06:02

【GPT】中文大语言模型梳理与测评（C-Eval 、AGIEval、MMLU、SuperCLUE）

文章目录概述申请后直接使用大模型开源可本地部署通识数据集测评（C-Eval、AGIEval、MMLU、SuperCLUE）自媒体报道SuperCLUE：中文通用大模型综合性基准C-Eval：中英测评（清华上交提出）当前排名（23.06.27）数据集内容具体的科目如下图：数据量与试题示例论文中的测评结果AGIEval：微软中英文评测数据集内容人类与国外主流模型差异MMLU：英文试题部分测评结果试题内
曾小蛙·2023-10-24 15:18

04.Finetune vs. Prompt

目录语言模型回顾大模型的两种路线专才通才二者的比较专才养成记通才养成记InstructionLearningIn-contextLearning自动Prompt部分截图来自原课程视频《2023李宏毅最新生成式
oldmao_2000·2023-10-24 14:31

在线免费AI绘画工具

作为一个人工智能语言模型，它可以自动回答你的问题、提供信息，并与你进行流畅的对话。它通过大量的训练数据和机器学习算法，学会了各种语言规则和上下文信息，能够生成准确、连贯的回答。
一个小浪吴啊·2023-10-24 13:00

如何利用验证链技术减少大型语言模型中的幻觉

一、前言随着大型语言模型在自然语言处理领域取得了惊人的进步。
技术狂潮AI·2023-10-24 13:23

EmbedChain：比LangChain更加轻量化的LLM框架

一、前言在之前的文章中，我们研究了如何使用LangChain结合大型语言模型（LLM）API来构建用户友好且直观的聊天机器人。
技术狂潮AI·2023-10-24 13:51

融云AIGC专题：高知识密度与大数据处理双向奔赴的「金融大模型」

融云出海方案全线升级点击上方小程序报名「爱嗨游」线上发布会“怎么用大语言模型去提升生产效率和服务表现？”在时代交替之际，这是每个行业都要回答的问题。
融云·2023-10-24 13:02

SFT调优

SFT调优快速手册-千帆大模型平台|百度智能云文档人工智能大语言模型微调技术：SFT、LoRA、Freeze监督微调方法什么是SFT监督微调（SFT）是指采用预先训练好的神经网络模型，并针对你自己的专门任务在少量的监督数据上对其进行重新训练的技术
小草cys·2023-10-24 12:10

斯坦福NLP提出EFT：如何不实际微调而“假装”微调了LLM?

语言模型（LM）的训练经历两个关键阶段：首先，利用大量多样化的文本数据进行预训练；接着，对模型针对特定目标进行微调。
zenRRan·2023-10-24 10:32

预告｜第四届OpenI/O启智开发者大会NLP大模型论坛强势来袭！

在过去的十年里，人工神经网络计算的加入、强大算力资源的实现和巨量数据的训练，使NLP技术取得了令人瞩目的成就，ChatGPT等预训练语言模型的构建，恰恰预示着NLP技术乃至人工智能领域的“大模型”时代已经到
OpenI启智社区·2023-10-24 08:12

Transformer模型 | 用于目标检测的视觉Transformers训练策略

然而，最初为语言模型设计的变形金刚主要关注的是性能准确性，而不是推理时间预算。对于像自动驾驶这样的安全关键系统，车载计算机的实时推理是绝对必要的。这使得我们的目标检测算法在非常紧张的运行时间预算下。
算法如诗·2023-10-24 06:49

LLM项目代码改写

背景：最近在做代码大语言模型生成项目代码的课题。
远洋之帆·2023-10-24 03:56

XLNet

1、XLNet的出发点自回归语言模型AR：仅根据上文预测，或仅根据下文预测。ELMO、GPT。优势是擅长生成式自然语言处理任务。因为在生成上下文时，通常是前向的。缺点是仅利用一边，信息利用不充分。
京漂的小程序媛儿·2023-10-23 19:48

变分贝叶斯深度学习综述

**©PaperWeekly原创·作者|**薛博阳**单位|**香港中文大学**研究方向|**语言模型引言近年来，贝叶斯深度学习（BayesianDeepLearn-ing）在诸多领域得到广泛关注应用，
mingqian_chu·2023-10-23 17:00

自然语言处理---Transformer机制详解之ELMo模型介绍

2018年3月由华盛顿大学提出的一种预训练模型.ELMo的全称是EmbeddingsfromLanguageModels.ELMo模型的提出源于论文>.ELMo模型提出的动机源于研究人员认为一个好的预训练语言模型应该能够包含丰富的句法和语义信息
lichunericli·2023-10-23 15:01

4个可以写进简历的京东 NLP 项目实战

：文本处理与特征工程|BagofWords模型|从tf-idf到Word2Vec|SkipGram与CBOW|HierarhicalSoftmax与NegativeSampling|FastText|N-gram
Amusi（CVer）·2023-10-23 13:16

CVPR 2021 Oral | 聊一聊使用NLP语言模型解决场景文本识别中问题的思路以及一些思考...

点击下方卡片，关注“CVer”公众号AI/CV重磅干货，第一时间送达本文作者：Mounty|来源：知乎https://zhuanlan.zhihu.com/p/355232006论文：arxiv.org/abs/2103.06495代码链接(即将开源)：https://github.com/FangShancheng/ABINet文字识别与自然语言处理NLP通常来说，无论是裁剪图像的文字识别还是端
Amusi（CVer）·2023-10-23 13:15

ChatGPT（1）：ChatGPT初识

1ChatGPT原理ChatGPT是基于GPT-3.5架构的一个大型语言模型，它的工作原理涵盖了深度学习和自然语言处理技术。
不死鸟.亚历山大.狼崽子·2023-10-23 09:20

《向量数据库》——向量数据库Milvus Cloud 和Dify比较

ZillizCloudv.s.DifyDify作为开源的LLMsApp技术栈，在此前已支持丰富多元的大型语言模型的接入，除了OpenAI、Anthropic、AzureOpenAI、Huggingface
LCHub低代码社区·2023-10-23 08:28

NLP：从头开始的文本矢量化方法

这种表示通常称为向量，它可以应用于文本的任何合理单位：单个标记、n-gram、句子、段落，甚至整个文档。在整个语料库的统计NLP中，应用了不同的向量化技术，例如one-hot、计数或频率编码。
无水先生·2023-10-23 08:41

LLM-202210：GLM【开源双语预训练语言模型】

《GLM:GeneralLanguageModelPretrainingwithAutoregressiveBlankInfilling》《GLM-130B:Anopenbilingualpre-trainedmodel》一、简介已经有各种类型的预训练架构，包括自编码模型（如BERT），自回归模型（如GPT），以及编码器-解码器模型（如T5）。然而，没有一个预训练框架对包括自然语言理解（NLU）、
u013250861·2023-10-22 22:35

论文笔记 -《REALM: Retrieval-Augmented Language Model Pre-Training》

1、前言2019年可以说是语言模型快速发展的一年，BERT、XLNET、Albert等等模型不断刷新各个NLP榜单。在NLP榜单中比较引人注目的应该属于阅读理解型的任务，例如SQuAD等等。
*Lisen·2023-10-22 20:27

【大模型应用开发教程】02_LangChain介绍

什么是LangChainChatGPT的巨大成功激发了越来越多的开发者兴趣，他们希望利用OpenAI提供的API或者私有化模型，来开发基于大型语言模型的应用程序。尽管大型语言模型的
Taylor_29511·2023-10-22 20:42

最强英文开源模型LLaMA架构探秘，从原理到源码

导读：LLaMA65B是由MetaAI（原FacebookAI）发布并宣布开源的真正意义上的千亿级别大语言模型，发布之初（2023年2月24日）曾引起不小的轰动。
从流域到海域·2023-10-22 19:17

【论文笔记】GPT-2 通用语言模型的一粒飞弹

代码传送带：https://github.com/openai/gpt-2论文传送带：https://d4mucfpksywv.cloudfront.net/better-language-models/language-models.pdf题外话，在机器学习领域，我们经常说的一句话是NOFREELUNCH，意味着在大众认知里所有的TASK都有相应的解决系统，而互相之间不存在一种通用的学习模型能够
Mango_Holi·2023-10-22 16:40

[论文笔记]GPT-2

引言今天继续GPT系列论文，这次是LanguageModelsareUnsupervisedMultitaskLearners，即GPT-2，中文题目的意思是语言模型是无监督多任务学习器。
愤怒的可乐·2023-10-22 16:39

Bag of Tricks for Efficient Text Classification (fastText) 学习笔记

fastText是可以应用在带监督的文本分类问题的语言模型，准确率可以与深度学习相提并论，且速度更快。它有两个突出的优点：因为调用了简单的线性模型而不是神经网络模型，所以它在保持了高精度的情况下，大
ffffatgoose·2023-10-22 14:33

Bag of Tricks for Efficient Text Classification(FastText)阅读笔记

HierarchicalsoftmaxN-gramfeatures实验任务1Sentimentanalysis任务2Tagprediction总结FastTextfastText的核心思想：将整篇文档的词及n-gram
Leokb24·2023-10-22 14:00

值得收藏！基于LLM的推荐系统全面综述！

https://zhuanlan.zhihu.com/p/634534308大型语言模型（LLMs）已在自然语言处理（NLP）领域崭露头角，并在推荐系统（RS）领域近期受到了极大关注。
WitsMakeMen·2023-10-22 14:28

Bert理解总结

BERT是基于微调的多层Transformer编码器，目标是生成语言模型，只需要transformer的encoder部分。
Mark_Aussie·2023-10-22 14:48

自然语言处理---Transformer模型

同时又可以构建预训练语言模型，用于
lichunericli·2023-10-22 13:28

自然语言处理实战项目9-大语言模型的训练与文本生成过程，详细步骤介绍

大家好，我是微学AI，今天给大家介绍一下自然语言处理实战项目9-大语言模型的训练与文本生成过程，详细步骤介绍。大语言模型的训练是通过深度学习技术实现的。
微学AI·2023-10-22 12:20

自然语言处理---Transformer构建语言模型

语言模型概述以一个符合语言规律的序列为输入，模型将利用序列间关系等特征，输出一个在所有词汇上的概率分布，这样的模型称为语言模型。
lichunericli·2023-10-22 12:48

推特爆火！超越ChatGPT和Llama2，新一代检索增强方法Self-RAG来了原创

作者|ZenMoore前言大型语言模型（LLMs）具有出色的能力，但由于完全依赖其内部的参数化知识，它们经常产生包含事实错误的回答，尤其在长尾知识中。
夕小瑶·2023-10-22 09:13

王炸级！3000页AI大模型全栈手册，限时开放下载！ChatGPT大模型技术必读推荐

ChatGPT、GPT-4、文心一言、通义千问、Midjourney、StableDiffusion系列....大模型今年太火了，无论是对话式的大型语言模型，还是文生图模型，今年可以说是AIGC技术的元年
深度学习技术前沿·2023-10-22 09:11

自然语言处理---Transformer机制详解之GPT模型介绍

>中提出GPT2模型.GPT和GPT2模型结构差别不大,但是GPT2采用了更大的数据集进行训练.OpenAIGPT模型是在GoogleBERT模型之前提出的,与BERT最大的区别在于GPT采用了传统的语言模型方法进行预训练
lichunericli·2023-10-22 09:29

80个国内可用的Chatgpt网页版（2023.10.21更新）

ChatGPT：革命性的人工智能语言模型ChatGPT，一款能够与人类进行自然流畅对话的人工智能语言模型，通过大量训练数据和先进算法，展现出卓越的自然语言处理能力。
流光歲月leyt·2023-10-22 08:43

NLP：从头开始的文本矢量化方法

这种表示通常称为向量，它可以应用于文本的任何合理单位：单个标记、n-gram、句子、段落，甚至整个文档。在整个语料库的统计NLP中，应用了不同的向量化技术，例如one-hot、计数或频率编码。
无水先生·2023-10-22 07:37

Imagen：Photorealistic Text-to-Image Diffusion Models with Deep Language Understanding

相较于之前一些基于扩散模型的text2image方法，Imagen一个基本的认识是：用更大的在纯文本上训练的自然语言模型（T5）作为textencoder比用更大的diffusionmodel效果更显著
_忙中偷闲_·2023-10-22 07:06

【深度学习实验】循环神经网络（五）：基于GRU的语言模型训练（包括自定义门控循环单元GRU）

GatedRecurrentUnit）1.get_params2.init_gru_state3.gru（二）创建模型0.超参数1.使用上述手动实现的GRU函数2.调用Pytorch库的GRU类（三）基于GRU的语言模型训练
QomolangmaH·2023-10-22 05:50

自然语言处理---Transformer机制详解之BERT GPT ELMo模型的对比

Transformer进行特征提取.很多NLP任务表明Transformer的特征提取能力强于LSTM,对于ELMo而言,采用1层静态tokenembedding+2层LSTM,提取特征的能力有限.单/双向语言模型
lichunericli·2023-10-22 05:20
上一页 53 54 55 56 57 58 59 60 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他