N-gram语言模型第59页

FROZEN TRANSFORMERS IN LANGUAGE MODELS ARE EFFECTIVE VISUAL ENCODER LAYERS

语言模型中的冻结Transformer是有效的视觉编码器层摘要1引言2相关工作3方法：用于视觉编码的冷冻LLMTransformer4LLMTransformer在视觉任务中的适用性5面向可视化任务的LLMTransformer

UnknownBody·2023-10-20 15:10

如何使用BERT生成单词嵌入？

阿比贾特·萨拉里一、说明BERT，或来自变形金刚（Transformer）的双向编码器表示，是由谷歌开发的强大语言模型。它已广泛用于自然语言处理任务，例如情感分析、文本分类和命名实体识别。

无水先生·2023-10-20 14:26

windows搭建向量数据库milvus

介绍在大语言模型使用的过程中，发现有时候会一本正经的胡说八道。那么有没有什么办法，让它可以优化。这时候可以应用到向量数据库。

小~小·2023-10-20 13:57

【Stanford CS224N 笔记】lecture 7 Recurrent Neural Network

一、语言模型1.1定义语言模型LanguageModel，是指预测一个句子（词语有序序列）出现的概率的模型，即，一般可用于以下场景：1.判断什么词序出现的可能性更高：p(六点吃饭)>p(六点饭吃)2.判断在上下文中

宇智波艾尼路·2023-10-20 12:31

深度学习-循环神经网络详解

循环神经网络语言模型语言模型的计算n元语法循环神经网络不含隐藏状态的神经网络让我们考虑一个含单隐藏层的多层感知机。

oveZ·2023-10-20 12:55

星环科技向量数据库Hippo来啦！！！极简资源、极速安装，大模型场景DIY快速体验！

大语言模型正在与企业应用迅速结合，并深刻改变企业的各个产业环节。而大模型训练所使用的数据包含了如文档、图片、音视频等各种类型的非结构化数据，传统关系型数据库能力有限。

星环科技社区版TDH·2023-10-20 09:31

向量数据库 | 向量数据库 Transwarp Hippo 拓展大语言模型时间和空间维度

随着企业、机构中非结构化数据应用的日益增多以及AI的爆发式增长所带来的大量生成式数据，所涉及的数据呈现了体量大、格式和存储方式多样、处理速度要求高、潜在价值大等特点。但传统数据平台对这些数据的处理能力较为有限，如使用文件系统、多类不同数据库存储上述数据，在数据存储管理、查询分析效率、数据价值挖掘等方面都存在一定的瓶颈，例如传统数据库查询是点查和范围查的一种精确查询，无法满足大模型下如智能问答、智能

IT新视界·2023-10-20 09:00

星环科技向量数据库Transwarp Hippo1.1发布：一库搞定向量+全文联合检索，提升大模型准确率

在与用户不断地深入交流以及实践中，Hippo迎来了V1.1版本，一套系统即可支持向量与全文联合检索，提高文本数据的召回精度，从而提升大语言模型应用的准确率。

LCHub低代码社区·2023-10-20 09:58

Transwarp Hippo1.1一库搞定向量+全文联合检索，提升大模型准确率

在大语言模型应用中，向量数据库作为中间载体，可以有效地解决大模型在知识时效性低、输入能力有限、准确度低等问题，赋予大模型拥有“长期记忆”。因此，向量数据库的召回精度直接影响大模型输出结果的准确率。

LCHub低代码社区·2023-10-20 09:58

《向量数据库指南》——向量数据库是小题大作的方案？

假设大语言模型需要10秒钟才能生成一条结果，即需要存储的单条新记忆。那么我们获得10万条记忆的时间周期将为：100000x10秒=1000000秒——约等于11.57天。

LCHub低代码社区·2023-10-20 09:28

全面的中文大语言模型评测来啦！香港中文大学研究团队发布

来自：量子位进NLP群—>加入NLP交流群ChatGPT的一声号角吹响了2023年全球大语言模型的竞赛。

zenRRan·2023-10-20 05:00

如何看待陈丹琦等大佬创建的大语言模型会议COLM？

昨天COLM刚出，就引起不小的讨论，下面看看知乎里关于该会议出现的一些回答吧，很有意思~原文链接：https://www.zhihu.com/question/626508034深度学习自然语言处理公众号分享进NLP群—>加入NLP交流群ELPSYCONGROO非常看好。。。虽然我也不是一开始就做NLP的，对各个CL会议也没啥偏见，但有次翻自己最近收藏的阅读列表里，LLM相关的文章居然几乎没有CL

zenRRan·2023-10-20 05:00

首届COLM顶会：见证NLP领域的又一里程碑

深度学习自然语言处理原创作者：Winnie随着人工智能和自然语言处理的快速发展，大语言模型正在成为这一领域的核心焦点。为了更好地探索、研究并交流大语言模型的最新进展，COLM大会应运而生！

zenRRan·2023-10-20 05:52

n-gram语言模型

一、StatisticalLanguageModel在自然语言处理中的一个基本问题：如何计算一段文本序列在某种语言下出现的概率？之所为称其为一个基本问题，是因为它在很多NLP任务中都扮演着重要的角色。例如，"我经常会去图书馆____"，预测该句后面的词。我们会通过已有的语料或上下文，来统计预测这句话可以填某个词的概率。将概率最大的作为预测结果返回。再比如机器翻译中，‘IlikeTomsomuch.

布口袋_天晴了·2023-10-20 02:44

【数据科学赛】FT-Data Ranker：大语言模型微调数据竞赛 #￥25000 #数据为中心 #NLP

（公众号回复“加群”即可）以下内容由AI辅助生成，可能存在错误，可进入比赛主页[2]查看更多(文末阅读原文)比赛题目FT-DataRanker：大语言模型微调数据竞赛比赛主办方本次比赛的主办方是阿里云，

CompHub·2023-10-20 00:10

大模型掌握16000+真实世界API了，清华等机构ToolLLM的工具使用能力不输ChatGPT

来源：机器之心本文约2800字，建议阅读5分钟本文提出了一个新的框架ToolLLM，其增强了大型语言模型对API的使用。

数据派THU·2023-10-20 00:31

使用LangChain与chatGPT API开发故事推理游戏-海龟汤

LangChain是什么LangChain是一个强大的框架，旨在帮助开发人员使用语言模型构建端到端的应用程序。提供了一套工具、组件和接口，可简化创建由大型语言模型(LLM)和

会写代码的孙悟空·2023-10-19 22:20

探索DeFi世界，MixGPT引领智能金融新时代

MixGPT：引领智能金融体验的大型语言模型MixGPT，作为MixTrust生态的重要组成部分，是一款基于GPT-3.5架构的大型语言模型。

半入清风·2023-10-19 20:09

TStor CSP文件存储在大模型训练中的实践

随着近年来大模型领域技术的突破，各类语言模型、图像模型、视频模型快速演进，国内外市场也不断涌现出优秀的大模型研究及商业化平台，预期通过对模型效果的持续优化和产品方案层面的持续包装，共同推动推动国内各行各业的产业升级

云存储小天使·2023-10-19 18:11

如何使用 Disco 将黑白照片彩色化

Disco是一个基于视觉语言模型（LLM）的图像彩色化工具。它使用LLM来生成彩色图像，这些图像与原始黑白图像相似。本文将介绍如何使用Disco将黑白照片彩色化。

winfredzhang·2023-10-19 17:28

如何使用 MiniGPT-v2

MiniGPT-v2是一个基于视觉语言模型（LLM）的多任务学习系统。它可以用于各种视觉语言任务，包括图像描述、图像识别、图像-文本对话等。本文将介绍如何使用MiniGPT-v2。

winfredzhang·2023-10-19 17:08

探索LLM在图上学习的潜力10.14 暂停

近年来，大型语言模型（LLM）被证明具有广泛的常识和强大的语义理解能力，已经彻底改变了处理文本数据的现有工作流程。本文

露葵025·2023-10-19 13:09

AI大模型高速发展，Web3还远吗？

AI大模型，特别是像GPT-3、GPT-4等这样的巨型语言模型，已经成为AI领域的明星，而Web3则代表了下一代互联网的愿景，具有去中心化和用户掌控的特点。

--笑一笑--·2023-10-19 13:37

大语言模型之十八-商业思考

大语言模型在翻译、知识问答、写作、摘要、搜索、代码开发等场景得到了广泛的应用，一些策略是将大语言模型集成到公司的现有产品，比如微软的Office接入ChatGPT。

shichaog·2023-10-19 13:03

怎么让英文大语言模型支持中文？--构建中文tokenization--继续预训练--指令微调

1构建中文tokenization参考链接：https://zhuanlan.zhihu.com/p/6391442231.1为什么需要构建中文tokenization？原始的llama模型对中文的支持不太友好，接下来本文将讲解如何去扩充vocab里面的词以对中文进行token化。1.2如何对原始数据预处理？每一行为一句或多句话。保存为语料corpus1.3如何构建中文的词库？一般的，目前比较主流

zhurui_xiaozhuzaizai·2023-10-19 13:27

Anthropic全球上线AI语言模型Claude 2；多模态系统：融合文本和图像的新前沿

AI新闻Anthropic全球上线AI语言模型Claude2，编程、数学、推理能力大幅提升摘要：Anthropic在全球正式上线了AI语言模型Claude2。

go2coding·2023-10-19 11:38

PRCV2023-Day1

乔宇老师重点介绍了上海人工智能实验室在多模态语言模型领域的探索。他详细介绍了Meta-Transformer的设计思路，该模

xwz小王子·2023-10-19 10:29

DALL·E 3：大语言模型和文本生图模型的强强联合

1.概要就在不久之前，openAI官网发布了DALLE3相关内容，虽然现在还没有开放直接体验DALLE3的途径，但是我们可以先来一览DALLE3的牛逼之处。相比之前的DALL.E2，DALL.E3对细节方面把握的更好。此外之前的文生图模型对prompt要求比较高，这样促使人人都是prompt工程师，这给一些新用户或者文生图小白设置了一定的门槛，而DALL.E3能够轻松地将想法转化为非常准确的图像。

orangerfun·2023-10-19 05:26

Generative AI 新世界 | 大模型参数高效微调和量化原理概述

本期文章，我们将探讨两个目前大语言模型领域的开发者们都关注的两个热门话题：大型语言模型（LLM）的高效微调和量化。微调大型语言模型允许开发者调整开源基础模型，从而提高特定领域任务的性能。

亚马逊云开发者·2023-10-19 00:59

浅谈大模型时代的后台技术发展

大模型等技术的兴起，大模型时代已经到来，也让后台工程面临着新的挑战和机遇：大模型时代下，AI对后台的计算能力和存储能力提出了更强要求，以满足更高的性能和效率；LLM（LargeLanguageModel，大语言模型

后台技术汇·2023-10-18 23:41

博观而约取,厚积而薄发·2023-10-18 21:08

EdgeMoE：让LLM在边缘设备上推理成为现实

文章链接:EdgeMoE:FastOn-DeviceInferenceofMoE-basedLargeLanguageModels1.基础背景大型语言模型(LLMs)，如GPTs和LLaMa，由于其在广泛的机器学习任务中的卓越能力

恭仔さん·2023-10-18 16:05

独家 | 使用检索增强生成技术构建特定行业的 LLM

企业正在竞相采用大型语言模型（也可以被称为LLM）。让我们深入了解如何通过RAG（检索增强生成技术）构建特定行业的大型语言模型。公司可以通过使用像ChatGPT这样的大语言明星提高生产力。

数据派THU·2023-10-18 14:32

一文详解检索增强语言模型新范式REPLUG

它将语言模型当作一个黑盒子，即冻结语言模型的参数不再优化，转而去优化检索组件让检索组件来适配语言模型，以此来消除语言

zenRRan·2023-10-18 14:59

如何通过SK集成chatGPT实现DotNet项目工程化？

SemanticKernel是一个SDK，它将OpenAI、AzureOpenAI和HuggingFace等大型语言模型（LLMs）与传统的编程语言如C＃、Python和Jav

token-go·2023-10-18 12:12

全面中文大语言模型评测来啦！香港中文大学最新研究

ChatGPT的一声号角吹响了2023年全球大语言模型的竞赛。2023年初以来，来自工业界和研究机构的各种大语言模型层出不穷，特别值得一提的是，中文大语言模型也如雨后春笋般，在过去的半年里不断涌现。

RPA中国·2023-10-18 11:47

米哈游、复旦发布，具备感知、大脑、行动的大语言模型“智能体”

ChatGPT等大语言模型展示了前所未有的创造能力，但距AGI（通用人工智能）还有很大的距离，缺少自主决策、记忆存储、规划等拟人化能力。

RPA中国·2023-10-18 11:36

（文末送18本ChatGPT扫盲书）从一路高歌到遭多国“封杀”，ChatGPT未来将是什么样子？

人工智能技术的发展已经逐渐改变了我们的生活和工作方式，其中，语言模型技术是近年来关注度很高的一个领域。

毕加锁·2023-10-18 10:42

手把手带你用Python和文心一言搭建《AI看图写诗》网页项目（附上完整项目源码）

百度在率先发布了国内第一款人工智能大语言模型“文心一言”后，又推出了文心千帆大模型平台，帮助企业和开发者加速大模型应用落地。

袁袁袁袁满·2023-10-18 07:00

使用 LangChain 构建 LLM 应用详细教程（附python代码演练）

其中一个重要的进步是革命性的语言模型，即大型语言模型（LLM），它彻底改变了我们与基于文本的数据进行交互的方式。

woshicver·2023-10-18 07:29

LangChain 开发LLM的框架

4.2TypeScript版本安装npm安装yarn安装pnpm安装加载库5、环境设置6、构建一个应用程序7、LLMs8、提示模板9、输出解析器10、LLMs+提示模板+输出解析器1、简介LangChain是一个用于开发由语言模型提供支持的应用程序的框架

和你一起去月球·2023-10-18 07:50

一键实现冒泡排序算法，代码质量有保障！

近年来，深度学习和神经语言模型作为提高开发人员生产力的手段，尤其是2022年11月30日，ChatGPT这一现象级热点得出横空出世，在全球范围内形成了热烈的讨论，其中关于自动化代码生成和其它软件工程方面受到了极大的关注

SoFlu软件机器人·2023-10-18 06:03

AGI热门方向：国内前五！AI智能体TARS-RPA-Agent落地，实在智能打造人手一个智能助理

大型语言模型（LLMs）的出现为智能代理的进一步发展带来了希望。目前，大型语

实在智能RPA·2023-10-18 06:14

ChatGPT 的工作原理学习难以理解需要先找个容易的课来跟下。

ChatGPT是一种基于自然语言处理技术的人工智能模型，它的工作原理建立在深度学习和大规模语言模型的基础上。

小黄人软件·2023-10-18 05:30

大模型Agent最新论文及源码合集，覆盖构建、应用、评估

不过值得高兴的是，在今年的各大顶会中，有关自主智能体的研究有了许多突破性进展，以往困扰AIAgent研究者的社会交互性和智能性问题都随着大语言模型（LLM）的发展有了新的解决方向。为方

深度之眼·2023-10-18 03:50

[nlp] chathome—家居装修垂类大语言模型的开发和评估

ChatHome:DevelopmentandEvaluationofaDomain-SpecificLanguageModelforHomeRenovationChatHome:家居装修垂类大语言模型的开发和评估

心心喵·2023-10-18 02:01

FutureTOD: Teaching Future Knowledge to Pre-trained Language Model for Task-Oriented Dialogue

FutureTOD：将未来知识传授给预训练的语言模型，用于任务导向对话摘要1引言2模型3实验4定性分析5相关工作6结论局限性摘要基于通用文本的预训练语言模型在NLP场景中取得了巨大成功。但是，一般

UnknownBody·2023-10-18 02:12

NarrowBERT: Accelerating Masked Language Model Pretraining and Inference

NarrowBERT：加速掩蔽语言模型的预训练和推理摘要1引言2NarrowBERT3实验4讨论与结论局限性摘要大规模语言模型预训练是自然语言处理中一种非常成功的自监督学习形式，但随着时间的推移，模型和预训练语料库变得越来越大