LLM技术汇总第21页

【Video-LLaMA】增强LLM对视频内容的理解

Paper:《Video-LLaMA:AnInstruction-tunedAudio-VisualLanguageModelforVideoUnderstanding》Authors:HangZhang,XinLi,LidongBing;Affiliation:TheAlibabaDAMOAcademy;Keywords:MultimodalLargeLanguageModels,Cross-m

菜鸡不叫·2023-12-31 04:34

【论文解读】用于概念标定的逻辑强化大模型LEFT（NeurIPS 2023）

2310.16035开源代码：https://github.com/joyhsu0504/LEFT摘要：VisProg和ViperGPT等最新研究成果巧妙地组成了视觉推理的基础模型--利用大型语言模型（LLM

深度之眼·2023-12-31 02:13

大模型LLM的微调技术：LoRA

0引言LoRA(Low-RankAdaptation)出自2021年的论文“LoRA:Low-RankAdaptationofLargeLanguageModels”LoRA技术冻结预训练模型的权重，并在每个Transformer块中注入可训练层（称为秩分解矩阵），即在模型的Linear层的旁边增加一个“旁支”A和B。其中，A将数据从d维降到r维，这个r是LoRA的秩，是一个重要的超参数；B将数据

智慧医疗探索者·2023-12-31 01:46

KG+LLM(一)KnowGPT: Black-Box Knowledge Injection for Large Language Models

arxiv.org/pdf/2312.06185.pdf1.Background&Motivation目前生成式的语言模型，如ChatGPT等在通用领域获得了巨大的成功，但在专业领域，由于缺乏相关事实性知识，LLM

wavehaha·2023-12-31 00:37

一文带你了解大模型的RAG(检索增强生成) | 概念理论介绍+ 代码实操（含源码）

针对大型语言模型效果不好的问题，之前人们主要关注大模型再训练、大模型微调、大模型的Prompt增强，但对于专有、快速更新的数据却并没有较好的解决方法，为此检索增强生成（RAG）的出现，弥合了LLM常识和专有数据之间的差距

机器学习社区·2023-12-31 00:36

大模型推理部署：LLM 七种推理服务框架总结

本文将介绍七中主流的LLM推理和服务开源库。下面首先来总结一下这些框架的特点，如下表所示：LLM推理有很多框架，各有其特点，下面分别介绍一下表中七个框架的关键点：vLLM[1]：适用于大批量Prom

机器学习社区·2023-12-31 00:36

不用再找了，这是大模型最全的面试题库

大模型LLM的训练目标是什么？涌现能力是啥原因？为何现在的大模型大部分是Decoderonly结构？简单介绍一下

机器学习社区·2023-12-31 00:34

LLM提示词工程学习_Day01

LLM提示词工程学习_Day01安装学习环境基础Conda环境安装安装Python安装所需的包JupyterNotebook安装获取OpenAIAPIKEY，并写入工程目录里的.env文件进入Jupyter

wanboo0205·2023-12-31 00:06

AI大模型：无需训练让LLM支持超长输入

显式搜索:知识库外挂paper:UnleashingInfinite-LengthInputCapacityforLarge-scaleLanguageModelswithSelf-ControlledMemorySystem看到最无敌的应用，文本和表格解析超厉害https://chatdoc.com/?viaurl=ainavpro.comChatGPT代码实现:GitHub-arc53/Doc

人工智能小豪·2023-12-30 21:08

人工智能的新篇章：深入了解大型语言模型(LLM)的应用与前景

LLM（LargeLanguageModel）技术是一种基于深度学习的自然语言处理技术，旨在训练能够处理和生成自然语言文本的大型模型。

AI小白龙*·2023-12-30 21:56

LLM 4 Vulnerability Detection

LLM4VulnerabilityDetection1.InferROI1.1.introduction1.2.motivation1.3.Approach1.4.Evaluation1.4.1.RQ1

I still …·2023-12-30 21:50

text-generation-inference使用

TGI使用1.docker安装2.本地安装2.1.rust+anaconda32.2.安装server2.3.下载模型开启server因为最近工作需要跑LLM，目前LLM一般都是多进程跑，目前只用Inference

I still …·2023-12-30 21:47

LLM之RAG实战（十）| 如何构建一个RAG支持的聊天机器人，包括聊天、嵌入和重排序

在人工智能和机器学习不断发展的环境中，聊天机器人变得越来越复杂，从简单的基于规则的回复转变为基于上下文的对话。在这篇博客文章中，我们将深入研究创建一个RAG支持的聊天机器人，该聊天机器人利用先进的NLP模型进行聊天、嵌入和重新排序，并使用hnswlib进行高效的文档检索。设置环境在深入研究代码之前，请确保安装了必要的库。这包括cohere、hnswlib和非结构化。可以使用pip安装它们：pipi

wshzd·2023-12-30 20:19

LLM之RAG理论（三）| 高级RAG技术全面汇总

RAG=搜索+LLM提示，根据用户的查询要求，LLMs会使用搜索算法从外部数据源获取上下文信息，最后，查询和检索到的上下文合成后送入到LLM的提示中。

wshzd·2023-12-30 20:49

LLM之RAG实战（九）| 高级RAG 03：多文档RAG体系结构

在RAG（检索和生成）这样的框架内管理和处理多个文档有很大的挑战。关键不仅在于提取相关内容，还在于选择包含用户查询所寻求的信息的适当文档。基于用户查询对齐的多粒度特性，需要动态选择文档，本文将介绍结构化层次检索来解决多文档RAG问题。一、Llamaindex结构化检索介绍Llamaindex支持多层次信息检索。它不只是筛选文档，而是利用元数据过滤来简化选择过程。通过使用自动检索机制，这些过滤器可以

wshzd·2023-12-30 20:49

LLM之RAG实战（十一）| 使用Mistral-7B和Langchain搭建基于PDF文件的聊天机器人

LangChain使用带prompt和few-shot示例的LLM来提供相关响应和推理。LangChain擅长文档

wshzd·2023-12-30 20:17

LLM的评价指标

目录1.性能和准确性2.泛化能力3.可解释性和透明度4.偏见和公平性5.资源效率6.安全性和隐私7.持续学习能力8.用户体验9.遵守法律法规10.伦理和社会影响LLM大语言模型的评价指标1.性能和准确性大型语言模型通常通过多项基准测试

samoyan·2023-12-30 19:21

macOS进程间通信的常用技术汇总

macOS进程间通信的常用技术汇总命令行传参。yyds管道(pipe),匿名管道，c++的技术，可以跨平台使用只能在父子进程间通信，由于是单向的管道，只能单方面传输数据。

jimboRen·2023-12-30 12:50

AAAI 2024：大模型如何掌握复杂工具？看孔子框架的教学之道

如今，大型语言模型（LLM）发展飞速，在文本和图像生成方面表现都很出色，但在我们的实际生活中，要理解和正确使用各种工具方面尚存在困难。

夕小瑶·2023-12-30 11:07

（2023，控制解缠，特征合并，LLM，DDIM）Make-A-Storyboard：具有解缠和合并控制的故事板通用框架

Make-A-Storyboard:AGeneralFrameworkforStoryboardwithDisentangledandMergedControl公众：EDPJ（添加VX：CV_EDPJ或直接进Q交流群：922230617获取资料）目录0.摘要1.方法1.1上下文提示处理1.2解耦概念控制1.3对扩散中特征合并的观察1.4平衡感知合并2.结果S.总结S.1主要贡献S.2方法0.摘要故

EDPJ·2023-12-30 08:26

LangChain 35: 安全最佳实践深度防御Security

系列文章LangChain实现给动物取名字，LangChain2模块化prompttemplate并用streamlit生成网站实现给动物取名字LangChain3使用Agent访问Wikipedia和llm-math

AI架构师易筋·2023-12-30 08:20

AI大模型时代下运维开发探索第二篇：基于大模型(LLM)的数据仓库

在SREWorks社区聚集了很多进行运维数仓建设的同学，大家都会遇到类似的挑战和问题：数仓中存储大量数据消耗成本，但很多存储的数据却并没有消费。进数仓的ETL学习成本高、管理成本高，相关同学配合度低，以及上游结构改动后ETL却迟迟无人调整。数仓中数据的时效性、准确性问题，导致很多场景无法完全依赖数仓展开。上面的种种让推广数仓的同学很犯难：明明花了大力气构建了统一数仓，但却又受限于各种问题，无法让其

阿里云大数据AI技术·2023-12-30 07:39

大模型时代下的因果推断

本文将分享大模型时代下的因果推断，主要包括五部分内容：因果推断与大模型模型助力因果发现基于大模型代理的因果推断LLM-PoweredABM助力因果推断YLearn&

九章云极DataCanvas·2023-12-30 01:07

常见的LLM推理加速解决方案

KVCacheint量化PagedAttentionGQASpeculativeDecodingcodeAcceleratingGenerativeAIwithPyTorchII:GPT,FastFastInferencefromTransformersviaSpeculativeDecoding参考PyTorch造大模型“加速包”，不到1000行代码提速10倍！英伟达科学家：minGPT以来最好

transformer_WSZ·2023-12-29 17:45

Starling-LM-7B与GPT-4：开源AI的新纪录

引言在人工智能的前沿领域，Starling-LM-7B的出现标志着开源大型语言模型（LLM）的一大突破。

努力犯错·2023-12-29 15:03

如何使用 PyTorch 训练 LLM

一、引言语言模型（LLM）是一种重要的自然语言处理（NLP）技术，它通过对大量文本数据进行训练，学习语言的内在结构和语义信息。

yule.yang·2023-12-29 06:52

GPT-3.5 vs GPT-4：ChatGPT Plus 值得订阅费吗？

自从OpenAI的大语言模型(LLM)GPT-4发布以来，我一直在使用它的最新版本。

冲啊发发·2023-12-29 02:38

一键领取超火的 20 个 LLM 中文数据集

自ChatGPT重磅推出以来，大语言模型(largelanguageModel,LLM)以其卓越的学习能力在

HyperAI超神经·2023-12-29 00:15

免费获取GPT-4的五种工具

不可否认，由OpenAI带来的GPT-4已是全球最受欢迎的、功能最强大的大语言模型（LLM）之一。大多数人都需要使用ChatGPTPlus的订阅服务去访问GPT-4。

偷拨网线的william·2023-12-28 18:59

BloombergGPT—金融领域大模型

BloombergGPT数据集金融领域数据集通用数据集分词模型模型结构模型相关参数训练配置训练过程模型评估评估任务分布模型对比金融领域评估通用领域评估背景GPT-3的发布证明了训练非常大的自回归语言模型（LLM

dzysunshine·2023-12-28 17:37

第32期 | GPTSecurity周报

GPTSecurity是一个涵盖了前沿学术研究和实践经验分享的社区，集成了生成预训练Transformer（GPT）、人工智能生成内容（AIGC）以及大型语言模型（LLM）等安全领域应用的知识。

云起无垠·2023-12-28 04:49

第33期 | GPTSecurity周报

GPTSecurity是一个涵盖了前沿学术研究和实践经验分享的社区，集成了生成预训练Transformer（GPT）、人工智能生成内容（AIGC）以及大型语言模型（LLM）等安全领域应用的知识。

云起无垠·2023-12-28 04:19

Multimodal Foundation Models:From Specialists to General-Purpose Assistants（Chapter 6-7）

FromSpecialiststoGeneral-PurposeAssistantsChapter6MultimodalAgents:ChainingToolswithLLM研究人员现在正在探索一种新的建模范式，从解决有限的预定义问题的独立模型转变为将多个工具或专家与LLM

じんじん·2023-12-27 17:37

一文讲清楚检索增强生成（RAG）

逆向工作：为大语言模型提供额外的知识来回答问题通过系统提示给出LLM自定义指令为LLM提供特定的知识来源将所有内容放在一起并提出问题检索步骤：从您的知识库中获取正确的信息什么是嵌入？

早睡身体好呀·2023-12-27 15:36

银晗·2023-12-27 13:59

Modelscope Agent初体验与思考

背景：LLM→\to→AgentChatGPT为代表的大语言模型就不用过多的介绍了，ChatGPT很强大，但是也有做不到的东西。

银晗·2023-12-27 13:58

【论文解读】System 2 Attention提高大语言模型客观性和事实性

基于transformer的大语言模型（LLM）中的软注意很容易将上下文中的不相关信息合并到其潜在的表征中，这将对下一token的生成产生不利影响。

合合技术团队·2023-12-27 09:30

你有挖过漏洞吗？漏洞挖掘哪家强？

2023年就快结束了，在这一年，对代码进行漏洞扫描，不仅可以利用传统的静态分析工具，还可以使用基于深度学习的AI分析技术，更重要的是我们拥有了大语言模型（LLM）加成的代码分析技术。

网安老伯·2023-12-27 09:24

阿里云OpenSearch-LLM智能问答故障的一天

上周五使用阿里云开放搜索问答版时，故障了一整天，可能这个服务使用的人比较少，没有什么消息爆出来，特此记录下这几天的阿里云处理过程，不免让人怀疑阿里云整体都外包出去了，反应迟钝，水平业余，却又很在意KPI。1.什么是智能开放搜索OpenSearch在抨击阿里云服务之前，还是要肯定opensearch问答版挺好用的，解决了公司想要根据内部知识内容搭建大模型，进行内部AI的数据问答，在这之前我也试用过模

AlgoRain·2023-12-27 09:06

Prompt 提示工程学习笔记

一、Prompt设计的四个关键要素：任务描述、输入数据、上下文信息、提示风格（1）任务描述：描述想要让LLM遵循的指令。描述应详细清晰，可进一步使用关键词突出特殊设置，从而更好地指导LLM工作。

辰阳星宇·2023-12-27 08:41

NLP论文阅读记录 - 以大语言模型为参考学习总结

文章目录前言0、论文摘要一、Introduction1.1目标问题1.2相关的尝试1.3本文贡献二.相关工作2.1文本生成模型的训练方法2.2基于LLM的自动评估2.3LLM蒸馏和基于LLM的数据增强三

yuyuyu_xxx·2023-12-27 07:55

AlignBench：量身打造的中文大语言模型对齐评测

对齐（Alignment），是指大语言模型（LLM）与人类意图的一致性。换言之，就是让LLM生成的结果更加符合人类的预期，包括遵循人类的指令，理解人类的意图，进而能产生有帮助的回答等。

超级人工智能·2023-12-27 07:23

灵海之森·2023-12-27 07:16

百分点科技获国际顶会NeurIPS LLM效率挑战赛冠军

近日，国际人工智能顶会NeurIPS在美国新奥尔良市举办，在同期举行的NeurIPS2023大语言模型效率挑战赛中，百分点科技以领先第二名8分的显著优势夺得NVIDIAA100赛道冠军。NeurIPS与ICML、ICLR并称机器学习领域国际三大顶会，代表着人工智能领域研究最高水平，是一场集结世界范围内顶尖学者、科学家和工程师的盛会，至今已举办了37届，对于推动人工智能技术的发展和应用起到了至关重要

Percent_bigdata·2023-12-27 06:24

AICore 带来了 Android 专属的 AI 能力，它要解决什么？采用什么架构思路？

事实上，能够自研LLM大模型的企业屈指可数，大多数的企业或个人都是在搞基于LLM的应用创新。而各大模型们各自为政，提供的能力、对接方式都参差不齐，即便在应用这个

TechMerger·2023-12-27 04:59

免费使用谷歌Gemini模型学习LLM编程

虽然谷歌的Gemini大语言模型爆出很大的乌龙，但这不影响我们使用GeminiPro来学习LLM编程。

fireshort·2023-12-27 04:59

使用 Amazon Bedrock 完成你的问答需求

AmazonBedrock简介AmazonBedrock是使用LLM构建和扩展生成式人工智能应用程序的最简单方法。

亚马逊云开发者·2023-12-26 23:54

云原生周刊：Karmada 成为 CNCF 孵化项目｜ 2023.12.25

LingoLingo是适用于K8s的OpenAI兼容LLM代理和自动缩放器。canary-checkercanary-checker是一个基于Kubernetes的本地平台，用

KubeSphere 云原生·2023-12-26 20:27

大语言模型入门要点

引言作为一名见证了大语言模型(LLM)兴起的机器学习工程师，我发现理解LLM相关的生态系统如何发展是令人生畏的。每周，我都会在社交媒体上看到与LLM相关的新工具和技术。

Garry1248·2023-12-26 16:34

Lobe Chat - 一键免费部署您的ChatGPT/LLM Web 应用程序，UI太惊艳了

简介LobeChat-一个开源、高性能的聊天机器人框架，支持语音合成、多模态和可扩展的函数调用插件系统。支持一键免费部署您的私人ChatGPT/LLMWeb应用程序。功能特点快速部署：使用Vercel平台或docker镜像，一键部署，1分钟内完成，无需任何复杂的配置。自定义域名：如果用户有自己的域名，可以将其绑定到平台，以便从任何地方快速访问对话代理.隐私保护：所有数据都存储在用户浏览器本地，确保

AI 研习所·2023-12-26 16:59

推荐频道

LLM技术汇总