LLM零碎知识第4页

全面认识AI Agent，一文读懂AI智能体的架构指南

它是一种模拟人类智能行为的人工智能系统，以大型语言模型（LLM）作为其核心引擎。它们能够感知其环境，做出决策，并执行任务以实现特定的目标。AIAgent的设计理念是赋予机器自主性、适

Python_金钱豹·2024-08-22 08:12

Agentic Security：一款针对LLM模型的模糊测试与安全检测工具

关于AgenticSecurityAgenticSecurity是一款针对LLM模型的模糊测试与安全检测工具，该工具可以帮助广大研究人员针对任意LLM执行全面的安全分析与测试。

FreeBuf-·2024-08-22 03:43

无缝融入，即刻智能[三]：Dify-LLM平台知识库构建(多路召回、精排重排)，43K+星标见证专属智能方案

无缝融入，即刻智能[三]：Dify-LLM平台知识库构建(多路召回、精排重排)，43K+星标见证专属智能方案大语言模型的训练数据一般基于公开的数据，且每一次训练需要消耗大量算力，这意味着模型的知识一般不会包含私有领域的知识

汀、人工智能·2024-08-22 02:34

RAG与LLM原理及实践（14）---- Python + MinIO + Kafka进阶

目录背景根因分析配置构造创建network构造zookeeper构造kafka参数构造原理解析图解全过程解析工具使用kafkacat查看brokerpython实现pythonsend+kafkarecvpython代码kafkarecv运行效果pythonrecv+kafkasendpython代码kafkasend运行效果思考pythonsend+pythonrecv原理运行效果背景如果你已经

PhoenixAI8·2024-08-21 20:59

SWIFT介绍和学习(简单入门级别)

SWIFT介绍和学习SWIFT功能介绍SWIFT快速使用LLM及LLM最佳实践（LLM系列文章）部署指南vllm非官方介绍资料项目地址：https://github.com/modelscope/swift

weixin_43870390·2024-03-26 22:42

AI推介-大语言模型LLMs论文速览（arXiv方向）：2024.02.20-2024.02.25

论文目录~1.Zero-shotcross-lingualtransferininstructiontuningoflargelanguagemodel2.ScalingEfficientLLMs3.LLM-DA

小小帅AIGC·2024-03-26 20:39

Prompts（一）

提示工程提示工程（PromptEngineering）是一门较新的学科，关注提示词开发和优化，帮助用户将大语言模型（LargeLanguageModel,LLM）用于各场景和研究领域。

george_xu4·2024-03-26 04:17

大语言模型(LLM)入门学习路线图

Github项目上有一个大语言模型学习路线笔记，它全面涵盖了大语言模型的所需的基础知识学习，LLM前沿算法和架构，以及如何将大语言模型进行工程化实践。

Kk-Quiana·2024-03-17 19:28

LLM Drift(漂移), Prompt Drift & Cascading(级联)

这两种方法都容易受到级联、LLM和即时漂移的影响。2024年2月23日在讨论大型语言模型（LLM）时，术语“LLM漂移”、“提示漂移”和“级联漂移”通常指的是模型性能随时间或条件变化的情况。

lichunericli·2024-03-14 18:45

#LLM入门|Prompt#3.1 第三部分使用 LangChain 开发应用程序_简介

概述如何能够基于ChatGPT搭建一个完整、全面的问答系统，要搭建基于ChatGPT的完整问答系统，除去上一部分所讲述的如何构建PromptEngineering外，还需要完成多个额外的步骤。例如，处理用户输入提升系统处理能力，使用思维链、提示链来提升问答效果，检查输入保证系统反馈稳定，对系统效果进行评估以实现进一步优化等。当ChatGPTAPI提供了足够的智能性，系统的重要性就更充分地展现在保证

向日葵花籽儿·2024-03-12 18:09

#LLM入门|Prompt#1.8_聊天机器人_Chatbot

聊天机器人设计以会话形式进行交互，接受一系列消息作为输入，并返回模型生成的消息作为输出。原本设计用于简便多轮对话，但同样适用于单轮任务。设计思路个性化特性：通过定制模型的训练数据和参数，使机器人拥有特定的个性化特点。专门任务设计：针对特定任务或行为进行设计，模型可针对该任务进行Fine-tune，提高效果和准确性。优势简化开发：减少了构建聊天机器人所需的工作量和复杂度。灵活性：模型可根据需求进行定

向日葵花籽儿·2024-03-12 18:39

【AI】如何创建自己的自定义ChatGPT

如何创建自己的自定义ChatGPT目录如何创建自己的自定义ChatGPT大型语言模型（LLM）GPT模型ChatGPTOpenAIAPILlamaIndexLangChain参考推荐超级课程：Docker

小涵·2024-03-12 01:14

ChatGPT介绍

ChatGPT概述ChatGPT是一种前沿的大型语言模型（LargeLanguageModel,LLM），由人工智能研究组织OpenAI研发并推出。

程序媛9688·2024-03-07 11:03

预训练大模型LLM的微调PEFT（概述）

前言大模型现在已经不是什么新奇玩意了，大家都耳熟能详，我们都知道大模型要从头到尾的训练，需要巨大的人力物力，如此高昂的费用小公司是难以承受的，那么我们是否可以像牛顿一样，站在巨人的肩膀上，利用已经训练好的大模型进行二次训练以适用于我们自己的应用呢？回答当然是肯定的，我们只需要极少量的训练数据和资源，就能将大模型改造以适应我们的应用。微调的分类对大模型进行二次训练的操作我们通常称为微调（Fine-T

若石之上·2024-03-05 00:49

Made In Heaven，LLM要加速了

借鉴了荒木老师笔下的普奇神父的台词玩LLM的多数用的是Huggingface框架，而它本身提供的是accelerate库来提升模型的训练推理速度。

DisonTangor·2024-03-03 12:31

大模型训练——PEFT与LORA介绍

这种方法的核心思想是仅微调少量（额外）模型参数，同时冻结预训练LLM的大部分参数。这样做的好处是大大降低了

MarkHD·2024-03-03 10:30

(202402)多智能体MetaGPT入门2：AI Agent知识体系结构

1智能体定义智能体=LLM+观察+思考+行动+记忆多智能体=智能体+环境

早上真好·2024-03-02 03:14

#LLM入门|Prompt#2.5_思维链推理_Chain_of_Thought_Reasoning

第五章处理输入-思维链推理“思维链推理”（ChainofThoughtReasoning）的策略，在查询中明确要求语言模型先提供一系列相关推理步骤，进行深度思考，然后再给出最终答案，这更接近人类解题的思维过程。引导语言模型逐步推理而非直接要求输出结果，可以减少其匆忙错误，生成更准确可靠的响应。思维链推理使语言模型更好地模拟人类逻辑思考，是提升其回答质量的重要策略之一。？如何处理语言模型的输入,以生

向日葵花籽儿·2024-02-29 14:53

Mamba 作者谈 LLM 未来架构

文章目录前言1、为什么注意力机制有效？2、注意力计算量呈平方级增长3、StripedHyena是个什么模型？4、什么是Mamba?5、Mamba硬件优化6、2024年架构预测7、对AI更多的预测本片文章来自【机器之心】对Mamba作者进行采访所进行的编译整理。前言在大模型领域，一直稳站C位的Transformer最近似乎有被超越的趋势。这个挑战者就是一项名为【Mamba】的研究，其在语言、音频和基

JOYCE_Leo16·2024-02-28 20:04

ChatGPT调教指南 | 咒语指南 | Prompts提示词教程（三）

在人工智能成为我们日常互动中无处不在的一部分的时代，与大型语言模型(llm)有效沟通的能力是无价的。“良好提示的26条原则”为优化与这些复杂系统的交互提供了全面的指导。

Aitrainee·2024-02-25 14:55

重大更新：GPT-4 API 现全面向公众开放！

在AIGC（人工智能生成内容）领域内，我们一直致力于跟踪和分析如OpenAI、百度文心一言等大型语言模型（LLM）的进展及其在实际应用中的落地情况。我们还专注于这些模型的基准测试和市场趋势研究。

Aitrainee·2024-02-25 13:54

#LLM入门|Prompt#1.4_文本概括_Summarizing

文本摘要的重要性和功能优势重要性帮助处理海量文本信息：在信息时代，处理大量文本信息是常见挑战之一。节省时间：通过摘要，可以迅速获取文本的核心内容，节省阅读时间。提高效率：摘要可以帮助用户快速了解文本的要点，提高工作效率。功能优势简化复杂文本：摘要功能能够将复杂文本内容简化，提炼出关键观点和信息。提取关键信息：摘要可以准确提取文本中的关键信息，帮助用户迅速获取所需内容。增强可读性：摘要生成的内容通常

向日葵花籽儿·2024-02-23 14:02

大模型量化技术原理-LLM.int8()、GPTQ

近年来，随着Transformer、MOE架构的提出，使得深度学习模型轻松突破上万亿规模参数，从而导致模型变得越来越大，因此，我们需要一些大模型压缩技术来降低模型部署的成本，并提升模型的推理性能。模型压缩主要分为如下几类：剪枝（Pruning）知识蒸馏（KnowledgeDistillation）量化之前也写过一些文章涉及大模型量化相关的内容。基于LLaMA-7B/Bloomz-7B1-mt复现开

吃果冻不吐果冻皮·2024-02-20 21:39

认知篇-剖析LLM基座

在众多PLM中，基于大规模语料库的预训练语言模型（LargeLanguageModel，LLM）以其强大的语言生成和理解能力，受到了广泛的关注。本文将深入探讨L

·2024-02-20 18:29

我把ChatGPT部署到我的手机上

正常的大模型部署都是在服务器上的但是最近我看到一个手机上可以运行的大模型分享给大家MiniCPMMiniCPM是基于MLC-LLM开发，将MiniCPM和MiniCPM-V在Android手机端上运行。

·2024-02-20 17:55

MinIO 和 Apache Tika：文本提取模式

Tl;dr:在这篇文章中，我们将使用MinIOBucketNotifications和ApacheTika进行文档文本提取，这是大型语言模型训练和检索增强生成LLM和RAG等关键下游任务的核心。

MinIO官方账号·2024-02-20 16:42

【眼科大模型】Ophtha-LLaMA2：视觉模型提取图像特征 + LLM基于特征生成眼底病变的诊断报告

Ophtha-LLaMA2：视觉模型提取图像特征+LLM基于特征生成眼底病变的诊断报告提出背景设计思路选择大模型基座生成诊断报告论文：https://arxiv.org/pdf/2312.04906.pdf

Debroon·2024-02-20 16:34

【Langchain Agent研究】SalesGPT项目介绍（四）

GitHub-jerry1900/SalesGPT:Context-awareAISalesAgenttoautomatesalesoutreach.上节课，我们主要介绍了SalesGPT的类属性和它最重要的类方法from_llm

AI小万老师·2024-02-20 15:26

第34期 | GPTSecurity周报

GPTSecurity是一个涵盖了前沿学术研究和实践经验分享的社区，集成了生成预训练Transformer（GPT）、人工智能生成内容（AIGC）以及大型语言模型（LLM）等安全领域应用的知识。

·2024-02-20 15:56

如何构建企业专属GPT

大语言模型（LLM）具有令人印象深刻的自然语言理解和生成能力，2022年11月底OpenAI发布了ChatGPT，一跃成为人工智能AI领域的现象级应用。

鲸品堂·2024-02-20 14:40

60分钟吃掉ChatGLM2-6b微调范例~

干货预警：这可能是你能够找到的最容易懂的，最完整的，适用于各种NLP任务的开源LLM的finetune教程~ChatGLM2-6b是清华开源的小尺寸LLM，只需要一块普通的显卡(32G较稳妥)即可推理和微调

算法美食屋·2024-02-20 14:59

CP04大语言模型ChatGLM3-6B特性代码解读（2）

CP04大语言模型ChatGLM3-6B特性代码解读（2）文章目录CP04大语言模型ChatGLM3-6B特性代码解读（2）构建对话demo_chat.py定义client对象与LLM进行对话构建工具调用

North_D·2024-02-20 14:29

[技术杂谈]Chat With RTX 介绍

据了解，这是一款适用于Windows平台的聊天机器人，由TensorRT-LLM提供支持，完全在本地运行。

FL1623863129·2024-02-20 13:46

视频生成领域的发展概述:从多级扩散到LLM

2023年是语言模型(llm)和图像生成技术激增的一年，但是视频生成受到的关注相对较少。今年刚到2月份，OpenAI就发布了一个惊人的视频生成模型Sora。

·2024-02-20 13:11

Gemini技术报告解读：从Google多模态大模型看后续大模型应该具备哪些能力

NLP论文投稿、LLM交流、论文直播群前段时间Google推出Gemini多模态大模型，展示了不凡的对话能力和多模态能力，其表现究竟如何呢？

zenRRan·2024-02-20 13:00

51-2 万字长文，深度解读端到端自动驾驶的挑战和前沿

这样需要阐述的内容就变成LLM基础模型、LLM+自动驾驶以及端到端自动驾驶核心内容三部分。上图是我司总结的大模型经典论文拓扑图，欢迎各位拍砖帮助更新，使得最终能落地到端到端自动驾驶。

深圳季连AIgraphX·2024-02-20 11:52

WhisperFusion：具有超低延迟无缝对话功能的AI系统

WhisperFusion基于WhisperLive和WhisperSpeech的功能而构建，在实时语音到文本管道之上集成了大型语言模型Mistral(LLM)。

语音之家·2024-02-20 11:39

第39期 | GPTSecurity周报

GPTSecurity是一个涵盖了前沿学术研究和实践经验分享的社区，集成了生成预训练Transformer（GPT）、人工智能生成内容（AIGC）以及大型语言模型（LLM）等安全领域应用的知识。

·2024-02-20 10:50

AI系列 - 大语言模型LLM的兴起

目录大语言模型（LLM）起飞AI的影响大模型国外大模型国内大模型LLM的体验大语言模型（LLM）起飞2022年11月，GPT3.5的发布引起了公众的广泛关注。

liyane·2024-02-20 10:17

AI LLM翻译实践

大语言模型（LLM）的语义识别能力使之成为翻译的必用工具。如果我在互联网上看到一篇不错的英文文章，如何翻译呢？

liyane·2024-02-20 10:17

OLMO：Accelerating the Science of Language Models

本文是LLM系列文章，针对《AcceleratingtheScienceofLanguageModels》的翻译。

UnknownBody·2024-02-20 08:41

从代码的层面掌握LLM的路线

原则：从易到难，只用pytorch从第一个项目来熟悉transformer的使用；从第二个项目来掌握对训练数据的使用方法及transformer的decoder的细节；从第三个项目来理解LLM的整个过程

Eloudy·2024-02-20 08:41

ChatGPT和LLM

ChatGPT和LLM（大型语言模型）之间存在密切的关系。首先，LLM是一个更为抽象的概念，它包含了各种自然语言处理任务中使用的各种深度学习模型结构。

小米人er·2024-02-20 08:58

LLM 参数，显存，Tflops? 训练篇(1)

如果你要训练一个模型大概会考虑哪些因素？模型多大？参数占用显存多少，能不能装的下我需要多少算力来支撑本文就针对一个标准的Transfomer模型的套路和大家简单说一下为了后文大家看算式明白，我们先约定一下每个变量代表的意义L:Transfomer有多少层H：代表两个意义，第一个意义是hiddensize的维度，第二个就是token被embedding以后的维度，这两值本来也相等h:小写的h代表多头

周博洋K·2024-02-20 06:59

万字盘点 Android 领域在 2023 年的重要技术：AI, 14, Compose, 鸿蒙...

AICore2022年底横空出世的GPT-3.5引发了全球的大模型LLM狂潮。

TechMerger·2024-02-20 05:28

杂记(十九) 推荐免费使用GPT-4的四种工具

不可否认，由OpenAI带来的GPT-4已是全球最受欢迎的、功能最强大的大语言模型（LLM）之一。大多数人都需要使用ChatGPTPlus的订阅服务去访问GPT-4。

小酒馆燃着灯·2024-02-20 03:01

杂记(九) 本文(4000字) | 推荐免费使用GPT-4的四种工具 |