LLM学习笔记第20页

LLM系列(0)：行业大模型落地服务在全业务场景的应用与探索【大模型智能问答、NL2SQL、文档智能分析智能生成、AI智能体决策等】

行业大模型落地服务：在全业务场景的应用与探索1.行业大模型落地挑战及应对1.1.挑战一：有限的算力资源在政企客户场景中落地行业大模型方案，可能首先面临的一个挑战是客户的算力资源有限。算力资源作为大模型落地的前提条件，是很多客户关注的重点，也是业务团队前期与客户沟通交流的一个重点。行业大模型场景落地是否一定需要大量的GPU算力，以及需要多少的算力才能满足落地需求？GPU算力主要消耗在两个地方，一是大

汀、人工智能·2025-01-30 10:41

【llm对话系统】大模型 RAG 之回答生成：融合检索信息，生成精准答案

在这一步，LLM将融合用户问题和检索到的文档片段，生成最终的答案。这个过程不仅仅是简单的文本拼接，更需要LLM对检索结果进行理解、推理和整合，才能输出准确、流畅且符合用户需求的答案。

kakaZhui·2025-01-30 10:09

ollama如何保持模型加载在内存（显存）中或立即卸载

这允许在您多次请求LLM时获得更快的响应时间。然而，您可能希望在5分钟内释放内存，或者希望模型无限期地保留在内存中。

点动生态云·2025-01-30 09:34

AI学习指南Ollama篇-Ollama的多模态应用探索

AI学习指南应用篇-Ollama的多模态应用探索一、引言（一）背景介绍随着大语言模型（LLM）的发展，多模态应用（结合文本、图像、语音等）成为新的趋势。

俞兆鹏·2025-01-30 09:04

【学习笔记总结】华为云：应用上云后的安全规划及设计

一、背景和问题数字化时代，随着信息技术的飞速发展，企业和各类组织纷纷将自身的应用程序迁移至云端。云计算凭借其诸多优势，如成本效益、可扩展性、灵活性以及便捷的资源共享等，已然成为了现代业务运营的重要支撑。今年，我所在企业也将IT系统全面迁移上XX云，究其原因是为了在激烈的市场竞争中保持敏捷性和创新性，需要快速部署新的应用并实现高效的数据处理，云平台提供的丰富资源和便捷的服务模式使其能够迅速满足这些需

通信_楠木·2025-01-30 09:03

Llama 3：开源大模型的里程碑式突破

标题：Llama3：开源大模型的里程碑式突破文章信息摘要：Meta通过Llama3展现了开源LLM的重大突破：采用超大规模训练数据和多阶段训练方法（SFT、rejectionsampling、PPO和DPO

XianxinMao·2025-01-30 08:50

大型语言模型构建指南：从头开始构建大语言模型《Build a Large Language Model (From Scratch)》免费PDF

在这本富有洞察力的书中，畅销书作家塞巴斯蒂安·拉施卡（SebastianRaschka）将指导你逐步创建自己的LLM，用清晰的文字、图表和示例解释每个阶段。

AGI大模型学习·2025-01-30 05:34

书籍推荐：《从零构建大型语言模型》附免费PDF下载

在这本富有洞察力的书中，畅销书作家塞巴斯蒂安·拉施卡（SebastianRaschka）将指导你逐步创建自己的LLM，用清晰的文字、图表和示例解释每个阶段。

大模型入门学习·2025-01-30 05:33

LLM based Single Agent System

LLM-BasedSingleAgentSystem:ANewEraofIntelligentAutomation关键词：大语言模型，单智能体系统，强化学习，自然语言处理，智能自动化1.背景介绍近年来，

AGI大模型与大数据研究院·2025-01-30 05:03

【书生·浦语大模型实战营】学习笔记（五）：LMDeploy 量化部署

GoAI·2025-01-30 03:18

为什么多模态大模型中使用Q-Former的工作变少了？附Q-Former结构简介

多模态大模型中需要一个输入投影模块，将视觉特征投射到LLM能理解的语言特征维度，这里就可以选择各种不同的模块。

同屿Firmirin·2025-01-30 01:01

初学者指南：借助 LangChain 构建 LLM 驱动的应用程序！

初学者指南：借助LangChain构建LLM驱动的应用程序！原文链接：ABeginner’sGuidetoBuildingLLM-PoweredApplicationswithLangChain!

·2025-01-29 23:24

【llm对话系统】大模型源码分析之 LLaMA 位置编码 RoPE

在自然语言处理（NLP）领域，Transformer模型已经成为主流。然而，Transformer本身并不具备处理序列顺序的能力。为了让模型理解文本中词语的相对位置，我们需要引入位置编码（PositionalEncoding）。本文将深入探讨LLaMA模型中使用的RotaryEmbedding（旋转式嵌入）位置编码方法，并对比传统的Transformer位置编码方案，分析其设计与实现的优势。1.传

kakaZhui·2025-01-29 23:17

MYSQL学习笔记(六)：聚合函数、sql语句执行原理简要分析

前言：学习和使用数据库可以说是程序员必须具备能力，这里将更新关于MYSQL的使用讲解，大概应该会更新30篇+，涵盖入门、进阶、高级(一些原理分析);这一篇是内容较少，主要讲解：聚合函数和简要介绍sql语句执行过程；虽然MYSQL命令很多，但是自己去多敲一点，到后面忘记了，查一下就可以回忆起来使用了；这一系列也是本人学习MYSQL做的笔记，也是为了方便后面忘记查询；参考资料：尚硅谷、黑马、csdn和

羊小猪~~·2025-01-29 22:15

Mooncake：面向大语言模型服务的以 KVCache 为中心的架构

摘要Mooncake是Kimi的服务平台，Kimi是由MoonshotAI提供的领先的LLM服务。它采用以KVCache为中心的分解架构，将预填充和解码集群分离。

步子哥·2025-01-29 22:42

进阶之路：从传统编程到AI大模型与Prompt驱动的爬虫技术

随着人工智能技术的发展，LLM大模型的出现为爬虫技术带来了新的思路。与传统的编程模式不同，使用AI大模型+prompt可以显著提高程序员的编程效率。

大模型老炮·2025-01-29 21:04

9.1 LangChain深度解析：大模型应用开发的“万能胶水”与核心架构设计

重新定义大模型应用开发范式LangChain是一个专为大语言模型（LLM）应用开发设计的开源框架，由HarrisonChase于2022年创建。它被开发者社区称为“AI应用开发的乐高积木”——通过标准

少林码僧·2025-01-29 20:52

Maui学习笔记-依赖注入简单使用

依赖注入（DI）是控制反转（IOC）模式的一种形式。DI的核心概念是类不会创建它们所依赖的对象，相反，DI框架集中解析对象并将其注入到依赖类中。通过DI可以轻松管理依赖项并实现松散耦合的体系结构。DI简单使用案例在这个案例中我们修改之前的模拟加载用户列表项目。首先我们创建一个DummyService的接口,然后实现该接口。创建构造函数注入该接口。publicpartialclassMyViewMo

Mr.L70517·2025-01-29 19:47

学习笔记（Maui 02 Sqlite）

Maui学习笔记（2）MVVM+IService架构下的数据服务（对应P3-P6）MVVM+IService架构下程序结构与功能Model：数据（Models文件夹）View：显示数据（Views文件夹

sleevefisher·2025-01-29 19:16

Maui学习笔记- SQLite简单使用案例02添加详情页

我们继续上一个案例，实现一个可以修改当前用户信息功能。当用户点击某个信息时，跳转到信息详情页，然后可以点击编辑按钮导航到编辑页面。创建项目我们首先在ViewModels目录下创建UserDetailViewModel。实现从详情信息页面导航到编辑页面。这里要使用一个字典来传输对象。publicpartialclassUserDetailViewModel:ObservableObject,IQue

Mr.L70517·2025-01-29 19:14

GAMES104：02引擎架构分层-学习笔记

文章目录一、游戏引擎分层架构0.游戏引擎分层简介1.资源层2.功能层3.核心层4.平台层5.工具层二、为什么分层架构总结一、游戏引擎分层架构0.游戏引擎分层简介用户层工具层（ToolLayer）：编辑器、工具界面功能层（FunctionLayer）：渲染Rendering、动画Animation、物理Physics、相机Camera和实现游戏性的脚本Script、状态机FSM、AI等功能模块资源层

我要吐泡泡了哦·2025-01-29 18:03

为什么提到各种本地化部署模型软件时总要提到 llama.cpp?

尽管名字里有“cpp”，它实际上指的是基于C++开发的一整套工具，用于高效地在本地运行大语言模型（LLM）。

风雅GW·2025-01-29 18:00

Llama.cpp与Python的完美结合：快速入门指南

Llama.cpp与Python的完美结合：快速入门指南引言在现代AI的浪潮中，Llama.cpp提供了一种便捷的方法，将大型语言模型(LLM)集成到您的项目中。

nseejrukjhad·2025-01-29 17:29

[如何在LangChain中实现安全集成：最佳实践与应对策略]

这些集成使开发人员能够创建结合LLM（大语言模型）强大功能和外部资源交互的多样化应用。然而，安全问题不容忽视。本文将深入探讨在LangChain应用中实现安全集成的最佳实践，并

dsndnwfk·2025-01-29 17:56

python一个函数调用另一个函数里面的值_Python学习笔记（10）-函数之函数定义、调用、参数、返回值、嵌套...

函数函数定义将实现某个独立功能的代码组合在一起，命一个名字，再需要使用这段代码时通过所命的名字来使用，就叫做函数使用函数的好处：1、将代码模块化（升级或修改某一个功能时只更新相应函数即可）2、方便代码重复使用（不需要多次重复编写代码只需多次调用即可）函数定义的格式：def函数名():代码块如定义一个打印名片函数：注意：1、函数名命名规则与变量命名规则一致，但一般不使用大驼峰命名方式2、定义函数只是

weixin_39631689·2025-01-29 17:48

万字精研：大型语言模型微调Fine-Tuning技术——14种主流方法的原理、适用场景及实践指南

万字精研：大型语言模型微调Fine-Tuning技术——14种主流方法的原理、适用场景及实践指南LLM训练时间和的成本太过庞大，况且个人卷训练经验极为困难，不妨从微调开始搞起。

汀、人工智能·2025-01-29 15:40

AI Agent的性能优化：从架构到代码级别的调优

从一个性能瓶颈说起还记得去年我们的AI助手刚上线时的情况：用户：这个响应也太慢了吧,要等好几秒运营：API费用每天都在涨我：让我看看到底是哪里慢...通过分析,我发现主要有三个问题：LLM调用延迟高向量检索效率低内存占用过大架构层面

·2025-01-29 15:48

python 命名实体识别_Python NLTK学习11（命名实体识别和关系抽取）

PythonNLTK学习11(命名实体识别和关系抽取)发表于:2017年7月27日阅读:18262除特别注明外，本站所有文章均为小杰Code原创本系列博客为学习《用Python进行自然语言处理》一书的学习笔记

weixin_39630762·2025-01-29 14:04

LLM（大语言模型）——Springboot集成文心一言、讯飞星火、通义千问、智谱清言

目录引言代码完整地址入参出参ControllerServiceService实现类模型Service入参转换类文心一言实现类讯飞星火实现类通义千问实现类智谱清言实现类引言本文将介绍如何使用Java语言，结合SpringBoot框架，集成国内热门大模型API，包括文心一言、讯飞星火、通义千问、智谱清言。在开始前，请确保您已经按照各模型官网的指引，完成了相应的资源申请和配置。这些资源是调用大模型API

1telescope·2025-01-29 13:54

DeepSeek-R1-Distill-Qwen-1.5B：最佳小型LLM？

DeepSeek掀起了生成式AI领域的风暴。首先推出DeepSeek-v3，现在推出DeepSeek-R1，这两款模型都打破了所有基准，并且完全开源。但今天我们不是在讨论这两款超级模型，而是讨论DeepSeek-R1的一个蒸馏版本——DeepSeek-R1-Distill-Qwen-1.5B，它可能是今天被低估的版本，虽然只有15亿个参数，但它悄无声息地在一些主要基准上超越了GPT-4和Claud

李孟聊人工智能·2025-01-29 13:53

QT6.5+qt-quick学习笔记

为什么用QMLQML是一种声明式语言，这意味着开发者只需要描述用户界面的外观和行为，而不需要关心具体的实现细节。这种方式减少了代码量，使得界面设计更加直观和高效。QML提供了丰富的UI组件和动画效果，开发者可以快速创建出现代化、用户友好的应用程序QML基于JavaScript并且与JavaScript的结合使得创建交互式和动画效果变得简单且高效。开发以Debug方式可以按步运行，调试；releas

m0_63052064·2025-01-29 11:59

网上FLAC3D学习笔记

建议：初学者将FLAC/FLAC3D版所有帖子都浏览一遍；学有所得后，再浏览一遍，会发现又有新的收获。第一部分（相关链接）1.FLAC3D知识基本介绍SimWehttp://www.simwe.com/forum/viewthread.php?tid=209662http://www.simwe.com/forum/viewthread.php?tid=573644http://www.simwe

lqlong19922008·2025-01-29 11:59

为大模型提供webui界面的利器：Open WebUI 完全本地离线部署deepseek r1

它支持各种LLM运行程序，如Ollama和OpenAI兼容的API，内置RAG推理引擎，使其成为一个强大的AI部署解决方案。安装使用pip进行安装：pipinstallopen-w

skywalk8163·2025-01-29 11:53

RAG：AI大模型联合向量数据库和 Llama-index，助力检索增强生成技术

检索增强生成（RAG）技术，结合了传统的信息检索和最新的大语言模型（LLM），不仅能够回答复杂的查询，还能在此基础上生成信息丰富的内容。

AI学习不迷路·2025-01-29 10:21

***LLM* Gateway：您的智能对话门户**

LLMGateway：您的智能对话门户llm-gatewayGatewayforsecure&reliablecommunicationswithOpenAIandotherLLMproviders项目地址

芮奕滢Kirby·2025-01-29 09:10

Linux安全体系学习笔记之二：OpenSSL源代码分析(1)

OpenSSL的源代码包括三部分：加密算法库、SSL库和应用程序。加密算法库的源代码主要在crypto文件夹里，包括ASN.1编码与解码接口（crypto/asn1/asn1.h），伪随机数产生器（crypto/rand/rand.h），ENGINE机制（crypto/engine），统一密码算法的EVP密码算法接口（crypto/evp/evp.h），大数运算接口（crypto/bn/bn.h）

Aegeaner·2025-01-29 09:07

uniapp中＜map＞地图怎么实现点位聚合？

应用级os框架使用案例，欢迎star案例：基于golang开发的一款超有个性的旅游计划app经历golang实战大纲golang优秀开发常用开源库汇总想学习更多golang知识，这里有免费的golang学习笔记专栏想学习更多前端知识

GoppViper·2025-01-29 07:52

LangGraph系列-1：用LangGraph构建简单聊天机器人

在快速发展的人工智能和大型语言模型（llm）世界中，开发人员不断寻求创建更灵活、更强大、更直观的人工智能代理的方法。

梦想画家·2025-01-29 06:12

Mysql学习笔记（一）：Mysql的架构

一、mysql的组成部分下面是来自Mysql实战的图片，该图片很好的表示了mysql的组成mysql架构图我们主要是和server层打交道，该层由连接器，分析器，优化器执行器、（查询缓存）组成二、连接器的作用每个客户端的连接都会有一个线程（在mysql5.5之后,mysql支持线程池插件，使得少数线程可以服务大量的服务的连接）。首先，再进行三次握手之后，建立了网络连接，然校验用户名，原始主机信息和

荆州克莱·2025-01-29 03:13

2024 LLM年度事件回顾：价格全面下跌、本地运行大模型、多模态能力爆发……

2025年伊始，Django的作者之一SimonWillison，带我们回顾了2024年AI的重磅进展，堪称大模型的“里程碑”盘点。快来看看有哪些突破，刷新了我们对AI的认知！原文很长，下面给大家列几个关键点：1、GPT-4壁垒被突破从前，GPT-4被视为无人能及的高度智能“天花板”，现在，ChatbotArea排行榜上已经有近70个模型，超过了2023年3月版本的GPT-4。谷歌的Gemini1

大模型.·2025-01-29 02:09

从零到手搓一个Agent：AI Agents新手入门精通

今日主题：当什么是Agent，与LLM的区别又是啥这一天，你的女朋友问你（假设我们有女朋友），宝宝，什么是Agent啊，Agent和LLM有什么区别呀，最近大家都在说的Agent究竟是什么，包括很多文章都在写的

大模型.·2025-01-29 02:09

LLM架构与优化：从理论到实践的关键技术

标题：“LLM架构与优化：从理论到实践的关键技术”文章信息摘要：文章探讨了大型语言模型（LLM）开发与应用中的关键技术，包括Transformer架构、注意力机制、采样技术、Tokenization等基础理论

XianxinMao·2025-01-28 20:14

ogre 学习笔记 - Day 1

ogre学习笔记-Day1OGRE:Object-OrientedGraphicsRenderingEngine从名称可以得出，OGRE是一个渲染引擎下载地址https://www.ogre3d.org

頖╃縌 ①oO%·2025-01-28 19:10

Nginx 学习笔记

目录一、引言二、Nginx概述三、Nginx的作用（一）正向代理（二）反向代理（三）负载均衡策略（四）动静分离四、Nginx安装五、Nginx的常用命令六、Nginx实战及总结一、引言在项目发展初期，并发量和用户量较少时，简单地将一个jar包部署到服务器tomcat上即可满足需求。然而，随着用户数量的不断增长以及并发量的持续增大，单台服务器容易面临性能瓶颈，出现“红温”现象。此时，为了提升系统的处

韩某-·2025-01-28 19:39

大语言模型LLM在地理信息GIS中应用场景

AI&地理AI大语言模型在地理中的应用主要体现在以下几个方面：一、地理信息检索与查询AI大语言模型能够理解复杂的自然语言查询，包括地名、地理位置、地理特征等，从而提供更加精准的地理信息检索服务。例如，用户可以通过自然语言输入查询某个地点的详细信息，模型能够返回包括地理位置、周边设施、交通状况等在内的全面信息。AI与地理信息检索与查询的结合为地理信息的获取和利用带来了革命性的变化。以下是对AI在地理

GISer_Jinger·2025-01-28 19:07

Selenium学习笔记--Webdriver API 2--常用方法

Webdriver重用方法浏览器控制控制浏览器窗口大小控制浏览器后退、前进切换标签页（窗口切换）switch方法获取url使用get方法模拟浏览器刷新关闭浏览器常用方法clearsend_keysclicksubmitsizetextget_attributeis_displayedtitlecurrent_url鼠标操作键盘操作元素等待显示等待隐式等待切换iframe单表单切换嵌套表单切换平行表

jiang_guo·2025-01-28 19:07

Shiro框架源码学习笔记

文章目录介绍认证术语如何使用Shiro的认证1.手机认证主体和凭据2.提交认证主体和凭据到认证系统3.允许访问，重新认证，或阻止访问"RememberMeSupport"RememberedvsAuthenticated登出授权授权三要素权限权限的粒度角色隐式的角色显式的角色(推荐)用户Shiro如何执行授权编程式授权角色检查权限检查实现`Permission`接口的方式使用`String`表示一

a88729845·2025-01-28 16:13

第76期 | GPTSecurity周报

GPTSecurity是一个涵盖了前沿学术研究和实践经验分享的社区，集成了生成预训练Transformer（GPT）、人工智能生成内容（AIGC）以及大语言模型（LLM）等安全领域应用的知识。

云起无垠·2025-01-28 15:05

第84期 | GPTSecurity周报