闻达LLM 第3页

第65期 | GPTSecurity周报

GPTSecurity是一个涵盖了前沿学术研究和实践经验分享的社区，集成了生成预训练Transformer（GPT）、人工智能生成内容（AIGC）以及大语言模型（LLM）等安全领域应用的知识。

云起无垠·2024-08-31 05:26

LangChain + ChatGLM-6B / ChatGLM2-6B 新手踩坑指南！

langchain-ChatGLM2、项目原理：加载文件➝读取文本➝文本分割➝文本向量化➝问句向量化➝在文本向量中匹配出与问句向量最相似的topk个➝匹配出的文本作为上下文和问题一起添加到prompt中➝提交给LLM

海鸟智能·2024-08-30 22:16

您应该让 ChatGPT 控制您的浏览器吗？

本文：介绍授予大型语言模型(LLM)对Web浏览器的控制权的安全风险，重点关注提示注入漏洞。

红云谈安全·2024-08-30 22:40

【AI】到底什么才是最适合LLM大模型的应用场景？

笔者关注大模型有一段时间了，可以参考我之前的文章，做了非常多的体验，也经常去调戏大模型，这些文章有的还是很精彩，比如：——对比大模型特色的文章：群模乱舞，AI大模型盛开，国内大模型盘点_哈工大本草-CSDN博客——讨论大模型应用于诈骗的文章：AIGCand“AIGF”-CSDN博客——调戏大模型的文章，货拉拉到底拉不拉拉布拉多？【AIGC】用货拉拉拉不拉拉布拉多的梗调(ce)戏(shi)AI大模型

giszz·2024-08-30 19:24

LangChain 一个面向构建基于大语言模型（LLM）的应用程序的框架

LangChain是一个面向构建基于大语言模型（LLM）的应用程序的框架，它简化了与语言模型的交互，并将其功能扩展至更复杂的任务，如搜索、问答、推理和自动化工作流。

路人与大师·2024-08-30 16:02

xGen-MM (BLIP-3): A Family of Open Large Multimodal Models

本文是LLM系列文章，针对《xGen-MM(BLIP-3):AFamilyofOpenLargeMultimodalModels》的翻译。

UnknownBody·2024-08-30 13:47

SK Hynix明年将开发基于96/128 GB DDR5的CXL 2.0内存解决方案

SKHynix正致力于为人工智能领域开发基于DDR5的CXL2.0内存解决方案，尤其是针对"内存饥渴型"LLM。

吴脑的键客·2024-08-30 08:43

[LLM][Prompt Engineering]：思维链（CoT）

思维链思维链1.思维链提示方法和增强策略1.1简单的思维链提示1.2示例形式的思维链提示1.3思维链提示的后处理方案1.4拓展推理结构2.CoT的能力来源：为什么思维链提示能显著提升大语言模型在推理任务上的效果？强大的逻辑推理是大语言模型“智能涌现”出的核心能力之一。推理：一般指根据几个已知的前提推导得出新的结论的过程，区别于理解，推理一般是一个“多步骤”的过程，推理的过程可以形成非常必要的“中间

Way_X·2024-08-30 05:26

2025秋招大语言模型落地实践面试题

软件架构2.1拥有自己的大语言模型（LLM）是否必要？2.2何时使用微调与何时使用RAG？2.3在训练大语言模型时遇到的关键挑战是什么？数据资源3.1如何标注一个监督微调（SFT）数据集？3.2在众包

微凉的衣柜·2024-08-30 01:26

NL2SQL进阶系列(5)：论文解读业界前沿方案（DIN-SQL、C3-SQL、DAIL-SQL、SQL-PaLM）、新一代数据集BIRD-SQL解读

NL2SQL进阶系列(5)：论文解读业界前沿方案（DIN-SQL、C3-SQL、DAIL-SQL）、新一代数据集BIRD-SQL解读NL2SQL基础系列(1)：业界顶尖排行榜、权威测评数据集及LLM大模型

汀、人工智能·2024-08-30 01:25

AutoGPT理念与应用

而AutoGPT的目标就是基于GPT4将LLM的"思想"串联起来，

键盘侠PianistYu·2024-08-29 23:43

实现基于LLM的VSCode代码补全插件及网络搜索功能

文章目录前言一、代码补全代码实现实现效果:当前问题二、LLM+搜索引擎功能概述实现步骤代码实现结论前言本文将介绍如何利用VSCode插件开发环境结合大模型（LLM）来实现代码补全功能，并且介绍如何集成网络搜索功能以增强代码补全的能力

今天不熬夜！·2024-08-29 16:25

RAG增强检索

1.RAG技术主要解决了什么问题解决通用LLM针对一些小众领域没有涉猎的问题(私域)提升LLM回答的准确性、权威性、时效性提高LLM回答的可控性和可解释性，提高模型的可信度和安全性2.RAG流程-1文档加载

苍墨穹天·2024-08-29 13:34

A Survey on Benchmarks of Multimodal Large Language Models

本文是LLM系列文章，针对《ASurveyonBenchmarksofMultimodalLargeLanguageModels》的翻译。

UnknownBody·2024-08-29 11:20

[论文笔记] LLM数据集——LongData-Corpus

https://huggingface.co/datasets/yuyijiong/LongData-Corpus1、hf的数据在开发机上要设置sshkey，然后cat复制之后在设置在hf上2、中文小说数据在云盘上清华大学云盘下载：#!/bin/bash#BaseURLbase_url="https://cloud.tsinghua.edu.cn/d/0670fcb14d294c97b5cf/fi

心心喵·2024-08-29 10:17

[从0开始AIGC][LLM]：Pre-Norm or Post-Norm？训练效率还是训练效果？

Pre-NormorPost-NormPre-NormorPost-Norm1.什么是Pre-Norm和Post-Norm2.为什么Pre-Norm比Post-Norm易于训练2.1Transformer：Attentionisallyourneed-PostNorm2.2Pre-Norm的提出：TransformerswithoutTears:ImprovingtheNormalizationo

Way_X·2024-08-29 05:42

【论文阅读】LLM4SGG: Large Language Models for Weakly Supervised Scene Graph Generation

【论文阅读】LLM4SGG:LargeLanguageModelsforWeaklySupervisedSceneGraphGenerationabstract由于全监督方法严重依赖昂贵标注，最近弱监督场景图生成

进击的乔洋·2024-08-28 19:03

初识LangChain的快速入门指南

它简化了与大语言模型（LLM）的交互过程，支持数据检索和将不同功能模块串联起来以完成复杂任务。

hai40587·2024-08-28 17:50

ETH：通过文本反馈提高LLM对齐能力

标题：TowardsAligningLanguageModelswithTextualFeedback来源：arXiv,2407.16970️文章简介研究问题：如何通过文本反馈来调整语言模型，使其生成更符合用户期望的行为。主要贡献：论文的提出了ALT，一种将语言模型与文本反馈对齐的方法，通过示例反馈来引导语言模型生成更符合用户偏好的内容。重点思路相关工作对齐：此前的研究已成功利用RLHF来增强LL

大模型任我行·2024-08-28 15:02

SGSH: Stimulate Large Language Models with Skeleton Heuristics for Knowledge Base Question

本文是LLM系列文章，针对《SGSH:StimulateLargeLanguageModelswithSkeletonHeuristicsforKnowledgeBaseQuestionGeneration

UnknownBody·2024-08-28 14:56

探索GGUF：利用llama.cpp高效运行大型语言模型

探索GGUF：利用llama.cpp高效运行大型语言模型在人工智能领域，大型语言模型（LLM）的应用越来越广泛，但运行这些模型常常需要大量计算资源和复杂的配置。

Chen_Chance·2024-08-28 05:27

LLM 代理，文本向量化，高级 SQL，以及我们最新作者的其他必读文章

如果你是《Variable》的常读者，你可能已经注意到，我们每周都会强调——TDS始终欢迎新作者的贡献。我们是认真的！有些人可能看过这个消息并想“太好了，我很想写一篇文章！”但是随后又开始思考什么样的帖子合适，我们的读者对哪些话题感兴趣，以及哪些类型的经验和技能是受欢迎的。本周的《Variable》版本重点介绍了我们最近的一些最佳文章，所以即使你没有成为TDS作者的意愿，也完全没问题！我们仍希望你

AI科技圈.·2024-08-27 22:16

[从0开始AIGC][LLM]：LLM中Encoder-Only or Decoder-Only？为什么主流LLM是Decoder-Only？

LLM中Encoder-OnlyorDecoder-Only&为什么主流LLM是Decoder-Only？

Way_X·2024-08-27 15:03

讲解如何使用RAG（检索增强生成）和LLM（大语言模型）来构建一个法律咨询网站。

一、准备工作1.注册OpenAIAPI首先，注册OpenAI并获取API密钥。2.环境配置安装必要的Python库：pipinstallopenaifaiss-cpusentence-transformersflask二、设计系统架构整个系统将包括以下几个部分：前端：用户输入问题和上传文件的界面。后端：处理用户请求，调用OpenAIAPI，返回答案。向量数据库：存储和检索文档向量。三、实现步骤步骤

winfredzhang·2024-08-27 12:44

用TensorRT-LLM跑通chatGLM3_6B模型

零、参考资料NVIDIA官网THUDM的GithubNVIDIA的Github一、构建TensorRT-LLM的docker镜像gitlfsinstallgitclonehttps://github.com

心瘾こころ·2024-08-27 11:33

【大模型从入门到精通42】LLM部署运维（LLM Ops）使用Kubeflow Pipelines掌握LLM工作流4

这里写目录标题在Kubeflow中自动化和编排监督调整管道重用现有管道提高效率准备数据和模型版本控制配置管道定义管道参数执行管道结论理论问题实践问题在Kubeflow中自动化和编排监督调整管道KubeflowPipelines的核心在于其编排复杂工作流的能力。在本例中，我们将探索如何使用KubeflowPipelines自动和编排监督调整管道，针对由Google提供的基础模型PaLM2进行参数高效

水木流年追梦·2024-08-27 09:19

AI大模型日报#0825：10行代码让大模型数学提升20%、文心日均调用超6亿

导读：AI大模型日报，爬虫+LLM自动生成，一文览尽每日AI大模型要点资讯！

常政·2024-08-27 03:17

【附资源】LLM大模型学习，这本书不可或缺：《大语言模型基础与前沿》

哈喽大家好！很久都没有更新大模型这块的书了，今天给大家说一下这本：《大语言模型：基础与前沿》，本书深入阐述了大语言模型的基本概念和算法、研究前沿以及应用，涵盖大语言模型的广泛主题，从基础到前沿，从方法到应用，涉及从方法论到应用场景方方面面的内容。作者简介熊涛，美国明尼苏达大学双城分校电子与计算机工程博士。曾在多家中美知名高科技公司担任高级管理职位和首席科学家，在人工智能的多个领域，包括大语言模型、

AI小白熊·2024-08-26 18:39

什么是LLM？看这一篇就够了！

本文主要介绍大语言模型（LargeLanguageModel，简称LLM）。

AI程序猿人·2024-08-26 17:03

什么是LLM，主要用途有哪些，在应用中有哪些优势和局限性？

LLM（大型语言模型）在实际应用中的优势包括多领域应用、技术突破、创新应用等。其局限性则包括设计挑战、行为问题、科学难题等。

好好学习的不知名程序员·2024-08-26 16:59

【大模型赋能开发者】海云安入选数世咨询LLM驱动数字安全2024——AI安全系列报告

近日，国内知名数字产业领域第三方调研咨询机构数世咨询发布了LLM驱动数字安全2024——AI安全系列报告。

海云安·2024-08-26 04:39

AI初识--LLM、ollama、llama都是些个啥？

LLM全称（largelanguagemodel）也就是大语言模型什么是Ollama，它与Llama是什么关系？

才艺のblog·2024-08-25 20:51

免费的大模型插件llm.nvim

llm.nvim（https://github.com/StubbornVegeta/llm.nvim）是一款基于cloudflare的免费大模型插件，你可以像使用ChatGPT一样和它进行对话在使用这款插件之前

stubborn vegeta·2024-08-25 16:23

LangChain 与 Elastic 合作为 RAG 添加向量数据库和语义重排序

LangChain已成为使用大型语言模型(LLM)构建应用程序的最受欢迎的库，例如检索增强生成(RAG)系统。该库使原型设计和试验不同的模型和检索系统变得非常容易。

Cc不爱吃洋葱·2024-08-25 15:52

3个最流行的开源大模型网络爬虫框架

随着具备视觉功能的大型语言模型（LLM）的出现，我们现在可以创建几乎通用的网络爬虫代理，大大简化和自动化了这一过程。在这篇博客中，我们

liugddx·2024-08-25 08:05

用 Unsloth 微调 LLaMA 3 8B

用Unsloth微调LLaMA38B今年4月份，Meta公司发布了功能强大的大型语言模型（LLM）Llama-3，为从事各种NLP任务的开发人员提供了功能强大可以在普通机器上运行的开源LLM。

liugddx·2024-08-25 08:05

大模型LLM的Token相关问题：模型不同，token计算不同，gpt对token的计算，我们如何选择token及token评估模型

Itfuture03·2024-08-25 07:33

【大模型从入门到精通39】LLM部署运维（LLM Ops）使用Kubeflow Pipelines掌握LLM工作流1

使用KubeflowPipelines掌握LLM工作流在本节中，我们将深入探讨如何使用KubeflowPipelines来编排和自动化机器学习工作流。

水木流年追梦·2024-08-25 03:08

PROMETHEUS 2: An Open Source Language Model Specialized in Evaluating Other Language Models

本文是LLM系列文章，针对《PROMETHEUS2:AnOpenSourceLanguageModelSpecializedinEvaluatingOtherLanguageModels》的翻译。

UnknownBody·2024-08-25 02:59

A Survey of Large Language Models on Generative Graph Analytics: Query, Learning, and Applications

本文是LLM系列文章，针对《ASurveyofLargeLanguageModelsonGenerativeGraphAnalytics:Query,Learning,andApplications》的翻译

UnknownBody·2024-08-25 02:29

基于强化学习的即时商店自动化管理

介绍如今，提示是与大型语言模型(LLM)交互的主要模式。提示需要根据用户需求进行调整，为LLM提供正确的上下文和指导—以最大限度地提高获得“正确”响应的机会。

拉达曼迪斯II·2024-08-24 11:34

FastAPI部署大模型Llama 3.1

项目地址：self-llm/models/Llama3_1/01-Llama3_1-8B-InstructFastApi部署调用.mdatmaster·datawhalechina/self-llm(github.com

记得叫Mark周更·2024-08-23 14:12

无坑！部署langchain-chatchat + glm4-9b-chat，轻松实现知识库智能问答！

这里llm模型使用glm4-9b-chatembedding模型使用bge-large-zh-v1.5配置虚拟环境创建虚拟环境condacreate--namechat3python=3.10.9激活虚拟环

zbc-·2024-08-23 02:31

构建大型语言模型（LLM）产品的实战指南

订阅：https://rengongzhineng.io/使用大型语言模型（LLM）进行开发的时代令人兴奋。过去的一年中，LLM在实际应用中的表现

新加坡内哥谈技术·2024-08-22 23:12

LLM基础｜模型后量化原理、量化类型及方式、量化实现效果

（笔者最近在使用丐版colab运行Llama-Chat-7B，这个模型模型大小为13G，要求的显存也在13G左右，丐版无法承受）为了解决这个应用LLM的实际问题（即LLM对显存的占用大，在高并发的环境下

Sunny_AI_addict·2024-08-22 16:04

深入浅出：大型语言模型（LLM）的全面解读

而在人工智能的领域中，大型语言模型（LLM）作为一种引人瞩目的技术，正在以其强大的语言理解和生成能力引领着一场革命。

一休哥助手·2024-08-22 15:54

【人工智能时代】- 深度解析AI大语言模型（LLM）在企业应用的关键技术与典型架构

大语言模型（LLM）的出现，使基于自然语言处理的人工智能技术实现了飞跃式的发展，彻底开启了AI2.0的时代。

xiaoli8748_软件开发·2024-08-22 09:53

大话LLM之向量数据库

向量数据库是一种专门设计的存储系统，旨在高效处理和查询高维向量数据，通常用于人工智能和机器学习应用中，以实现快速准确的数据检索。好的，今天我们就来聊聊人工智能和向量数据库的事儿。现在人工智能发展得特别快，特别是那些大型的语言模型，它们真是创新的前沿。但不管这些模型有多厉害，它们都得有个核心的东西，那就是能够处理大量的数据。这些数据得被理解、被整理，还得能被搜索，这样我们才能从中找到真正有意义的信息

强哥之神·2024-08-22 09:17

全面认识AI Agent，一文读懂AI智能体的架构指南

它是一种模拟人类智能行为的人工智能系统，以大型语言模型（LLM）作为其核心引擎。它们能够感知其环境，做出决策，并执行任务以实现特定的目标。AIAgent的设计理念是赋予机器自主性、适

Python_金钱豹·2024-08-22 08:12

Agentic Security：一款针对LLM模型的模糊测试与安全检测工具

关于AgenticSecurityAgenticSecurity是一款针对LLM模型的模糊测试与安全检测工具，该工具可以帮助广大研究人员针对任意LLM执行全面的安全分析与测试。

FreeBuf-·2024-08-22 03:43

推荐频道

闻达LLM