LLm 第28页

第3期 | GPTSecurity周报

GPTSecurity是一个涵盖了前沿学术研究和实践经验分享的社区，集成了生成预训练Transformer（GPT）、人工智能生成内容（AIGC）以及大型语言模型（LLM）等安全领域应用的知识。

云起无垠·2023-11-24 04:01

第4期 | GPTSecurity周报

GPTSecurity是一个涵盖了前沿学术研究和实践经验分享的社区，集成了生成预训练Transformer（GPT）、人工智能生成内容（AIGC）以及大型语言模型（LLM）等安全领域应用的知识。

云起无垠·2023-11-24 04:01

第28期 | GPTSecurity周报

GPTSecurity是一个涵盖了前沿学术研究和实践经验分享的社区，集成了生成预训练Transformer（GPT）、人工智能生成内容（AIGC）以及大型语言模型（LLM）等安全领域应用的知识。

云起无垠·2023-11-24 03:29

如何快速落地LLM应用？通过Langchain接入千帆SDK

目录一、SDK的优势二、千帆SDK：快速落地LLM应用三、如何快速上手千帆SDK3.1、SDK快速启动3.1.1、快速安装3.1.2、平台鉴权3.1.3、如何获取AK/SK3.1.4、以“Chat对话”

中杯可乐多加冰·2023-11-24 03:23

一定要看看的大模型【评测基准】及【评测报告】

评测标准1.能力基础评测为了检验大语言模型（LLM）的有效性和优越性，已有研究采用了大量的任务和基准数据集来进行实证评估和分析。

河南-殷志强·2023-11-24 02:54

NLP实践——LLM生成过程中防止重复循环

NLP实践——LLM生成过程中防止重复1.准备工作2.问题分析3.创建processor3.1防止重复生成的processor3.2防止数字无规则循环的processor4.使用本文介绍如何使用LogitsProcessor

常鸿宇·2023-11-23 22:00

可复现的语言大模型推理性能指标

它能够帮助用户评估不同LLM的性能，并根据具体任务做出明智的决策。该项目选择了多个指标来衡量LLM的性能，包括吞吐量、时延、内存使用和成本等。

OneFlow深度学习框架·2023-11-23 20:15

开源语言大模型演进史：向LLaMA 2看齐

本文是开源LLM发展史系列文章的第三部分。此前，第一部分《开源语言大模型演进史：早期革新》回顾了创建开源LLM的最初尝试。

OneFlow深度学习框架·2023-11-23 20:45

OpenAI接口代理设置

局部设置全局设置测试openai_proxy='http://192.168.1.100:10809'llm=OpenAI(temperature=0,verbose=True,opena

studyeboy·2023-11-23 20:59

开源中文大语言模型整理列表

中文大语言模型整理LargeLanguageModel(LLM)即大规模语言模型，是一种基于深度学习的自然语言处理模型，它能够学习到自然语言的语法和语义，从而可以生成人类可读的文本。

yonghuming_123·2023-11-23 19:51

【NLP】LLM 中 100K 上下文窗口背后的秘密：所有技巧都集中在一处

加速LLM训练和推理的技术，在训练和推理期间使用高达100K输入标记的大型上下文窗口：ALiBi位置嵌入、稀疏注意力、FlashAttention、多查询注意力、条件计算和80GBA100GPU。

Sonhhxg_柒·2023-11-23 19:48

【NLP】培训LLM的不同方式

在大型语言模型（LLM）领域，存在多种具有不同手段、要求和目标的培训机制。由于它们有不同的用途，因此重要的是不要将它们相互混淆并了解它们适用的不同场景。

Sonhhxg_柒·2023-11-23 10:49

StarCoder LLM for code

介绍StarCoderStarCoder和StarCoderBase是针对代码的大型语言模型（代码LLM），根据来自GitHub的许可数据进行训练，包括来自80多种编程语言、Git提交、GitHub问题和

量化交易曾小健(金融号)·2023-11-23 05:13

Anthropic LLM论文阅读笔记

研究时间：与InstrcutGPT同期的工作，虽然其比ChatGPT发布更晚，但是其实完成的时间比ChatGPT更早。与ChatGPT的应用区别：该模型比ChatGPT回答我不知道的概率更高。将强化学习用于大语言模型（RLHF）：发现这种方法可以提升几乎在所有NLP任务上的性能。随着参数的增加，效果也越来越好。如果模型经过了强化学习的辅助，效果会进一步提升；如果经过了有用性的训练，模型会有更大的提

北岛寒沫·2023-11-23 04:01

LLM-2022：InstructGPT【GPT3-（问题和答案拼成一段对话，使用这些对话微调GPT3）-＞SFT（监督微调）-（SFT的答案排序后的数据集上再训练）-＞RM-＞RL（强化学习）】

一、前言GPT系列是OpenAI的一系列预训练文章，GPT的全称是GenerativePre-TrainedTransformer，顾名思义，GPT的目的就是通过Transformer为基础模型，使用预训练技术得到通用的文本模型。目前已经公布论文的有文本预训练GPT-1，GPT-2，GPT-3，以及图像预训练iGPT。据传还未发布的GPT-4是一个多模态模型。最近非常火的ChatGPT和今年年初公

u013250861·2023-11-22 22:34

大语言模型（LLM）预训练数据集调研分析

©作者|汪涉洋研究方向|大数据、AI背景大语言模型涉及数据的通常有有多个阶段（Aligninglanguagemodelstofollowinstructions[1]）：pre-train、sft（supervisedfinetune）、rlhf(optional).StateofGPT：大神Andrej揭秘OpenAI大模型原理和训练过程。supervisedfinetune一般在basemo

PaperWeekly·2023-11-22 22:30

各种LLM数据集包括SFT数据集

各种LLM数据集包括SFT数据集数集介绍和hf上的名字对话数据生成方法交通领域数据集SFT的解释数集介绍和hf上的名字通用预训练数据集SFTdatasetsSFT数据集50万条中文ChatGPT指令Belle

东方佑·2023-11-22 22:28

LLM字符串题目（一）：给定一个字符串，计算相同字符的最长间距，并输出对应字符，如果不存在相同字符的则输出-，-1。不能使用 map,set，只能 1 次遍历。

给定一个字符串，计算相同字符的最长间距，并输出对应字符，如果不存在相同字符的则输出-，-1。不能使用map,set，只能1次遍历。实现代码如下：'''1、给定一个字符串，计算相同字符的最长间距，并输出对应字符，如果不存在相同字符的则输出-，-1。不能使用map,set，只能1次遍历。(30分)例1:输入:adfsgkgmkjghhkl输出:k,8例2:输入:abcdefg输出:-,-1'''def

wshzd·2023-11-22 21:33

LLM prompt提示构造案例

参考：https://github.com/PlexPt/awesome-chatgpt-prompts-zh吴恩达prompt工程应用：https://www.bilibili.com/video/BV1No4y1t7Znprompt构造案例代码prompt="""文本分类任务：将一段用户给外卖服务的评论进行分类，分成好评或者差评。下面是一些范例:味道真不错->好评太辣了，吃不下都->差评请对下

loong_XL·2023-11-22 21:01

LLM：prompt指令数据制作

https://github.com/ymcui/Chinese-LLaMA-Alpacaimportopenaiimportjsonimportsysimportrandomopenai.api_key=""#youmustprovideyourOpenAIAPIkeybeforecrawlingifnotopenai.api_key:raiseValueError("OpenAIAPIkeyn

u013250861·2023-11-22 21:00

LLM 系列 | 05：ChatGPT Prompt的迭代优化

后续会持续整理模型加速、模型部署、模型压缩、LLM、AI艺术等系列专题，敬请关注。

JasonLiu1919·2023-11-22 21:27

LLM之Prompt（二）：清华提出Prompt 对齐优化技术BPO

AligningLargeLanguageModelswithoutModelTraining》论文链接：https://arxiv.org/abs/2311.04155github地址：https://github.com/thu-coai/BPOBPO背景介绍最近，大型语言模型（LLM

wshzd·2023-11-22 21:56

【腾讯云 HAI域探秘】完蛋，我被LLM包围了（基于HAI+ChatGLM-6B+CloudStudio）

一、背景介绍1.1ChatGPTandChatGLM-6BChatGPT（全名：ChatGenerativePre-trainedTransformer），是OpenAI研发的一款聊天机器人程序，于2022年11月30日发布。ChatGPT是人工智能技术驱动的自然语言处理工具，它能够基于在预训练阶段所见的模式和统计规律，来生成回答，还能根据聊天的上下文进行互动，真正像人类一样来聊天交流，甚至能完成

enki0815·2023-11-22 04:27

一种全新且灵活的 Prompt 对齐优化技术

并非所有人都熟知如何与LLM进行高效交流。一种方案是，人向模型对齐。于是有了「Prompt工程师」这一岗位，专门撰写适配LLM的Prompt，从而让模型能够更好地生成内容。

机器学习社区·2023-11-22 02:57

18LLM4SE革命性技术揭秘：大型语言模型LLM在软件工程SE领域的全景解析与未来展望 - 探索LLM的多维应用、优化策略与软件管理新视角【网安AIGC专题11.15】作者汇报综述

LargeLanguageModelsforSoftwareEngineering:ASystematicLiteratureReview写在最前面论文名片课堂讨论RQ1部分：LLMs的选择和优化RQ2部分：LLMs的数据集大小RQ3部分：LLMs在软件开发中的应用关于综述论文的写作1.介绍IntroductionLLM和SE是什么？大型语言模型在软件工程中的兴起文献综述的主要贡献2.方法：怎么挑

是Yu欸·2023-11-22 01:10

学习教授LLM逻辑推理11.19

学习教授LLM逻辑推理摘要1引言2前言2.1事件关系提取2.2演绎推理3揭示逻辑推理中的LLMS3.1LLM如何执行任务3.1.1数据源3.1.2实验装置3.1.3分析3.2LLM如何执行抽象多跳推理？

露葵025·2023-11-21 21:42

手把手带你在AutoDL上部署ChatGLM3 Web Demo

手把手带你在AutoDL上部署ChatGLM3WebDemo作者：Datawhale不要葱姜蒜项目地址：https://github.com/KMnO4-zx/self_llm.git如果大家有其他模型想要部署教程

不要葱姜蒜_kmon4·2023-11-21 21:41

手把手带你在AutoDL上部署InternLM-Chat-7B Transformers

手把手带你在AutoDL上部署InternLM-Chat-7BTransformers调用项目地址：https://github.com/KMnO4-zx/self_llm.git如果大家有其他模型想要部署教程

Unicornlyy·2023-11-21 21:08

基于知识问答的上下文学习中的代码风格11.20

最近，大型语言模型（LLM）中出现的上下文学习（ICL）功能为KBQA提供了一个简单且无需训练的语义解析范例：给定少量问题及其标记的逻辑形式作为演示示例，LL

露葵025·2023-11-21 21:07

Stable Diffusion专场公开课

17：00分享大纲从扩散模型DDPM起步理解SD背后原理SD的本地部署:在自己电脑上快速搭建、快速出图如何基于SD快速做二次开发(以七月的AIGC模特生成系统为例)分享人简介July，七月在线创始人兼LLM

lanyzh0909·2023-11-21 19:30

阅读笔记——《GPTFuzzer : Red Teaming Large Language Models with Auto-Generated Jailbreak Prompts》

目录摘要一、介绍二、背景信息1、LLM

恣睢s·2023-11-21 17:50

大语言模型的三阶段训练

代码将全部上传到github：https://github.com/hjandlm/LLM_Train1.中文词表扩展原生词表大小是32K，在词表扩展后，词表大小是63608。

hj_caas·2023-11-21 12:53

完全背包代码模板

llm,n;cin>>m>>n;for(inti=1;i>w[i]>>v[i];for(inti=1;i<=n;++i){for(intj=v[i];j<=m;++j){//区别是从自己转移过来的dp[

想不出来_6·2023-11-21 10:28

首篇大模型压缩论文综述

来自中国科学院和人民大学的研究者们深入探讨了基于LLM的模型压缩研究进展并发表了该领域的首篇综述《ASurveyonModelCompressionforLargeLanguageModels》。

卷心菜不卷Iris·2023-11-21 10:01

大模型压缩首篇综述来啦~~

来自：对白的算法屋进NLP群—>加入NLP交流群近来，LLM以惊人的推理效果惊艳全世界，这得益于它巨大的参数量与计算任务。

zenRRan·2023-11-21 10:28

大模型LLM 在线量化；GPTQ\AWQ量化及推理

1、大模型LLM在线量化参考：https://www.cnblogs.com/bruceleely/p/17348782.html##8bitmodel=AutoModel.from_pretrained

loong_XL·2023-11-21 10:52

大模型应用开发

大模型概述大模型的能力涌现能力：随着训练数据规模增大能力迅速提升，超过随机水平上下文学习指令微调：泛化能力很强，微调后可以在未见过的任务上表现良好逐步推理：LLM有“思维链”推理机制，可以逐步推理解决复杂任务大基座模型借助于无标注数据训练

Jeffrey-zh·2023-11-21 09:38

LangChain 3使用Agent访问Wikipedia和llm-math计算狗的平均年龄

接着前两节的Langchain，继续实现Langchain中的AgentLangChain实现给动物取名字，LangChain2模块化prompttemplate并用streamlit生成网站实现给动物取名字代码实现#从langchain库中导入模块fromlangchain.llmsimportOpenAI#从langchain.llms导入OpenAI模块fromlangchain.promp

AI架构师易筋·2023-11-21 09:45

LangChain 4用向量数据库Faiss存储，读取YouTube的视频文本搜索Indexes for information retrieve

IndexesforinformationretrieveLangChain实现给动物取名字，LangChain2模块化prompttemplate并用streamlit生成网站实现给动物取名字LangChain3使用Agent访问Wikipedia和llm-math

AI架构师易筋·2023-11-21 09:33

LLMs 千面郎君终极版

大模型LLM的训练目标是什么

weixin_43520816·2023-11-21 03:41

zhurui_xiaozhuzaizai·2023-11-21 03:40

LLM-3-ChatGLM2

1训练1.1训练参数配置理解训练的输入长度=source的长度+target的长度–pre_seq_len：pre_seq_len的取值范围一般是1到512，它表示自然语言指令的长度，即输入序列中的前pre_seq_len个token，具体的值需要根据自然语言指令的长度和复杂度来确定。一般来说，指令越长越复杂，pre_seq_len就需要越大，以便模型能够充分理解指令的含义。但是，pre_seq_

愚昧之山绝望之谷开悟之坡·2023-11-21 03:08

LLM建模了什么，为什么需要RAG

LLM近期研究是井喷式产出，如此多的文章该处何处下手，他们到底又在介绍些什么、解决什么问题呢？

远洋之帆·2023-11-21 00:19

大模型多跳推理有解啦，北大化繁为简，用30B模型击败百亿模型

这对LLM来说是一个非常大的挑战，要求其能够熟练地将复杂的问题分解成多个子问题，每个子问题的答案还不能出错，最后才能正确回答这个复杂的问题。再加上LLM容易产生幻觉并且无法获得最

夕小瑶·2023-11-20 22:53

恕我直言，大模型对齐可能无法解决安全问题，我们都被表象误导了

在大型语言模型（LLM）的评估中，研究者发现了一个引人注目的现象：当面对多项选择题和开放式问题时，模型的表现存在显著差异。这一差异根源在于模型对复杂概念的理解不够全面，特别是在安全性方面。

夕小瑶·2023-11-20 22:23

中国智能音箱市场销量下降，百度稳居第一 /中国即评出10个大模型创新案例｜魔法半周报

图灵奖得主质疑GPT-4和LLM的推理和规划能力，引发广泛质疑OpenAgents：基于大语言模型的开源智能体框架，助力用户实现自适应界面生成和多领域研究开发《Science》杂志：游戏在人

我有魔法WYMF·2023-11-20 19:39

超详细！大模型面经指南（附答案）

[x]4.大模型LLM的架构介绍？[x]大模型（LLMs）进阶面[x]1.llama输入句子长度理论上可以无限长吗？

人工智能与算法学习·2023-11-20 12:01

大模型推理优化--TensorRT-LLM初体验

TensorRT-LLM初体验千呼万唤始出来，备受期待的Tensorrt-LLM终于发布，发布版本0.5.0。

有来有去9527·2023-11-20 12:22

(八)、基于 LangChain 实现大模型应用程序开发 | 基于知识库的个性化问答 (检索 Retrieval)

当我们访问和查询向量数据库时可能会运用到如下几种技术：1、基本语义相似度(Basicsemanticsimilarity)2、最大边际相关性(Maximummarginalrelevance，MMR)2、过滤元数据3、LLM

#苦行僧·2023-11-20 12:50

大语言模型量化方法对比：GPTQ、GGUF、AWQ

在过去的一年里，大型语言模型(llm)有了飞速的发展，在本文中，我们将探讨几种(量化)的方式，除此以外，还会介绍分片及不同的保存和压缩策略。

deephub·2023-11-20 12:49

推荐频道

LLm

第3期 | GPTSecurity周报

第4期 | GPTSecurity周报

第28期 | GPTSecurity周报

如何快速落地LLM应用？通过Langchain接入千帆SDK

一定要看看的大模型【评测基准】及【评测报告】

NLP实践——LLM生成过程中防止重复循环

可复现的语言大模型推理性能指标

开源语言大模型演进史：向LLaMA 2看齐

OpenAI接口代理设置

开源中文大语言模型整理列表

【NLP】LLM 中 100K 上下文窗口背后的秘密：所有技巧都集中在一处

【NLP】培训LLM的不同方式

StarCoder LLM for code

Anthropic LLM论文阅读笔记

LLM-2022：InstructGPT【GPT3-（问题和答案拼成一段对话，使用这些对话微调GPT3）-＞SFT（监督微调）-（SFT的答案排序后的数据集上再训练）-＞RM-＞RL（强化学习）】

大语言模型（LLM）预训练数据集调研分析

各种LLM数据集包括SFT数据集

LLM字符串题目（一）：给定一个字符串，计算相同字符的最长间距，并输出对应字符，如果不存在相同字 符的则输出-，-1。不能使用 map,set，只能 1 次遍历。

LLM prompt提示构造案例

LLM：prompt指令数据制作

LLM 系列 | 05：ChatGPT Prompt的迭代优化

LLM之Prompt（二）：清华提出Prompt 对齐优化技术BPO

【腾讯云 HAI域探秘】完蛋，我被LLM包围了（基于HAI+ChatGLM-6B+CloudStudio）

一种全新且灵活的 Prompt 对齐优化技术

18LLM4SE革命性技术揭秘：大型语言模型LLM在软件工程SE领域的全景解析与未来展望 - 探索LLM的多维应用、优化策略与软件管理新视角【网安AIGC专题11.15】作者汇报 综述

学习教授LLM逻辑推理11.19

手把手带你在AutoDL上部署ChatGLM3 Web Demo

手把手带你在AutoDL上部署InternLM-Chat-7B Transformers

基于知识问答的上下文学习中的代码风格11.20

Stable Diffusion专场公开课

阅读笔记——《GPTFuzzer : Red Teaming Large Language Models with Auto-Generated Jailbreak Prompts》

大语言模型的三阶段训练

完全背包代码模板

首篇大模型压缩论文综述

大模型压缩首篇综述来啦~~

大模型LLM 在线量化；GPTQ\AWQ量化及推理

大模型应用开发

LangChain 3使用Agent访问Wikipedia和llm-math计算狗的平均年龄

LangChain 4用向量数据库Faiss存储，读取YouTube的视频文本搜索Indexes for information retrieve

LLMs 千面郎君 终极版

大模型LLM相关面试题整理

LLM-3-ChatGLM2

LLM建模了什么，为什么需要RAG

大模型多跳推理有解啦，北大化繁为简，用30B模型击败百亿模型

恕我直言，大模型对齐可能无法解决安全问题，我们都被表象误导了

中国智能音箱市场销量下降，百度稳居第一 /中国即评出10个大模型创新案例 ｜魔法半周报

超详细！大模型面经指南（附答案）

大模型推理优化--TensorRT-LLM初体验

(八)、基于 LangChain 实现大模型应用程序开发 | 基于知识库的个性化问答 (检索 Retrieval)

大语言模型量化方法对比：GPTQ、GGUF、AWQ

LLM字符串题目（一）：给定一个字符串，计算相同字符的最长间距，并输出对应字符，如果不存在相同字符的则输出-，-1。不能使用 map,set，只能 1 次遍历。

18LLM4SE革命性技术揭秘：大型语言模型LLM在软件工程SE领域的全景解析与未来展望 - 探索LLM的多维应用、优化策略与软件管理新视角【网安AIGC专题11.15】作者汇报综述

LLMs 千面郎君终极版

中国智能音箱市场销量下降，百度稳居第一 /中国即评出10个大模型创新案例｜魔法半周报