top-p

逐行讲解大模型解码超参数大全（temperature、top-k、top-p等所有参数）

目录简介宏观概览解码策略实现逻辑常见的解码超参数temperature温度系数top_ktop_prepetition_penalty重复惩罚不常见的解码超参数min_ptypical解码ϵ采样η采样Classifier-FreeGuidance(CFG)序列偏置干预HammingDiversity编码器重复惩罚n-gram重复惩罚编码器n-gram重复惩罚bad_token惩罚最小长度限制最小新
Gaffey大杂烩·2025-03-23 01:56

大模型生成文本控制参数:Top-k Top-p和Temperature(超级易懂,看一眼就学废)

温度（Temperature）作用：就像调节"脑洞大小"的开关。温度调低（比如0.2）：AI会变成保守派，总选最稳妥的回答（适合写说明书、正经文案）温度调高（比如1.0）：AI就变戏精，各种天马行空（适合编故事、写段子）Top-k（候选词数量）作用：每次选词时的"候选名单人数"设小值（比如10）：AI只能在10个最合适的词里挑（回答更靠谱）设大值（比如50）：AI能考虑50个可能的词（回答花样更多
Ven%·2025-03-02 14:13

大模型训练与微调（4）——Top-k 和 Top-p 采样策略介绍

大模型训练与微调（4）——Top-k和Top-p采样策略介绍**一、Top-k采样****1.核心思想****2.数学实现****3.示例****4.特点****二、Top-p（Nucleus）采样**
John_今天务必休息一天·2025-03-01 12:33

AIGC参数设置

根据你的需求，推荐以下参数设定：1.严谨的学术写作（论文、综述、实验报告）Temperature=0.2-0.4（保证生成内容逻辑清晰、可控）Top-P=0.5-0.7（减少随机性，确保内容合理）Top-K
@BreCaspian·2025-02-09 08:09

3个控制LLM生成随机性的语言模型参数

在本文中，我们将重点关注影响语言模型输出的三个基本参数：top-k、top-p和温度。
新缸中之脑·2024-01-16 11:12

如何生成文本: 通过 Transformers 用不同的解码方法生成文本

如何生成文本:通过Transformers用不同的解码方法生成文本假设$p=0.92$，Top-p采样对单词概率进行降序排列并累加，然后选择概率和首次超过$p=92%$的单词集作为采样池，定义为$V_{
vitaminYZZ·2024-01-13 21:07

【AIGC】大语言模型的采样策略--temperature、top-k、top-p等

总结如下：图片链接参考LLM解码-采样策略串讲LLM大模型解码生成方式总结LLM探索：GPT类模型的几个常用参数Top-k,Top-p,Temperature
Code_LT·2023-12-16 02:14

用好语言模型：temperature、top-p等核心参数解析

本文将介绍几个关键参数，帮助读者更好地理解和运用temperature、top-p、top-k、frequencypenalty和presencepenalty等常见参数，以优化语言模型的生成效果。
Baihai IDP·2023-11-28 09:22

linux系统查看某个进程使用的内存情况

前言 linux系统查看进程内存情况的方法多种多样,下面介绍三种常用方法：第一种方法，top命令通过指令top-p进程PID查看，进程Pid可通过指令：ps-ef|grep获取举例：查看进程ChargingPile
五彩缤纷的代码世界·2023-11-26 00:07

LINUX查看进程在哪个cpu核上运行的方法

使用步骤：top-p[进程号]，例如top-p3000按下"F"键，使用上下键选择P=LastUsedCpu，并按下空格键，出现“*”即代表选中，再按“q"退出。
风儿你慢慢吹·2023-11-22 04:22

tomcat 故障/假死排查思路（未完）

top-p可以查出某个进程的资源占用情况。通过top查看某个进程中的所有线程占用情况top-pH
charlven·2023-10-31 04:17

top 2.0版本，命令行选项

3秒top-c#列出所有进程的详细执行命令top-n次数#设置记录的次数，如果不设置则默认无限次top-b>logfile#将结果输出到文件中，配置-n使用最佳top-u用户#只显示特定用户的进程信息top-p
有谁看见我的剑了？·2023-10-03 10:03

JVM调优常用命令

进程号>D:/log.txt查看内存信息、实例个数及占用内存大小，也可以不要后面的路径在控制台展示jamp-heap进程号查看进程的堆内存3、top(linux中使用)top查看系统中占用CPU较高的进程top-p
骑士999111·2023-09-21 14:54

Java进程CPU100%打满分析

CPU分析1.使用top-p命令（为Java进程的id号）查看Java进程的cpu占用：top-p29595查
·2023-09-18 16:21

碎片笔记｜可训练&非自回归解码策略

（本文初稿写于2023年3月16日）常规的解码策略一般指自回归式解码策略，主要包括：贪婪搜索、集束搜索、top-k以及top-p采样，其主要思想是参照已生成的信息逐个生成文本，由于不是本文重点，这里不展开介绍
_Meilinger_·2023-09-03 03:11

Truncation Sampling as Language Model Desmoothing

截断采样算法（如top-p或top-k）通过在每一步将一些单词的概率设置为零来解决这一问题。这项工作为截断的目的提供了框架，
UnknownBody·2023-08-31 21:55

JAVA-CPU飙高问题排查

排查思路：先定位到进程中的线程，然后使用jstack查看线程的信息1.使用top命令查看占用CPU高的进程2.使用top-p单独查看进程，pid为进程ID按H（大写），获取每个线程的情况3.使用jstack
橙子寒·2023-07-26 01:26

Java内存溢出排查步骤

怎么排查内存溢出第一步：使用top-P命令查看cpu占用最高的进程。第二步：使用top-Hp17038命令查看进程中占用cpu最高的线
骆驼整理说·2023-07-21 18:45

inux查看某个进程内存占用情况以及/proc/pid/status解释

以nginx为例1.toptop-b-n1|grepnginx|awk‘{print“VIRT:”$5,“RES:”$6,“cpu:”$9"%“,“mem:”$10”%"}’或者简单的top-p进程id.psaux
豆豆plus·2023-06-09 14:58

常见的JVM进程问题排查

对于JVM服务可能出现的问题，一般依次排查顺序为：1.机器问题top-p${pid}内存和cpu使用情况top-H-p${pid}查看线程情况2.jvm内存jmap-heap${pid}查看系统的堆的情况
lgcgkCQ·2023-04-14 23:12

轻松玩转开源大语言模型bloom（三）

前言2023/03/31修改，增加top-p，删掉多余的话，本不打算继续这个系列，但语言生成策略是个通用的东西，还是写完整吧。
XINFINFZ·2023-04-04 12:53

Linux命令记录

查看系统版本cat/etc/redhat-release查看内核版本cat/proc/version或者uname-a获取局域网内所有ip和macarp-a监控系统的运行状态，按照CPU以及内存进行排序top-p
balabala19·2023-03-11 15:31

linux 实时查看一个 python 进程有几个线程

很简单，首先使用ps命令获取进程的pid然后使用top命令监控top-p{pid},然后进去后，按shift+h，就能看到了实战先用ps命令获取对应进程的pid╰─➤psjfax|grepglance2805339281131428113142805339pts
·2023-02-03 18:35

浅谈文本生成或者文本翻译解码策略《转》

文本生成和翻译的基本流程翻译类模型的训练和解码训练过程解码过程生成类模型的训练和解码(GPT系列)训练过程解码过程二、解码策略1、贪心搜索(greedysearch)2、beam_search集束搜索3、随机sampling4、Top-KSampling和Top-p
Hollyprince·2022-12-09 16:56

浅谈文本生成或者文本翻译解码策略

文本生成和翻译的基本流程翻译类模型的训练和解码训练过程解码过程生成类模型的训练和解码(GPT系列)训练过程解码过程二、解码策略1、贪心搜索(greedysearch)2、beam_search集束搜索3、随机sampling4、Top-KSampling和Top-p
colourmind·2022-09-21 17:35

华为云的linux系统ubuntu r运行是突然被killed 是不是因为内存不足的原因

free-h如果想查看某个进程的内存使用情况,使用top命令以下为查看进程名为rviz状态命令top-p`pidofrviz`1注意`pidofrviz`1为查看进程rvi
YoungLeeyou·2022-09-05 18:05

redis复制有可能碰到的问题汇总

在创建redis复制是，一开始可能会发现slave长时间不开始同步数据，可能数据量太大，导致了master在dump数据慢，此时可以在master上执行top-p${pgrep-d,redis-sever
·2022-04-03 11:09

jstack找出占用cpu最高的堆栈信息

1，使用命令top-p，显示你的java进程的内存情况，pid是你的java进程号，比如49772，按H，获取每个线程的内存情况3，找到内存和cpu占用最高的线程tid，比如49774，转为十六进制得到
Du___·2022-02-12 11:32

教你一招！Linux下排查进程占用cpu高的问题

这个非常简单，一条命令搞定，top-p进程pid，这样就可以：这样就可以持续的观察你的程序的cpu占用
CodeCooker·2020-10-21 14:39

记一次CPU飙升的问题分析解决思路(转)

二．现象监控告警，某机器的CPU飙升到100%三．分析第一步，通过以下指令找到CPU高的进程号top-p`pgrep-d,java`第二步，通过以下指令找到CPU高的线程号top-Hp进程号第三步，通过以下指令把线程号转换成
weixin_30780221·2020-09-16 12:17

前端所涉及到的网络知识

top-P按%CPU使用率排行，根据CPU使用百分比的的大小进行排序-T切换显示进程和CPU状态信息-M按进程占CPU小大进行排序1.Http请求报文第一部分请求行：请求方法|空格|
a5372·2020-09-15 13:01

找到占用cpu最高的线程

1，使用命令top-p，显示你的java进程的内存情况，pid是你的java进程号，比如1232，按H，获取每个线程的内存情况3，找到内存和cpu占用最高的线程pid，比如152484，执行printf0x
shizhan1881·2020-09-12 17:42

MongoDB与内存（转）

据说带着问题学习更有效，那就先看一个MongoDB服务器的top命令结果：shell>top-p$(pidofmongod)Mem:32872124ktot
weixin_30435261·2020-08-24 10:21

MongoDB内存使用原理

据说带着问题学习更有效，那就先看一个MongoDB服务器的top命令结果：shell>top-p$(pidofmongod)
mituan1234567·2020-08-24 09:48

mongodb 内存

MongoDB与内存转载：http://huoding.com/2011/08/19/107MongoDB服务器的top命令结果：shell>top-p$(pidofmongod)Mem:32872124ktotal
lykke2012·2020-08-24 09:14

mongodb 对内存的严重占用以及解决方法

先看一个MongoDB服务器的top命令结果shell>top-p$(pidofmongod)Mem:32872124k
weixin_33852020·2020-08-24 07:41

JVM从入门到精通

查看JVM常用命令查看GC信息jstat-gcutil1000jstat-gc1000java和jvm的配置信息jinfocpu使用率top-p课程结构尚硅谷_宋红康_JVM从入门到精通:https:/
紫蝶侠·2020-08-17 21:58

java项目CPU占用过大问题排查

本文参考：https://blog.csdn.net/green1893/article/details/72357032获取CPU占用高的进程：top获取CPU占用高的线程：top-p[进程号]-H查看线程的具体信息分析原因
zzw1531439090·2020-08-15 21:49

tomcat 故障/假死排查思路（未完）

top-p可以查出
Charlven·2020-08-14 15:11

MongoDB内存配置 --wiredTigerCacheSizeGB

用top命令查看系统占用内存的情况top-p$(pidofmongod)，发现mongod占用了8G内存的35.6%。在服务器上运行两个mongod进程，很容易导致mongod异常退出。
Sumtoo·2020-08-03 13:33

JAVA 别再问为什么CPU占用率100%

排查步骤1.查看服务PIDjps服务kg_deep_tuple_extraction.jar是我们的服务，PID为316602.使用top-p查看资源情况top-p316
萌萌哒二狗子·2020-08-01 12:57

Program terminated with signal SIGKILL,Killed 问题解决方法

百度一番，有说是程序内存占用过多导致的，通过top-p进程pid的方法进行检测，发现程序内存占用很低，只能是其他原因了。最后搜到工具audit可以监控程序被kill的原因，执行命令如下。
Rain_Void·2020-07-31 21:42

结合top和jstack找出占用cpu最高的堆栈信息

转载自：http://blog.csdn.net/u013593306/article/details/524686511，使用命令top-p，显示你的Java进程的内存情况，pid是你的java进程号
phoebe_IT·2020-07-15 01:34

linux命令之谈

ps查询某个进程是否存活啥的lsof查询网络连接啥的服务与服务连接是否在top系统资源消耗top-p查看某个服务资源消耗dstat查看机器流量进出gcc编译c语言g++编译c/c++nohup后台启动nc
huosiren44·2020-07-11 08:12

linux常用内存分析命令整理

查看程序占用内存信息命令说明ps-aux|grep进程名VSZ：占用的虚拟内存RSS：占用的物理内存top-p进程号VIRT：总内存占用，VIRT=RES+SWAPRES：占用的物理内存cat/proc
donggu99·2020-07-11 05:33

Linux JVM调优 实践

Java内存泄漏排查或者JVM内存调优1）通过jps查看当前系统运行的java进程的ID或者通过ps-ef|grep“指定服务名，例如tomcat等”（2）通过使用top-p[pid]的命令来查看指定进程占用系统资源的情况
你的地盘我做主·2020-07-08 18:04

Linux下查看某一个程序运行所占用的内存

第一种方式top-p进程号[yzy@node3micro-service]$top-p20490top-16:50:32up6days,2:18,1user,loadaverage:0.00,0.01,0.05Tasks
Lovnx·2020-07-05 10:34

linux下查看线程数的几种方法

1、cat/proc/${pid}/status2、pstree-p${pid}3、top-p${pid}再按H或者直接输入top-bH-d3-p${pid}top-H手册中说：-H:Threadstoggle
iteye_11910·2020-07-02 04:37

一篇超实用的服务异常处理指南

查看机器cpu的负载top -b-n1|grepjava|awk'{print "VIRT:"$5,"RES:"$6,"cpu:"$9"%","mem:"$10"%"}'2.2查找cpu占用率高的线程top-p
民工哥·2020-04-11 16:56

Linux下查看进程线程数的方法

1，top-H-p${pid}或者top-p${pid}然后shit+Htop-H-p4705top-14:43:48up180days,22:12,1user,loadaverage:0.19,0.14,0.14Threads
rich_linn·2020-03-08 17:56
上一页 1 2 3 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他