幽径微澜
幽径微澜

第五节课 LMDeploy 大模型量化部署实践（笔记）

来源：(5)LMDeploy 大模型量化部署实践_哔哩哔哩_bilibili

课程文档：https://github.com/InternLM/tutorial/blob/main/lmdeploy/lmdeploy.md

第五节课 LMDeploy 大模型量化部署实践（笔记）_第1张图片

1.大模型部署背景

（1）模型部署

定义

  • 将训练好的模型在特定软硬件环境中启动的过程，使模型能够接收输入并返回预测结果
  • 为了满足性能和效率的要求，常常对需要对模型进行优化，例如模型压缩和硬件加速

产品形态

  • 云端、边缘计算端、移动端

计算设备

  • CPU、GPU、NPU、TPU等

（2）大模型特点

内存开销巨大

  • 庞大的参数量。7B模型仅权重就需要14+G内存
  • 采用自回归生成token，需要缓存Attention的k/v，带来巨大的内存开销

动态shape

  • 请求数不固定
  • Token逐个生成，且数量不定

相对视觉模型，LLM结构简单

  • Transformers结构，大部分使decoder-only 

（3）大模型部署挑战

设备

  • 如何应对巨大的存储问题？低存储设备（消费级显卡、手机等）如何部署？

推理

  • 如何加速token的生成速度
  • 如何解决动态shape，让推理可以不间断
  • 如何有效管理和利用内存

服务

  • 如何提升系统整体吞吐量？
  • 对于个体用户，如何降低响应时间？

（4）大模型部署方案

技术点

  • 模型并行
  • 低比特量化
  • Page Attention
  • transformer计算和访存优化
  • Continuous Batch
  • ...

方案

  • huggingface transformers
  • 专门的推理加速框架

云端

  • Imdeploy
  • vllm
  • tensorrt-llm
  • deepspeed
  • ...

移动端

  • llama.cpp
  • mlc-llm
  • ...

2.LMDeploy简介

使LLM在英伟达设备上部署的全流程解决方案。包括轻量化、推理和服务。

第五节课 LMDeploy 大模型量化部署实践（笔记）_第2张图片

推理性能

（1）静态推理性能

固定batch，输入/输出token数量

第五节课 LMDeploy 大模型量化部署实践（笔记）_第3张图片

（2）动态推理性能

真实对话，不定长的输入/输出

第五节课 LMDeploy 大模型量化部署实践（笔记）_第4张图片

核心功能-量化

（1）为什么要做量化？

第五节课 LMDeploy 大模型量化部署实践（笔记）_第5张图片

（2）为什么要做Weight Only的量化？

两个基本概念
  • 计算密集：推理的绝大部分时间消耗在数值计算上；针对计算密集场景，可以通过使用更快的硬件计算单元来提升计算速度。
  • 访存密集：推理时，绝大部分时间小号在数据读取上；针对访存密集型场景，一般通过提高计算访存比来提升性能。
Weight Only量化一举多得
  • 4bit Weight Only量化，将FP16的模型权重量化为INT4，访存量直接将为FP16模型的1/4，大幅降低了访存成本，提高了Decoding的速度。
  • 加速的同时还节省了显存，同样的设备能够支持更大的模型及更长的对话长度。
LLM是典型的访存密集型任务

第五节课 LMDeploy 大模型量化部署实践（笔记）_第6张图片

（3）如何做Weight Only的量化？

  • LMDeploy使用MIT HAN LAB开源的AWQ算法，量化为4bit模型
  • 推理时，先把4bit权重，反量化回FP16（在Kernel内部进行，从G咯罢了Memory读取时仍是4bit），依旧使用的时FP16计算
  • 相较于社区使用比较多的GPTQ算法，AWQ的推理速度更快，量化的时间更短

第五节课 LMDeploy 大模型量化部署实践（笔记）_第7张图片

第五节课 LMDeploy 大模型量化部署实践（笔记）_第8张图片

核心功能-推理引擎TurboMind

第五节课 LMDeploy 大模型量化部署实践（笔记）_第9张图片

持续批处理

请求队列
  • 推理请求首先先加入到请求队列中

 Persistent线程

  1. 若batch中有空闲槽位，从队列拉取请求，尽量填满空闲槽位。若无，继续对当前batch中的请求进行forward。
  2. Batch每forward完一次。
  3. 转步骤1。

第五节课 LMDeploy 大模型量化部署实践（笔记）_第10张图片

有状态的推理

第五节课 LMDeploy 大模型量化部署实践（笔记）_第11张图片

Blocked k/v cache

支持Paged Attention、支撑有状态推理。

第五节课 LMDeploy 大模型量化部署实践（笔记）_第12张图片

block状态

  • Free未被任何序列占用
  • Activate被正在推理的序列占用
  • Cache被缓存中的序列占用

block状态迁移

第五节课 LMDeploy 大模型量化部署实践（笔记）_第13张图片

高性能的cuda kernel

第五节课 LMDeploy 大模型量化部署实践（笔记）_第14张图片

核心功能-推理服务 api server

第五节课 LMDeploy 大模型量化部署实践（笔记）_第15张图片

你可能感兴趣的:(书生·浦语大模型实战营（笔记,笔记,python)

  • 【DevOps】Backstage介绍及如何在Azure Kubernetes Service上进行部署 小涵 Azure云企业实践分享devopsazurekubernetes容器dockerbackstage
    【DevOps】Backstage介绍及如何在AzureKubernetesService上进行部署推荐超级课程：本地离线DeepSeekAI方案部署实战教程【完全版】Docker快速入门到精通Kubernetes入门到大师通关课AWS云服务快速入门实战目录【DevOps】Backstage介绍及如何在AzureKubernetesService上进行部署Backstage介绍在AKS上部署Bac
  • 构建我们的Python代码库依赖图 openwin_top python编程示例系列二python开发语言
    构建我们的Python代码库依赖图作者：GeorgeFarcasiu,NoahKim,JaconBrugh,JiahaoLi,HudsonRiverTrading引言与我们在高频交易的根基保持一致，HudsonRiverTrading（HRT）行动迅速。与任何工程指标一样，速度有其权衡。在过去的五年中，由于一种通常更重视“足够好”而非“完美”的工程文化，一个鼓励团队间代码共享的协作工作环境，以及一
  • python 重构 Python 代码 隔壁小红馆 pythoncpythonpython面试pythoncpython
    将for循环转换为list/dictionary/set表达式我们在时经常遇到的一个情况是，创建一个值的集合。比如我们创建一个列表，然后迭代地用值填充它，这里我们想创建一个立方数字的列表。大多数语言的标准方法如下：cubes=[]foriinrange(20):cubes.append(i**3)在Python中，我们可以使用列表表达式，生成需要的数据。就可以将代码简化为一行，省去定义列表，然后再
  • python代码重构技巧_Python代码重构指南，老师Bryan Beecham完结 weixin_39916479 python代码重构技巧
    本套课程由BryanBeecham，全球知名敏捷开发教练主讲的：Python代码重构指南。重构是软件改进的核心，它使软件拥有更好的结构和性能，也使代码更易于理解、修改和扩展。尽管重构并不是新事物，但是软件开发人员仍然会苦恼于如何正确地进行重构。随着敏捷运动的发展，DevOps之类的概念不断追求高质量和精心设计的代码，以实现更快的部署和反馈。不过，现有的很多关于重构的教程都基于Java语言，关于Py
  • python读取excel数字数据是object类型_Python使用反射实现Excel与对象之间的转换 weixin_39638859
    Python使用反射实现Excel与对象之间的转换代码在最下方，伸手党直接滚动到最后场景需要从Excel中加载到内存中，转换为class对象执行操作环境Python3.8openpyxl==3.0.5前置知识反射(仅介绍这个帮助类用到的几个反射方法)setattr、getattrclassPerson():name=Nonedef__init__(self,name):self.name=name
  • python语言对代码的块结构不敏感_浅谈python（二）--python代码规范 初夏之菡
    对于每一门语言来说，都有自己的编码规则，编程时是不可以违背这些准则的，一旦不遵守这个准则，程序就会报错无法执行，本节将介绍下python的一些编码规则。1、代码缩进与冒号首先介绍下代码缩进有什么用处，代码缩进是指通过在一行代码的前输入若干空格或者制表符来表示行与行之间的层次关系，每一种编程语言一般都需要代码缩进进行规范程序代码的层次结构，让代码清晰易于解读。对于其它的语言来说，代码缩进作为一种良好
  • Python编码系列—Python代码重构：提升代码质量 学步_技术 Python编码python重构开发语言
    欢迎来到我的技术小筑，一个专为技术探索者打造的交流空间。在这里，我们不仅分享代码的智慧，还探讨技术的深度与广度。无论您是资深开发者还是技术新手，这里都有一片属于您的天空。让我们在知识的海洋中一起航行，共同成长，探索技术的无限可能。探索专栏：学步_技术的首页——持续学习，不断进步，让学习成为我们共同的习惯，让总结成为我们前进的动力。技术导航：人工智能：深入探讨人工智能领域核心技术。自动驾驶：分享自动
  • Spring Boot 多级缓存实战：基于 Redis+Redisson 构建高并发解决方案 Isaac_Gao 缓存springbootredis
    SpringBoot多级缓存实战：基于Redis+Redisson构建高并发解决方案本文适合人群：中高级Java开发工程师、系统架构师、对高并发场景优化感兴趣的技术人员一、为什么需要多级缓存？在百万级并发的电商系统中，我们曾遇到这样的性能瓶颈：本地缓存导致各节点数据不一致单纯依赖Redis造成带宽瓶颈缓存雪崩导致DB被打挂多级缓存架构通过结合本地缓存与分布式缓存的优势，实现了：热点数据纳秒级访问分
  • 【python】函数重构 划过手的泪滴t python每日一练云计算运维python重构服务器开发语言每日一练运维
    函数重构函数重构pycharm函数重构步骤函数重构练习函数重构函数重构是指对现有函数进行修改和优化的过程。重构的目的是改善代码的可读性、可维护性和灵活性，同时保持其功能不变。函数重构通常包括以下步骤：理解函数的功能和目的。了解函数的作用和期望结果，确定重构的目标。检查函数的代码质量。查看函数的代码是否清晰、简洁、可读，有无可改进之处。提取重复的代码。如果函数中有重复的代码块，可以将其提取为单独的函
  • Python入门实战：Python的代码重构 AI智能涌现深度研究 DeepSeekR1&大数据AI人工智能大数据人工智能语言模型AILLMJavaPython架构设计
    1.背景介绍Python是一种基于社区发展、易用性、生态系统完善、可扩展性强、性能卓越等特点的高级编程语言。作为一门解释型语言，它具有高效率、简洁语法、丰富的库函数、跨平台能力和多种开发范式等优点。但随着项目不断迭代更新，代码量逐渐增加，导致代码结构混乱、缺乏模块化设计、重复逻辑过多、命名不规范等问题。如何有效地组织、管理和维护代码、提升代码质量、更好地实现功能，是一个技术人的日常工作。如何进行代
  • DeepSeek-R1模型1.5b、7b、8b、14b、32b、70b和671b有啥区别？ facaixxx2024 AI大模型人工智能算法深度学习
    deepseek-r1的1.5b、7b、8b、14b、32b、70b和671b有啥区别？码笔记mabiji.com分享：1.5B、7B、8B、14B、32B、70B是蒸馏后的小模型，671B是基础大模型，它们的区别主要体现在参数规模、模型容量、性能表现、准确性、训练成本、推理成本和不同使用场景：deepseek-r1的1.5b、7b、8b、14b、32b、70b和671b参数规模参数规模的区别，模
  • python提取excel数据批量生成固定格式的word文件的问题 鱼弦 【HOT】技术热谈excelword
    鱼弦：公众号【红尘灯塔】，CSDN博客专家、内容合伙人、新星导师、全栈领域优质创作者、51CTO(Top红人+专家博主)、github开源爱好者（go-zero源码二次开发、游戏后端架构https://github.com/Peakchen）使用Python从Excel中提取数据并生成固定格式的Word文档1.介绍本项目旨在介绍如何使用Python从Excel中提取数据并生成固定格式的Word文档
  • python 使用microsoft-Florence-2-base进行图片描述生成 哦里 哦里哦里给 AI大语言模型实战pythonmicrosoft开发语言
    目录一、Florence-2简介二、代码实践三、多语言模型一、Florence-2简介Florence-2是一个先进的视觉基础模型，采用基于提示（prompt）的方式，处理广泛的视觉和视觉-语言任务。Florence-2能够解析简单的文本提示，执行如图像描述、物体检测和分割等任务。该模型利用FLD-5B数据集，该数据集包含54亿个注释，涵盖1.26亿张图像，用于掌握多任务学习。模型的序列到序列架构
  • 从0到1构建AI深度学习视频分析系统--基于YOLO 目标检测的动作序列检查系统：（2）消息队列与消息中间件 shiter 人工智能系统解决方案与技术架构人工智能深度学习音视频
    文章大纲原始视频队列Python内存视频缓存优化方案（4GB以内）一、核心参数设计二、内存管理实现三、性能优化策略四、内存占用验证五、高级优化技巧六、部署建议检测结果队列YOLO检测结果队列技术方案一、技术选型矩阵二、核心实现代码三、性能优化策略四、可视化方案对比五、部署建议逻辑判定队列时间片图论时间序列大模型引入参考文献原始视频队列想要在单机内存中缓存1-5分钟的视频片段，python技术栈的话
  • python openai 网络连接报错 哦里 哦里哦里给 AI大语言模型实战pythonai
    目录一、问题:网络连接报错二、解决办法一、问题:网络连接报错File"/opt/anaconda3/envs/openaitest/lib/python3.8/site-packages/openai/_base_client.py",line1024,in_requestraiseAPIConnectionError(request=request)fromerroropenai.APIConn
  • 【人工智能】Model Context Protocol (MCP) 是一个开放协议，标准化了应用程序向大型语言模型（LLMs）提供上下文的方式 本本本添哥 013-AIGC人工智能大模型人工智能语言模型php
    一、ModelContextProtocol(MCP)概述MCP，ModelContextProtocolMCP，是一个开放协议。MCP，标准化了应用程序向大型语言模型（LLMs）提供上下文的方式。‌MCP，旨在标准化应用程序如何为大型语言模型（LLM）提供上下文信息。MCP，提供了一个标准的接口，使得LLM可以无缝集成各种外部数据源和工具，从而扩展其能力和应用场景。二、MCP的定义和作用MCP定
  • Python--操作系统进行交互 【OS库】 ~请叫我小祸害~ python开发语言
    在Python中，os是一个内置的标准库，用于与操作系统进行交互。它提供了许多函数和方法，用于执行与操作系统相关的任务，例如文件类操作和目录操作、进程管理、环境变量访问等。接下来我给大家列举一下比较常用的文件操作方法：代码示例⬇⬇⬇⬇⬇⬇⬇：1、os.getcwd():返回当前工作目录的路径。importos#返回当前工作目录current_dir=os.getcwd()print("当前工作目录
  • 10 个极其有用的 Python 自动化脚本 python
    在现代职场中，重复性和耗时的任务常常占据大量时间，影响工作效率。Python作为一种高效、易用的编程语言，提供了丰富的库和工具，能够帮助打工人自动化处理日常任务，提升工作效率。以下是十个必备的Python自动化脚本：一、文件批量重命名脚本在日常工作中，可能需要对大量文件进行重命名操作。手动操作既耗时又容易出错。使用Python脚本，可以实现文件的批量重命名，提高效率。importosdefbatc
  • python内存泄露 weixin_39810989 内存泄漏pythonmalloc
    定位工具及使用1.tracemalloc可以通过创建快照的方式记录当前的内存占用情况。从而可以比较快照与快照之间的内存占用差异。可以获取内存块的回溯，定位到内存占用最多的文件和代码行。osgeo.cn/cpython/library/tracemalloc.html2.pympler可以创建快照（summaries）进行内存块占用对比frompympler.classtrackerimportCl
  • python selenium 点击按钮_Python Selenium等待用户单击按钮 Shu Wang pythonselenium点击按钮
    语境：>我的脚本使用seleniumwebdriver启动到网站>用户填写网站上的一些东西>用户将点击一个按钮,弹出确认()dialogbox询问用户“你想提交数据吗”我的本意：我的脚本会等到用户点击按钮.一旦检测到用户点击了该按钮,我的脚本就会获得一个元素的值,然后(不知何故)在dialogbox上单击OK.题：如何等待用户点击按钮？然后如何在dialogbox上单击“确定”？补充说明：使用：c
  • python:内存泄漏测试 weixin_34163741 python
    #测试内存泄露#importgc#gc.enable()#gc.set_debug(gc.DEBUG_LEAK)#gc.collect()#start=len(gc.garbage)#printaDict[CMD]self._funcmap[aDict[CMD]](aCur,self,aDict)#gc.collect()#end=len(gc.garbage)#ifstart!=end:#pri
  • 从零开始大模型开发与微调：PyCharm的下载与安装 AI天才研究院 AI大模型企业级应用开发实战AI大模型应用入门实战与进阶DeepSeekR1&大数据AI人工智能大模型计算科学神经计算深度学习神经网络大数据人工智能大型语言模型AIAGILLMJavaPython架构设计AgentRPA
    从零开始大模型开发与微调：PyCharm的下载与安装1.背景介绍随着人工智能和深度学习技术的不断发展,大型语言模型(LargeLanguageModels,LLMs)已经成为当前最引人注目的研究热点之一。LLMs能够在各种自然语言处理任务上展现出惊人的性能,例如机器翻译、文本生成、问答系统等。PyTorch和TensorFlow等深度学习框架为训练和微调大型语言模型提供了强大的支持。PyCharm
  • 第十二届蓝桥杯真题Python组 卡片 阿于阿于 蓝桥杯模拟/真题
    卡片本题总分：5分【问题描述】小蓝有很多数字卡片，每张卡片上都是数字0到9小蓝准备用这些卡片来拼一些数，他想从1开始拼出正整数，每拼一个，就保存起来，卡片就不能用来拼其它数了。小蓝想知道自己能从1拼到多少。例如，当小蓝有30张卡片，其中0到9各3张，则小蓝可以拼出1到10,但是拼11时卡片1已经只有一张了，不够拼出11现在小蓝手里有0到9的卡片各2021张，共20210张，请问小蓝可以从1拼到多少
  • A survey on instance segmentation: state of the art——论文笔记 栀子清茶 1024程序员节论文阅读计算机视觉人工智能笔记学习
    摘要这篇论文综述了实例分割的研究进展，定义其为同时解决对象检测和语义分割的问题。论文讨论了实例分割的背景、面临的挑战、技术演变、常用数据集，并总结了相关领域的最新成果和未来研究方向。实例分割的发展从粗略的对象分类逐步演变为更精细的像素级别推理，广泛应用于自动驾驶、机器人等领域。论文为研究人员提供了对实例分割领域的全面了解和有价值的参考。一、简介第一部分“简介”主要介绍了实例分割的背景、定义和挑战。
  • 金融时间序列分析（Yahoo Finance API实战） 闲人编程 Python数据分析实战精要金融yfinance时间序列波动率数据归一化数据分析Dash
    这里写目录标题金融时间序列分析（YahooFinanceAPI实战）1.引言2.项目背景与意义3.数据集介绍4.GPU加速在数据处理中的应用5.交互式GUI设计与加速处理6.系统整体架构7.数学公式与指标计算8.完整代码实现9.代码自查与BUG排查10.总结与展望金融时间序列分析（YahooFinanceAPI实战）1.引言在当今金融市场中，时间序列数据分析是理解股票、指数以及其他金融产品走势的重
  • 系分 02 软件工程 一越王超 软考系统分析师软件工程
    软件工程本身涵盖内容很广，从系统规划到分析……到维护都属于软件工程，但是我们将会在其他章节讨论相关内容，本节我们主要内容如下：系统规划软件工程信息系统生命周期（★）软件开发模型（★★★★）逆向工程（★★）净室软件工程（★）需求工程系统设计系统测试与维护基础知识软件工程是指应用计算机科学、数学及管理科学等原理，以工程化的原则和方法来解决软件问题的工程，其目的是提高软件生产率、提高软件质量、减低软件成
  • Python第二十三课：自监督学习 | 无标注数据的觉醒 程之编 Python全栈通关秘籍python开发语言人工智能机器学习
    本节目标理解自监督学习的核心范式与优势掌握对比学习（ContrastiveLearning）框架实现图像掩码自编码器（MaskedAutoencoder）开发实战项目：亿级参数模型轻量化探索数据增强的创造性艺术一、自监督学习基础（AI的拼图游戏）1.核心思想解析学习范式数据需求生活比喻监督学习海量标注数据老师逐题批改作业无监督学习纯无标签数据自学杂乱笔记自监督学习自动生成伪标签玩拼图游戏（根据碎片
  • 【从零开始学习计算机科学】软件工程（五）软件设计 贫苦游商 学习软件工程软件开发软件设计敏捷开发极限编程软件需求
    【从零开始学习计算机科学】软件工程（五）软件设计软件设计概述良好的设计具有三大特性设计主要包含的方面设计中的一些概念设计的方法与策略体系结构设计体系结构设计的基本问题：体系结构的设计模式体系结构设计的过程构建级设计面向对象构件设计用户接口设计用户接口设计原则：用户接口分析的目标：设计的评审软件设计概述软件的分析偏重于问题域，描述软件要做什么，而设计则偏重于解决方案，描述软件究竟要如何做。设计创建了
  • 简单工厂模式、工厂方法模式、抽象工厂模式 对比学习笔记 idgoodbye 简单工厂模式工厂方法模式抽象工厂模式
    工厂模式架构设计原则开闭原则：是指一个软件实体（如类、模块和函数）应该对扩展开放，对修改关闭。依赖倒置原则：是指设计代码结构时，高层模块不应该依赖低层模块，二者都应该依赖其抽象。抽象不应该依赖细节，细节应该依赖抽象。单一职责：是指一个类只负责一个主要任务，避免因一个类负责两个以上任务时，修改其中一个任务代码导致另一个任务代码受到连带影响。接口隔离原则：是指用多个专门的接口，而不使用单一的总接口，客
  • 【从零开始学习计算机科学】软件工程（一）软件工程中的过程模型 贫苦游商 学习软件工程过程模型瀑布模型敏捷开发极限编程V模型
    【从零开始学习计算机科学】软件工程（一）软件工程中的过程模型软件与软件工程软件工程具有以下核心要素软件工程中的过程模型惯用过程模型瀑布模型V模型增量过程模型演化过程模型原型模型螺旋模型协同开发模型喷泉模型专用过程模型构件组装模型统一过程模型（RUP）统一过程模型的起源与发展面向对象UMLRUP有9个工作流：敏捷模型敏捷开发的立场极限编程工业级极限编程（IXP）ScrumScrum中有三种角色：Sc
  • html页面js获取参数值 0624chenhong html
    1.js获取参数值js function GetQueryString(name) {      var reg = new RegExp("(^|&)"+ name +"=([^&]*)(&|$)");      var r = windo
  • MongoDB 在多线程高并发下的问题 BigCat2013 mongodbDB高并发重复数据
    最近项目用到 MongoDB , 主要是一些读取数据及改状态位的操作. 因为是结合了最近流行的 Storm进行大数据的分析处理，并将分析结果插入Vertica数据库，所以在多线程高并发的情境下, 会发现 Vertica 数据库中有部分重复的数据. 这到底是什么原因导致的呢？笔者开始也是一筹莫 展，重复去看 MongoDB 的 API , 终于有了新发现 ： com.mongodb.DB 这个类有
  • c++ 用类模版实现链表(c++语言程序设计第四版示例代码) CrazyMizzz 数据结构C++
    #include<iostream> #include<cassert> using namespace std; template<class T> class Node { private: Node<T> * next; public: T data;
  • 最近情况 麦田的设计者 感慨考试生活
       在五月黄梅天的岁月里，一年两次的软考又要开始了。到目前为止，我已经考了多达三次的软考，最后的结果就是通过了初级考试（程序员）。人啊，就是不满足，考了初级就希望考中级，于是，这学期我就报考了中级，明天就要考试。感觉机会不大，期待奇迹发生吧。这个学期忙于练车，写项目，反正最后是一团糟。后天还要考试科目二。这个星期真的是很艰难的一周，希望能快点度过。   
  • linux系统中用pkill踢出在线登录用户 被触发 linux
    由于linux服务器允许多用户登录，公司很多人知道密码，工作造成一定的障碍所以需要有时踢出指定的用户 1/#who   查出当前有那些终端登录（用 w 命令更详细） # who root     pts/0        2010-10-28 09:36 (192
  • 仿QQ聊天第二版 肆无忌惮_ qq
    在第一版之上的改进内容:  第一版链接: http://479001499.iteye.com/admin/blogs/2100893   用map存起来号码对应的聊天窗口对象,解决私聊的时候所有消息发到一个窗口的问题. 增加ViewInfo类,这个是信息预览的窗口,如果是自己的信息,则可以进行编辑.   信息修改后上传至服务器再告诉所有用户,自己的窗口
  • java读取配置文件 知了ing
    1，java读取.properties配置文件 InputStream in; try { in = test.class.getClassLoader().getResourceAsStream("config/ipnetOracle.properties");//配置文件的路径 Properties p = new Properties()
  • __attribute__ 你知多少？ 矮蛋蛋 C++gcc
    原文地址: http://www.cnblogs.com/astwish/p/3460618.html GNU C 的一大特色就是__attribute__ 机制。__attribute__ 可以设置函数属性（Function Attribute ）、变量属性（Variable Attribute ）和类型属性（Type Attribute ）。 __attribute__ 书写特征是：
  • jsoup使用笔记 alleni123 java爬虫JSoup
    <dependency> <groupId>org.jsoup</groupId> <artifactId>jsoup</artifactId> <version>1.7.3</version> </dependency> 2014/08/28 今天遇到这种形式，
  • JAVA中的集合 Collectio 和Map的简单使用及方法 百合不是茶 listmapset
             List ,set ,map的使用方法和区别 java容器类类库的用途是保存对象，并将其分为两个概念：     Collection集合：一个独立的序列，这些序列都服从一条或多条规则;List必须按顺序保存元素  ，set不能重复元素；Queue按照排队规则来确定对象产生的顺序（通常与他们被插入的
  • 杀LINUX的JOB进程 bijian1013 linuxunix
    今天发现数据库一个JOB一直在执行，都执行了好几个小时还在执行，所以想办法给删除掉   系统环境：    ORACLE 10G    Linux操作系统   操作步骤如下： 第一步.查询出来那个job在运行，找个对应的SID字段 select * from dba_jobs_running--找到job对应的sid &n
  • Spring AOP详解 bijian1013 javaspringAOP
            最近项目中遇到了以下几点需求，仔细思考之后，觉得采用AOP来解决。一方面是为了以更加灵活的方式来解决问题，另一方面是借此机会深入学习Spring AOP相关的内容。例如，以下需求不用AOP肯定也能解决，至于是否牵强附会，仁者见仁智者见智。 1.对部分函数的调用进行日志记录，用于观察特定问题在运行过程中的函数调用
  • [Gson六]Gson类型适配器(TypeAdapter) bit1129 Adapter
    TypeAdapter的使用动机  Gson在序列化和反序列化时，默认情况下，是按照POJO类的字段属性名和JSON串键进行一一映射匹配，然后把JSON串的键对应的值转换成POJO相同字段对应的值，反之亦然，在这个过程中有一个JSON串Key对应的Value和对象之间如何转换(序列化/反序列化)的问题。   以Date为例，在序列化和反序列化时，Gson默认使用java.
  • 【spark八十七】给定Driver Program， 如何判断哪些代码在Driver运行，哪些代码在Worker上执行 bit1129 driver
    Driver Program是用户编写的提交给Spark集群执行的application，它包含两部分 作为驱动： Driver与Master、Worker协作完成application进程的启动、DAG划分、计算任务封装、计算任务分发到各个计算节点(Worker)、计算资源的分配等。 计算逻辑本身，当计算任务在Worker执行时，执行计算逻辑完成application的计算任务
  • nginx 经验总结 ronin47 nginx 总结
    　　　深感nginx的强大，只学了皮毛，把学下的记录。 　　　获取Header 信息，一般是以$http_XX（ＸＸ是小写）            获取body,通过接口，再展开，根据Ｋ取Ｖ 　　　获取uri,以$arg_XX      &n
  • 轩辕互动-1.求三个整数中第二大的数2.整型数组的平衡点 bylijinnan 数组
    import java.util.ArrayList; import java.util.Arrays; import java.util.List; public class ExoWeb { public static void main(String[] args) { ExoWeb ew=new ExoWeb(); System.out.pri
  • Netty源码学习-Java-NIO-Reactor bylijinnan java多线程netty
    Netty里面采用了NIO-based Reactor Pattern 了解这个模式对学习Netty非常有帮助 参考以下两篇文章： http://jeewanthad.blogspot.com/2013/02/reactor-pattern-explained-part-1.html http://gee.cs.oswego.edu/dl/cpjslides/nio.pdf
  • AOP通俗理解 cngolon springAOP
    1.我所知道的aop     初看aop,上来就是一大堆术语，而且还有个拉风的名字，面向切面编程，都说是OOP的一种有益补充等等。一下子让你不知所措，心想着：怪不得很多人都和 我说aop多难多难。当我看进去以后，我才发现：它就是一些java基础上的朴实无华的应用，包括ioc，包括许许多多这样的名词，都是万变不离其宗而 已。 2.为什么用aop&nb
  • cursor variable 实例 ctrain variable
    create or replace procedure proc_test01 as type emp_row is record( empno emp.empno%type, ename emp.ename%type, job emp.job%type, mgr emp.mgr%type, hiberdate emp.hiredate%type, sal emp.sal%t
  • shell报bash: service: command not found解决方法 daizj linuxshellservicejps
    今天在执行一个脚本时，本来是想在脚本中启动hdfs和hive等程序，可以在执行到service hive-server start等启动服务的命令时会报错，最终解决方法记录一下：   脚本报错如下： ./olap_quick_intall.sh: line 57: service: command not found ./olap_quick_intall.sh: line 59
  • 40个迹象表明你还是PHP菜鸟 dcj3sjt126com 设计模式PHP正则表达式oop
    你是PHP菜鸟，如果你：1. 不会利用如phpDoc 这样的工具来恰当地注释你的代码2. 对优秀的集成开发环境如Zend Studio 或Eclipse PDT 视而不见3. 从未用过任何形式的版本控制系统，如Subclipse4. 不采用某种编码与命名标准 ，以及通用约定，不能在项目开发周期里贯彻落实5. 不使用统一开发方式6. 不转换（或）也不验证某些输入或SQL查询串（译注：参考PHP相关函
  • Android逐帧动画的实现 dcj3sjt126com android
    一、代码实现： private ImageView iv; private AnimationDrawable ad; @Override protected void onCreate(Bundle savedInstanceState) { super.onCreate(savedInstanceState); setContentView(R.layout
  • java远程调用linux的命令或者脚本 eksliang linuxganymed-ssh2
    转载请出自出处： http://eksliang.iteye.com/blog/2105862        Java通过SSH2协议执行远程Shell脚本(ganymed-ssh2-build210.jar)   使用步骤如下： 1.导包 官网下载: http://www.ganymed.ethz.ch/ssh2/ ma
  • adb端口被占用问题 gqdy365 adb
    最近重新安装的电脑，配置了新环境，老是出现： adb server is out of date. killing... ADB server didn't ACK * failed to start daemon * 百度了一下，说是端口被占用，我开个eclipse，然后打开cmd，就提示这个，很烦人。 一个比较彻底的解决办法就是修改
  • ASP.NET使用FileUpload上传文件 hvt .netC#hovertreeasp.netwebform
    前台代码： <asp:FileUpload ID="fuKeleyi" runat="server" /> <asp:Button ID="BtnUp" runat="server" onclick="BtnUp_Click" Text="上 传" />
  • 代码之谜（四）- 浮点数（从惊讶到思考） justjavac 浮点数精度代码之谜IEEE
    在『代码之谜』系列的前几篇文章中，很多次出现了浮点数。 浮点数在很多编程语言中被称为简单数据类型，其实，浮点数比起那些复杂数据类型（比如字符串）来说， 一点都不简单。 单单是说明 IEEE浮点数 就可以写一本书了，我将用几篇博文来简单的说说我所理解的浮点数，算是抛砖引玉吧。 一次面试 记得多年前我招聘 Java 程序员时的一次关于浮点数、二分法、编码的面试， 多年以后，他已经称为了一名很出色的
  • 数据结构随记_1 lx.asymmetric 数据结构笔记
    第一章   1.数据结构包括数据的 逻辑结构、数据的物理/存储结构和数据的逻辑关系这三个方面的内容。 2.数据的存储结构可用四种基本的存储方法表示，它们分别是 顺序存储、链式存储 、索引存储 和 散列存储。 3.数据运算最常用的有五种，分别是  查找/检索、排序、插入、删除、修改。 4.算法主要有以下五个特性：  输入、输出、可行性、确定性和有穷性。 5.算法分析的
  • linux的会话和进程组 网络接口 linux
    会话： 一个或多个进程组。起于用户登录，终止于用户退出。此期间所有进程都属于这个会话期。会话首进程：调用setsid创建会话的进程1.规定组长进程不能调用setsid，因为调用setsid后，调用进程会成为新的进程组的组长进程.如何保证？ 先调用fork，然后终止父进程，此时由于子进程的进程组ID为父进程的进程组ID，而子进程的ID是重新分配的，所以保证子进程不会是进程组长，从而子进程可以调用se
  • 二维数组 元素的连续求解 1140566087 二维数组ACM
    import java.util.HashMap; public class Title { public static void main(String[] args){ f(); } // 二位数组的应用 //12、二维数组中，哪一行或哪一列的连续存放的0的个数最多，是几个0。注意，是“连续”。 public static void f(){
  • 也谈什么时候Java比C++快 windshome javaC++
      刚打开iteye就看到这个标题“Java什么时候比C++快”，觉得很好笑。   你要比，就比同等水平的基础上的相比，笨蛋写得C代码和C++代码，去和高手写的Java代码比效率，有什么意义呢？   我是写密码算法的，深刻知道算法C和C++实现和Java实现之间的效率差，甚至也比对过C代码和汇编代码的效率差，计算机是个死的东西，再怎么优化，Java也就是和C
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他