1:性能测试相关
1.1:性能测试指标(主要指标有响应时间、并发数、吞吐量、性能计数器等)
1.1.1:响应时间(完成一次任务花费的时间):指应用系统从发出请求开始到收到最后响应数据所需要的时间。响应时间是系统最重要的性能指标,直观的反映了系统的“快慢”
1.1.2:并发数(同时处理的任务数):系统能够同时处理请求的数目,这个数字也反映了系统的负载特性
1.1.3:吞吐量(吞吐量 = ( 1000 / 响应时间ms ) × 并发数) (单位时间完成的任务数):指单位时间内系统处理的请求的数量,体现件系统的处理能力。对于网站,可以用“请求数/秒”或是“页面数/秒”来衡量,也可以用“访问人数/天”或是“处理的业务数/小时”等来衡量。TPS(每秒事务数)也是吞吐量的一个指标,此外还有HPS(每秒HTTP请求数),QPS(每秒查询数)等
1.1.4:性能计数器(System Load,线程数,进程数,CPU、内存、磁盘、网络使用率)
1.1.4.1:是描述服务器或操作系统性能的一些数据指标。包括 System Load、对象与线程数、内存使用、CPU 使用、磁盘与网络 I/O 等指标。这些指标也是系统监控的重要参数,对这些指标设置报警阀值,当监控系统发现性能计数器超过阀值的时候,就向运维和开发人员报警,及时发现处理系统异常
1.2:性能测试方法( 具体可细分为性能测试、负载测试、压力测试、稳定性测试)
1.2.1:性能测试:以系统设计初期规划的性能指标为预期目标,对系统不断施加压力,验证系统在资源可接受范围内,是否能达到性能预期
1.2.2:负载测试:对系统不断地增加并发请求以增加系统压力,直到系统的某项或多项性能指标达到安全临界值,如某种资源已经呈饱和状态,这时候继续对系统施加压力,系统的处理能力不但不能提高,反而会下降。
1.2.3:压力测试:超过安全负载的情况下,对系统继续施加压力,直到系统崩溃或不能再处理任何请求,以此获得系统最大压力承受能力。
1.2.4:稳定性测试:被测试系统在特定硬件、软件、网络环境条件下,给系统加载一定业务压力,使系统运行一段较长时间,以此检测系统是否稳定。在生产环境,请求压力是不均匀的,呈波浪特性,因此为了更好地模拟生产环境,稳定性测试也应不均匀地对系统施加压力。
1.2.3:软件性能优化的两个基本原则
• 不能优化一个没有测试的软件
• 不能优化一个你不了解的软件
1.2.4:性能优化的一般方法
• 性能测试,获得性能指标
• 指标分析,发现性能与资源瓶颈点
• 架构与代码分析,寻找性能与资源瓶颈关键所在
• 架构与代码优化,优化关键技术点,平衡资源利用
• 性能测试,进入性能优化闭环
1.2.5:系统性能优化的分层思想
• 机房与骨干网络性能优化 ( 异地多活的多机房架 ,专线网络与自主 CDN 建设)
• 服务器与硬件性能优化 (使用更优的 CPU,磁盘,内存,网卡,对软件的性能优化可能是数量级的,有时候远远超过代码和架构的性能优化。)
• 操作系统性能优化
• 虚拟机性能优化
• 基础组件性能优化
• 软件架构性能优化
• 软件代码性能优化(缓存.异步,集群,并发编程,多线程与锁资源复用,线程池与对象池异步编程,生产者消费者数据结构,数组、链表、hash 表、树)
2:操作系统相关
2.1:程序是静态的。程序运行起来以后,被称作进程,进程里面跑多个线程,从java来看线程里面多个线程栈,线程栈里面多个栈帧
2.2:线程安全相关:
2.2.1:多例对象因栈帧对应的内存地址引用不同线程是安全的.单例对象对应一个内存地址线程不安全
2,2,2:需要用锁来保证线程安全性,加锁可能导致线程阻塞,高并发时系统崩溃,可用限流,降级,反应式编程来处理
限流:控制进入计算机的请求数,进而减少创建的线程数。
降级:关闭部分功能程序的执行,尽早释放线程。
反应式:异步;无临界区(Actor 模型)
3.锁相关
3..1: 锁原语 CAS (V,E,N) 一种系统原语的执行必须是连续的,在执行过程中不允许被中断。
• V 表示要更新的变量 • E 表示预期值 • N 表示新值
如果 V 值等于 E 值,则将 V 的值设为 N,若 V 值和E值不同,什么都不做。
3.1.2:
正常锁:
偏向锁:指一段同步代码一直被一个线程所访问,那么该线程会自动获取锁,降低获取锁的代价
轻量级锁(自旋达到次数阻塞变成重量级锁):指当锁是偏向锁时,被另一个线程所访问,偏向锁就会升级为轻量级锁,其他线程会通过自旋的形式尝试获取 锁,不会阻塞,提高性能
重量级锁(阻塞):指当锁是轻量级锁时,另一个线程虽然自旋,但自旋不会一直持续下去,当自旋到一定次数时,还没获取到锁,就会进入阻塞,该锁膨胀为 重量级锁,重量级锁会让其他申请的线程进入阻塞,性能降低
公平锁:多个线程按照申请锁的顺序来获取锁的。
非公平锁:多个线程获取锁的顺序并不是按照申请锁的顺序,有可能后申请的线程比先申请的线程优先获取锁,可能会造成饥饿现象
可重入:说某个线程已经获得某个锁,可以再次获取锁而不会出现死锁
独享锁/互斥锁:该锁一次只能被一个线程所持有
共享锁:该锁可以被多个线程所持有
读写锁:多个读线程之间并不互斥,而写线程则要求与任何线程互斥 分段锁 自旋锁
悲观锁:认为对于同一个数据的并发操作,一定是会发生修改的,哪怕没有修改,也会认为修改。因此对于同一个数据的并发操作,悲观锁采取加锁的形式。悲观的认为,不加锁的并发操作一定会出问题。
乐观锁:认为对于同一个数据的并发操作,是不会发生修改的。在更新数据的时候,检查是否已经被修改过,如果修改过,就放弃
分段锁 : 设计目的是细化锁的粒度,当操作不需要更新整个数组的时候,就仅仅针对数组的一段进行加锁操作。
自旋锁 : 尝试获取锁的线程不会立即阻塞,而是采用循环的方式去尝试获取锁,这样的好处是减少线程上下文切换的消耗,缺点是循环会消耗 CPU。