- [实践应用] 深度学习之优化器
YuanDaima2048
深度学习工具使用pytorch深度学习人工智能机器学习python优化器
文章总览:YuanDaiMa2048博客文章总览深度学习之优化器1.随机梯度下降(SGD)2.动量优化(Momentum)3.自适应梯度(Adagrad)4.自适应矩估计(Adam)5.RMSprop总结其他介绍在深度学习中,优化器用于更新模型的参数,以最小化损失函数。常见的优化函数有很多种,下面是几种主流的优化器及其特点、原理和PyTorch实现:1.随机梯度下降(SGD)原理:随机梯度下降通过
- 封装better-scroll
你喜欢吃青椒吗_c744
安装npminstallbetter-scroll--save-dev创建一个scroll.vue组件importBScrollfrom'better-scroll';//引入better-scroll//详细参数可以了解better-scroll的文档exportdefault{props:{probeType:{//probeType为3的时候,不仅在屏幕滑动的过程中,而且在momentum滚
- el-table日期格式化处理2种方式
c28n07
elementui
关于el-table总结[toc]1.方式一:采用filters//template{{props.row.time|dateTimeFormat}}//script->filtersfilters:{dateTimeFormat(dateTime){if(!dateTime){returndateTime;}returnmoment(dateTime).format("YYYY-MM-DD");
- vue前端性能优化之cdn的使用
不cong明的亚子
性能优化vue+elementui前端javascriptvue
优化原因项目中首页加载过慢,原因是js,css静态资源第一次加载的时间长vue.config.js'usestrict'......constcdn={js_cdn:['https://cdn.jsdelivr.net/npm/
[email protected]/moment.min.js','https://unpkg.com/
[email protected]/dist/vue.js','https://unpkg
- Adam优化器:深度学习中的自适应方法
2401_85743969
深度学习人工智能
引言在深度学习领域,优化算法是训练神经网络的核心组件之一。Adam(AdaptiveMomentEstimation)优化器因其自适应学习率调整能力而受到广泛关注。本文将详细介绍Adam优化器的工作原理、实现机制以及与其他优化器相比的优势。深度学习优化器概述优化器在深度学习中负责调整模型的参数,以最小化损失函数。常见的优化器包括SGD(随机梯度下降)、RMSprop、AdaGrad、AdaDelt
- Java运行时内存区域
benlocke
Javajavajvmheapstack内存
Java虚拟机(JavaSE7版)管理的内存包括以下几个运行时数据区域。1.程序计数器程序计数器(ProgramCounterRegister)是当前线程所执行的字节码的行号指示器。字节码解释器需要通过这个计数器的值来读取下一条执行的字节码指令,各种分支跳转、异常处理等。Java虚拟机的多线程是通过线程轮流切换并且分配时间片的方式来实现的,所以在任何一个moment,一个处理器都只会执行一条线程中
- OpenCV结构分析与形状描述符(7)计算轮廓的面积的函数contourArea()的使用
jndingxin
OpenCVopencv人工智能计算机视觉
操作系统:ubuntu22.04OpenCV版本:OpenCV4.9IDE:VisualStudioCode编程语言:C++11算法描述计算轮廓的面积。该函数计算轮廓的面积。与moments类似,面积是使用格林公式计算的。因此,返回的面积与你使用drawContours或fillPoly绘制轮廓时的非零像素数量可能会不同。此外,对于自相交的轮廓,该函数很可能会给出错误的结果。例子:vectorco
- 57、vue 使用moment
world_7735
**1.下载cnpmimoment--save**2.main.js挂载importmomentfrom'moment'//导入文件Vue.prototype.$moment=moment;//赋值使用3.组件中使用凡是用的prototype使用都要this.继承this.$moment('string').format("YYYY-DD-MM")this.$moment('2018-09-19T
- 深度学习--机器学习相关(2)
在下小天n
深度学习深度学习机器学习人工智能
1.适应性矩估计适应性矩估计(AdaptiveMomentEstimation,Adam)是一种可以代替传统的梯度下降(SGD和MBGD)的优化算法。Adam算法结合了适应性梯度算法和均方根传播的优点。Momentum在学习机器学习时是很可能遇到的,是动量的意思。动量不是速度和学习率,应该说是类似于加速度。AdaGrad(适应性梯度算法)适应性梯度算法的特点在于:独立地调整每一个参数的学习率。在S
- 爱你大声说出来
Angela的思考术
IreallywannatellyouhowmuchIloveyou.Iwannaholdyourhand.Fromthemomentfallinlovewithyou,totheendoftheworld我真想告诉你我有多爱你。我想握住你的手。从爱上你的那一刻到世界的尽头遇见你,生活有了颜色,甜甜的,往后余生,风雪是你,平淡是你,眼里都是你。甜甜的味道生活的美好,在于琐碎的小事,爱你就大声说出来
- 小包子的Scalers Talk第四轮新概念朗读持续力训练Day42 20181203
美少女和雷雷哥
练习材料:Lesson57CanIhelpyou,madam原文:Awomaninjeansstoodatthewindowofanexpensiveshop.Thoughshehesitatedforamoment,shefinallywentinandaskedtoseeadressthatwasinthewindow.Theassistantwhoservedherdidnotlikethe
- Element Plus& Ant Design(react) 表格的分页封装
孟宪磊mxl
react.jsvue.jseditplusAntDesign
一、ElementPlus封装代码:import{onMounted,reactive,ref,toRaw}from'vue'import{ElTable}from'element-plus'importmomentfrom'moment'interfaceUser{date:stringname:stringaddress:string}constmultipleTableRef=ref>()c
- vue+moment转化日期格式为年月日时分秒!最简洁版
暴富的Tdy
vue.js前端javascript
文章目录概要整体架构流程所用组件技术细节小结概要全局实行格式化日期,让你告别冗余处理时间代码整体架构流程使用moment插件实现官网:https://momentjs.cn/所用组件vue2moment技术细节首先执行npminstallmoment--save然后在main.js添加以下代码importmomentfrom'moment'//如果你的main.js每个组件都要vue.use那就加
- 梯度下降算法(Gradient Descent Algorithm)
海棠未语
算法机器学习人工智能python
目录一、梯度下降算法简述二、不同函数梯度下降算法表示1、一元函数2、二元函数3、任意多元函数三、梯度计算四、常见的梯度下降法1、批量梯度下降算法(BatchGradientDescent)2、随机梯度下降算法(StochasticGradientDescent)3、小批量梯度下降(Mini-batchGradientDescent)4、梯度下降算法注意点与调优5、冲量梯度下降算法(Momentum
- 泽平 的ScalersTalk第八轮新概念朗读持续力训练Day 592 20221104
郑泽平
练习材料:Lesson19Soldout'Theplaymaybeginatanymoment,'Isaid.'Itmayhavebegunalready,'Susananswered.Ihurriedtotheticket-office.'MayIhavetwoticketsplease?'Iasked.'I'msorry,we'vesoldout,'thegirlsaid.'Whatapity
- 2018.12.7
紫色的心儿
心之所愿,无所不成。图片发自AppIntheend,weonlyregretthechanceswedidn'ttake,therelationshipswewereafriadtohaveandthedecisionswewaitedtoolongtomake.Don'twasteasinglemoment.最后,如果我们有遗憾的话,那只能是:我们丧失了良机、我们害怕去创造的关系、以及我们的犹豫
- Sonnet 22: Carpe diem lente
billowchaser
Trustnotthosetemperamentalgustsofair,dearcloud,fortheyforevercoursessway.onemomentzeph’rousfervorwithyousharethenextaloofnessborealbringyoumay.WhenfrostyheartembracesEurus’blow,whosewarmthdissolvesyou
- 2024.08.02校招 实习 内推 面经
内推君SIR
求职招聘面试python硬件工程自动驾驶汽车车载系统
地/球:neituijunsir交*流*裙,内推/实习/校招汇总表格1、校招|加入蔚来智能制造,在蔚来预见未来(内推)校招|加入蔚来智能制造,在蔚来预见未来(内推)2、校招|科大讯飞2025届飞凡计划|第二批网申开启(内推)校招|科大讯飞2025届飞凡计划|第二批网申开启(内推)3、实习|Momenta8月热招实习岗,来啦(内推)实习|Momenta8月热招实习岗,来啦(内推)4、校招|安路科技2
- 2019-07-10
西单墙_九鼎神庐文化制造有限公
Thelittlethingsquirmedagainsthim,asifheardandunderstood."No!"Brancriedoutfiercely."It`smine"."putawayyoursword,Greyjoy,"Robbsaid.Foramomenthesoundedascommandingastheirfather,likethelordhewouldsomedayb
- keras.optimizers优化器中文文档
地上悬河
python开发语言后端
优化器optimizers优化器是编译Keras模型必要的两个参数之一model=Sequential()model.add(Dense(64,init='uniform',input_dim=10))model.add(Activation('tanh'))model.add(Activation('softmax'))sgd=SGD(lr=0.01,decay=1e-6,momentum=0.
- vue时间组件:dayjs与moment
煸橙干儿~~
VUE实战vue.js前端javascript
一、dayjs使用Day.js是一个极简的JavaScript库,可以为现代浏览器解析、验证、操作和显示日期和时间。具体使用可参考:dayjs官网1、本年start=dayjs().startOf('year').format('YYYY-MM-DD')end=dayjs().endOf('year').format('YYYY-MM-DD')console.log(start,end)//['2
- 英语学习打卡第54天
美人志_8cdd
hard坚硬的putaway放好away离开beautiful漂亮atthemoment此时此刻quite十分festival节日ready准备好的happen发生speak说话meal一餐cook厨师floor地板sweep打扫clean打扫dance跳舞study学习run跑步dragon龙lantern灯笼
- 泽平 的ScalersTalk第七轮新概念朗读持续力训练Day 492 20220727
郑泽平
练习材料:Lesson24-1BeautyAyoungmanseesasunsetand,unabletounderstandortoexpresstheemotionthatitrousesinhim,concludesthatitmustbethegatewaytoaworldthatliesbeyond.Itisdifficultforanyofusinmomentsofintenseaes
- 时间戳转换2019-07-26
LookForandPersi
dateFormat(r){returnthis.$moment(r.createTime).format("YYYY-MM-DD");},
- 2020-06-14每日美文阅读和英语学习(第76天)
爱秋拾
英语单词背诵英语翻译学习Fromthemomentyouholdyourbabyinyourarms,Youwillneverbethesame.Youmightlongforthepersonyouwerebefore,Whenyouhavefreedomandtime,Andnothinginparticulartoworryabout.Youwillknowtirednesslikeyoun
- Pytorch-Adam算法解析
肆十二
Pytorch语法pytorch算法人工智能Adam
关注B站可以观看更多实战教学视频:肆十二-的个人空间-肆十二-个人主页-哔哩哔哩视频(bilibili.com)Hi,兄弟们,这里是肆十二,今天我们来讨论一下深度学习中的Adam优化算法。Adam算法解析Adam算法是一种在深度学习中广泛使用的优化算法,它的名称来源于适应性矩估计(AdaptiveMomentEstimation)。Adam算法结合了两种扩展式的随机梯度下降法的优点,即适应性梯度算
- dayjs实现前端消息通知日期格式显示——仿微信消息时间
三月的一天
前端微信dayJs
背景:在做一个消息通知类的需求,在PC端实现消息接收界面,日期显示参考微信聊天界面消息时间提示。具体规则如下:当天:显示时分昨天:显示‘昨天+时分’本周:显示“周几+时分”本周之前:显示“年月日”安装dayjsdayjs()是一个轻量级的JavaScript日期库,用于解析、验证、操作和显示日期和时间。它提供了类似于Moment.js的API,但具有更小的体积和更好的性能。关于时间的复杂处理,建议
- Rather lonely, not so well.宁可孤单,也不将就
三品姐姐
叁品姐姐每天分享一段爱情感悟,幸福可以很简单,点击右上角关注哦。Morelonelythanlonely,iswiththewrongperson.比孤独更孤独的,是和错的人在一起。Themomentyouhurtme,Iknow,Ifeel,youmustneverthinkaboutit.你忍心伤害我的那一刻起,我就知道,我的感受,你一定从没考虑过。Itisclearthatyoucomecl
- Zilliz 年度印象:未来独角兽?RAG 首选?LLM 记忆体?
人工智能
兔走龙来,不知不觉,又到了一年一度的保留节目——ZillizMoment。AGI时代的到来,让Zilliz的身上多了很多充满“时代烙印”的标签:未来独角兽、网红赛道公司、向量数据库大佬、大模型的长期记忆体、RAG最强搭档……与此同时,我们也听说了一些有趣的标签:周边质量好、抢不到红包封面、公司产品都是鸟的名字……那么,大家对于Zilliz的印象是不是真的如此标签化呢?为此,我们邀请了一些新老朋友,
- 关于VUE怎么使用momentjs,以及可能遇到的问题
啊森森啊
vue.js前端javascript
moment.js-Libraries-cdnjs-The#1freeandopensourceCDNbuilttomakelifeeasierfordevelopers链接下载moment.min.js文件到自己的文件夹目录下例如importmomentfrom'@/core/moment.min.js'用法我是闹钟组件importmomentfrom'@/core/moment.min.js'
- SAX解析xml文件
小猪猪08
xml
1.创建SAXParserFactory实例
2.通过SAXParserFactory对象获取SAXParser实例
3.创建一个类SAXParserHander继续DefaultHandler,并且实例化这个类
4.SAXParser实例的parse来获取文件
public static void main(String[] args) {
//
- 为什么mysql里的ibdata1文件不断的增长?
brotherlamp
linuxlinux运维linux资料linux视频linux运维自学
我们在 Percona 支持栏目经常收到关于 MySQL 的 ibdata1 文件的这个问题。
当监控服务器发送一个关于 MySQL 服务器存储的报警时,恐慌就开始了 —— 就是说磁盘快要满了。
一番调查后你意识到大多数地盘空间被 InnoDB 的共享表空间 ibdata1 使用。而你已经启用了 innodbfileper_table,所以问题是:
ibdata1存了什么?
当你启用了 i
- Quartz-quartz.properties配置
eksliang
quartz
其实Quartz JAR文件的org.quartz包下就包含了一个quartz.properties属性配置文件并提供了默认设置。如果需要调整默认配置,可以在类路径下建立一个新的quartz.properties,它将自动被Quartz加载并覆盖默认的设置。
下面是这些默认值的解释
#-----集群的配置
org.quartz.scheduler.instanceName =
- informatica session的使用
18289753290
workflowsessionlogInformatica
如果希望workflow存储最近20次的log,在session里的Config Object设置,log options做配置,save session log :sessions run ;savesessio log for these runs:20
session下面的source 里面有个tracing 
- Scrapy抓取网页时出现CRC check failed 0x471e6e9a != 0x7c07b839L的错误
酷的飞上天空
scrapy
Scrapy版本0.14.4
出现问题现象:
ERROR: Error downloading <GET http://xxxxx CRC check failed
解决方法
1.设置网络请求时的header中的属性'Accept-Encoding': '*;q=0'
明确表示不支持任何形式的压缩格式,避免程序的解压
- java Swing小集锦
永夜-极光
java swing
1.关闭窗体弹出确认对话框
1.1 this.setDefaultCloseOperation (JFrame.DO_NOTHING_ON_CLOSE);
1.2
this.addWindowListener (
new WindowAdapter () {
public void windo
- 强制删除.svn文件夹
随便小屋
java
在windows上,从别处复制的项目中可能带有.svn文件夹,手动删除太麻烦,并且每个文件夹下都有。所以写了个程序进行删除。因为.svn文件夹在windows上是只读的,所以用File中的delete()和deleteOnExist()方法都不能将其删除,所以只能采用windows命令方式进行删除
- GET和POST有什么区别?及为什么网上的多数答案都是错的。
aijuans
get post
如果有人问你,GET和POST,有什么区别?你会如何回答? 我的经历
前几天有人问我这个问题。我说GET是用于获取数据的,POST,一般用于将数据发给服务器之用。
这个答案好像并不是他想要的。于是他继续追问有没有别的区别?我说这就是个名字而已,如果服务器支持,他完全可以把G
- 谈谈新浪微博背后的那些算法
aoyouzi
谈谈新浪微博背后的那些算法
本文对微博中常见的问题的对应算法进行了简单的介绍,在实际应用中的算法比介绍的要复杂的多。当然,本文覆盖的主题并不全,比如好友推荐、热点跟踪等就没有涉及到。但古人云“窥一斑而见全豹”,希望本文的介绍能帮助大家更好的理解微博这样的社交网络应用。
微博是一个很多人都在用的社交应用。天天刷微博的人每天都会进行着这样几个操作:原创、转发、回复、阅读、关注、@等。其中,前四个是针对短博文,最后的关注和@则针
- Connection reset 连接被重置的解决方法
百合不是茶
java字符流连接被重置
流是java的核心部分,,昨天在做android服务器连接服务器的时候出了问题,就将代码放到java中执行,结果还是一样连接被重置
被重置的代码如下;
客户端代码;
package 通信软件服务器;
import java.io.BufferedWriter;
import java.io.OutputStream;
import java.io.O
- web.xml配置详解之filter
bijian1013
javaweb.xmlfilter
一.定义
<filter>
<filter-name>encodingfilter</filter-name>
<filter-class>com.my.app.EncodingFilter</filter-class>
<init-param>
<param-name>encoding<
- Heritrix
Bill_chen
多线程xml算法制造配置管理
作为纯Java语言开发的、功能强大的网络爬虫Heritrix,其功能极其强大,且扩展性良好,深受热爱搜索技术的盆友们的喜爱,但它配置较为复杂,且源码不好理解,最近又使劲看了下,结合自己的学习和理解,跟大家分享Heritrix的点点滴滴。
Heritrix的下载(http://sourceforge.net/projects/archive-crawler/)安装、配置,就不罗嗦了,可以自己找找资
- 【Zookeeper】FAQ
bit1129
zookeeper
1.脱离IDE,运行简单的Java客户端程序
#ZkClient是简单的Zookeeper~$ java -cp "./:zookeeper-3.4.6.jar:./lib/*" ZKClient
1. Zookeeper是的Watcher回调是同步操作,需要添加异步处理的代码
2. 如果Zookeeper集群跨越多个机房,那么Leader/
- The user specified as a definer ('aaa'@'localhost') does not exist
白糖_
localhost
今天遇到一个客户BUG,当前的jdbc连接用户是root,然后部分删除操作都会报下面这个错误:The user specified as a definer ('aaa'@'localhost') does not exist
最后找原因发现删除操作做了触发器,而触发器里面有这样一句
/*!50017 DEFINER = ''aaa@'localhost' */
原来最初
- javascript中showModelDialog刷新父页面
bozch
JavaScript刷新父页面showModalDialog
在页面中使用showModalDialog打开模式子页面窗口的时候,如果想在子页面中操作父页面中的某个节点,可以通过如下的进行:
window.showModalDialog('url',self,‘status...’); // 首先中间参数使用self
在子页面使用w
- 编程之美-买书折扣
bylijinnan
编程之美
import java.util.Arrays;
public class BookDiscount {
/**编程之美 买书折扣
书上的贪心算法的分析很有意思,我看了半天看不懂,结果作者说,贪心算法在这个问题上是不适用的。。
下面用动态规划实现。
哈利波特这本书一共有五卷,每卷都是8欧元,如果读者一次购买不同的两卷可扣除5%的折扣,三卷10%,四卷20%,五卷
- 关于struts2.3.4项目跨站执行脚本以及远程执行漏洞修复概要
chenbowen00
strutsWEB安全
因为近期负责的几个银行系统软件,需要交付客户,因此客户专门请了安全公司对系统进行了安全评测,结果发现了诸如跨站执行脚本,远程执行漏洞以及弱口令等问题。
下面记录下本次解决的过程以便后续
1、首先从最简单的开始处理,服务器的弱口令问题,首先根据安全工具提供的测试描述中发现应用服务器中存在一个匿名用户,默认是不需要密码的,经过分析发现服务器使用了FTP协议,
而使用ftp协议默认会产生一个匿名用
- [电力与暖气]煤炭燃烧与电力加温
comsci
在宇宙中,用贝塔射线观测地球某个部分,看上去,好像一个个马蜂窝,又像珊瑚礁一样,原来是某个国家的采煤区.....
不过,这个采煤区的煤炭看来是要用完了.....那么依赖将起燃烧并取暖的城市,在极度严寒的季节中...该怎么办呢?
&nbs
- oracle O7_DICTIONARY_ACCESSIBILITY参数
daizj
oracle
O7_DICTIONARY_ACCESSIBILITY参数控制对数据字典的访问.设置为true,如果用户被授予了如select any table等any table权限,用户即使不是dba或sysdba用户也可以访问数据字典.在9i及以上版本默认为false,8i及以前版本默认为true.如果设置为true就可能会带来安全上的一些问题.这也就为什么O7_DICTIONARY_ACCESSIBIL
- 比较全面的MySQL优化参考
dengkane
mysql
本文整理了一些MySQL的通用优化方法,做个简单的总结分享,旨在帮助那些没有专职MySQL DBA的企业做好基本的优化工作,至于具体的SQL优化,大部分通过加适当的索引即可达到效果,更复杂的就需要具体分析了,可以参考本站的一些优化案例或者联系我,下方有我的联系方式。这是上篇。
1、硬件层相关优化
1.1、CPU相关
在服务器的BIOS设置中,可
- C语言homework2,有一个逆序打印数字的小算法
dcj3sjt126com
c
#h1#
0、完成课堂例子
1、将一个四位数逆序打印
1234 ==> 4321
实现方法一:
# include <stdio.h>
int main(void)
{
int i = 1234;
int one = i%10;
int two = i / 10 % 10;
int three = i / 100 % 10;
- apacheBench对网站进行压力测试
dcj3sjt126com
apachebench
ab 的全称是 ApacheBench , 是 Apache 附带的一个小工具 , 专门用于 HTTP Server 的 benchmark testing , 可以同时模拟多个并发请求。前段时间看到公司的开发人员也在用它作一些测试,看起来也不错,很简单,也很容易使用,所以今天花一点时间看了一下。
通过下面的一个简单的例子和注释,相信大家可以更容易理解这个工具的使用。
- 2种办法让HashMap线程安全
flyfoxs
javajdkjni
多线程之--2种办法让HashMap线程安全
多线程之--synchronized 和reentrantlock的优缺点
多线程之--2种JAVA乐观锁的比较( NonfairSync VS. FairSync)
HashMap不是线程安全的,往往在写程序时需要通过一些方法来回避.其实JDK原生的提供了2种方法让HashMap支持线程安全.
- Spring Security(04)——认证简介
234390216
Spring Security认证过程
认证简介
目录
1.1 认证过程
1.2 Web应用的认证过程
1.2.1 ExceptionTranslationFilter
1.2.2 在request之间共享SecurityContext
1
- Java 位运算
Javahuhui
java位运算
// 左移( << ) 低位补0
// 0000 0000 0000 0000 0000 0000 0000 0110 然后左移2位后,低位补0:
// 0000 0000 0000 0000 0000 0000 0001 1000
System.out.println(6 << 2);// 运行结果是24
// 右移( >> ) 高位补"
- mysql免安装版配置
ldzyz007
mysql
1、my-small.ini是为了小型数据库而设计的。不应该把这个模型用于含有一些常用项目的数据库。
2、my-medium.ini是为中等规模的数据库而设计的。如果你正在企业中使用RHEL,可能会比这个操作系统的最小RAM需求(256MB)明显多得多的物理内存。由此可见,如果有那么多RAM内存可以使用,自然可以在同一台机器上运行其它服务。
3、my-large.ini是为专用于一个SQL数据
- MFC和ado数据库使用时遇到的问题
你不认识的休道人
sqlC++mfc
===================================================================
第一个
===================================================================
try{
CString sql;
sql.Format("select * from p
- 表单重复提交Double Submits
rensanning
double
可能发生的场景:
*多次点击提交按钮
*刷新页面
*点击浏览器回退按钮
*直接访问收藏夹中的地址
*重复发送HTTP请求(Ajax)
(1)点击按钮后disable该按钮一会儿,这样能避免急躁的用户频繁点击按钮。
这种方法确实有些粗暴,友好一点的可以把按钮的文字变一下做个提示,比如Bootstrap的做法:
http://getbootstrap.co
- Java String 十大常见问题
tomcat_oracle
java正则表达式
1.字符串比较,使用“==”还是equals()? "=="判断两个引用的是不是同一个内存地址(同一个物理对象)。 equals()判断两个字符串的值是否相等。 除非你想判断两个string引用是否同一个对象,否则应该总是使用equals()方法。 如果你了解字符串的驻留(String Interning)则会更好地理解这个问题。
- SpringMVC 登陆拦截器实现登陆控制
xp9802
springMVC
思路,先登陆后,将登陆信息存储在session中,然后通过拦截器,对系统中的页面和资源进行访问拦截,同时对于登陆本身相关的页面和资源不拦截。
实现方法:
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23