两淮各地的老百姓听说两淮小刀会在发源地黄集区的康家庄又重新开设了大堂口，大楚、马棚、徐扬、万集、蒋坝、西顺河、盐河、林集、花集等各地群众不断派代表到康家庄来领取小刀会的香火。
这些人把小刀会的香火领回去后，立即在当地原来小刀会能人中选拜师傅，推举大小头领，召集和发展本地小刀会会众，成立本地小刀会的堂口。
从康家庄开设大堂口起，不到半年功夫，苏北两淮各地都纷纷成立了小刀会各区、乡（镇）、保的大小堂口，康家庄大堂口也因此正式被改称为两淮小刀会总舵，各地堂口公推康赢战为两淮小刀会总舵主，小刀会总舵也跟着在各区设立了管理小刀会堂口的小刀会分舵。
到了1939年年底，到黄集区康家庄总舵备案领取香火的大小堂口就有了120多个，淮阴、淮安、宝应、盱眙等苏北地区，一时之间遍地都是小刀会的堂口，小刀会会众迅速发展到了成千上万人，几十人、上百人的小刀会地方堂口可以说到处都是。
淮阴县和淮安县南一片的南三河一带，是这一次两淮小刀会最先发起的地方，这一地带的小刀会会众迅速发展到了数千人。这一带比较大的堂口，除了黄集区康家庄的大堂口外，还有徐扬乡徐介和、徐介海兄弟俩的堂口，小丁庄的张贵友堂口，万集区严渡乡的严小六子和罗通义的堂口等。
在两淮大地上重新兴起的小刀会，随着日伪黑暗统治势力的扩张，它也迅速发展成为苏北两淮地区一支强大的重要的民间抗日武装力量。
1939年下半年，随着两淮地区小刀会的重新兴起，并在各地的不断发展壮大，苏北地区人民自发的反抗日伪残暴统治的斗争全面掀起。
面对两淮地区忽然发展起来的这股强大的地方民间反抗势力，日军为了巩固在淮阴、淮安局部地区刚刚建立起来的统治政权，在自身兵力不足的情况下，只能不断地向伪淮海省和南京伪中华民国维新政府施加压力，加强与这两处伪维新政府的合作。
在武汉会战后，日军虽然占领了两淮的大片地区，但是当时留守在淮阴城和淮安城的兵力只有日军独立混成十三旅团的一个山浦大队，驻守两淮的日军兵力实际上仅仅只有700多人。淮阴县城由山浦大队长亲自负责驻防，淮安县城由副大队长山泽中佐负责驻防，两淮的防务统一由山浦大佐全权负责，由他出任两淮城防司令。
驻防两淮地区的除了日军山浦大队外，在日军梅机关派驻苏北地区特务头子西义显的协调下，伪淮海省维新政府调派了一个新成立的伪军师协助山浦大队防守，后来西义显又在南京维新政府支持下在苏北地区就地增编了两个伪军师。
为了对付国民党韩德勤建立的地方政权和以小刀会为主的两淮地方反抗力量，驻守两淮的日伪军在逐步拓展了扫荡范围的基础上，根据伪淮海省维新政府颁布的《县公署组织暂行条例》和《县政咨询会章程》，对两淮扫荡过的城乡开始加强伪地方政权建设。
到了1940年初，日伪军采取“反复清乡，增设据点，强化治安”的政策，逐步控制了淮阴县和淮安县的大部分地区，在两淮的大部分区、镇、乡、保都建立了日伪政权。
日伪军为了加强对这些刚刚建立起来的地方基层日伪政权的保护，在淮阴县城辐射到的区域，日伪军在凌桥、三树、蒋集、渔沟、汤集、徐溜、古寨、老张集、大兴庄、棉花庄和丁集南边的孙大泓西岸的齐庄，以及淮阴县城南部一带的南陈集、赵集、庆丰、武墩、和平等集镇和乡村，建筑了三四十个大小炮楼；在淮安县城辐射的区域，日伪军在建淮、朱桥、马甸、盐河、范集等中心集镇也建立了许多据点。
在这些占领的中心集镇建立的中心炮楼，一般都驻守有数百个日伪军，一般炮楼也驻守有一二百个日伪军。
驻守在两淮县城和乡镇这些炮楼里的日伪军，隔三差五就到附近村庄扫荡，骚扰和压榨地方老百姓，他们拉走老百姓的牲畜，抓鸡鸭，劫财物，奸淫妇女，杀害无辜，烧毁民房，无恶不作。
除了日伪军的盘剥，被迫转入地下的韩德勤地方政权还要征抗战税、抽抗战丁，两淮城乡的老百姓在日伪政权和韩德勤政权的双重统治下，苦不堪言。
每次一听说日伪军出来扫荡，家家户户都锁门，老百姓不论男女老幼，都纷纷逃出村庄，四处跑反躲藏，来不及逃跑的青年妇女，只好都用锅底灰把自己的脸抹黑弄脏，以免身遭不测，年轻力壮的小伙子更怕被鬼子汉奸抓去当壮丁，去当那个全家都遭万人骂的“二皇”。
日伪军对控制地区暴力统治的加强，必然激起两淮人民更加激烈的反抗，尤其是靠近淮阴、淮安县城日伪统治政权最早建立的控制区域，那里建立起来的小刀会与日伪军的斗争就变得更加趋于白热化。