在韩德勤率领江苏省政府和89军主力从淮阴城向东撤退后，吴觉、张芳久等人随即领导的“五条路战斗”打响了共产党领导的两淮地区全民抗战的第一枪，点燃了苏北地区全民抗战的烽火。
受吴觉起兵和"五条路"战斗的影响，两淮民间抗日武装纷纷成立，小刀会更是借机兴起，公开在康家庄建立了总舵，并在各地设立了分舵，大肆发展堂口和会众，自发加入了苏北地区全民抗战的滚滚洪流。
随着共产党重返两淮，国共两党对苏北地方抗日力量的争取也日趋激烈，而作为在抗战中重生的两淮小刀会是当时两淮地区民间最强大的一支抗日武装力量，这就必然成了国共两党都要努力争夺的重要对象。
早在共产党争取苏北小刀会力量之前，在两淮的日伪军就对小刀会采取了打击和分化瓦解的两手策略，有少量地方小刀会的头目经不住日伪军的威逼利诱而投靠了日伪政权。
而韩德勤的政府和军队在对小刀会力量的争夺上，也往往不择手段，他们一方面通过出钱收买地方上的财主、恶霸、地痞流氓，甚至土匪，让他们主动出面恐吓和收买小刀会会众，争做当地小刀会的会首或堂主，从而使一些地方的小刀会沦为他们反共防共的政治斗争工具。
为了应对日伪顽势力对苏北小刀会力量的争夺，苏北共产党人吉乐山、孙志安、王天民等人被率先派上阵去，他们分别负责对两淮和宿北有关地区小刀会力量的争取工作。
当时苏北地区，两淮的重要性自不必说，且这两地小刀会实力最为雄厚，那是张芳久等共产党人必须要用力争取的地方。
除了淮阴、淮安外，宿迁的战略地位亦十分重要，尤其是宿北地区，历来是兵家必争之地，此时更是日伪顽和我党军队南下北上都要争夺的重要地区，因此对宿北小刀会的争取，亦相当重要。
吉乐山，淮安县人，1928年执教于淮安县谷圩小学，任毕业班班主任，教授国语，是两淮地区早期共产党员之一。
在第一次国共合作破裂后，吉乐山与赵心权等人参加了两淮地区反抗国民党反动统治的武装暴动。
在两淮武装暴动失败后，吉乐山被国民党反动派抓捕入狱，与赵心权、吴觉等人一样，直到西安事变后国共达成了联合抗日协议，经过党组织同国民党当局的数次交涉，1937年11月间他才被国民党当局从监狱里释放了出来。
吉乐山出狱返回家乡后，他立即与赵心权、丁七等人在淮安县积极联络各阶层的爱国人士和青年学生，开展抗日宣传活动。
1938年1—2月间，吉乐山与赵心权等人组建了淮安县抗日同盟会。
当时，苏北以共产党人牵头为主成立的抗日同盟会受到韩德勤政权的监控和打压，吉乐山、赵心权、吴觉等人通过人际运作，争得了徐州会战总指挥李宗仁对苏北抗盟的支持，这才让韩德勤明里收敛了许多。两淮共产党人也得以借助苏北抗盟筹委会的名义，公开发展地方民间抗日武装。
吴觉、张芳久等人领导的“五条路战斗”打响前，吉乐山根据中共淮属临时工委的指示回到自己家乡，负责联络和争取当地小刀会的工作，他通过宣传党的抗日民族统一战线政策，发动群众，提出了“团结一致，剿匪保家乡”的口号，逐步取得了当地小刀会各堂口及其上层人士的信任。
1939年4月，淮阴县“五条路战斗”打响后，吉乐山先后取得了大娘庙、徐杨庄、周崔、晶墩、大桥、小丁庄等地小刀会堂口的支持。
到了1940年初，吉乐山、朱慕萍等人受陇海南进支队八团(由原苏北抗盟武装组成)政委万众一的派遣，让他们到各自家乡创建抗日武装。
在淮安县工委的协助下，吉乐山以谢荡村小刀会为基础建立了党支部，在淮安县仇桥乡大徐庄召开了大娘庙、徐杨庄等地小刀会堂口的联席会议，会上大家一致推选吉乐山为小刀会联庄会武装的大队长。
至此，吉乐山终于把淮安县这几个村的小刀会武装改造成了由两淮共产党人掌握的一支民众抗日武装力量。
在吉乐山返乡争取小刀会不久，在杜恒有处的原李桂五红军游击队幸存者共产党员孙志安，根据淮安县工委的指示，他在康家庄领取了小刀会堂口的香火后，从洪泽湖上杜家堡船队请假返乡，与早期共产党员李明东、徐达、徐绍基等人取得了联系，他们一起在谢荡村建立了小刀会堂口。
由于孙志安具有过人本领，而且又有康家庄大堂口的支持，他随即被大家推举为谢荡村小刀会的堂主。
1940年3月，根据淮安县工委书记杨汉章指示，孙志安、徐达等人配合吉乐山在谢荡村小刀会堂口秘密建立了党支部，谢荡村小刀会武装也发展到了70多人。
1940年4月，淮安县工委以仇桥乡谢荡村和水晶村两地的小刀会为基础，组建了由共产党领导的“淮安大队”。因为孙志安有过在盱眙红军的战斗经验，他被任命为“淮安大队”的大队长。
1940年夏，为了回避国民党顽固派对共产党发展武装的打压，由吴觉、赵心权、李干成等人领导的队伍由陇南南进支队第三梯队(辖第八团和第九团)改称为八路军淮河大队。在随后淮河大队的扩编中，淮安大队与由吉乐山、孙志安等人已经掌握的淮安县其他小刀会堂口的武装力量被编为一个营，正式加入了淮河大队序列。
在淮安县工委派吉乐山、孙志安等共产党员出面组建小刀会，继而掌握两淮地区部分小刀会武装领导权的时候，宿迁县也利用安插共产党员打进小刀会内部的方法，暗地里做争取小刀会武装的工作。王天民就是通过这种方式，成功争取到宿北小刀会地方领导权的共产党员之一。
王天民，原宿迁县港头乡赵圩村（现徐州新沂市港头镇赵圩村）人。 1938 年11月，王天民经胡振球介绍，参加了青年抗日救国团。1939年夏天，他又经胡振球和宿北工委书记王子鲁介绍，加入了中国共产党。
当时的宿北地区（宿迁北部，后划入新成立的新沂市），主要包括原宿迁县的五、六、七三个区。
宿北向来是苏北地区的交通要道，北有陇海铁路从新安镇经过，东有宿新公路，西靠京杭运河；地形上也有险可据，既有马陵山的岗峦峡谷，也有骆马湖的大片芦苇荡。因此，宿北地区是当时苏北的军事要冲，成了兵家必争之地。
当时的宿北地区，各种势力都在这里争夺地盘，彼此夹杂交汇。这里既有日本鬼子和汉奸维持会，也有国民党顽固派的宿迁县政府和王光夏的常备旅，还有以王光胜为首的地主武装肉头队，高孝堂、臧公略、张凤仪、苗凤祥等人为首的土匪，以及白鸡会、黄带会、小刀会（当地也叫黑旗会）、九宫道等道会门。
这时候，国民党宿迁县长鲁同轩名义上支持全民抗日，实际上一贯奉行韩德勤的“限共、反共”政策，强行停止共产党在宿北地区的活动，公开取缔“抗日救国会”、“中华民族解放先锋队”等我党领导的爱国抗日组织。
日伪维持会和地主武装肉头队都是反动武装，都反对和敌视共产党组织。土匪也大多数作恶，趁乱烧杀抢劫，对参加抗日的人民武装也有很大的威胁。只有小刀会和其他的一些道会门，当时对各方争斗基本上持中立态度。
中共宿北工委在认真分析和研究了宿北地区当时的斗争形势后，制定了积极争取当地小刀会和其他道会门的策略，认为小刀会是各种势力中可以争取的一支不可忽视的重要力量，党的武装要努力避免和它们发生冲突，应该积极主动地去争取他们参加抗日。
根据宿北工委争取小刀会的指示精神，胡振球、王子鲁就派王天民隐藏起共产党员的身份，以本地普通老百姓的身份去加入当地小刀会，做争取当地小刀会的工作。
根据宿北工委安排，王天民通过叙亲友、拜把子等方法，很快在自己的家乡港头乡赵圩村加入了当地小刀会。
在加入了小刀会后，王天民积极开展工作，他倡导成立小刀会联庄会，抗日保家乡。
当时，宿北老百姓饱受日伪军和当地土匪的祸害，他们中大多数人也都从亲身经历中懂得了只有大家联合起来，自身力量强大了，才能够保得住自己、保得住家乡的道理。因此，王天民等人的倡导很快得到了当地老百姓的广泛响应，王天民也很快做了赵圩村小刀会的堂主。
有了赵圩村小刀会做基础，王天民就以赵圩村为中心，联合了附近的几个村庄，建立起了小刀会联庄会。
当时宿北各庄基本上都有小刀会会首或师傅。赵圩一带有吴景全、傅同训、胡会稳、胡会俊、黄金带，苏营一带有翟祥林，后滩一带有姜荣光，刘墩一带有刘继品，小冲一带有王祥玉，史圩一带有钱家鼎、彭安仁。
然而，由于这个联庄会是由赵圩村小刀会王天民最先倡导的，因此经过大家推举，王天民如愿以偿地做了这个小刀会联庄会的会首。继而，王天民又主动报请加入了两淮小刀会总舵，正式成了这一带小刀会分舵的舵主。
就这样，宿北工委通过王天民成功地把宿北地区几个庄小刀会的领导权掌握到了自己人的手中。