随后段海洲又在老同学侯如墉的介绍下，与驻SJZ的国府特派员取得了联系，并且得到了3支手枪和200元纸币的“军饷补给”。
部队是成立了，但是没有战斗力。人家正规军在日军面前都是不堪一击，何况这支只有30来人的游杂？
于是段海洲一面要中央委派的参谋长帮助训练部队，一面继续招募兵员。为了能迅速壮大部队，段海洲决定由政治部主任张国法来解决兵源问题。
这位张主任还真不负段团长之望，他带着几名宣传员走县串乡到处游说，开口民族、闭口国家，讲到激动时还一把鼻涕一把眼泪的，感动的周遍乡邻纷纷响应，还吸引了一支掉队的正规军来参加队伍。
这支正规军有7名士兵，段海洲全部委任为小队长，并让他们协助参谋长训练部队。逐渐的，段海洲的义勇团由6个人发展到了60余人。
当日军奉命移防后，段海洲带着已经发展到300来人的义勇军一举突入武强县，击溃了当地伪军，还缴获了几门迫击炮和轻机枪。
武强县的光复，使段海洲的名字响遍了冀中，踊跃报名的参军者陡然间增加一倍，其中不乏带枪带马来参加的，甚至连冀县的三百多民团也来参加了义勇军。
段海洲还利用其中一名曾经在兵工厂做技术工作的参军者搞起了兵工厂。半个月后，这个小规模的兵工厂已经开始制造地雷、迫击炮弹和手榴弹了。
到了1938年初，段海州的部队一跃成为河北地区几支游击部队中实力最大的团体，拥兵3400余人。
这个时候的段海洲，已经不安于武强一县之地。他以原冀县民团的300余人为基础进入冀县开展游击，另以一部在献县至交河的公路上袭击日军补给车队，使日军驻献县的部队得不到补给，被迫撤军。献县于是进入了段海洲的势力范围，他的部队也一下子暴增到6000余人。
随着段海洲势力的坐大，逐渐受到了周围游击部队的注意。
先是受中央正式委派的河北民军总指挥张荫梧派人联系收编事宜，被段海洲断然拒绝。
但是另一支实力雄厚的游击部队就不那么买段海洲的帐了。
谷<span&这支部队的司令名叫赵云祥，原是29军教导队的副队长。
29军放弃平津后，赵云祥带着教导队的部队官兵在河北拉起的抗日大旗。
由于是正规军发展出来的部队，段海洲的义勇军不管是在战斗力还是在战术上都打不过赵云