1933年，赵云祥投身冯玉祥领导的"抗日同盟军"，后在战败后回归家乡。不甘心的他随后投奔阮玄武，被委任为军官教导队队长。在1937年的"七七事变"后，赵云祥率部成功突围，与其他部队合并，组建了以他为团长的新团。队伍在南下过程中与冀东保安队会合，规模扩大至800多人，坚守在抗日最前线的泊镇车站，对抗日侵略者展开积极防御。
随着日军入侵，泊镇成为无人防守区域，赵云祥展现出英勇，组织机枪手成功击落击伤日机，为抗日立下功绩。他逐步扩大部队规模，担任河北先遣第一游击支队司令，招募与收编队伍，最终发展至3000多人，编为两个团和特务、骑兵连。在冀中平原，赵云祥与各地抗日力量合作，成为重要的抗日力量。
1938年，赵云祥的部队在冀南地区发展迅速，成为人数最多、编制正规的抗日武装力量。他率部反击民团，得到王景文县长支持，队伍发展至三千多人。在此期间，赵云祥积极组织抗日活动，如破坏敌人交通和袭击德州，赢得民众支持。
1939年，赵云祥被孙良诚任命为冀察战区游击第三纵队司令，部队扩充至两个旅和特务团。然而，在蒋介石和鹿钟麟推行反动方针的背景下，赵云祥对反共行动持有保留态度，最终在日军侵袭时，选择撤退并组织游击战。一九四一年十二月，赵云祥在曹县投靠汪伪政权，被改编为伪和平救国军第四军，尽管如此，他曾在调往苏北前释放被捕抗日人士，以示与八路军的和解姿态。
赵云祥将军是华中战区第一位起义将领 。[1-4]
