民国27年(1938年)5月22日，中共中央发出《关于滁州失守后华中工作的指示》，要求在津浦路以东、陇海路以西、长江以北的广大地区内发展游击战争，抗击日军侵略。同年10月，中共安徽省工委，根据中央这一指示，通过安徽省民众总动员委员会，派江上青等一部分共产党员干部，随国民党安徽省第六区行政督察专员公署专员盛子瑾赴皖东北地区开展抗日工作，从此为淮北抗日根据地创建阶段。民国28年3月，中共中央山东分局根据中央“巩固鲁南、发展苏皖”的方针，派杨纯(女)南下，组建了中共皖东北特委，直属山东分局领导。特委利用当时皖东北地区统一战线的有利条件，积极开展抗日宣传活动，发展党和群众组织。6月，在苏北邳睢地区组建了中共苏皖边区委员会。9月，区党委南移皖东北的泗县，皖东北特委遂结束。10月，成立豫皖苏边区党政军委员会，主席彭雪枫，委员吴芝圃、张震、肖望东、岳夏，秘书长岳夏。党政军委员会统一领导豫皖苏边区党政军民工作。11月，在涡北新兴集成立豫皖苏边区抗日民主政权机构——豫皖苏边区联防委员会，主任委员吴芝圃、副主任委员刘宠光、秘书长周季方(由王子光代理)。联委会下辖淮上行署(辖怀远、凤台、蒙城、宿南4个县政府和宿东办事处)、边区直属县政权：萧县、永城、涡阳、亳县、夏邑5个县政府和宿西、砀南两个县办事处。12月，中共中央决定以陇海铁路为界，苏皖边区党委改属中共中央中原局领导。民国29年2月底，盛子瑾在国民党省政府的压力下被迫出走。3月24日，苏皖边区党委召开皖东北第一届各界人士代表大会，宣告皖东北抗日民主政权的建立。独立自主地建立了皖东北抗日根据地。专署名称仍用安徽省第六区行政督察专员公署。代专员陈粹吾，专员刘玉柱。9月，区党委东进淮海区后，专署由中共淮北苏皖军政委员会皖东北军政分会领导。专署下辖：泗宿、淮泗、泗南、泗北、泗五灵凤、盱凤嘉6个县办事处，以及泗(县)五、泗(县)北两个直属区署。民国30年5月，皖东北区党委成立时，原安徽省第六区行政督察专员公署机构仍然保留，又称皖东北专员公署，作为皖东北地区的抗日民主政权的领导机关。此时，专署下辖除原有县区级机构外，又增加洪泽湖管理局的县级政权机构。同年8月，淮北苏皖边区行政公署成立，第六区行政督察专署遂撤销。民国29年7月，为了扩大豫皖苏边区抗日根据地，八路军第四纵队第四旅和第五旅第十四团进军淮上地区，开拓了津浦铁路以西、宿蒙凤公路以东、淮河以北、浍河以南的广大地区，成立了淮上抗日政权——淮上办事处，主任李丰平，副主任张百川、任崇高。办事处属豫皖苏边区联防委员会领导。民国30年1月，淮上办事处易名为淮上行署，谢邦治任主任。下辖怀远、凤台、宿南、蒙城4县政府和宿东县办事处。民国30年5月，新四军第四师在豫皖苏边区反摩擦斗争失利，转 移到皖东北地区，党政军委员会遂结束工作。豫皖苏边区党政干部随新四军第四师撤往皖东北地区，边区联防委员会、淮上行署也结束工作。
　　民国29年9月，八路军第五纵队东进淮海地区，留下新二旅第六团坚持皖东北抗日斗争。民国30年2月，张爱萍率新四军第三师第九旅从淮海西返。18日，攻克泗县东部的青阳，歼灭伪军一个团；继攻克马公店，然后向西南和西北地区扩大战果。经过40余天的连续作战，收复了被日伪军蚕食的地区，基本上恢复了皖东北抗日根据地。至此，淮北抗日根据地进入巩固阶段。5月，中共中央华中局决定撤销苏皖边区党委，成立了中共淮海和皖东北两个区党委。8月23日，中共华中局根据新四军第四师转到皖东北地区后，根据地不断扩大的情况，决定成立淮北苏皖边区军政党委员会，书记邓子恢，委员刘子久、彭雪枫、刘瑞龙、刘玉柱、吴芝圃、张爱萍，统一领导淮北苏皖边区党政军民工作。为加强淮北抗日根据地政权工作的领导，撤销了安徽省第六区行政督察专员公署，成立淮北苏皖边区行政公署。9月13日，淮北行政公署正式成立。由第二届淮北苏皖边区参议员大会选举，主任刘瑞龙，副主任刘玉柱(后为陈荫南)，秘书长张辑五。同时建立区内党团组织，刘瑞龙兼任书记，刘玉柱兼任副书记。行署机关驻泗南县张塘。行署管辖范围：津浦铁路以东、运河以西、淮河以北、陇海铁路以南的广大地区。
　　民国31年9月，淮北抗日根据地成立精简委员会，刘瑞龙任主任委员，领导并检查根据地的精兵简政工作。至民国32年1月，淮北行政公署进行了三次精简，机关人员由原来的156人减少到50人，精简了68%。同时，部队也进行了缩减编并。精兵简政的实施，增强了部队的战斗力，提高了机关的工作效率，减少了开支，减轻了根据地人民的负担。
　　11月，根据中共中央《关于统一抗日根据地党的领导及调整各组织间关系的决定》和华中局指示，撤销淮北苏皖边区军政党委员会，对淮北区党委成员作了重大调整，邓子恢为区党委书记，刘子久