元代时在阜阳城内建立迎祥观，又名三清观、大观。明初，张三丰在该观修炼，留有混元衣。清代，阜阳城内有道处，州、府衙门置官管理。民国期间，国民党当局拆寺观，毁神像，道教徒为保护其利益，于民国25年(1936年)成立了阜阳道教协会。解放初期，著名的庙观还有十多处，道士约60人。土改期间，大部分返俗，其上层人物张静庵于1958年去世。1961年，陈拂尘、常华庵出席阜阳县政协会议，陈、常先后去世，道教后继无人，停止活动。

　　阜城著名的道观有：

　　迎祥观　在城内西北隅，供奉三清尊神，元代初建，原有房屋60间，庙地500亩，现房屋神像全毁，为阜阳地区财政局、人事局宿舍和干休所。

　　城隍庙　在城内。供奉城隍爷、十殿阎罗。明洪武十八年建。清代重修，原有房屋50间，庙地400亩。解放后多次维修，现为地区群艺馆。

　　刘公祠　在城西北角，供奉抗金英雄刘锜。明代初建，清乾隆十五年重修，(1939年)被拆毁后重建。现有殿堂6间。