民國四年（1915年）《重修蒙城縣志》記載，城內(nèi)華祖廟在北大街路西（現(xiàn)城關(guān)醫(yī)院斜對面）。
華祖即華佗（？－208），漢末著名醫(yī)學(xué)家，又名旉，字元化，沛國譙（今亳州市）人。精通內(nèi)、外、婦、兒、針灸等各科，尤其擅長外科，創(chuàng)用“麻沸散”，給患者-后施行剖腹等手術(shù)。還創(chuàng)編“五禽戲”，教人鍛煉身體，增強(qiáng)體質(zhì)。據(jù)說曹操常患“頭風(fēng)”，華佗為他開顱治療，病情大大好轉(zhuǎn)。曹操征華佗專為自己治病，華佗不允，曹操怒，將其殺害。
為了紀(jì)念華佗，各地建起華祖廟。蒙城不僅城內(nèi)有，一些大的集鎮(zhèn)也有。可以推斷城內(nèi)的華祖廟規(guī)模應(yīng)該和小澗華佗廟基本相同，也應(yīng)初建于唐朝初年。
解放前，城內(nèi)的華祖廟已毀壞殆盡，只剩下三間廟屋，且已破爛不堪。解放后，曾進(jìn)行過維修保護(hù)。文革初期，華佗像被毀，后來廟屋也成為民居。1996年，北大街仿古改造時(shí)，在原址新建華祖廟，仍為三間，面向南，東西長約十米，南北寬不足五米。下為廊柱式，廊寬約一米，兩根紅色大柱。墻為深灰色，磚縫勾勒為白色，整齊劃一，上為轎頂式，四角飛檐。整體看來，規(guī)模甚小，但較為美觀。內(nèi)無塑像，空空如也。