民國四年（1915年）《重修蒙城縣志》記載，城內華祖廟在北大街路西（現(xiàn)城關醫(yī)院斜對面）。

華祖即華佗（？－208），漢末著名醫(yī)學家，又名旉，字元化，沛國譙（今亳州市）人。精通內、外、婦、兒、針灸等各科，尤其擅長外科，創(chuàng)用“麻沸散”，給患者-后施行剖腹等手術。還創(chuàng)編“五禽戲”，教人鍛煉身體，增強體質。據(jù)說曹操?；肌邦^風”，華佗為他開顱治療，病情大大好轉。曹操征華佗專為自己治病，華佗不允，曹操怒，將其殺害。

為了紀念華佗，各地建起華祖廟。蒙城不僅城內有，一些大的集鎮(zhèn)也有。可以推斷城內的華祖廟規(guī)模應該和小澗華佗廟基本相同，也應初建于唐朝初年。

解放前，城內的華祖廟已毀壞殆盡，只剩下三間廟屋，且已破爛不堪。解放后，曾進行過維修保護。文革初期，華佗像被毀，后來廟屋也成為民居。1996年，北大街仿古改造時，在原址新建華祖廟，仍為三間，面向南，東西長約十米，南北寬不足五米。下為廊柱式，廊寬約一米，兩根紅色大柱。墻為深灰色，磚縫勾勒為白色，整齊劃一，上為轎頂式，四角飛檐。整體看來，規(guī)模甚小，但較為美觀。內無塑像，空空如也。