木兰祠始建于唐代，金代泰和年间（１２０１－１２０８），敦武校尉归德府谷熟县营郭镇酒都监乌林答撒忽剌又重修大殿、献殿各三间，并创塑了花木兰像。至元代元统二年（１３３４），睢阳府尹梁思温倡议，募捐二千五百贯，重修扩建。清嘉庆十一年（１８０７），由该祠僧人坚让、坚科和其徒田何、田桢、田松等，又募资修祠立碑。由于历代重修，祠宇占地面积一万平方米，祠地四百余亩，住僧人十余人。
1943年毁于战火。现幸存祠碑两通。一是元代《孝烈将军像辨正记》碑，立于该祠大门内东侧。碑为青石，通高3.6米，宽1米，碑首前后皆为深浮雕的二龙云里戏珠，布局对称，造型大方。篆字题名《孝烈将军祠像辨正记》，碑四边刻有图案，上边用夸张浪漫的手法，刻有二龙戏珠，龙头大而逼真，龙身简而细小，穿入流云，生动美妙。两边阴刻牡丹花纹，线条活泼流畅，古朴而不俗。碑文正书３１行，满６８字，其刻书精美，苍劲有力。龟座高０.７米，龟形伸头直尾，四肢半曲，似起似卧，栩栩如生。碑文下款：元朝元统二年，祖居归德汤德立石，侯有造撰文，曹州李克均、李英刻石。此碑经专家鉴定，确属元代石刻真品。１９８２年，由省文局拨款，又重修碑楼，顶为轿形，尖顶四脊，合瓦挑角，１７层封檐，前后园门，古朴典雅，碑楼四周砌有围墙。另一通是清朝《孝烈将军辨误正名记》碑，立于该祠大门外西侧。通高２.１４米，宽０.７８米，方座，碑额刻有深浮雕盘龙，篆字题名，碑文正书，归德府商丘县庠生孟毓谦撰文，归德府商丘县邑大学生孟毓鹤书丹，芒山石工张握玉刻石。１９９３年，虞城县举办了中国第一届木兰文化节。我国部分历史学家聚集在商丘，一起分析了《木兰辞》内容和尚存的元碑记载。大多数学者一致认为，花木兰的故乡在虞城。