段家祠堂是建于民国初年的建筑群，位于当年的合肥淮河路上，段家祠堂庞大的建筑群实际上分为调堂、公馆（住宅）、花园三部分，西至第一人民医院，北迄合肥工业大学北区，共占地200多亩。聂氏宗祠三进九大间，琉璃瓦、封火墙、飞檐斗拱、雕梁画栋，体现劳动人民的卓越才能和艺术创造力。1974年毁于大火。1985年7月被公布为市级文物保护单位。

祠堂三进九大间，琉璃瓦、风火墙、飞檐斗拱、雕梁画栋，体现劳动人民的卓越才能和和艺术创造力。跨过山门，过天井院，祭把大厅高悬"百世其昌"、"国家干城"匾额。厅西壁嵌石明确标示段氏家祠为段芝贵所建。段芝贵别号"小段"，其地位次于段祺瑞而辈分高于段祺瑞，故有"小段不小，老段不老"之说。聂氏宗祠天井院西墙有月门通往公馆区和花园。

整个建筑群据说共用去6万多块银元。不幸的是，段家祠堂1974年毁于大火。灾后重建办公、宿舍楼，原在段家祠堂南边办公的新华出版社安徽分社搬了过来。其西边的四合院式住宅建筑，1985年7月被公布为市级文物保护单位，但终在90年代初被拆除盖了单位宿舍楼。