在中国历史上，尊儒祭孔之风由来已久。大成殿是过去官员和读书人祭祀孔子的地方，在我国很多地方都有，以山东曲阜大成殿最为有名，在我们汝南也坐落着一座大成殿。
汝南大成殿，位于现今中共汝南县委院内。据《重修汝南县志》记载：“府学南至大街，北至城坻，东至按察司，西至千户所。成化八年(公元1473年)建。崇祯十七年(1644年)，东西厢两斋名宦乡贤祠毁，唯大成殿独存。清顺治九年(公元1653年)、十五年(公元1659年)相继整修。”
大成殿坐落在高一米，面积为二百多平方米的砖砌台基上，台高与殿基相平。殿面阔五间，长15.4米，进深三间，107米、高11.30米。单檐九脊歇山式，屋顶覆盖绿色琉璃瓦，正脊中间饰一宝瓶，宝瓶正下方竖刻“大成殿”三个字。
大成殿结构为九架檩，前后双步梁，立足柱，五彩重下昂斗拱。昂头为琴面象鼻状，有异形瓜拱。明间、补间，梢间、斗拱各三攒，柱头斗拱四攒。檐柱高4．3米，柱径为0．39米，柱头为平面，柱础为青石覆盆式。明间柱础雕有覆莲。檐柱柱础系石鼓式，鼓下有复盆柱础，雕有覆莲，整个建筑古朴庄严，雄伟壮观。
解放初，殿前还有三孔石桥。桥下石柱刻有石雕小庙，桥上两侧栏石柱上，刻有十二条展翅卷尾的鲤鱼。故有“桥下庙，庙上桥，三孔石桥不流水，十二条鲤鱼往南飞”之歌谣，堪称汝南一景。
1982年8月13日被汝南县人民政府列为县级重点保护文物。
大成殿代表着兴学、兴教,主张尊孔、祭孔,借以弘扬中华民族文化。中国是文明古国、礼仪之邦，重德行、贵礼仪，在世界上素来享有盛誉。在中国五千年的文明历史进程中，我们的祖先创造了辉煌灿烂、丰富多彩的传统文化。其中所蕴含的民族精神和诸多道德理念，至今仍然具有强大的生命力，是我们在新时代进行思想道德建设的重要思想养分。