大善寺位于南岳古镇北支街。该寺始建于南北朝，为陈慧思禅师唱道之地，后毁。唐初重建，宋元时兴废情况不明。明崇祯7年（1644）毁于火。清初，寺址、菜地变成民产，至光绪21年（1895）冬，默庵、淡云和尚与居士王哲堂、饶少甫等捐资赎回，后两年（1897）重修并扩建。重建后有山门、天王殿、偏殿、大雄宝殿、藏经阁、方丈室、寮房、库房、斋堂等大小房屋40余间，建筑面积达三千多平方米。捐置香火田租108担。寺成，公推默庵为住持，常住僧人60—90人，为清代南岳佛教圣地丛林之一。

寺内原有明桂王所舍大铜钟一口，藏经一部。清光绪26年（1900）于菜地挖出玉佛一尊，均流失。今尚存宋宝庆年间（1225—1227）石制长形水缸一口，上刻“古春”二字，其长2.9米、宽0.6米、高0.66米。

新中国成立后，庙宇被南岳机关占为办公用房和干部宿舍。僧人转移其他寺庙，佛像、法器转存华严寺，文化大革命中，佛像、法具荡然无存，八十年代这里是图书馆和武术学校，把一所丛林搞得面貌全非。党的十一届三中全会后，将庙宇退还给南岳佛教协会管理，南岳佛教协会的领导经过多次讨论研究，决定对这座庙宇全部彻底大维修，并确定副会长慈茕法师专管此庙，经过三年的维修和两年的扩建，现有天王殿、地藏殿（偏殿）、韦驮殿、大雄宝殿、禅堂、斋堂、客堂、寮房、方丈室、藏经楼、香积厨、锅炉房、厕所、丛林住房等共有房舍100多间，建筑面积达4000多平方米，恢复了丛林制度，为南岳五大丛林之一，大善寺现在超过了历史最盛时期的规模，成为南岳最重要的寺庙之一。