公元784年怀海禅师到此主持，创立禅院，制定《禅门规式》，后称《百丈清规》，为以后禅宗寺院的僧职制度、仪式等作出了规定。。因此佛门又有“马祖开道场，怀海立清规”之说。同时他还倡导“一日不作，一日不食”农禅并重的体系，让出家人身体力行解决自已的衣食问题。他对佛教界的第二个贡献就是培养了传人，中国佛教禅宗发展到极盛时出现了“一花五叶”的气象，一花指的是佛教禅宗，五叶指的是沩仰、临济、曹洞、云门、法眼五大禅宗宗派。

百丈寺一直是人们探幽览胜的好地方，唐宣宗、理学家周敦颐、明代吏部尚书蔡国珍都曾到此，并留下了大量的诗词和石刻。宣宗登基时，御赐“大智寿圣禅寺”的匾额；大书法家柳公权写下的“天下清规”四字，勒石置于百丈山西石壁。百丈寺经历代战火的毁坏，现今仅存两座建筑即大雄宝殿和僧寮。大雄宝殿是主体建筑物，现存的是同治六年（公元1868年）留下的，长10米，宽12米，高4米，是寺中的正殿。“大雄”意谓佛有大力，能伏“四魔”，是佛教徒对释迦牟尼的又一尊称，即大世界英雄于世独尊。

2004年，通过招商引资，中国佛教咨议会主席、深圳泓法寺本焕大师筹集1.5亿元人民币修复百丈寺，2011年8月31日举行了胜大的开光庆典，千年古刹得以重现雄风。现百丈寺占地1100余亩，建筑面积近5万平方米，气势恢宏，号称华东地区面积最大，被誉为“世外桃源，别有洞天，中国一流，世界闻名”的禅宗祖庭。