相传书院的创始人可以追溯到南唐的李渤。李渤养有一只白鹿，终日相随，故人称白鹿先生。后来李渤就任江州（今九江）刺史，旧地重游，于此修建亭台楼阁，疏引山泉，种植花木，成为一处游览胜地。由于这里山峰回合，形如一洞，故取名为白鹿洞。宋朝书院讲学之风盛行，因朱熹和学界名流陆九渊等曾在此讲学辩论，白鹿洞书院成为了理学传播的中心。

白鹿洞书院亦称“庐山国学”，与中国古代的岳麓书院、应天府书院、嵩阳书院并为“四大书院”，并被推为“古代四大书院”之首。书院坐北朝南，为几进几出的大四合院建筑，布局相当考究;从建筑材质结构看，书院建筑多为石木或砖木结构，屋顶均为人字形硬山顶。礼圣殿、朱子祠、御书阁、明伦堂坐落在楼阁庭院。