940年，南唐朝廷在李渤隐居的白鹿洞建立学馆，称“庐山国学”，又称“白鹿国学”，置田藏书，由金陵国子监九经教授李善道担任白鹿洞洞主，掌管教育和学习。南唐中主李璟在未即位之前也曾在白鹿洞读书，后来当了皇帝，就把这里设为书院。

庐山国学与当时南京国子监齐名，为官办学院。从此，四方学子慕名而来。

976年，南唐亡，九江百姓遭受兵马之灾，庐山国学随之成为废墟。至北宋初期，各地增设书院，庐山国学乃改称白鹿洞书院，从此，规模逐步扩大。

977年，江州知州周述将白鹿洞书院办学情况上奏朝廷，宋太宗赵光义随即诏令将国子监刻印的《诗》、《书》、《易》和《礼记》、《仪礼》、《周礼》、《左传》、《公羊传》、《榖梁传》这“九经”颁赐给白鹿洞书院。

赵光义的这一诏令，奠定了白鹿洞书院的重要地位，书院随即声名远播，来此求学的人络绎不绝，当时与岳麓、睢阳、石鼓等书院，并称为天下四大书院。书院殿阁巍峨，亭榭错落，师生云集，俨如市镇。　

980年，白鹿洞洞主明起到蔡州褒信县任主簿。书院因无人主持，逐渐废弃。

1001年，真宗赵恒下令给全国各地学校、书院发送国子监印本经书，并修缮孔子庙堂。有了皇上的诏令，白鹿洞书院得以重新修葺，并重塑了孔子及弟子的画像，师徒们从此也有了祭祀圣人的专门场所。北宋末年，金兵南下，战争频繁，烽火连天。1054年，白鹿洞书院毁于兵火。期间，书院赖以生存的耕地被收回，书院无法继续提供膳食，于是学生们纷纷离去，校舍逐渐倒塌，不久书院停办。自北宋末年到南宋初期，白鹿洞书院荒废了120多年。