中國古來有所謂「郡國鄉黨之學」，即由熱心教育的賢士及大設學舍於各地，招收學生的組織。
 

　　中國最早的書院為開元六年（西元７１８）唐玄宗所創設的麗正脩書院，其功用為皇帝的典章學術顧問，專作研究，當時的書院全無學校之意。
　　
　　「書院」的名稱似始於宋初。 在宋興之初，天下四書院建置之本末如此。此時未有州縣之學，先有鄉黨之學。通典有記載：「宋有四書院：白鹿洞書院（江南廬山）、嵩陽書院（湖南長沙）、應天書院（河南商丘）、嶽麓（登封）書院（河南嵩山）。」
 
　　四大書院中，又以朱熹曾重建、住講過的白鹿洞書院尤為著名。白鹿洞書院位於名勝廬山五老峰東南山麓，據陳舜俞《廬山志》載唐貞元年間（西元７８５－８０５）洛陽人李渤曾在此隱居耕讀，豢養一隻溫馴白鹿，靈敏能聽驅使，山民目為神鹿，彼時稱山凹為洞，故有白鹿洞之稱。南唐李氏（李後主煜即南唐最後一名國君）期間於昇元四年（西元９４０）在此建立廬山國學（亦稱白鹿國學、匡山國子監），乃國都金陵國子監平行的學校機構。

　　直到北宋初年，才又在荒廢的廬山國學舊址上建起了書院，到了南宋，淳熙六年（西元１１７９）朱熹知南康軍（今九江、星子、廬山一帶），派官員修復，自任洞主，訂立〈白鹿洞書院揭示〉學規，苦心經營，白鹿洞書院名聲遂潮湧鵲起，天下聞名。

　　台灣的書院以康熙二十二年設台南西定坊書院，後來成於乾隆年間的台灣府志載有：海東、玉峰、白沙、明志四書院。乾隆元年上諭曰：「書院之制所以導進人才，廣學榽所不及。」台灣亦遵此主旨，經清朝在台二百多年陸續在各地設六十二所書院。