全台首學台南市孔子廟創建至今已有三百多年歷史,不但是台灣地區第一座孔子廟,更曾是清代台灣地區最高學府-台灣府學的所在地,所以有「全台首學」美稱,特別具有歷史價值與意義。明永曆十九年(1665一六六五年),當時鄭經接納諮議參軍陳永華的建議,在東寧天興州寧南坊鬼仔埔(即孔子廟現址),興建「先師聖廟」,旁置明倫堂,永曆二十年(1666年)建築完成,是為現在台南孔子廟的前身。
清康熙廿三年(1684年),巡台道廈周昌,台灣知府蔣毓英奏准整修廟堂,改名為「先師廟」,置台灣府學,懸康熙御書「萬世師表」聖匾於正殿中,中為先師廟,東西設兩廡,南為櫺星門,北為啟聖祠,並漸次增蓋泮池。清康熙卅九年(1700年)巡道王之麟修建原廟宇,並新建明倫堂於大成殿東邊,堂後為龍亭庫。

清康熙五十一年(1712年),巡台道廈陳璸上任後再籌議修葺,加建形如半月之圍牆、禮門、義路、泮池、朱子祠、文昌閣與大成坊,工程於翌年四月完工,孔子廟規模大體具備,清康熙五十九年(1720年)陳文達《台灣縣志》中的「文廟圖」,清楚的描繪了當時的設施。清雍正元年(1723年)二月奉清廷的詔封孔子五代,改啟聖祠為崇聖祠。往後曾數度修繕,大成殿也於清康熙五十八年(1719年)由巡道梁文瑄改建成重簷歇山形式。

清乾隆十四年(1749年)孔子廟又漸傾圯,巡台御史楊開鼎倡議重建,同年十月動土,清乾隆十六年(1751年)三月竣工,修建之大成殿及兩廡規模倍前,清乾隆十七年(1752年)王必昌《重修台灣縣志》中的「府學宮圖」則是最好的見證。清乾隆四十二年(1777年),知府蔣元樞又加以整建,東大成坊外出現了泮宮坊。大成殿西側則於海東書院址建府學署,自此孔子廟共有四條南北軸線形成,由西而東分別是學署,大成殿,明倫堂與朱子祠,可謂是台南市孔子廟之全盛期,而《重修台郡各建築圖說》中之「重修台灣府學圖」與明倫堂中的「台灣府學全圖」碑更忠實的紀錄了當時孔子廟的規模。可惜嘉慶與同治年間因大地震等因素,廟舍逐漸破壞。

自大正六年(1917年)日人倡修,由台南士紳捐資修葺,於七月興工,翌年三月竣工,重置禮器及樂器。此次大修,將所有的舊建築物解體重建,山田孝使著有《台南聖廟考》一書,詳細記錄描述整建過程,「起工前之台南聖廟配置圖」與「落成後台南聖廟配置圖」兩圖清楚的記錄修建前後之差異。其中明倫堂的兩廊、後面的文昌祠、東面的朱子祠、大成門前的櫺星門及禮門義路旁的圍牆都不再復建,台南市孔子廟於是形成了今日之規模。
民國三十四年(1945年)三月第二次世界大戰末期,台南市中心被炸,孔子廟嚴重受捐。戰後初期台南市政府集資加以分批修葺,完成於民國四十二年(1953年),隨後於不同年份修護不同之殿堂。民國六十六年(1977年)配合中央、省府等各機關倡導觀光及整修古蹟三年計劃,台南市政府耗額拆建大成殿。民國六十八年(1979年)文昌閣斜傾無法再修,台南市政府遂以重建原地。
民國七十一年(1982年),政府頒布「文化資產保存法」:民國七十二年(1983年),政府公布「台南市孔子廟」為台灣地區一級古蹟,也是所有孔子廟古蹟中,歷史最悠久、規模最宏大,環境最幽美之案例。民國七十四年(1985年)五月至七十八年七月(1989年)再次大修,範圍遍及各建築,成為今貌。