在士林舊街原有「芝蘭廟」〈即今之神農宮〉,在漳州人和泉州人械鬥時,做為守護漳州人的廟宇,但由於漳泉械鬥後,漳州人於士林新街重新闢建街道,所以便決定在新街建一座供奉媽祖的廟宇,也就是慈諴宮(諴讀作咸,取書經「諴於小民」──誠於小民之意)。。
在士林新街興建主要功臣潘永清先生及獻地供建廟宇的曹七合先生等人的推動,並由信眾、百姓共同出錢協力捐建下,歷經五年終於興建完成,慈諴宮並與當時舊街的神農宮並稱南、北兩大宮。


清朝嘉慶元年〈公元1796年〉 「慈諴宮」之前身興建完成,地點在今日由士林往北投過「士林橋」〈即文林北路左側附近〉的地方。

清同治三年〈公元1864年〉,隨著士林新街完成,便跟著遷到八芝蘭新街內,當時宮廟名稱為「芝蘭宮」,而後改宮名為「慈諴宮」。「諴」字音同「咸」,取自書經「諴于小民」,意思與「諴」相同。取名「慈諴宮」即是取自媽祖「慈悲為懷」的意思。
清朝光緒元年〈公元1875年〉再度興建,由潘永清先生、曹七合先生捐款、捐地興建,並由信眾共同捐款協力興建,歷經五年才興建完成。
清朝光緒六年歲次庚辰〈公元1880年〉興建完成,廟貌莊嚴,香火鼎盛。
民國16 年歲次丁卯〈公元1927年〉,因興建年代久遠,受到風雨侵蝕,造成牆瓦上的彩繪剝落、樑柱傾倒歪斜,需要整修。因此,在大家的建議下,由當時委員長潘光楷及主任委員何炳奎等人推動改建,先後共同致力改建,並增設兩廂,經過10年終於完成。廟貌巍峨,富麗堂皇,美倫美奐,成為士林區居民共同敬仰的信仰中心。


民國74年歲次乙丑,〈公元1985年〉8月19日,經內政部評定列為「國家三級古蹟」古蹟保護,更肯定慈諴宮之價值。