1921年(大正10年),2月,由林獻堂所領導的第一次 「台灣議會設置請願運動」在台灣與東京展開。議會運動刺激了正在大稻埕開設大安醫院的醫師蔣渭水,使他開始糾合同志。蔣渭水一方面與林獻堂、蔡培火等人「遙為響應」,一方面與一些學校裡的知識青年交遊。在星期假日時,蔣渭水的醫院,經常聚集一些青年學子 (其中以北醫和北師兩校的學生最多),這些青年學生與蔣渭水闊論時局,交換心得。
台灣文化協會於1921年10月17日下午1時,在台北大稻埕靜修女子學校舉行創立大會,會員人數1032名,當天出席會員300餘人,以北醫、北師、商工學校、工業學校學生佔多數。據日本警察調查報告,在1032名會員中,學生佔279名,約佔會員總數的10分之3。
初期台灣文化協會的活動,包括有會報發刊﹔設置讀報社,供民眾閱覽﹔舉辦各種講習會﹔開辦夏季學校﹔文化講演會(全島巡迴演講)﹔文化話劇運動﹔「美台團」(電影巡迴隊,放映社教電影〉等。
在1923年10月17日,文化協會於台南市召開第三次大會,議決利用暑假舉辦夏季學校,遂自翌年(1924年)起,連續3年在霧峰舉辦,林獻堂提供霧峰林家「萊園」充作校舍兼宿舍,男女兼收。先後所開課程,包括有宗教、哲學、論理哲學、台灣通史、憲法、經濟、西洋文明史、科學概論、經濟思想史、中國古文明史、外國事情、衛生、孝道、中國學術概論、社會學、新聞學、人生我觀、星宿講話、資本主義的功過、法的精神、結婚問題、何謂自治……等課程。當時聘請的講師,包括許多頗具聲望及學養的名士,例如林茂生講授哲學、論理哲學,西洋文明史的課程﹔連雅堂講授台灣通史﹔哥倫比亞大學回來的陳炘擔任經濟學等課程。
文化協會的另外一項重要活動是巡迴全島的所謂「文化演講」。文化演講頗受民眾的歡迎,根據台灣總督府警察當局的報告:「大正14年(1925年)可以說是文化協會舉辦講演會的狂熱時代,地方會員,凡有機會即邀請幹部去開演講會。發動民眾藉口歡迎,沿途燃放爆竹,高呼口號,作一種示威運動,舉行旁若無人的盛大歡迎會,以張聲勢。幹部也儼然以志士們自居,睥睨一切,徒以挑撥民族的反抗心為能事,釀成普遍的反母國 (日本)的風氣。尤其是每次介入地方問題或農民爭議,助長糾紛,以收攬民心,如遇取締,則展開執拗的演講戰與示威運動,以示反抗。這運動實開本島農民運動與勞工運動的先河。」
台灣文化協會為農工同胞作啟蒙運動,自始即以巡迴演講為主要方式。無奈農工民眾多年來濡染於愚民政策之下,理解力有限,對知識的吸取不盡理想。文協幹部早已有鑑及此,於是考慮藉從電影來表現。當時文協的專務理事蔡培火,尤其重視電影對大眾的教育功能。遂於1925年秋,從東京購買社會教育影片十數卷,及電影放映機一部,設立「活動寫真班」(即電影班),名叫「美台團」之機構。「美台團」的電影隊最初只有一隊,巡迴放映於當時的台北州及台中州各地,頗得各地民眾歡迎,遂於1926年9月起,又組織第二隊電影隊,巡迴於南部的農村小鄉鎮之間。在當時資訊媒體尚不發達的時代,台灣文化協會巡迴在鄉間的電影隊,受到民間相當熱烈的歡迎。
台灣文化協會可以說是1920年代台灣諸多民族運動、社會運動的大本營,也是許多社運團體的「母體」。經由文化協會的啟蒙,激勵了1920年代多起青年學生運動﹔更由於文協走向農村與民間,也替台灣農民運動與 勞工運動開啟先河。
然而,也因為農運、工運的崛起,文化協會的參與份子中,左翼青年日增 ,共產主義的邪說已開始流行,中共、日共以及國際共產組織的影響,漸次在文協內部滋長起來,尤以反映在文協幹部蔣渭水維護下的「無產青年」一派的思想、行動最為鮮明。1927年1月,台灣文協會內部發生左右分裂,連溫卿、王玫川等左翼新勢力掌握了文協會的主導權,取代林獻堂、蔣渭水、蔡培火等文協舊首腦,林獻堂、蔣渭水等舊幹部乃退出文化協會,另組團體,遂有台灣民眾黨的誕生。而分裂後的「新文協」,走向農工運動的道路,主導了1920年代後半期台灣的左翼運動。