早期的六堆社會，墾民都以耕讀世家自勉，所有墾民在農墾之餘極力栽培子女讀書，但六堆的地理位置位於台灣南端內陸，交通不便，要找好的教師不易，因此有許多地方仍從大陸原鄉請老師前來授課，而劉兼善的父親也就是在這種情形下由大陸原鄉嘉應州竹渡堡鳳嶺來台講學的老師，因此劉兼喜可說是出身於書香世第的家庭。
民族思想的萌芽與發展
劉兼善出生於一八九五年，剛好是中日甲午戰爭清朝割讓台灣、澎湖給日本那年，而劉兼善的父親身為前清秀才當然對這種遭異族統治的結局非常不滿，因此雖然劉兼善的父親在他七歲時就已去逝，但傳統的民族思想仍深植在他心中。 考試成績優異的劉兼善，順利進入了位於台北的官立台北國語學校，僅十四歲的他隨即遠離故鄉到台北求學。在台北唸書的劉兼善由於交遊增加，再加上幼時的民族思想引導，與當時不願被異族統治的一群學生，經常秘密集合互相鼓勵，到了畢業前一年，剛好是辛革命成功之年，劉兼善乃秘密參加了中國革命同盟會，這是劉兼善進入政治生涯的最初，在當時的六堆學生，雖然也有許多具有民族思想者，但大多不敢太直接參予這種秘密的政治活動，劉兼善算是極為特殊的例子。
中華民國的縣長
一九一九年，二十四歲的劉兼善從早稻田大學畢業獲得了「政學士」學位，剛畢業的他隨即從日本到上海謁見當時孫中山總理，一方面向總理請示展開革命方略之方法，一方面也常在環龍路的國民黨辦事處走動，此時長時間深植在內心的民族思想已經有了實踐的地方。劉兼善由於忠黨愛國又認真熱忱，經常對黨國有建設性的建議，特別是為了作育培養建國的政治大才，劉兼善乃提出合併廣東公立法政專門學校、廣東高等師範學校、廣東公立農業專門學校等三所學校為「廣東大學」。一九二七年，劉兼善被派為廣東省蕉嶺縣縣長，是第一位台灣出生同胞，擔任大陸祖國縣長的第一人，當然也是六堆同胞的第一人，對六堆的社會有很大的正面意義，特別是六堆墾民很多來自大陸原鄉的蕉嶺，而劉兼善從六堆出身回任原鄉的縣長，是六堆社會的一大榮耀。劉兼善到任縣長後，便開始整頓治安、開闢公路，到了當年秋天，共產黨的軍隊從福建邊境來犯廣東省的潮汕一帶，當時的鄰縣縣長有些都躲起來避難，但劉兼善仍照常坐鎮在縣公署鎮靜以待，並常率領游擊隊巡守縣境肅清土匪以維持治安，在當時的共黨暴動期間，蕉嶺縣未受到危害。地方安寧，劉兼善的努力功不可沒。一九四五年抗戰勝利，劉兼善乘船經長江到達上海，對淪陷區的台籍同胞作宣撫救濟工作，由於當時這些淪陷區的台灣同胞都是日據時代移民到這些地方的，抗戰勝利後中國人把他們當日本人的漢奸，而他們又不是真正的日本人，造成這批人兩面不是人的窮困局面，因此劉兼善基於同胞情誼極力爭取他們免於同戰犯般，須接受集中管理的地步，經致電中央後，中央同意京滬一帶的台灣同胞不用集中管理，同時並准許台胞免費搭乘自由輪返回台灣，這些手續也交由台灣同鄉會登記處理，對當時流落在大陸的許多台灣同胞，有很大的幫助。
政治發展與從政理想
一九四六年春天，台灣省議會成立，南部高、屏地區的父老選舉他為第一屆省議員，負責政府與民間的溝通，這是劉兼善從青年離家參予革命後，第一次真正為故鄉做事，而且是很重要的省議員。到了一九四七年夏天，台灣省政府委員會成立，中央又派劉兼善擔任第一屆省府委員，繼而擔任了二、三屆省府委員，一共有七年的時間，在這段期間協助政府實施三七五減租、策劃地方自治、耕者有其田、提倡國語等工作，這段期間是他真正在為台灣故鄉工作的時間，也是他一生與故鄉關係最為密切的時間。 一九六O年的八月，蔣總統提名劉兼善擔任考試院的考試委員，後經監察院多數票同意後，擔任了六年的考試委員，期間也多次擔任典試委員長，任滿後也擔任考試院的顧問。擔任考試委員後劉兼善又被任命為國大代表，一直到去世。綜觀劉兼善的一生，大都是在黨部或教職等幕後單位任職，但由於其一生擁有忠黨黨國的民族思想，再加上本身並不強求的個性，使其所任的職位大是黨部而不是單位主官，唯有被派任廣東蕉嶺擔任縣長的期間，是擔任主官職位而獨當的一面，劉兼善所學的是政治經濟，日文、英文能力又強，因此中央政府也常有需要他效勞之處，因此他大多時間也都在中央政府服務，他與六堆地區關係較實在的時間，是在一九四六年到一九四八年間，這時他在台灣擔任省參議員與省府委員，雖然並非是相當顯赫的職務，但他實在做事的態度也頗為難得，主要的是他的政治生涯，對六堆有許多的啟發作用。