參加紅軍和長征

1932年4日20日，毛澤東率領中國工農紅軍打下漳州，高捷成參加了紅軍，為紅軍籌備了約40萬元的物資。此時，紅軍正在籌辦銀行（1931年11月中華蘇維埃共和國國家銀行在瑞金成立，1932年3月正式營業(yè)，在紅軍中負責財經工作的毛澤民為行長），毛澤民得知高捷成熟悉銀行業(yè)務，就邀請他到中央蘇區(qū)從事革命根據地的銀行事業(yè)并參與經濟計劃工作。紅軍撤離漳州時，高捷成對其妻說：“我能獻身黨國，勢須離家絕倫，汝可自作主張，勿以我念?！本瓦@樣，他告別了結婚才一年多的妻子和剛出生三個多月的孩子，隨著紅軍隊伍離開家鄉(xiāng)，到達瑞金。

高捷成是紅軍中有較高文化的知識分子。1932年5月，高捷成加入中國共產黨，歷任宣傳隊長、教育科長、組織科長、總務處長等職。他在任會計科長時，以首創(chuàng)全軍會計制度榮獲獎勵。1934年10月，紅軍在第五次“反圍剿”中失敗，被迫轉移。高捷成隨紅軍北上，經歷兩萬五千里長征，1935年10月，安全抵達陜北。1936年，高捷成畢業(yè)于紅軍抗大第一期。

擔任冀南銀行首任行長

1937年抗日戰(zhàn)爭爆發(fā)后，紅軍改編為八路軍，高捷成隨八路軍一二九師赴華北地區(qū)開辟敵后抗日根據地。他被任命為冀南區(qū)首任稅務局長，后來又擔任晉冀魯豫財政經濟處長、冀南敵偽工作委員會委員等要職，為根據地的經濟建設做了大量基礎工作。

1939年初，八路軍一二九師開始籌建晉冀魯豫邊區(qū)抗日銀行，經過緊張籌備，1939年10月15日在山西省黎城縣小寨村成立了冀南銀行，高捷成被任命為首任行長兼政治委員。當時高捷成正處而立之年，風華正茂，精力充沛，他出于對黨和人民事業(yè)的赤膽忠心，充分發(fā)揮自己的領導才能和豐富的斗爭經驗，為冀南銀行正常營業(yè)做了大量艱苦細致的工作。

為滿足軍需民用和戰(zhàn)爭形勢的要求，獨立自主地發(fā)展根據地工農生產，增強抗日戰(zhàn)爭的經濟力量，與敵寇開展貨幣斗爭，冀南銀行成立后的首要任務是必須發(fā)行自己的貨幣。在戰(zhàn)火紛飛的年代，山西黎城縣小寨村處在敵人的分割、封鎖和包圍之中，沒有鈔票用紙、油墨、機器等印刷器材，更缺乏技術人員，貨幣印制面臨巨大的困難。但高捷成沒有被困難和壓力嚇倒，他把印刷鈔票當作上前線打仗一樣，努力調動各方面的積極性，想方設法尋找印刷器材和專業(yè)人才。