民國三十九年（一九五○年）三月二十一日，在政府剛自大陸退守臺灣的關鍵時刻，經國先生出任國防部總政治部主任。此後，他開始積極整頓國軍、創立政工幹部學校、負責大陳島撤退、參加八二三砲戰、參與策劃並建立中美情報合作業務、以及建立反共救國軍。民國五十三年（一九六四年），經國先生出任國防部副部長後，更積極致力於建軍備戰，以及提升國防自主能力。經國先生對國防事務的關心，直到他出掌行政院與就任總統後，依舊持續不斷。

【整頓國軍】
抗戰後期，美國派駐在中國戰區的參謀長魏德邁曾經提到，時任國民政府軍事委員會委員長的蔣中正先生，雖然是全中國軍隊的最高指揮官；然而，事實上則像是不同派系軍隊的共主。抗戰勝利後，國共內戰又起，軍隊的問題一直沒有獲得真正的解決。政府自播遷來臺後，仔細檢討國軍在大陸失敗的主要原因在於軍紀，而軍紀的根本問題則在於，軍隊只知有派系利益，不知有國家利益。這種軍隊的地域因素與人際關係遠重於國家利益，輕者營私舞弊、濫吃空缺與假報軍情；重者擁兵自重、見死不救與陣前倒戈。

國軍撤退到臺灣後，整頓國軍已是從上到下的共識，因此整頓工作立即著手進行。

整頓軍隊的第一步，就是確實查核軍隊人員編制與部隊番號；簡而言之，就是「確認現役軍人員額」，以及「明確部隊指揮權責」。經國先生與時任行政院長的陳誠先生配合，撤銷不必要的部隊番號與人員編制，並且解散徒具虛名的單位。國軍進行多次整編後，於民國四十一年（一九五二年）建立完整資料，並且發給官兵「薪餉手牒」（後改名為軍人補給證），核實全國三軍總員額約為六十萬人，終於完成了軍隊國家化的第一步。

整頓軍隊的第二步，則是建立任期制度。民國四十一年（一九五二年），參謀總長周至柔將軍任內，首先實施國軍主官（管）任期制度，規定各單位主官（管）必須每二年進行輪調；若有必要，得於原單位延任一次。這項制度實施的目的，在於防止主官（管）利用長期任職的機會培養派系。而周總長與經國先生二人則率先遵行制度，於延任一次後調派他職，前者由海軍的桂永清上將接任，後者則由張彝鼎將軍出任。自此以後，參謀總長由三軍輪流接任的慣例亦得而確認。

整頓軍隊的第三步，乃是建立政工制度。經國先生於國軍建立政工制度的目標是：一、建立政治幕僚長制；二、確立監察制度；三、加強保防工作；四、實行人事、賞罰、財政、意見的「四大公開」；五、革新政治訓練。「四大公開」措施配合國軍人事整編作業，統一了國軍的編制與指揮權，從此澈底杜絕擁兵自重、濫吃空缺的惡行。

【戰鬥的十年】
民國四十年代前後，可謂是經國先生「戰鬥的十年」。

民國四十四年（一九五五年）二月十日，經國先生在浙江省台州列島中的大陳島上，最後一次升起青天白日滿地紅的國旗，當時島上軍民的撤離工作已經完成。政府自大陳島撤退的主要原因在於，當政府與美國簽訂《中美共同防禦條約》時，美方為便於協防臺灣，要求我國集中兵力於金門與馬祖兩外島。經國先生奉命在二週內撤離島上軍民，十天之內，他完成了名為「金剛計畫」的撤退任務。

民國四十七年（一九五八年）八月二十三日下午五點三十分開始，中共以猛烈炮火轟擊金門，造成當年名震中外的「八二三炮戰」。當時擔任金門烈嶼（俗稱小金門）師長的郝柏村將軍回憶提到，八二三炮戰期間，經國先生曾經乘坐蛙人的攻擊小艇抵達烈嶼，他走遍每一個掩體，並且親切地慰問官兵，他用行動證明：小金門並沒有被共軍封鎖。事實上，目前有關八二三炮戰的大批口述歷史資料，都提到當年經國先生冒險犯難親赴前線的作為：他曾和官兵一起吃乾糧；也曾將自己的鋼盔脫下，和戰士交換被打破的鋼盔。

【情報合作】
民國五十一年（一九六二年）九月九日，空軍第三十五中隊（俗稱黑貓中隊）的陳懷生少校，駕駛U-2偵察機，赴中國大陸進行偵蒐任務時，於江西省南昌市上空遭共軍防空導彈擊落，壯烈殉國。在此之前，全世界都不知道我國當時使用最先進的偵察機蒐集中國大陸的情報，而這些任務的負責人正是時任國防會議副秘書長的經國先生。

民國三十九年（一九五○年）韓戰爆發之後，美國為獲取中國大陸的情報，和我國政府合作，以通訊攔截、空中偵查、派員潛入等方式蒐集情報，當時經國先生即負責與美國建立情報合作關係及架設情報交換平臺；不久，臺北近郊即架設有無線電監聽站，內有數千人員記錄、分析大陸的軍民通信。此時，國軍派遣飛行員加入情報蒐集工作，利用飛機飛越大陸上空，記錄雷達通訊；這些情報資料可分析出戰鬥序列、兵力配置，更重要的則是中共發展核子武器的情報。民國五十九年（一九七○年）後，這項合作關係逐漸中止。

當年的「黑貓中隊」是中美合作情報平臺諸多計畫的一環。今天在臺灣平安度日的許多人，可能已無法體會當年U-2飛行員的犧牲有多大。一位U-2飛行員曾說：「我不能忘記當年出勤前摸著孩子的頭，逗著他們玩的每一個片段……我心依然熾熱，已經長大的孩子卻難免對我生疏了。」

【提升國防能力】
民國五十四年（一九六五年），經國先生擔任國防部長之初，即開始籌建國防科技的研發單位。民國五十八年（一九六九年），經國先生為行政院副院長時，成立中山科學研究院，逐步建立體系完整的國防科技研究發展與整合管理的機構，成為我國國防科技自主發展的重要憑藉。歷年來，該院研發完成的武器裝備包括：經國號戰機、各型飛彈武器系統、艦用戰鬥系統、各式雷達、指管通情與資訊防護系統，均已完成部署，並擔負戰備任務。

民國七十八年（一九八九年）五月二十八日，第一架「經國號」戰機呼嘯升空之際，經國先生已經辭世一年有餘；事實上，「經國號」戰機的研發導因於民國六十八年（一九七九年）的中美斷交。民國七十一年（一九八二年），經過多年折衝交涉後，由於我國採購美國出產的先進戰機毫無進展，時為總統的經國先生遂要求參謀總長郝柏村將軍，設法自力更生，加強武器自力研發。

民國七十二年（一九八三年），中山科學研究院內由黃孝宗博士領導的團隊，開始研發「自主防禦戰機」（INDIGENOUS DEFENSE FIGHTER，簡稱「IDF」）。該型戰機的研發過程，雖然得到美國通用動力公司顧問的支持，但受限於美國的專利規範與出口限制，許多關鍵技術仍舊必須自行研發。歷經多年努力後，原型機終於在民國七十七年（一九八八年）底完成；然而，令人遺憾的是經國先生已在當年一月辭世，因此，繼任的李登輝總統為紀念經國先生的高瞻遠矚，特別主持命名為「經國號」。