國民黨軍隊在大陸全面潰敗， 1949年敗退臺灣後， 困境中的蔣介石四處無援， 便想到了請人來改造軍隊。 也許有人會以為是美國軍事顧問團， 那就錯了。 蔣介石請的是日本軍官組成的顧問團， 也被稱為“白團”。
當時美國已表明“棄蔣”政策， 於是蔣介石向岡村寧次提出希望軍事上協助的要求。 岡村等一批受過“庇護”的舊日本軍官“知恩圖報”， 密商組織力量説明蔣介石。
1949年7月， 岡村寧次等在日本秘密招募舊軍官， 最後選定曾任日本第二十三軍參謀長， 華南派遣軍參謀長富田直亮（化名白鴻亮)少將為總領隊，
蔣介石聘請白團是在極端秘密的情況下進行的。 因為這些日本軍人在侵華戰爭中犯下的滔天罪行尚未清算， 就被蔣請為“座上賓”， 這是任何有良知的中國人感情上所不能接受的。
至1950年初， 先後到達臺灣的舊日本軍官達19人， 這是白團的最初班底。 白團的最初任務是設計臺灣防衛計畫， 幫助蔣介石重整軍隊， 尤其是精神教育。 臺灣軍方將白團成員安排在臺北以西的軍事基地內， 保證外人無法接觸。
國民黨軍隊潰敗後， 軍心渙散， 毫無信仰， 此時日本舊軍人傳授的“武士道”竟成了蔣介石收拾軍心的救命稻草。 訓練團一期結束後， 蔣介石親自制定了白團擴大訓練軍官的計畫。 到1951年夏天， 白團的規模達到頂峰， 日本教官達83人。
然而紙包不住火， 美國知道後要求蔣介石解除對日本軍官的聘任， 改用美國的方法和裝備改造軍隊， 這令蔣頗為頭痛。 畢竟美國才是蔣介石最大的靠山， 於是蔣介石更加隱蔽地利用舊日本軍官。 從1952年白團轉移到石牌活動， 不再公開訓練軍官， 轉而著重於軍事戰略戰術研究。
據不完全統計， 經由白團訓練的國民黨各級軍官約6000人。 由於美國的一直反對， 1953後白團的規模與影響日益縮小， 雖不以集體軍事顧問與教官形式，
直到1968年白團成員才開始撤出臺灣， 然而白鴻亮本人仍一直留在臺灣， 到1979年去世前才回日本。 神秘的白團在臺灣18年， 對臺灣的軍事影響較大。
蔣介石為何會甘冒批評偷偷摸摸地請日本軍官呢？除去他早年受過日本軍事教育， 印象深刻外， 之前蘇聯與美國的顧問都背靠本國的政治背景， 維護其國家在中國的利益， 對蔣並不“尊重”， 多以不愉快告終。 而日本舊軍官完全受聘于蔣本人， 聽命與效忠于蔣， 不會干涉蔣的決策。 這點讓蔣介石非常放心。