臺灣居民大量編入日軍是武漢會戰以後，此前只有數量不大的人數編入臺灣旅團充當軍夫等支援人員稱做義勇軍，都屬於軍事雇傭人員，臺灣旅團攻擊武漢的戰役中，由於突破快，支援部隊進入後往往會遭遇沒有肅清的小部隊，所以支援部隊的義勇軍也經常拿起槍作戰，而臺灣旅團的官兵們發現，主要由臺灣山地人組成的義勇軍戰鬥力特別強，尤其是山地叢林複雜地形作戰，臺灣山地人還有比經過特別訓練的日軍更高超的作戰技巧，所以開始遊說軍部乾脆開放臺灣居民入伍，不過初期沒有通過軍部的批准，軍部依然沒有允許從臺灣當地人中徵召現役軍人，臺灣人參加日軍都屬於軍事雇傭人員，都是以義勇軍，義勇隊的名義出現，但規模比較以前就大的多．
太平洋戰爭爆發以後，臺灣地位上升，於是軍部正式在臺灣徵集現役士兵，至於此前的義勇隊，義勇軍則全部轉爲現役部隊，從此臺灣居民大量進入日軍中服役，臺灣籍日軍除了跟隨臺灣旅團（太平洋戰爭爆發後成爲步兵48師團）的以外，分成2種情況，山地高砂兵主要專門編成特種部隊，從事空降特攻與山地叢林滲透破壞戰，大名鼎鼎的熏空特挺隊就是臺灣高砂兵部隊，在太平洋戰場上發揮了很大作用，高砂兵配備的高砂刀（義勇刀）還一度被美軍認爲是特種兵刀，直到戰爭結束才知道，那些日軍中最厲害的特種兵根本不是日本人組成。另外平地居民則稱河洛兵被招募爲海軍，航空兵，普通步兵與後勤兵，在靖國神社裏現在還供奉著臺灣神風隊員與回天魚雷隊員。臺灣兵不管是高砂兵還是河洛兵戰鬥能力都超過日本兵，二戰最後一個投降的日本兵不是廣爲人知的那個日本士兵，而是一名臺灣籍河洛兵，在整個戰爭中都沒有臺灣籍日軍被俘的記錄。
臺灣兵前後日軍共招集了20多萬，其中3萬多陣亡，也是日軍中陣亡率最高的。
日軍臺灣高砂籍空挺特戰隊
正在进行丛林战训练的日军台湾兵
訓練中的臺灣高砂籍日軍
注意士兵腰中挂著的是高砂刀（義勇刀），這是臺灣高砂兵特有的刀具，由於高砂兵在戰場上多是承擔特種戰任務，所以很長時間內高砂刀都被盟軍誤解是日軍精銳傘兵或特種部隊的傘兵刀或特種刀
手持高砂刀進行肉搏訓練的高砂籍空挺特攻隊員，士兵胸前挂的不是降落傘而是炸藥包，作戰時乘坐運輸機強行降落美軍機場，沖到美軍重型轟炸機前爆破美軍飛機
