1891年（明治24年）12月28日に定めた文武判任官等級表（明治24年勅令第249号）では等級を5等に分け、そのうちの一等の欄に下副官と教官補を掲載し[注釈 15]、二等の欄に陸軍各兵曹長・陸軍火工曹長を掲載した[81]。

1894年（明治27年）4月12日に文武判任官等級表を改正し、一等の欄に陸軍各兵曹長（下副官・教官補）を掲載し、二等の欄に陸軍各兵曹長並び相当官・陸軍火工曹長・陸軍屯田火工曹長を掲載した[82]。

1894年（明治27年）7月16日に陸軍各兵曹長であって監視区長である者は監視区長在職中はその身分を准士官とした[注釈 16] [注釈 17]。また、准士官に陸軍各兵特務曹長を加えた[85] [注釈 18]。従前は陸軍各兵曹長の職務として歩兵連隊編制では大隊本部・騎兵大隊編制では大隊本部・砲兵連隊編制では連隊本部・工兵大隊編制では大隊本部に下副官を各1人と中隊附を各1人、輜重兵大隊編制では大隊本部に下副官を1人と中隊附を各2人、対馬警備隊編制では司令部に下副官を1人と歩兵隊及び砲兵隊に隊附を各1人、屯田歩兵大隊編制では大隊本部に下副官を1人と中隊附を各1人、屯田騎兵隊編制・屯田砲兵隊編制・屯田工兵隊編成では隊附を各1人、憲兵隊編制では本部に下副官を各1人を置いて来たが[87]、このとき部隊編制を変更して憲兵隊本部を除いて下副官を廃止し歩兵連隊編制・騎兵大隊編制・砲兵連隊編制・工兵大隊編制では中隊附の特務曹長を各1人と曹長を各1人、輜重兵大隊編制では大隊本部に曹長を1人と中隊附の特務曹長を各1人と曹長を各1人、対馬警備隊編制では歩兵隊及び砲兵隊の隊附の特務曹長を各1人と曹長を各1人、屯田歩兵大隊編制では中隊附の特務曹長を各1人と曹長を各1人、屯田騎兵隊編制・屯田砲兵隊編制・屯田工兵隊編制では隊附の特務曹長を各1人と曹長を各1人置くことにした[88]。

1895年（明治28年）に陸軍で憲兵隊の編制を改めて、引き続き憲兵隊本部に下副官（准士官）を置くほか、憲兵分隊の編制上の職務として上等伍長（准士官）と伍長を置いて憲兵曹長を以ってこれらに充て、ただし上等伍長を置かないことが出来るとした[注釈 19]。在職中の准士官である憲兵上等伍長の給与・服制は憲兵下副官と同じとした[90] [91]。

1896年（明治29年）5月9日勅令第190号により陸軍武官官等表の中を改正し、准士官の欄内、陸軍屯田歩兵・陸軍屯田騎兵・陸軍屯田砲兵・陸軍屯田工兵の特務曹長を削る[注釈 20]。

1898年（明治31年）には国内の治安が安定しかつ地方警察が発達したことから憲兵の平時定員を削減するとともに編制を改めて、憲兵隊本部の下副官及び憲兵分隊の上等伍長を廃止し、第一乃至第十二憲兵隊の分隊に於いては伍長は憲兵曹長・一等軍曹を以ってこれに充て、第十三乃至第十五憲兵隊の分隊に於いては伍長は憲兵下士を以ってこれに充て、附則により従前の上等伍長である者であって改正勅令施行の際に伍長を命ぜられた者の身分取り扱い及び給与は服役期限満了まで従前の規定によるとした[93]。

1899年（明治32年）12月1日施行した勅令第411号により陸軍武官官等表の中の各兵科下士の欄を改正し、陸軍火工曹長及び陸軍屯田火工曹長を削る[注釈 21]。明治32年勅令第412号により文武判任官等級表を改正し、一等の欄に陸軍各兵特務曹長並び相当官を加えて陸軍各兵曹長（下副官・教官補）を削除し、二等の欄の陸軍火工曹長及び陸軍屯田火工曹長を削る[94]。

1902年（明治35年）10月13日勅令第222号により陸軍武官官等表を改正し、各兵科准士官の欄の陸軍歩兵特務曹長の区画の前に陸軍憲兵特務曹長を加えた[95]。

1904年（明治37年）12月13日勅令第236号により陸軍武官官等表を改正し、各兵科下士の欄の中から陸軍屯田歩兵・騎兵・砲兵・工兵曹長以下を削る[注釈 22]。

1910年（明治43年）6月17日に定めた文武判任官等級令（明治43年勅令第267号）では等級を4等に分け、別表の一等の欄に陸軍各兵特務曹長及び相当官、二等の欄に陸軍各兵曹長及び相当官を掲載した[98]。

1925年（大正14年）5月1日に大正14年勅令第160号を施行して陸軍武官官等表を改正し、航空兵を独立した兵科として、陸軍工兵特務曹長・陸軍工兵曹長の項の次に陸軍航空兵特務曹長・陸軍航空兵曹長を加えた[99]。

1937年（昭和12年）2月12日に砲工兵諸工長及び各部下士官の官名を各兵科のものに一致させるように改正し、陸軍砲兵一等火（鞍・銃・鍛）工長は陸軍火（鞍・銃・鍛）工曹長に、陸軍工兵一等木（機・電）工長は陸軍木（機・電）工曹長にそれぞれ改めて、これらを従前の陸軍各兵曹長と併せて陸軍各兵科曹長と称し、経理部の陸軍一等計手は陸軍主計曹長に、陸軍一等縫（靴）工長は陸軍縫（装）工曹長にそれぞれ改め、衛生部の陸軍一等看護長は陸軍衛生曹長に、陸軍一等磨工長は陸軍療工曹長にそれぞれ改め、獣医部の陸軍一等蹄鉄工長は陸軍獣医務曹長に改め、軍楽部の陸軍一等楽手は陸軍軍楽曹長に改め、これらを陸軍各部曹長と称した、また准士官を一律に准尉と改め陸軍各兵特務曹長を廃止した[100] [101]。

1940年（昭和15年）9月15日に昭和15年勅令第580号を施行して陸軍武官官等表を改正し、兵科の区分を廃止して新たに技術部を設け、各兵科のうち憲兵科を除く陸軍歩（騎・砲・工・航空・輜重）兵曹長は陸軍曹長に改めて陸軍曹長と陸軍憲兵曹長は兵科に属し、砲兵科の陸軍火（鞍・銃・鍛）工曹長及び工兵科の陸軍木（機・電）工曹長は陸軍兵技曹長に改め技術部に属した[注釈 23]。

陸軍廃止時には

陸軍曹長（兵科）[102]

陸軍憲兵曹長（兵科）[102]

陸軍技術曹長（技術部）[103]

陸軍主計曹長（経理部）[102] [104]

陸軍経技曹長（経理部）[104]

陸軍建技曹長（経理部）[104]

陸軍衛生曹長（衛生部）[102] [104]

陸軍療工曹長（衛生部）[102] [104]

陸軍獣医務曹長（獣医部）[102] [104]

陸軍法務曹長（法務部）[105] [106]

陸軍軍楽曹長（軍楽部）[102] [104]

が存在した[102] [104] [103] [105] [106] [107]。
旧日本海軍

旧日本海軍では一等兵曹（1942年からは上等兵曹）の官階が陸軍曹長の官等に相当した。
明治初期

海軍はイギリス式[注釈 24]を斟酌して編制する方針を1870年10月26日（明治3年10月2日）に示しており[8]、明治5年に海軍省は下等士官以下の官名を英国海軍官名録に倣い改正することを布告したことから[109]、英国海軍官名録の中から適切な職名を採用して改めることにしたが、それまで曹長・権曹長・軍曹・伍長の職名が使われることがあった[110] [注釈 26] [注釈 27]。