1902年（明治35年）10月13日勅令第222号により陸軍武官官等表を改正し、各兵科准士官の欄の陸軍歩兵特務曹長の区画の前に陸軍憲兵特務曹長を加えた[95]。

1904年（明治37年）12月13日勅令第236号により陸軍武官官等表を改正し、各兵科下士の欄の中から陸軍屯田歩兵・騎兵・砲兵・工兵曹長以下を削る[注釈 22]。

1910年（明治43年）6月17日に定めた文武判任官等級令（明治43年勅令第267号）では等級を4等に分け、別表の一等の欄に陸軍各兵特務曹長及び相当官、二等の欄に陸軍各兵曹長及び相当官を掲載した[98]。

1925年（大正14年）5月1日に大正14年勅令第160号を施行して陸軍武官官等表を改正し、航空兵を独立した兵科として、陸軍工兵特務曹長・陸軍工兵曹長の項の次に陸軍航空兵特務曹長・陸軍航空兵曹長を加えた[99]。

1937年（昭和12年）2月12日に砲工兵諸工長及び各部下士官の官名を各兵科のものに一致させるように改正し、陸軍砲兵一等火（鞍・銃・鍛）工長は陸軍火（鞍・銃・鍛）工曹長に、陸軍工兵一等木（機・電）工長は陸軍木（機・電）工曹長にそれぞれ改めて、これらを従前の陸軍各兵曹長と併せて陸軍各兵科曹長と称し、経理部の陸軍一等計手は陸軍主計曹長に、陸軍一等縫（靴）工長は陸軍縫（装）工曹長にそれぞれ改め、衛生部の陸軍一等看護長は陸軍衛生曹長に、陸軍一等磨工長は陸軍療工曹長にそれぞれ改め、獣医部の陸軍一等蹄鉄工長は陸軍獣医務曹長に改め、軍楽部の陸軍一等楽手は陸軍軍楽曹長に改め、これらを陸軍各部曹長と称した、また准士官を一律に准尉と改め陸軍各兵特務曹長を廃止した[100] [101]。

1940年（昭和15年）9月15日に昭和15年勅令第580号を施行して陸軍武官官等表を改正し、兵科の区分を廃止して新たに技術部を設け、各兵科のうち憲兵科を除く陸軍歩（騎・砲・工・航空・輜重）兵曹長は陸軍曹長に改めて陸軍曹長と陸軍憲兵曹長は兵科に属し、砲兵科の陸軍火（鞍・銃・鍛）工曹長及び工兵科の陸軍木（機・電）工曹長は陸軍兵技曹長に改め技術部に属した[注釈 23]。

陸軍廃止時には

陸軍曹長（兵科）[102]

陸軍憲兵曹長（兵科）[102]

陸軍技術曹長（技術部）[103]

陸軍主計曹長（経理部）[102] [104]

陸軍経技曹長（経理部）[104]

陸軍建技曹長（経理部）[104]

陸軍衛生曹長（衛生部）[102] [104]

陸軍療工曹長（衛生部）[102] [104]

陸軍獣医務曹長（獣医部）[102] [104]

陸軍法務曹長（法務部）[105] [106]

陸軍軍楽曹長（軍楽部）[102] [104]

が存在した[102] [104] [103] [105] [106] [107]。
旧日本海軍

旧日本海軍では一等兵曹（1942年からは上等兵曹）の官階が陸軍曹長の官等に相当した。
明治初期

海軍はイギリス式[注釈 24]を斟酌して編制する方針を1870年10月26日（明治3年10月2日）に示しており[8]、明治5年に海軍省は下等士官以下の官名を英国海軍官名録に倣い改正することを布告したことから[109]、英国海軍官名録の中から適切な職名を採用して改めることにしたが、それまで曹長・権曹長・軍曹・伍長の職名が使われることがあった[110] [注釈 26] [注釈 27]。

1871年2月11日（明治3年12月22日）に海軍服制を制定して軍服や階級章を定めたときに下等士官以下は帽で曹長・権曹長・軍曹・伍長・卒を区別しており、曹長の帽は黄線3条、権曹長の帽は黄線2条、曹長以下軍曹までは肘上章により水夫長、按針手、砲手、機関手、縫帆手、木工、鍜治を区別した[119]。

1872年2月5日（明治4年12月27日）、これまで下等士官以下が拝命のときはその艦において艦長が申し渡してきたけれども、権曹長以上は下等士官であっても海軍省において申し渡すことにした[120]。

1872年2月20日（明治5年1月12日）に海軍省が定めた外国海軍武官に対応する国内の海軍武官の呼称ではウオルラント・ヲフヰサル（Warrant Officer）を曹長に、チーフ・ペッチー・ヲフヰサル（Chief Petty Officer）を権曹長に対応させている[121]。

明治5年には兵部省や海軍省によって乗艦の海軍曹長や海軍権曹長を任官する例が見られる[注釈 28]。

1872年5月21日（明治5年4月15日）から降級・昇級等については少尉以下軍曹までは海軍省において伝達することにする[125]。

1872年9月27日（明治5年8月25日）の軍艦乗組官等表では艦内教授役介・肝煎・筆生・掌砲長・水夫長・木工長・機関士副を二等中士に分類して曹長相当とし、肝煎介・二等筆生・掌砲次長・水夫次長・指揮官端舟長・甲板長・按針長・信号長・帆縫長・造綱長・木工次長・火夫長・鍛冶長・厨宰を一等下士に分類して権曹長相当とした[126]。

1872年10月30日（明治5年9月28日）に海軍中等士官曹長以下の禄制を定めたときに、一等中士以下を乗艦の官員に充て、曹長以下を海兵官員に充てることとした[127]。
海兵隊

海兵隊は1871年（明治4年8月）から募集編隊を始めており[128]、兵部省官等表に十一等は曹長、十二等は権曹長として掲載した[21]。