制定の背景と「現役」の意味

1900年、藩閥・官僚勢力の中心人物であった第2次山県有朋内閣のもとで、陸軍省・海軍省の官制が改正され、軍部大臣現役武官制が導入された。当時の日本は、1898年に初の政党内閣である第1次大隈重信内閣（隈板内閣）が成立し、さらに伊藤博文が立憲政友会の結成に向けて動くなど、政党勢力が急速に台頭していた時期であった。

超然主義を掲げる山県は、政党の力が軍部にまで及ぶことを極度に警戒した。予備役や後備役（すでに第一線を退いた軍人）であれば政党に入党する可能性があるが、現役の軍人は軍の厳格な指揮系統に縛られる。そこで大臣の資格を「現役の中将・大将」に限定することで、軍事に関する専門性を保ちつつ、文官（政党政治家）による軍の統制（シビリアン・コントロール）を完全に排除しようとしたのである。

軍部による「内閣倒閣の武器」

この制度は、単に政党の介入を防ぐだけでなく、軍部が内閣の生殺与奪の権を握るという重大な欠陥を抱えていた。内閣を組織する際、陸軍や海軍が自らの意に沿わない首相候補に対しては現役の大臣候補を推薦しなければ、軍部大臣が欠員となって組閣を流産させることができる。また、成立後の内閣に対しても、政策に不満があれば軍部大臣を単独で辞任させ、後任を出さないことで内閣を総辞職に追い込むことが可能となったのである。

この威力が遺憾なく発揮されたのが、1912年（大正元年）の第2次西園寺公望内閣の倒閣である。陸軍が強く求めた朝鮮への「二個師団増設」を内閣が財政難を理由に拒否すると、上原勇作陸相は単独で辞表を天皇に提出した。陸軍は後任の陸相を推薦せず、西園寺内閣は総辞職を余儀なくされた。この露骨な軍部の横暴は国民の強い反発を招き、第一次護憲運動（大正政変）を引き起こす直接的な原因となった。

制度の緩和と大正デモクラシー

第一次護憲運動によって第3次桂太郎内閣が倒れたのち、1913年（大正2年）に成立した第1次山本権兵衛内閣は、政党（立憲政友会）の支持を得て政治改革を断行した。その一環として軍部大臣の資格を緩和し、現役だけでなく「予備役・後備役の大将・中将」であっても就任できるように改正した。

これにより、軍部が後任を出さなくとも退役した将官から大臣を任命できる道が開かれ、制度上は軍部による倒閣の「伝家の宝刀」は封じられることとなった。この改正は、のちの大正デモクラシー期における政党内閣の連続成立を裏から支える重要な役割を果たした（ただし、実際に予備役・後備役の将官が大臣に就任した例はなかった）。

昭和期の復活と軍部ファシズムの完成

しかし昭和に入ると、軍部の政治介入が再び激化する。1936年（昭和11年）の二・二六事件直後に成立した広田弘毅内閣のもとで、ふたたび軍部大臣の資格が「現役」のみに限定され、制度が復活した。

この復活の表向きの理由は「退役将校が過激な青年将校を煽動するのを防ぎ、軍紀粛正（粛軍）を図るため」というものであったが、結果的には軍部中央の発言力を決定的に強化することになった。事実、1937年には陸軍の意に沿わない宇垣一成内閣の組閣が阻止され、1940年には日独伊三国同盟に慎重であった米内光政内閣に対し、陸軍が畑俊六陸相を辞任させることで倒閣に追い込んでいる。

このように軍部大臣現役武官制は、日本の政党政治を死に体とし、軍部独裁体制（軍部ファシズム）へと国を導く最大の制度的要因となった。この制度は、1945年（昭和20年）の太平洋戦争敗戦と日本軍の解体をもって、ようやくその歴史的役割を終えることとなった。