军机处是清朝雍正皇帝设立的，设立的原因主要有两点：一是筹划西北军务；二是保持机密。
雍正帝因筹备西北军务而创设军机处，是历史上的事实，西北用兵指的是清王朝出兵平定青海准噶尔部罗卜藏丹津叛乱。有关军机处之官私记载均持此说，譬如，史学家赵翼的《檐曝杂记》记载：“雍正年间，用兵西北两路······始设军机房于隆宗门内·······后名军机处。”雍正亲孙子嘉庆皇帝也在后来的上谕中说：“自雍正年间初设军机处······本为筹办军务。”
军机处之设，除了用兵西北之外，还有一个重要原因是为了保密。同样在赵翼的《檐曝杂记》中记载：“雍正年间，用兵西北两路，以内阁在太和门外，值者多，虑漏泄事机，始设军需房于隆宗门内·······后名军机处。”
军事行动需要保守秘密，故而在隆宗门内设临时性的秘密参谋部——军机处，这种解释也说得通。
雍正朝是军机处的草创时期，此刻的军机处具有很强的秘密性、临时性和非正规性，故而对此时期军机处的记载不但简略，而且多有互相矛盾的地方。在《清朝通典》中称之为“办理军机处”，《内阁志》中叫“军需房”，《清史稿》里面叫“军机房”。
乾隆继位后，军机处甚至被短暂裁掉，改名为总理事务处。乾隆二年，军机处得以重设，其职能就不再是单纯的军事事务了，而是扩展到很多领域的政务，主要职责是办理皇帝特旨交出之事，与其职责的扩张相适应的是军机处逐渐正规化、稳定化。
军机处正规化，也就意味着这个机构成为皇权专制进一步加强的执行机构，成为皇帝驾驭控制六部文官系统和整个帝国官僚体系的工具。在中国专制主义皇朝制度史中，皇帝成立小班子制约外朝大班子是个常见现象，汉朝的尚书台、明朝的内阁、清朝的军机处都是如此。
用清人王昶的话说，军机处的职权就是“内而六部各卿寺暨九门提督、内务府太监之敬事房，外而十五省、东北至奉天、吉林、黑龙江将军所属，西南至伊犁、叶尔羌将军办事大臣所属，迄于四裔诸国，有事无不综汇”。
军机处这样一个核心权力机构，一直鏊清末才得以撤销，宣统三年（1911），袁世凯责任内阁成立，军机处才撤销。其实，在此前的官制改革中，很多人都倡议裁掉军机处，但是都没有成功。
