虽然北洋军曾是袁世凯打江山的主要依靠力量，但在民国建立后其战斗力却日益式微。别的不说，仅在“围剿”白朗起义军一役中，北洋军就洋相百出——白朗军不过几千人，在很多人看来只是乌合之众，而北洋军先后调动了总兵力的三分之二，械齐饷足，悬赏超越常规，但在近两年时间里，白朗军仍能纵横于豫鄂陕甘四省之间，如履无人之境。
冯玉祥的一个记述可以说明为什么会这样：冯部所部两个营截击白朗军，一仗下来，足足消耗了二十万发子弹，战场上中弹而亡的白朗军官兵却连两百多人都不到！
最后，在段祺瑞的统一指挥下，北洋军才最终消灭了“白狼”，但知晓内情的兵家已经发出了“谁说小站兵力足以威令天下”的慨叹。
有民国第一军事家之称的蒋百里给袁世凯上了一个条陈，认为原因还在于北洋军队暮气太重。
要消除北洋军的暮气，最好的办法就是重起炉灶，编练新军。过去淮军继湘军，小站继淮军，走的都是同一条路子。不过从小站练兵起，为了建立北洋派系，政策上都是重用武备生，屏除士官生，并由此形成了北洋历来的用人传统。如今要形成新势力，就不得不反其道而行之，这就是蒋百里条陈中所说的：中级军官用士官生，下级军官用武备生。
蒋百里建议在统率办事处之下，设立模范师筹备处，模范师以德国军事方法进行训练，先练两师。他的条陈也得到了袁世凯长子袁克定的欣赏和极力赞同。这位袁家大公子年轻时曾到德国留学，崇拜德国，蒋百里重视德国军事的思想正好与之合拍。
有袁克定在耳边吹风，袁世凯对建立模范新军的兴趣更加浓厚，但是他认为蒋百里最初设计的规模太大，不容易操作。
要建立两个师，已经抵得上一个军了，这免不了会使北洋旧将不安，从而生出事端。老谋深算的袁世凯对蒋百里的方案做了修改，建军规模最后被缩小到一个团。模范团名为一团，实际已相当于一个混成旅。具体组建方案是，从北洋现部队中抽调下级军官充当团的士兵，以中上级军官及武备生充任团的下级军官，以士官生充任团的中级军官。
