在中国古代，有“天、地、君、亲、师”的说法，就是说这五种身份对于一个人来说是最为重要的。而且其中，“师”的身份最为复杂，所谓“一日为师，终生为父”，就是说老师在某些时候跟父亲的地位是相同的。“天、地、君”这三种身份，说实话距离都有些远，不如父亲和老师更亲近，而一个人幼年时代跟老师在一起的时间往往超过跟父亲在一起的时间，所以老师的影响有时要甚于父母。因此，师生关系是复杂的，从小站练兵到武卫右军学堂，再到日后的黄埔军校，近代史更像是一段军校史。
在袁世凯担任直隶总督之后，武卫右军早已经被取缔，从新军中成长起来的将士，也逐渐分散到各地。1901年袁世凯担任北洋大臣后奏请改革军制，拟定《新军募集操练规则十九条》，获准后即派王英楷、王士珍到各地精选简募壮丁六千人，从武卫右军各学堂的毕业生中选派五十人到日本陆军士官学校深造，又在保定设立督练公所，把军权集中在参谋、教练、兵备三处，每处设一位总办，派段祺瑞为参谋处总办，冯国璋为教练处总办，刘永庆为兵备处总办，王士珍为步兵第一协统兼直隶全省操防营务处督理，王英楷为总参议。袁世凯则自任全军总统，正式改名为“常备军”。
1902年，清廷挑选了三千余人的八旗士兵编成一协，定名为“京旗常备军”，袁世凯派出“北洋三杰”中的“龙”王士珍担任协统。后又将从各地招募回的壮丁编为第二协，由冯国璋担任协统，从而构成常备新军左镇。1903年12月4日，清廷成立练兵处，庆亲王奕劻为总理大臣，直隶总督袁世凯为会办大臣，铁良为襄办大臣，徐世昌为总提调，而段祺瑞则被任命为练兵处军令司正使，加副都统衔。1904年，常备军左镇改为第一镇，先由凤山代担任统制官，后由何宗莲接任。随后又将右镇改为第二镇，由王英楷担任统制。
为了“用人唯才”，袁世凯规定军中所有高级将领必须通过考试选拔，成绩最佳者才能出任高的职位。问题就在这个时候出现了，王士珍和冯国璋分别取得高分，担任协统，但段祺瑞的成绩却并不是最出类拔萃的，眼看着第三镇成立又要进行考试，堂堂原武卫右军总办、练兵处军令司正使，却考不到第一名，这似乎有点儿说不过去，而且这样也不利于“北洋三杰”的平衡发展。没有办法，袁世凯只好在考试前把试题偷偷告诉给段祺瑞，这样才让段祺瑞考上了第三镇的统制。
也就是在1904年，段祺瑞的妻弟吴光新从日本陆军士官学校毕业回国，除了徐树铮之外，段祺瑞的身边又多了一个智囊。除此以外，皖系日后的当家人此时都已经逐渐成为北洋系中的重要角色，靳云鹏担任着浙江新军标统，段芝贵担任天津南段巡警总局总办，田中玉担任山东兖州镇总长，卢永祥担任第二镇标统，倪嗣冲总理北洋营务，傅良佐也在常备军担任要职，此时的皖系已经颇具雏形。1905年，段祺瑞又调任第四镇统制，第三镇统制由段芝贵担任，此后段祺瑞又出任第六镇统制。而在这一年，徐树铮暂时离开了段祺瑞，他被保送到日本陆军士官学校步兵科，要在那里“充电”。
1905年到1906年间的段祺瑞，毫无疑问是北洋系将领中生活最抑郁的一个，他是袁世凯嫡系中唯一还在担任统制握有实权的，王士珍与冯国璋此时都已经升为高级干部，只有段祺瑞还在军事第一线。而此时的清室贵胄们正处在“排汉”最激烈的时期，段祺瑞无疑成为他们的首要目标。1906年的10月，常备军在河南省彰德（今河南省安阳市）举行秋操，即南北新军大演习，出任“北军”总统官的就是段祺瑞。清政府派兵部大臣铁良、直隶总督袁世凯为阅兵大臣，王士珍为总参议，冯国璋为南军审判长，良弼为北军审判长，各省派来的观操大员，一律为审判员。这种安排的深意已经毋庸赘言，南军审判长是汉人，北军审判长是满人，而铁良又是当时清室贵胄中排汉最激烈的。
可以说，当时清室贵胄们对袁世凯的不满，几乎都会直接体现在他们对待段祺瑞的态度上。1906年2月，段祺瑞复任第三镇统制，驻保定，兼督理北洋武备各学堂。3月17日，补授福建汀州镇总兵，仍留北洋原任。5月8日，清廷在保定创办“陆军行营军官学堂”，段祺瑞又兼任该学堂督办，很多北洋系将领都纷纷投到他的麾下，成为他的故吏门生。
光绪三十年，也就是公元1904年，又遇上了慈禧太后的寿辰，为了能够博老佛爷一笑，袁世凯愣是训练出了一只鹦鹉，在寿宴上对着太后用满口京腔说出了：“给老佛爷请安，老佛爷万岁万岁万万岁！”
当天的慈禧太后自然被这只乖巧的鹦鹉逗得乐不可支，袁世凯也因这只鹦鹉出尽了风头。但从另一个角度则能够看出，袁世凯为了讨好清室贵胄可以说是煞费苦心。袁世凯视曾国藩和李鸿章为偶像，常常借鉴他们成功的经验，不论是“文人知兵”还是“驭人之术”都颇具曾、李的风范。但是和之前的汉人前辈们一样，袁世凯也不得不面对同样的麻烦，那就是无论他们为清廷做了多少贡献，最终都无法得到清廷统治者的信任。所以，不管在什么时候，袁世凯都不得不保持高度的警惕性，对清室贵胄们卑躬屈膝的同时，谨小慎微地维系着自己的官宦仕途。
不论是哪朝哪代，手握军权的人总是最招人非议，不管是宋太祖的“杯酒释兵权”，还是朱元璋时候的“蓝玉案”，无疑都是对功高盖主者的约束和警醒。不断膨胀的新军让清室贵胄们眼红，袁世凯自然知道利害关系，所以主动交出第一镇、第三镇、第五镇和第六镇的兵权，几乎是让出了一半以上的兵权。1906年，袁世凯在清室贵胄“排汉”最激烈的时期，又主动辞去各项兼差，自此袁世凯的权力开始逐步缩小。
伴随着袁世凯的放权、让权，段祺瑞在仕途上也跌入低谷。这个时期里的段祺瑞，既无实务也无实权，因为第三镇、第六镇均已被清廷陆军部收去，加上清室贵胄对段祺瑞的排斥，使他几乎处在赋闲的境地。但段祺瑞并没有就此完全投入到赋闲的生活里，他开始将主要精力集中到对各学堂的督办上，既然无法主宰现在就去把握未来，而把握住未来往往就会拥有现在，因为未来终归会变成现在。
不过，北洋系的低谷期还没有过去，1907年5月7日，段芝贵行贿案发被免职，本来就遭受清室贵胄排斥的北洋系遭受重创。袁世凯让出四镇兵权以后，本来想将势力巩固在东北，将东三省作为自己的大后方，但是段芝贵出事，等于是拱手让出黑龙江巡抚的职位，北洋系的后方倏然变得风云莫测。
对于段祺瑞来说，段芝贵是他的亲信，随着北洋系在各地受到打压，皖系的势力也在一定程度上受创。这一年秋天，袁世凯调任军机大臣兼外务部尚书，表面上看起来是升职，其实却是被削去了兵权。10月16日，段祺瑞被授予镶黄旗汉军副都统，专意督办陆军各学堂。这样一来，等于是把段祺瑞摁死在了讲台上，不让他接触实际军务。
因为担心汉臣手握大权出现“功高盖主”的情形，慈禧太后在这段时间里也有意打压汉臣的气势，清室贵胄们则利用这段时间大举“排汉”，让很多汉臣离开军队，只给予他们一些并无实权的工作。但对于段祺瑞来说，塞翁失马，焉知非福？他回到了学堂里，不断笼络着这些帝国未来的将领，将自己的力量迅速扎根在了军队的最基层中。清室贵胄们只顾着争夺眼前的军权，完全忘记了“十年树木，百年树人”的老话，等若干年后他们回过味来，帝国的万里之堤已经被他们自己破坏了。
1908年10月17日，段祺瑞出任会考陆军留学毕业生主试大臣，这样一来，大量依附于他的学生得到了出国深造的机会，他也借此悄无声息地壮大着自己的力量。加上与日本陆军士官学校合作，使得段祺瑞结交了不少日本官方人士，这也为日后皖系与日方的合作打下了基础。对于皖系这棵树来说，如今正在浇水施肥的过程中，但这也是北洋系内部逐渐分化的开端，王士珍、冯国璋在这段时间内和袁世凯一样相对沉寂，也使他们失去了迅速崛起的基础，而段祺瑞则很好地利用这段时间巩固着自己的势力。
毫无疑问的是，北洋系正处于创立以来最为沉寂的时期，随后更为沉重的打击也接踵而来。1908年11月，光绪和慈禧先后逝世，慈禧太后在逝世前没有如袁世凯所愿，选定庆亲王的长孙为嗣，而是选择了醇亲王载沣的儿子溥仪。慈禧太后病逝之后，载沣以摄政王的身份辅佐溥仪登基，而这位摄政王载沣恰巧就是光绪帝载湉的弟弟。在戊戌变法失败后，光绪帝被慈禧太后幽禁在瀛台，原因就是袁世凯的出卖。而偏巧在这个时候，民间又流传着一个故事，说在光绪帝逝世之前，曾把一张字条交给自己的弟弟载沣，上面只有四个字：“杀袁世凯。”
在溥仪登基以后，戊戌变法失败后流亡海外的康有为又上了一道《上摄政王书》，里面说：“有为僻居海外，逖听所得，佥谓逆臣袁世凯蓄谋篡弑，已历岁年，今次大丧，又适与大行太皇太后之丧后先衔接；稽诸前史，从所未闻，举国汹汹，杯弓蛇影之痛，怀莫能释，自推原祸首，莫不集矢于逆臣袁世凯之一身……”不仅把慈禧太后和光绪帝的死都推到袁世凯身上，而且扣了一个“蓄谋篡弑”的罪名在袁世凯的大脑袋上，字里行间无不透着对袁世凯的深仇大恨，横竖撇捺都是凛冽的杀气。袁世凯再也坐不住了，急忙召集自己的智囊和嫡系将领们开会。这一晚气氛注定压抑，但却是决定北洋系生死存亡的关键时刻，在经过一夜的商议之后，段祺瑞提出了自己的意见，那就是用内外势力同时对清廷施压，迫使载沣放弃杀掉袁世凯的计划，而只要袁世凯能够安然离开北京，“留得青山在”自然就“不怕没柴烧”。
段祺瑞做的事情非常简单，那就是渲染兵变。当时“杀袁世凯”的呼声虽然高涨，但也不乏清室贵胄在暗地里煽风点火。段祺瑞则来了个“以彼之道还施彼身”，利用自己手中的职权，迅速接见一些基层的北洋系将领，要求他们到军营里去散播“如杀掉袁宫保，则可能引发兵变”的传言，同时，他也“遥控”当时手握兵权的北洋系将领，如曹锟、张怀芝、吴凤岭等，散播同样的传言。这样一来，袁世凯的生死就变得敏感起来。载沣也感觉到事情棘手，于是找来了几个人问话。首先，是内阁总理大臣奕劻，奕劻给出的回答非常耐人寻味：“杀袁世凯不难，不过北洋军如果造起反来怎么办？”随后，他又找来了张之洞，这位素来跟袁世凯不和的老臣说：“国有大丧，不宜诛戮大臣。”而那些手握兵权的北洋系将领给载沣的回复更直接：“请勿诛袁，如必诛袁，则先解除臣等职务，以免兵士有变，致辜天恩。”除了武将，文臣们也对载沣要杀掉袁世凯表示反对，“宪政”红人杨度尤其激烈，他不仅拒绝帮助载沣拟诛戮袁世凯的手谕，并且声称就是砍头他也不怕。高高扬起的屠刀眼看就要落在老袁的脖子上了，可却死活下不了手。
1909年1月2日，载沣下了个手谕让袁世凯“回籍养疴”。“疴”是什么呢？就是腿脚上有毛病，不利索。有的将军肠子都打出来还坚持在战场上杀敌，腿脚上有点儿毛病算什么呢？这就是找的借口，潜台词就是：我看你不顺眼，但是又杀不了你，那就给你留条命，你快回老家去，别在这碍眼了！收到手谕的时候，袁世凯正在天津，他赶快跑到英国驻清公使朱尔典那去了。因为载沣的这个手谕是以皇上名义给袁世凯的，等于是让他带薪休长假，基于当时的规定，袁世凯得先上京去谢恩，向皇上辞行才能走，否则就是欺君之罪。袁世凯找到朱尔典，就是要朱尔典给载沣施压，保住他袁世凯的小命，英国人当然知道袁世凯在北洋系中的地位，当时的北洋军散布在全国各地，北洋系军人又手握重权，护着袁世凯就等于是讨好了北洋系，因此朱尔典拍着胸脯保证袁世凯平安无事。
英国人放话了，袁世凯心里多少有了点儿底，但还是很担心，忐忑地跑去谢恩，然后载沣一点头，袁世凯就仓皇地逃离北京。不过在离开北京之前，朝不保夕的袁世凯还是做了一件非常重要的事，那就是把新购置的价值三十万的北京府学胡同私宅赠给了段祺瑞。对于北洋系来说，这是一件在日后被大书特书的事情，正是这件事情，在一定程度上表明了段祺瑞在北洋系中的地位。袁世凯比谁都明白，自己之所以能保住项上人头，和段祺瑞所做的工作有着密不可分的关系。
袁世凯先是到了项城，又在项城的卫辉城外“购屋数十楹”。1909年，袁世凯又搬到了彰德府北门外的洹上村，袁世凯在这里购置了一处“养寿园”，自号“洹上钓叟”，过起了泛舟垂钓的生活。段祺瑞经常会便衣抵达彰德，与袁世凯商讨事务，此时的北洋系不再是“单核”而成了“双核”，段祺瑞的地位迅速提升。12月29日，段祺瑞再度担任第六镇统制。次年12月18日，又被加侍郎衔，外放任江北提督，驻江苏清江浦。这说明，载沣需要段祺瑞，但是又害怕段祺瑞，他希望把袁世凯和段祺瑞的距离尽量拉开，同时需要段祺瑞来制衡其他的北洋系将领。