在奉系中有旧派与新派之别，旧派以张景惠、张作相、汤玉麟等张作霖的“老哥们儿”为首，新派则以张学良、杨宇霆、郭松龄为代表，也有一些人如吴俊升、孙烈臣、李景林等则被认为是新旧派的过渡人物。第一次直奉战争后奉军的裁军整合被认为是新旧派系的一次过渡，主和的旧派在战事中遭到直系重创，而新派的张学良、郭松龄、李景林等人则表现出众，从而得到张作霖的器重。经过与直系的战斗，张作霖认识到奉军存在的问题很多，在退回奉天之后，他开始着手对奉军进行大刀阔斧的改革，而新派便成为推动奉军改革的主要力量。毕竟，张作霖要的是一支铁打的部队，而不是一支打铁的部队。
早在第一次直奉战争之前，张作霖就已经在奉天建立了兵工厂，并将奉天东塔以东的1800余亩土地选为兵工厂基址，委派奉天省军械厂厂长陶治平负责建厂筹备工作。1921年，陶治平率先建成了无烟火药厂、枪弹厂和枪厂等三个工厂，张作霖见陶治平工作出色，便委任他为兵工厂总办。建厂初期，缺乏专门人才，张作霖便聘请外籍技术专家，聘请的专家包括日本人、德国人、奥地利人、俄国人和瑞典人等，分别担任顾问、技师或技士等职，主要负责安装各种机器、设计制造机器配件和工具模板，以及对技术人员的培训指导等。
为了培养自己的兵工专门人才，张作霖又设立了兵工学校。学员分为初中、高中、专门三部，采用“三三制”：初中毕业后，派到厂里任三等技手，服务三年；高中毕业后，派入厂里担任练习生，同时可升任一等技手；专门部毕业就等于大学毕业，直接担任一等技手或技士。正是因为张作霖注重对技术人才的培养，外籍专家此后虽然有所减少，但兵工厂并没有受到过多影响。
1923年，陶治平去职之后，张作霖更是委派五虎将之一的韩麟春继任。韩麟春是奉天辽阳县人，字芳宸、芳辰，1904年考入北京“练兵处”，被送往日本陆军士官学校学习，后于日本士官学校中国学生队第六期炮兵科毕业。1908年回国后任清政府陆军部军械科科员，后升至军械司司长、陆军讲武堂教务长等职。不久出任陆军部参事、驻美陆军武官。民国建立之后，韩麟春在北洋政府的陆军部任职，因为发明“韩麟春式”步枪被授予王位勋章，升任军咨府参事，1919年代表北洋政府赴欧洲考察，并代表陆军部任巴黎和会军事委员。1922年直奉战争之后，韩麟春入奉投靠张作霖。
在陶治平执掌兵工厂期间，兵工厂的六五式、七九式步枪弹由日产1万发增至日产10万发，而在韩麟春接手之后，则将日生产量拔升至15万发，年产大炮数量则达到了150余门，另年产炮弹20余万发、步枪6万余支、机关枪1000余挺，其中最为重要的还是迫击炮的大量投产。
因为迫击炮在第一次直奉战争期间发挥了巨大的功效，张作霖特地从俄国购进了一批六○式迫击炮，这种炮非常小巧，操作简单，运输方便，且兼具曲射和直射两种效能。
1922年，张作霖筹办奉天迫击炮厂，便专门重金聘请英国人沙敦主持，所以当时奉天迫击炮厂主要生产的是英国斯托克斯式迫击炮。这种迫击炮构造简单、操作容易，可以适应多种地形的战斗。
当时奉天迫击炮厂生产的迫击炮都配有炮车以及弹药车，每辆弹药车可以负载10发炮弹。在沙敦主持迫击炮厂期间，每年的经费预算约78万元，每月则可以制造迫击炮80门，炮弹4万发。到后来李宜春继任，每年的经费则攀升至130万元。
在发展兵工厂的过程中，张作霖对兵工厂可以说给予最大的资金保障，兵工厂每年的财政预算都是优先考虑。对兵工厂内的各级工作人员，张作霖都给予最优厚的待遇。加之这一阶段的东北正是张作霖主政后财政状况最乐观的时期，宣布独立之后，张作霖便将东三省的盐税收入和奉榆线的运费收入全部截留己用，使得1923年单奉天省的税收总额就高达3000余万元，扣去支出后尚有820余万元盈余，使张作霖有足够的资金投入兵工厂建设。
为了巩固反直三角联盟，以备再次与直军征战，张作霖委派韩麟春南下联络孙中山，遂将兵工厂总办的职务交由杨宇霆，后又将总办升格为督办。杨宇霆当时还兼任着督军署总参议，所以在用人用钱上都有极大的决策权，加上张作霖的支持，兵工厂便进入了大规模发展时期。
除此以外，杨宇霆先是增设了炮弹厂，后来又大力扩建了炮厂、火具厂、铸造厂、制酸厂、木工所，共计有“八厂四处”，以及统计委员会、兵工学校、兵工医院等17所单位。到九一八事变前，兵工厂职员共计有1000余人，工人达到2万人，最多的时候甚至一度达到2.5万人。全厂装备大小机器在万台以上，业已成为当时全国规模最大的综合性兵工厂之一。但在九一八事变之后，东三省兵工厂被日军全盘占为己有。
除了自己制造武器，在杨宇霆的主持下，奉军还拥有了自己的空军和海军。在北洋军阀中，张作霖可以说是最早拥有现代军事意识的军阀之一，早在第一次世界大战期间，张作霖就听说过飞机。中国最早开始建立空军的是皖系军阀，在留法回国的航空员姚锡九建议下，向英国购买了一批飞机，但直到讨伐张勋的时候才使用到。直皖战争以后，张作霖分得了一批，共有4架旅客运输机和4架侦察教练机，航空专家姚锡九、王立序等也被张作霖请到东北。后来为了发展空军，张学良又自大沽造船厂等地调来技工赵鸿起等22人。
1921年1月，张作霖设置东三省航空处，委派其参谋长乔赓云为处长，赵廷绪、章斌为正副主任，并委派了副官、军需官、军医官、书记官、工厂管理员、技工、班长等若干干部，分别管理航空处各项事宜。并在奉天东塔以东修建飞机场，以及厂房、仓库、宿舍、办公室等，以章斌、庄以临等为飞行队骨干，以孔佳桂、赵鸿起等为机械士。
在第一次直奉战争中，直军用飞机压制西线的张景惠部，低飞投弹，对西线的奉军造成了巨大伤亡。在退回东北以后，张作霖决心加快发展东北航空军，遂任命张学良为东三省航空处总办。张作霖之所以会选择张学良管理航空处，是因为张学良素来喜欢飞机，还学习过航空驾驶，据说张学良的驾驶技术不俗，很多航空员都很钦佩他。张学良出任总办之后，将50余架飞机编为飞龙、飞虎、飞鹏、飞鹰、飞豹五个航空队，自兼飞鹏队长。
在第二次直奉战争中，奉军终于取得胜利，航空军也发挥了极为重要的作用。1925年，张学良将东三省航空处改组为东北航空处，设立总务处、机械处，以高纪毅出任总务处长，周培炳为机械处长。同年3月，设立航空学校，张学良自兼校长，赵廷绪、王立序等以及法国退役飞行员博赖等十余人出任教官。因为前两批飞行员素质都不甚理想，张学良亲自从东北军官训练班挑选出28名航空兵学员。
这28名航空兵学员被送到法国，有18人进入巴黎的毛兰纳航空学校，余下的10人则进入法国西南克鲁德亚的高龙特航空学校。其中毛兰纳航空学校是法国最优秀的空军学校，教练机都是毛兰纳工厂自主研发制造的。两部分学员在毕业之后都获得了国际航行驾驶证，具备初级驾驶人员资格，又于1926年秋转入法国南部的依斯特陆军航空学校训练。1927年初，这些学员学成归国，张学良对他们相当重视，将他们的军衔自准尉提为中尉，还有很多人很快被提升为少校或是中校。
东北空军的飞机最早是自其他军阀手中缴获的，1921年自皖系缴获8架，1926年自直系缴获2架，1927年自冯玉祥部缴获3架，1928年飞豹队自山东带回10架。后期则主要是张学良斥巨资从西方国家购得的新式飞机，包括1925年自法国购买10余架，1926年除再次从法国购入26架外，又自日本购入4架。1930年，自捷克购入40架。同时，美国和法国在1929年各赠送1架飞机。据估计，当东北空军全盛之际，飞机数量在250架到300架，在当时的中国可以说是独一无二。
除了空军，张作霖还决心建立自己的海军。就是在第一次直奉战争期间，吴佩孚曾派海军巡视秦皇岛、葫芦岛一带，威胁奉系后方，使奉军对后方始终有所顾忌。到奉军战败时，依附直系的“海筹”“海容”等军舰自秦皇岛轰击奉军，张作霖的车都险些被炮弹击中，使奉军损失惨重，在夜间行车甚至不敢开灯。待到退回关外，张作霖即任命曾在北京政府中主管海防的沈鸿烈负责组建海军。
沈鸿烈随即开始大力招揽人才，将他的同学凌霄、方念祖、谢刚哲等请入东北，创立葫芦岛航警学校（后改称东三省航警学校、东北航警学校、东北海军学校等）。以海军上校凌霄出任校长、以海军中校方念祖出任教育长、以海军中校陈华森出任佐理官、以海军少校戴修鉴出任学监。到第二次直奉战争时，沈鸿烈率领东北海军保障东北“海防无虞”，并拥有“镇海”“威海”“定海”“飞鹏”四舰。随后有赖于时任山东督军的张宗昌相助，沈鸿烈接收渤海舰队，使东北海军处于全盛时期。以沈鸿烈为海军中将司令，海军少将凌霄辖“海圻”“海琛”“镇海”“威海”“同安”等军舰驻泊青岛，袁方乔辖“永翔”“楚豫”“江利”“定海”等军舰驻泊长山岛，陆上则设有海军学校、陆战队、造船所、海军航空队、海军医院等。拥有大小舰只21艘，总排水量约3.22万吨，舰队官兵约3300人。
随着奉系中少壮派势力逐渐崛起，作为旧派的张作霖也认识到，“凡国家若想富强，哪能不注重教育与实业”。关于在东北建立综合性大学的事情，早在第一次直奉战争前就已经由奉天省议会提出，奉天省长王永江也曾多次向张作霖建议“兴办大学教育，培养专门人才”。对于创办东北大学的主张，张作霖欣然采纳，但当时他正一门心思与直系斗法，哪里顾得上办学校？等到第一次直奉战争爆发，创办东北大学的事情便被暂时搁置。
等第一次直奉战争被吴佩孚打败回到东北，张作霖头一件事便是创办大学，别的不说，光是开战前那一番电报战就让他记忆犹新。1922年8月，负责此事的奉天省长王永江在省长公署成立大学筹备委员会，聘请教育界名流李树滋、范先炬、佟兆元、林成秀、关海清、谢荫昌、王镜寰、恩格、吴家象、汪兆璠、王之吉为筹备委员。12月2日，省长公署发布委任令，以莫贵恒筹备理工科，汪兆璠筹备文法科，吴家象筹备干事科。
1923年1月5日，省长公署批准以沈阳高等师范学校改建为理工科，以公立文学专门学校改建为文法科，并拟定《东北大学组织大纲》，设立文科、理科、工科、农科、商科和法科，这些学科后来发展为各系学院，即文学院、法学院、理学院、工学院、教育学院以及农学院等。根据《东北大学组织大纲》，东北大学的经费主要来源为奉天省，占到了九成，其余则来自于黑龙江省。4月26日，东北大学正式成立，自此这一天被定为东北大学建校纪念日。
虽然所有的事情都落实了，但事情的进展并不是那么顺利，首要的问题就是校舍和资金。东北大学最初用的是沈阳高等师范学校和公立文学专门学校的旧址，学生为了上课往往要在不同的校区之间奔走。后来，王永江看中了奉天昭陵东南的500亩土地，但其中有300亩是清皇室的陵地，王永江为此专门去函向醇亲王求助，得到同意后才开工。东北大学的新校舍自1923年5月开工，到1925年全部竣工。
有了校舍，但资金却成了问题。整个基建预算费用就高达600万元，远远超出了之前的预算，虽说当时的东三省经济状况不错，但每个方面都需要钱，这笔费用并不好凑出。王永江没有办法，只好自奉天省长公署拨款，但仍然不够。有一次，王永江与少帅张学良聊天时谈起此事，张学良当即个人出资150万元，才算是解了燃眉之急。
除了硬件设施，软件设施也非常重要。一所大学是否优秀，关键在于师资力量。因此，虽然资金困难，但王永江还是不惜重金聘请一流的学者到校任教。当时很多国内著名学者和社会贤达都曾到东北大学任教，比如曾担任外交总长的罗文干、文字学家黄侃、文法学家章士钊、建筑学家梁思成、俄文学者曹靖华，以及著名学者梁漱溟、林徽因、刘仙洲等，可以说是“群贤毕至、大家云集”。
当时东北大学的预科教授月薪最高为260大洋，最低为150大洋；本科教授月薪最高为300大洋，最低则为180大洋。当时著名学府北京大学、清华大学的教授月薪最高是300元，南开大学是240元，还常常欠薪。而东北大学后来教授月薪最高时甚至一度达到360元，如著名学者章士钊到东北大学任教时更是领得800现大洋的月薪。另外，校方还专门为教授修盖了宿舍，都是新式洋房。
除了上述讲到的这些，东北大学在管理上也颇下功夫，对学生专门采用了具有约束力的学分制，这在当时也是大学管理学生较为有效的手法之一。同时，还专门建立了一套严格的奖励制度，鼓励学生努力学习。并规定，凡是应届毕业生考试第一名者，就可以公派到英国、美国、德国留学。1929年7月1日，东北大学第一届毕业生典礼时，就有8名学生因为考到学科第一名而被公派出国。20世纪30年代是东北大学最为鼎盛的时代，当时的东北大学有教授300人，学生3000人，每年的运营经费达到160万元。
张作霖对教育非常重视，从而为东北培养了很多人才，同时也巩固了自己在东北的地位。而到张学良管理东北时期，对东北大学更为关注，可以说是“出谋、出力、出资”，并将办学宗旨改为“培养使用人才，建设新东北，以促进国家现代化，消弭邻邦的野心”。但是在九一八事变之后，东北大学流亡关内，不复当年的辉煌。1993年，东北工学院更名恢复东北大学校名，著名爱国将领张学良则受聘为名誉校长，而此时的少帅却两鬓苍苍，已经远离故土达半个多世纪。