故事的开始，张作霖的人生轨迹几乎和《水浒传》中的宋江颇多相似：走投无路被迫入伙，入伙以后就鼓吹招安，终于等到上面招了安，就该着派张作霖回头去剿灭绿林里的大小土匪了。不过，和宋江不同，张作霖的脑子里想的可不尽是“忠义两全”，剿灭地方土匪势力，其一可以扫清周围的敌对势力，其二则可以不断扩大自己的势力。民初毕竟不同于北宋末年，随着张作霖的势力日甚一日，赵尔巽和沈金鉴对张作霖就愈加依赖，张作霖也不再是那个初入新民府的小民团头子了。
在张作霖接受招安之后，其实已经有很多大团陆续被招安，比如马龙潭、冯德麟，但是实力最强的土匪仍然啸聚山野。其实，自日俄战争中发家的不单是张作霖，也有很多土匪在日俄双方的夹缝中借机扩大了自己的势力，其中最具代表性的就是辽中的大土匪杜立三、田玉本等人，这些人的队伍动辄千余人，借助日俄战争又拥有了大量枪械和弹药，当地的官府根本拿他们没有办法。对张作霖来说，与其说是去替官府解决这些社会不安定因素，不如说是看中了他们手里的人马和武器。
在辽中的匪首里，最难对付的是杜立三。这个杜立三和一般的土匪不同，他们家是土匪世家，自上边几辈人就开始做土匪，属于这个行业的专家。经过几代人的经营，杜家已经不是区区一股土匪那么简单，他们占据一方，有自己的军队、自己的幕僚，俨然已经是割据一方的小诸侯。据说在杜立三的地盘上，生杀权力均由他做主，甚至连官员的升迁也是他说了算，老百姓都称他为“杜大人”，与东北的其他土匪武装相比，杜立三俨然已经是一个号令一方的土皇帝。
盛京将军赵尔巽早已经对杜立三“严密访拿”，但多次派官兵前往缉拿，结果屡屡大败而归。杜立三不仅狡猾残暴，所率领的部队也是兵强马壮，平时训练严苛，作战时骁勇无比。杜立三本人则擅使双枪，据说弹无虚发，而且有一手绝伦的马上功夫，自诩为“马上皇帝”。杜立三所在的地方城池非常坚固，关卡林立，防备森严。赵尔巽派出的官兵对付一般的土匪也就罢了，对付杜立三的部队则毫无办法，接连损兵折将。张作霖出任统带之后，剿灭杜立三自然也是他的首要任务。
张作霖也并非三头六臂，其他的官兵不能击败杜立三，他也想不到更好的办法。而且张作霖最为担心的是，在剿灭杜立三时，如果其他大股土匪倒向杜立三，到时候腹背受敌，情势就更为凶险。于是在剿灭杜立三之前，张作霖决定先清除拦路虎田玉本。田玉本虽然不及杜立三的势力那么庞大，但也是东北匪枭中势力较为庞大的一股，其势力也远远超过了当初全盛时期的冯德麟、汤玉麟、张作霖等人。
田玉本不仅是巨匪，亦是张作霖眼前最可怕的对手，他是新民府辽中县人，幼年时读过几年私塾，但因为家境贫寒遂放弃学业出外打短工。就在这个时候，田玉本的哥哥在辽阳县给一个地主当长工三年，到头来没有拿到一分钱，还被地主暴打了一顿。田玉本闻讯以后，气愤难平，就更名换姓到这个地主家也当了三年长工，等到三年期满，地主果然又重施故技，结果田玉本讲明身份，持刀挟住地主，要地主将田氏兄弟的工钱一并给齐。田玉本拿着钱回到本乡，与族中兄弟商议，与其受人欺凌，不如上山落草，于是将族人武装起来投身绿林，其势力最盛时，部下有千余人，势力范围更是曾遍布台安、辽中、海城、辽阳等地。
张作霖要杀掉田玉本，也是经过深思熟虑的：一来因为田氏就在辽中他的眼皮子底下，要远攻先得近伐，以免大战在前后院起火；二来田氏所部有千余人，征讨杜立三的时候，万一田氏与杜氏联手，事情就变得棘手，到时别说剿匪，自己的部队都处在极端危险的境地；三来杜立三为人骄纵，田玉本则为人谨慎，剿杀田玉本时杜立三未必会插手，而剿杀杜立三时田玉本却有可能来搅局。权衡再三，张作霖决定先清理掉这个烦人的“邻居”，再去解决杜立三那个大问题。
1906年，张作霖率部奇袭田玉本的匪巢，与田玉本部展开激战，最终，张作霖赢得胜利，田玉本部大败。在激战中，田玉本及其族人6人被击毙，其他的土匪都作鸟兽散。将辽中巨匪田玉本击败后，张作霖更是声名远播。在此之后，张作霖依然没有急于对杜立三下手，而是集中全力对付遍布辽西的大小土匪武装，将他们或是一一剿灭，或是招抚后纳为己用。在短短一两年间，张作霖的势力再次得到了扩张。
到这个时候，张作霖才决定对杜立三下手，但是，张作霖对杜立三采取的策略和对付其他匪首的策略完全不同。关于张作霖与杜立三的这次交手，有人认为是张作霖自忖实力不及杜立三，所以才选择智取而非强攻。其实，当时张作霖的实力已经在杜立三之上，以武力剿灭并不成问题。但彼时的东北派系林立，杜立三毕竟是大股土匪，张作霖和杜立三交战肯定会互有伤亡，不免为外人所渔利，所以能够“兵不血刃”地剿灭杜立三才是上策。
1907年，清廷在东北建立行省，并委任徐世昌为东三省总督。徐世昌可不是一般的清朝官员，他是晚清民初官场中有名的“碧眼狐狸”，论出兵打仗可能不行，但是若论政坛博弈、钩心斗角，没有几个人能够比得上他。徐世昌除了颇具谋略，还精通黄老之术，在晚清堪与易学奇人张其锽并驾齐驱，所以在袁世凯的北洋系中，老徐是诸葛亮、刘伯温一般的人物，掐指一算就能洞若观火。当时的东北局势非常复杂，外有列强压境，内有胡匪祸乱，所以清廷虽然正处在“排汉”的高峰期，但仍然不得不起用身为汉人、袁世凯亲信的徐世昌去经营东北三省。
徐世昌到了东北以后，认为首要问题便是维护地方稳定，而关键之处即在于清除匪患。这样一来，辽西巨匪杜立三就被提了出来。关于这位辽西巨匪，徐世昌在进入东北之前便已经有所耳闻，但对老道的老徐来说，这种只是在地方称王称霸的草莽绿林，显然不放在他的眼里。于是，他指派颇具智谋的知县殷鸿寿到新民府，协助张作霖剿灭杜立三。
其实早在殷鸿寿抵达新民府之前，张作霖就已经拟订了剿灭杜立三的方案，待到殷鸿寿抵达新民府，张作霖的计划更为完善了。张作霖先是派人送了一封贺信到辽中县交给杜立三，祝贺杜立三被任命为奉天省招抚，官位比张作霖还高，请杜立三到新民府面谒奉天来的朝廷大员，然后再到奉天向东三省总督徐世昌致谢。但是，这样破绽百出的计划并没有骗倒杜立三，杜立三就此事和二当家宋庆濂以及其母亲、兄弟进行了讨论，认为去新民府凶多吉少，就没有理会张作霖的这封来信。
张作霖的这封信只是他诸多方案中的一个，随后他便特地到黑山将杜泮林请到了新民府，并把他引见给自省城来的朝廷大员殷鸿寿。杜泮林是个秀才，亦是张作霖的义父，当初张作霖在中安堡组织大团的时候，没少跟杜泮林来往，所以二人关系笃深。杜泮林还是杜立三的族叔，杜立三非常尊敬杜泮林。张作霖将杜泮林接到新民府，就是要让杜泮林“亲眼证实”，确实是省里派人来招抚杜立三，并不是他无端编造，同时又给杜泮林另外设招待所，让杜泮林在那里休息，等到杜立三来到之后一同去省城。
杜立三的父辈都是东北有名的匪枭，其父杜宝增和杜立三的叔父杜宝兴、杜宝善、杜宝旺都是江洋大盗，杜宝善更是以劫“皇纲”出名，后来，杜宝增、杜宝善和杜宝旺都被官府抓捕后斩首。但是杜立三和他的父辈思想不同，他虽然不至于像《水浒传》里的宋江一样日日梦想着“忠义两全”，但也想学张作霖由山林步入庙堂。杜立三敬重杜泮林，或许是因为杜泮林的秀才出身，让他多少与官方有着某种联系；而杜泮林也认为杜立三的能力丝毫不逊色于张作霖、冯德麟等人，如果接受招抚，地位也绝对不会在张作霖等人之下。
作为一介文人的杜泮林，只是想到杜立三在东北声威之盛，远远凌驾于张作霖、冯德麟等人之上，但并没有想到，越是有权威的人越容易为他人所忌惮。杜立三和张作霖、冯德麟等人最大的不同之处在于，张作霖等人都只是小股武装。而杜立三不同，他已经是东北的巨匪，仅他一个人的武装势力，就远远超过了张作霖等人的总和，清廷怎么可能像对待张作霖他们一样对待杜立三？
杜泮林也并不似传统的旧式文人，据说他“性慷慨，广交游，尝慕东汉杜季良之为人，轻财好义，抑强扶弱”，还亲书“忠义家风”的匾额送给杜立三。在新民府的招待所住下之后，杜泮林就亲自写了一封书信托人交给杜立三，这封信言辞恳切，在这封信里，杜泮林多次提到“游侠非终身之事，梁山岂久居之区”“一经招安，不仅出人头地，亦且耀祖荣家”等，劝说杜立三及早到新民府投诚。
杜立三先后接到了两封信，一封是张作霖的，一封是杜泮林的，但效果却截然不同。接到张作霖的信后杜立三的态度是置之不理，而接到杜泮林的信之后，杜立三就积极准备前往新民府接受招抚。关于这一幕，很多人都深感不解，杜立三既然知道张作霖心怀不轨，去新民府无异于自投罗网，即便是与杜泮林关系笃深，也不至于因为一封信就打消了所有的顾虑吧！
加上在杜立三的身边，还有两个老江湖。一个是杜立三的母亲，据说她经常周旋于各处土匪之间化解矛盾，威望极高，甚至被称为土匪的“干妈妈”；另一个则是二当家宋庆濂，宋庆濂在杜立三的身边，相当于打手兼军师的作用。按理说有这么两位老江湖傍护身边，杜立三不应贸然选择前往新民府，可他到底还是“明知山有虎，偏向虎山行”了，这到底是为什么呢？
杜立三的选择主要包括主观因素和客观因素两方面。客观因素是日俄战争结束，清廷开始大肆清剿土匪及地方武装，更何况杜立三树大招风，他自然也知道以自己的力量不足以对抗朝廷，接受招安也是早晚的事。至于主观原因，则是因为冯德麟、张作霖先行接受招抚，随后便得到清廷重用，尤其是张作霖官运亨通，不仅借此扩大了自己的势力，而且得到了大批粮饷和资金。杜立三自认自己的实力绝对在冯德麟、张作霖之上，若是被朝廷招抚，理应比他们更为受到朝廷的重用。
综合主客观因素，杜立三纵然知道新民府中形势叵测，但只能选择冒险走这一遭。在出发之前，杜立三还是做了周密的安排。杜立三命令自己的兄弟杜老疙瘩率领200余名土匪留守待命，注意警戒，如遇意外发生则火速驰援。又在自己的老巢青麻坎到新民府沿途100公里内设置4个哨所，每个哨所派驻10人专门负责通风报信。杜立三则选择精明干练的宋庆濂以及13名身经百战的贴身侍卫同行。就在杜立三精心安排的同时，张作霖也在调兵遣将，他命令张景惠带领500余名骑兵驻扎在八角台，待杜立三动身之后即潜行到东距青麻坎7.5公里的新开河镇，直接杀入杜立三的老巢，让其布置的4个哨所形同虚设。
1907年6月6日，杜立三等人抵达新民府郊外，随即派宋庆濂入城先行拜会张作霖。关于宋庆濂进入新民府之后到底与张作霖发生了什么事无从得知，但事后宋庆濂在回忆时却表示：“我们一到新民府，便知道进入陷阱。”但既然已经知道进入了陷阱，为什么宋庆濂还是带着张作霖出现在了杜立三面前呢？宋庆濂又说了，“杜立三为人残暴，待人苛刻，不若张作霖为人善和，待人厚道，所以当即决定，弃暗投明。事实上在众寡悬殊之下，要抵抗也只有自己吃亏，毫无益处”。他说了这么多，无非是为自己被张作霖收买找到一个合适的理由。
张作霖当时身着便衣，只带了两名护卫，邀请杜立三前往拜见殷鸿寿专使。因为张作霖只带了两个人，杜立三也就只带了两名护卫同行。但是杜立三等人甫一离开，就有一队官兵冲了进来，有人准备拔枪反抗，却被宋庆濂制止，于是，在里应外合之下，杜立三的贴身侍卫就已经被张作霖的人俘虏。
张作霖带杜立三会见殷鸿寿的地方是在一家当铺里，殷鸿寿专门派人将张作霖和杜立三迎到后院的北房。张作霖本意是在房间内便抓捕杜立三，但只身赴会的杜立三非常警觉，他始终坐在背靠墙壁、面对众人的位置，同时将双手插在兜里，摆出一副随时都会拔枪的架势，使得张作霖始终无法得手。而在此时，自门外传来交杂脚步声和低语，杜立三遂起疑心，于是便起身准备告辞。张作霖和殷鸿寿站起，殷鸿寿则高喊一声“送客”，杜立三走到门口，转身对殷鸿寿说“留步”的时候，忽然斜刺里扑过来一个人将杜立三拦腰抱住。杜立三待要拔枪，汤玉麟等几个壮汉已经扑过来下了他的枪，然后把他按倒在地捆了个结实。当晚，杜立三以及他的两个贴身侍卫就被处死在新民府西门外。
当杜立三伏法的消息传到张景惠处之后，张景惠立刻指挥部队包围了青麻坎。负责看守青麻坎的杜老疙瘩率众顽抗，很快就被张景惠部队的火力弹压下去。杜立三的母亲眼见大势已去，便打开大门让张景惠的部队进入。后来，杜老疙瘩被活捉，张景惠便命人将其砍了脑袋。张景惠又搜遍青麻坎，将杜立三平日囤积的衣物枪弹和金银财宝悉数装入大车，据说装了几十辆运往新民府巡防营。杜立三的田产则由辽中县衙没收，能找到原主的，即由原主以半价收回，找不到原主的则悉数变卖。据称，辽中县第一所高等小学堂就是由变卖杜立三田产的资金筹办的。
杜立三被张作霖清剿之后，杜泮林始知是上了张作霖的当，兴致索然地回到乡下，据说于1917年去世。东三省总督徐世昌即上报朝廷，特地为张作霖请奖，表示“今兵不血刃，巨魁授首，不但辽西安抚，连他处匪徒，亦闻而知惧”。清廷遂对张作霖赏赐白银5000两，并提升张作霖为奉天巡防营前路统领，管辖马步五营，与左路统领冯德麟、右路统领马龙潭、后路统领吴俊升等成为东北旧军举足轻重的武装力量之一。