闹辞职 大骂着离开奉天
汤玉麟自恃曾经救过张作霖的命，冲突过后并没有反躬自省，反而变本加厉。他纠集一些人，拟好一张呈文去见张作霖，要求罢免王永江，否则他们全部辞职。
但是，性格倔强的张作霖哪里能够轻易向歪理屈服。他看也没看，就将呈文撕个粉碎，并暴跳如雷，破口大骂。汤玉麟也和他对骂起来，最终让众人分开。张作霖骂道：“没有你这个鸡子，也能做槽子糕。”汤玉麟还口说：“你叫老子干，老子也不干了！”汤玉麟回到旅部，扬言要攻打张作霖，还要武力拘捕王永江。此时，居心叵测的冯德麟公然声明支持汤玉麟。双方剑拔弩张，大有一触即发之势。
后来，张作霖派军官教育团团长阚朝玺深入汤军内部，对军官做分化瓦解的工作，有10余营长焚香宣誓，表示效忠张作霖，不听汤玉麟的指挥。汤玉麟见大势已去，大骂张作霖，之后离开奉天，回到新民。
拒和解 仍然一意孤行
此后，张作霖从大局出发，也担心汤玉麟与冯德麟勾结于己不利，于是，向汤玉麟修书一封，表示和解。
这是一封长信，言辞恳切，催人泪下。其中言道：“人生最宝贵者，莫过于生命。昔当患难之时，誓同生死，偶以言语之差，视同陌路。我兄向重义气，今乃不念前情，不思旧雨，决心离去，此弟深为不解，亦最为痛心者。”汤玉麟读罢此信，不为所动，决心继续反张。
汤玉麟这样决绝，与当时背后有冯德麟支持有关。但后来段祺瑞表示支持张作霖，冯德麟就见硬即退了，汤玉麟由新民去北镇与其联合时，他却“拒而不纳”了。汤玉麟走投无路，只好去做山大王。后来被张作霖派五十四旅旅长孙烈臣和骑兵团长张作相对其进剿，汤玉麟就逃往徐州，投靠张勋去了。
化仇怨 汤玉麟老娘亲自出头
汤玉麟在张勋手下觅得一个营务长的虚职，整日无所事事。1917年6月下旬，张勋进京复辟，汤玉麟随行。复辟失败，汤玉麟也成为了被通缉的要犯。
后来，汤玉麟从北京逃出，回到义县老家。声名显赫的汤二虎回到乡间，穷途末路，一蹶不振，很后悔当年的鲁莽从事。汤母看在眼里，痛在心上，辗转请求他当年的老弟兄张作相、张景惠等人，向张作霖转达儿子的懊悔之意。张作霖不计前嫌，亲笔给汤玉麟写了一封信，让其回来继续为奉系效力。汤玉麟得到来信，惊喜交加，百感交集。
汤玉麟感激老娘的一片苦心，立即赶赴沈阳。老哥俩见面抱头痛哭，观者无不为之动容。此后，张作霖任命其为东三省巡阅使署中将顾问。不久，就升任其为第十一混成旅旅长，率部驻扎凤城，兼任东边道镇守使和剿匪司令，给予实权。张作霖的大度化解了哥俩的恩怨，汤玉麟更加为奉系效力了。
1926年4月，汤玉麟任热河都统。在“九·一八”事变后，他当了逃跑将军，避居天津。他的部下中有一部分爱国官兵自动奋起抵抗日军的进攻，在东北坚持数年。
汤玉麟在抗日战争期间多次拒绝出任伪职，度过了一生中最为平静的岁月。1949年2月，汤玉麟病死于天津，终年80岁。很多地方以讹传讹将其去世时间定在1937年5月其实是错误的。
