甲午戰爭爆發前，袁世凱在朝鮮做知事無可為，隨後便托辭返回國內。回津之後，李鴻章以袁世凱人才可用，委派他辦理前敵營務，但袁世凱卻不想從事後勤工作，因而在工作之余又背李鴻章在京中托人找關係，另謀出路。
　　袁世凱之所以能夠得到迅速升遷，與李鴻章的提拔重用是分不開的，但令李鴻章不能容忍的是，袁世凱竟然求到了自己的政治死敵翁同龢的門下，這在當時的官場上可是犯了大忌的。由此，李鴻章開始疏遠並冷淡袁世凱。
　　在經歷甲午戰爭的慘痛失敗後，清廷中改練新軍的呼聲漸高，而袁世凱憑自己曾經幫朝鮮練過新軍的經驗，，向權貴們推銷他的練兵計劃，並最終獲得成功。當時的李鴻章，因為代表清廷簽署了喪權辱國的《馬關條約》，非當官居閑職、門前冷落。
　　曾國藩的孫女婿、當時入李鴻章幕府的吳永在《庚子西狩叢談》中記載，說李鴻章從日本回到天津後，他與直隸的官員及候補官員一同進見，當時的袁世凱已被授予直隸按察使的職務，但卻未到任而是專職練兵。直隸按察使是地方大員，自然在進見官員的前列。李鴻章到後，袁世凱便上前彙報練兵事宜，說初步的計劃也已經部署，德國教習也已經聘請，日內便可簽訂合同，馬上便可以正式展開了。
　　令人意外的是，一向有風度的李鴻章沒有等袁世凱說完便勃然變色，他舉起手中的手杖，砰砰的敲打地面，厲聲道：“嗐！小孩子懂得什麼練兵！又訂的什麼合同！我治兵數十年，現在尚不敢說有什麼把握。兵是這麼容易練的嗎？你雇幾個洋人，扛上幾杆洋槍，喊幾個洋口令，便算是西式軍隊了嗎？”
　　袁世凱當年36歲，在遭此斥責之後，頓時面紅耳赤，不敢反駁。周圍的同僚們，從來沒有看到李鴻章發那麼大的火，大家都低頭，既不敢看李鴻章，也不好意思看袁世凱，場面十分的尷尬。在吳永看來，袁世凱當時已經有嶄露頭角之像，李鴻章看起來倒是有意要殺殺他的威風。
　　事實上，此時的李鴻章正處于個人政治生涯中最低潮，他對于袁世凱奔走于政敵翁同龢門下而始終耿耿于懷。有一次，袁世凱來拜訪這位過氣的老領導的時候，李鴻章終于再次爆發並痛斥了袁世凱一頓……巧合的是，這次吳永又在旁邊耳聞目睹。
　　據吳永的記載，當他與李鴻章在賢良寺閑聊的時候，袁世凱前來拜見，于是他便避入別間。袁世凱在寒暄了幾句之後，便為老上司的遭遇表示不平：“中堂當年鐵馬金戈，為朝廷立下了汗馬功勞，如今朝廷只給予內閣首輔的空名，雖然每日隨同上朝請安，實則無所事事，這樣太不公正了。中堂大人不如暫時告假還鄉，等到朝廷遇到難事了，屆時必定會想到股肱老臣，這樣中堂再次出山，豈不是名正言順，而且能挽回昔日的聲望？”
      甲午後被權貴們排擠的李鴻章，此時十分敏感，袁世凱的話音剛落，他就厲聲呵斥道：“停，停！慰亭，你這是給翁叔平（叔平是翁同龢）當說客來了嗎？我要是請辭出了缺，那他就可以依次升到協辦大學士的位置……他想得倒挺美！你回去告訴他，讓他想都別想！要是別人出了缺，讓出一個位置給他，那我管不，但要想讓我空出一個位置來給他，這萬萬辦不到！只有我有一口氣在，就要鞠躬盡瘁、死而後己，?不會無故請辭，奏請開缺。我們這些做臣子的，對朝廷哪能說三道四，計較這計較那的？你要是受他所托，在這裏花言巧語，我是不會受你們愚弄的！“
　　袁世凱不敢反駁，向李鴻章道歉後唯唯而退。
　　袁世凱走後，李鴻章余怒未消，他把吳永招呼進來，問：“剛才那個人，你認識嗎？”吳永說：“知道，但並不熟悉。”李鴻章恨恨地說：“袁世凱你怎麼會不知道？這個人真是個小人！他為了巴結翁叔平而來這裏做說客，嘴巴裏說得天花亂墜，想要欺騙我乞假開缺，一邊給翁叔平讓出一個協辦大學士的位置……哼！我偏不退！當年老師（即曾國藩）教我‘挺經’，這次倒可以用上！我就是要和他們挺，看他們有什麼招？我剛才當面訓斥袁世凱，就是要免得他再來囉嗦，我在官場摸爬滾打了幾十年，什麼事情沒有見過？我難道還會受這種人的捉弄嗎？”
　　不過話說回來，李鴻章這次呵斥袁世凱卻是錯怪了他，因為按照翁同龢的作風，是不會隨便請一個人去做說客的，何況袁世凱和他還不算太熟悉。李鴻章之所以對袁世凱發怒，主要原因還是當時翁同龢得勢，而李鴻章失勢，在世態炎涼的感嘆之余，正好趕上袁世凱說了不中聽的話，結果把火發他身上去了。
      不過，後來李鴻章在臨終前辦了一件大事，那就是向朝廷力薦袁世凱繼任直隸總督兼北洋大臣的職位，這也意味袁世凱繼承了李鴻章的衣缽（此說流傳甚廣，不過據考證似無此奏）。
此時的袁世凱，不過40出頭。