在同治二年(1863年)的會試中，張之洞得中一甲第三名，當時叫探花，他時年27歲。
      入京為官後，張之洞很快得到了“清流首領”李鴻藻的垂青。李鴻藻直隸高陽人﹐當時既是帝師﹐又是大學士兼軍機大臣﹐很得慈禧太后的信任﹐加上他與張之洞的哥哥張之萬的關係非同一般﹐因而對張之洞也是遇事照顧﹐盡力栽培。
      當時的一些北方籍言官台諫如張佩綸﹑陳寶琛﹑黃體芳﹑寶廷﹑王懿榮等人聚集於李鴻藻的門下﹐彼此意氣相投﹐相互引為同調﹐而剛入朝的張之洞書生意氣﹐遇事敢言﹐很快成為圈中的中堅人物。
      李鴻藻以“耿”﹑“孝”聞名﹐當時京師士人“呼李鴻藻為青牛（清流之諧音）頭﹐張佩綸﹑張之洞為青牛角﹐用以觸人﹔陳寶琛為青牛尾﹐寶廷為青牛鞭﹐王懿榮為青牛肚﹐其余牛皮﹑牛毛甚多”﹐這些人“連同一氣﹐封事交上﹐奏彈國家大政﹐立國本末”﹐其言說不但左右了朝中輿論﹐而且還引領了士林之時尚﹐如張佩綸“喜竹布衫﹐士大夫爭傚之。” 
      張之洞在京為官期間﹐先後做過翰林院侍讀﹑侍講學士﹑左春坊左庶子等職﹐一度與張佩綸﹑黃體芳﹑寶廷並稱“翰林四諫”（加上劉恩溥﹑陳寶琛﹐又稱“清流六君子”）。言官雖無實權﹐但其責任在於勇於進言﹐匡扶正義﹐在這個問題上﹐張之洞恪盡職守﹐口碑甚佳。
      光緒六年（1880 年）的中秋前夕﹐慈禧太后令太監李三順給胞妹醇王福晉（即光緒生母）送宮廷特製的中秋禮盒。按規矩﹐宮中敬事房如未通知門禁的話﹐太監不許隨便走出皇宮﹐因而李三順等人達到午門之時﹐守門的護軍照律不許他們通行。
      李三順一向驕縱成性﹐口稱有“老佛爺懿旨”﹐非要強行通過﹐結果雙方發生肢體衝突。李三順負氣之下﹐回報慈禧太后﹐說午門護軍無理取鬧﹐不但不讓他們出宮﹐還故意打翻了送往醇王府的禮盒﹐連自己也挨了打﹐一點都不把太后放在眼裏。
      慈禧此時正在病中﹐心情煩躁﹐聽說後當場打翻了正待吃的藥碗﹐並下令總管內務府大臣會同刑部嚴行審訊﹐要將護軍玉林等三人斬首。這就是當時著名的午門案。
      午門案發時﹐張之洞﹑陳寶琛分任翰林院左春坊左﹑右庶子﹐陳寶琛呈上一折﹐指出護軍是奉職行令﹐如此處罰將造成護軍不敢嚴守禁門﹐以後太監只要說聲“奉有中旨”﹐護軍便不敢阻攔放行﹐勢必會危及皇宮安全。
      張之洞也上了一道很長的折子﹐折中第一句便是﹕“伏維閹臣恣橫﹐為禍最烈﹐我朝列聖馭之者亦最嚴”﹔接﹐張之洞又從防範太監的角度入手﹐警告慈禧要以歷史教訓為鑒﹐防止宦官專權。為增加說服力﹐他還特意舉出嘉慶年間有太監內應的“林清之變”及當時發生的“天棚火藥案”﹑“劉振生擅入宮禁”案﹐以說服慈禧太后按大清律法辦事。稟理此案的恭親王在反復閱讀張之洞的奏折後﹐拍案讚歎﹕“這才是真奏疏﹗”
      慈禧太后在反復考量後﹐最終下懿旨﹐改判護軍杖流之刑而將太監李三順等交慎刑司責打三十大板。張之洞等人冒顏上陳﹐秉公直諫﹐被時人譽為“諍言回天”﹐一時間權臣側目﹐士林激讚。