張九齡為相，明皇欲以涼州都督牛仙客為尚書，執不可。曰：“仙客，河湟一使典耳，擢自胥史，目不知書，陛下必用仙客，臣實恥之。”帝不悅，因是遂罷相。觀九齡集中，有《贈涇州刺史牛公碑》，蓋仙客之父，譽之甚至，雲：“福善莫大於有後、仙客為國之良，用商君耕戰之國，修充國羌胡之具，出言可複，所計而然，邊捍長城，主恩前席。”正稱其在涼州時，與所諫止尚書事，亦才一年，然則與仙客非有夙嫌，特為公家忠計耳。
張九齡任丞相，唐明皇想讓涼州都督牛仙客當尚書，張九齡堅決不同意，說：“牛仙客是河湟地方一個使典罷了，從小吏提拔上來，又不識字，陛下一定要用牛仙客當尚書，我實在感到恥辱。”明皇不高興，因此就免去了張九齡的丞相。我看張九齡的文集有《贈涇州刺史牛公碑》，是記牛仙客的父親，評價很高，說：‘福分都超不過有好後代，牛仙客是國家的賢臣，用商鞅獎勵耕戰的法術，充實趙充國治胡羌的內容，言必行，行必果，定計就能實現。捍衛長城，皇恩隆重”。正是寫的牛仙客在涼州時，張九齡攔阻他任尚書的事件。時間才一年，那麼張九齡並不是和牛仙客有舊怨，隻不過是為國家盡忠而已。