三公是两汉官僚行政的中枢，政府十分注重对他们的管理。若三公不称职、老病，或国家出现重大灾异现象，常被罢免。三公因故被免，一般至少需经过他人或自己主动“劾奏”、皇帝“策免”两大环节。作为皇帝的股肱，罢免后三公比其他官吏享受更多礼遇。三公被免后，丞相（大司徒）在西汉往往由御史大夫补位，东汉扩大到九卿，反映了丞相在内朝出现前后的地位变化。太尉（大司马）、御史大夫（大司空）的补位者多为九卿，东汉时期亦有地方郡守补位的情况，说明地方势力坐大，渐成中央朝廷的威胁。罢免虽然是一种较为温和的方式，但为我们进一步认识三公制度中的其它问题提供了启示。