“大赦”雖然是帝王們為收買民心、緩解社會矛盾慣用的一種手段，甚至可以説是被大多數人接受的一種常態，但歷史上也有不少反對“大赦”的聲音。
《資治通鑑》記載，公元246年，蜀漢實行大赦。大司農孟光為此當眾責備宰相費禕：“夫救者，偏枯之物，非明世所宜有也。”意思是説，實行大赦，就像樹木一半茂盛另一半卻枯槁一樣，是一種偏頗的措施，不是真正的聖明之世應該有的。諸葛亮則認為：治理國家要靠大施德政，而不是依靠小恩小惠，以前的劉表、劉琮父子每年都實行赦免，可對治國帶來了什麼好處呢？蜀國人都稱讚諸葛亮的賢明，認為費禕比不上他。
的確，動不動就“大赦天下”，用現在的話來説，這是典型的“人治”思維。“大赦”根本不是對百姓實施恩惠的有效辦法，更不可能成為解決冤獄的良方妙藥。“大赦”並不能使多數人得到實惠，消除冤獄需要公正透明的司法制度作保障。在所謂的“大赦”中，獲得解救的良民畢竟是少數，更多的恐怕是那些真正的罪犯，眼看就要伏法、還給受害者一個公道了，可是一道赦令下來。他們又可堂而皇之地逍遙法外，而受害者卻一點兒辦法也沒有。
反對“大赦”的。還有南北朝時期的北魏獻文帝拓跋弘。《資治通鑑》載，拓跋弘認為普遍赦免罪犯，反而鼓勵了人們犯罪，所以自延興(北魏孝文帝年號)以後，北魏不再實行大赦。
不分青紅皂白實行“大赦”，表面上看是統治者寬厚為懷，其實是一種很不公平的做法，更可笑的是，有人甚至利用這種政策環境大鑽法律的空子。東漢桓帝時，有個名叫張成的人預測到朝廷將要頒佈大赦令，就讓他的兒子在此期間殺人，來個不殺白不殺。
“大赦天下”的做法，除了破壞公平、鼓勵犯罪，最大的弊害是損害了法律的權威，動搖了制度的穩定性。當權者心血來潮，一句話就可以使法律制度成為一紙空文，這樣的法律制度怎麼有資格受到人們普遍的信任？一項制度，一旦不被人信任，其維護秩序的功能也就喪失得差不多了。
良好的制度，需要在平穩的社會環境中運行。中國幾千年封建史上，為何沒有一個朝代能夠建立一套像樣的制度？因為無論在哪個帝王的手上，制度的更改都存在很大的隨意性。如果一項制度確立之後，沒有誰能以個人的身份任意更改它，那麼，即使這項制度在某些方面存在一定的毛病，但從長遠來説，也肯定會比那些過於靈活的制度有用得多，因為它是真正屬於大家的。有些發達國家，領導人更換頻繁卻並不影響國家經濟社會的發展，原因就在於他們有一套這樣的制度。
