從古書記載來看，官印的出現可以追溯到四千多年前的堯、舜時代。關於官印起源，漢代《春秋合誠圖》裏有這樣的記載：傳説堯與太尉舜坐在舟中泛遊，忽然，一隻鳳凰飛到他們面前，將揹負的圖書交給堯。這圖書裝在一個赤玉匣子中，長三尺，寬八寸，上有黃玉檢鬥，用繩子捆紮，兩端用泥封固，並加蓋了“天赤帝符璽”的印章。這説明，印章最早是作為權力的象徵出現的。比較完備的官印製度，形成於秦代，自丞相太尉到郡守縣令，都由國君在任命時授予官印，同時配發穿在印鈕上的絲帶，叫做“綬”，以便須臾不離地佩帶在身上。
秦末，天下大亂。項梁指揮項羽拔劍砍下殷通首級，“佩其印綬”，然後便自封為新的郡守，行令各縣，“得精兵八千人”。這個憑印綬當官、認印不認人的制度，又為漢朝所繼承。漢武帝時，窮得連老婆也養活不起的朱買臣忽然被任命為故鄉會稽郡守。當其回到下榻的會稽郡駐京辦事處時，吏員們仍把他當窮漢看待，不予理睬，直至發現他懷裏揣着印綬，“坐中驚駭”，馬上排好隊，一起跪拜。這種觀念的沿襲，便使“掌大印”、“拿印把子”成為當官掌權的代名詞。
印綬制度的另一特徵，是以鑄印材料和綬帶顏色區別官階。如漢代，丞相太尉一級高官，金印紫綬;御史大夫及兩千石以上，銀印青綬;六百石以上，銅印黑綬;二百石以上，銅印黃綬。從晉代起，印綬制又改為印囊制，綬囊用皮革製成，盛進官印後佩在腰間，以繡縷區別官階。
劉邦微時所幹的鄉亭小吏，倒也有“五兩之綸，半通之銅”的一方小印。所謂“半通”，是相對於“全通”而言的：漢制，凡二百石以上的官印，“皆為通官印”，意思是具有發號施令的法律效力，“半通”，就當做具有一半法律效力來理解了。所以，劉邦領一個泗水亭長的“半通之銅”佩在腰間，搖來晃去，也挺神氣。
從官員之印到官府之印
當時人對官印的理解是官員之印，而非官府之印。印綬由官員隨身佩帶，除非因犯法、罷官等緣故例應追繳外，升官調職或告老病歿，都可帶走。中央因某個治事官職有缺而另授新官時，通常總是另鑄新印，所以官印上的文字書寫不可能長期保持統一。
這種一官一印的頒授辦法，一直到南朝宋時，才有尚書左丞孔琳之上書提出疑問。他説，既然皇帝公侯的玉璽都是歷代遞用，並不使人懷疑他們是否擁有行使權力的資格，地位卑下的臣僚又何必非要把印綬佩在身上呢？宋武帝劉裕提倡節儉是出名的，便採納了這個建議。“鐵打的衙門流水的官”，官印移交制度，大抵就是從那個時候逐漸形成的。這種制度行之既久，給世人所帶來的觀念上的轉變，就是官印乃某個部門某級機關行使權力的信物，這就同現代的“公章”概念貫通了，雖然在習慣上仍舊以“摘印”來指稱罷官。
依循這種新的理念，更趨完備的官印製度的創立，應該説是發生在唐代。有個這樣的例子：西晉趙王司馬倫稱帝時，為“取悦人情”，凡當年報名應試賢良方正、孝廉良將等文武各科的生員和16歲以上的太學生，以及各地州郡來京出差的吏員，一律免試授官，難以計數的官員，一概賜印，“金銀冶鑄，不給於印”，只好用木刻印章代替一時奇缺的金銀銅材，輿論乃有“白板之侯”的取笑(《晉中興書》)。
但是到唐初政體肇建時，作為中央最高政令執行機關的尚書省，只有總辦公署(稱都省或都堂)和吏、兵兩部有印，其餘各部司都用尚書省的印信發遣公事。因為官印只代表官府權力，而非官職，連左右僕射、侍郎郎中這等內閣首相、部長司長一級的高官，也無官印佩帶。直到武則天當國時，體制改革，各部司的行政獨立性加強，尚書省二十四司才分別置印。
相似的情況在其他部門也存在。唐德宗時薛之輿任諫議大夫，是隸屬中書門下的正四品高官。因為並非一級行政機構，也無印信。薛以保密為由打報告給皇帝：“諫官所上封章，事皆機密，每進一封，須門下、中書兩省印署文牒。每有封奏，人且先知。請別鑄諫院印，須免漏泄。”這話聽起來像是伸手討權，還含有同中書門下鬧獨立性的意思。未幾，此人被平調到中央大學做校長助理(國子司業)。
自德宗以後，內參密命，職權加重，號稱“內相”，最終形成了與中書舍人分掌“內製”、“外製”的格局，作為一種標誌，便是在憲宗初年的翰林院單獨置印。官印脱離個人職級而完全成為施政機關的公章，經歷了漫長的時間，從此，政出多元、職司重疊的麻煩大為減少。
