錦衣衞原先是軍事建制。明初的軍制比較簡單，其基層單位是“衞”和“所”，京城的禁衞軍所轄衞所為48處。朱元璋改革禁衞軍，建立了12個親軍衞，其中最重要的就是“錦衣衞”。錦衣衞的首領稱為指揮使，由皇帝的親信武將擔任，很少由太監擔任。
錦衣衞中負責“巡查緝捕”，則是錦衣衞區別於其他各朝禁衞軍的特殊之處。朱元璋建立錦衣衞的初衷是用來做儀仗禮儀，後來由於他大肆屠戮功臣，認為司法機構如刑部、大理寺、都察院都不好用，於是將錦衣衞的保衞功能提升起來，使其成為皇帝的私人警察。
明朝的前兩代皇帝朱元璋是貧寒子弟出身，朱元璋起兵奪取天下，朱棣是靠武力奪取了侄兒的江山，由於這種出身的特殊性，明朝對皇權的維護有其他朝代所沒有的強烈慾望。這就使得錦衣衞“巡查緝捕”的職能無限度地擴大了。錦衣衞的指揮使利用職務之便，不遺餘力地製造事端，既打擊異己，又作為自己升遷的資本。
如明成祖時的紀綱、明武宗時的錢寧等，在他們掌權時，緹騎四出，上至宰相藩王，下至平民百姓，都處於他們的監視之下，對他們的命令只要稍有拂逆，就會家破人亡，全國上下籠罩在一片恐怖氣氛中。臭名昭着的北鎮撫司大牢中更是關滿了各種各樣無辜的人們，死於錦衣衞酷刑之下的正直人士更是不計其數。
有一天下朝回家，大概因為總是早起上朝，加上年紀大了，體力有些不支，過於勞累，就順口賦詩一首：“四鼓咚咚起着衣，午門朝見尚嫌遲。何時遂得田園樂，睡到人間飯熟時。”第二天上朝，朱元璋一見宋濂便説：昨天做得好詩！可是我並沒有嫌你遲呀，還是改成“憂”吧。
嚇得宋濂趕忙拜倒謝罪。當朝宰相只不過在自己家中偶爾感歎一下，沒想到第二天就傳到了皇帝的耳朵裏，可見錦衣衞勢力之大。衣衞另一項着名的職能就是“執掌廷杖”。廷杖是皇帝用來教訓違紀的士大夫的一項酷刑。一旦哪位官員觸怒了皇帝，被宣佈加以廷杖，他就立刻被扒去官服，反綁雙手，押至午門行刑。
在那裏，司禮監掌印太監和錦衣衞指揮使一左一右，受刑者裹在一個大布裏，隨着一聲“打”字，棍棒就如雨點般落在他的屁股上。行刑者為錦衣衞校尉，他們都受過嚴格訓練，技藝純熟，能夠根據司禮太監和錦衣衞指揮使的暗示準確地掌握受刑人的生死。
如果這兩人兩腳像八字形張開，表示可留杖下人一條活命;反之，如果腳尖向內靠攏，則杖下人就只有死路一條了。杖完之後，還要提起裹着受刑人布的四角，抬起後再重重摔下，此時布中人就算不死，也去了半條命。廷杖之刑對士大夫的肉體和心靈都是極大的損害，但皇帝對此樂此不疲，錦衣衞也就對它情有獨鍾了。
