“天牢”这个名词最早出现在春秋战国时期，当时的意思是暗指牢狱黑无天日，一旦进入之后没有了重见天日的机会。后来专门指朝廷的监狱，取名“天牢”是为了彰显它的威严。不过也有不同的说法，有人说“天牢”内部守卫森严，想要逃脱或者劫狱难如登天；又有人谣传，说是这种国家级的监狱有“狱神”保佑，这种神将看管着监狱，这就是“天牢”的真正意思；还有一种说法，说皇帝是天子，是神授的。“天牢”内的案件最终的审判是由皇帝判决的，所以这种国家级监狱要叫“天牢”。是指直达天听的意思，代表着绝对的公正和威严。其实只要有监狱就会有冤案，就有冤死鬼。只要有案件发生，判决就会有偏差，不会百分之一百的公正和公平。
“天牢”不是唯一的，至少在明朝的时候不是唯一的。国家级的监狱都可以叫“天牢”，这样的话全国至少有四个“天牢”。刑部大牢就是其中的一个，虽然在民间名气最高，其实威信并不是很高。因为这个刑部大牢的权限已经不大了，几乎和一般的地方大牢性质差不多。还有一个原因是因为刑部大牢已经坏了名声，导致一般的人看不起这个国家级的监狱。
“大理寺”不是一个寺院，也不是一个道观，而是一个国家机构。按照现代的机构来说的话，相当于如今的监察局。不过它的权利又有些不一样，这里的官员虽然有关押和审讯现任官员的权利，但是没有任免权和检举权。按照朝廷的规矩在京五品以下、地方七品以下的官员，由吏部推荐并任命。吏部相当于现在的组织部和人事部，管理着当时绝大多数的现任官员。在京五品以上、地方七品以上的官员，提别是一把手的官员，需要内阁内部通过，举荐给皇帝，由皇帝直接任命。检举和监督官员的是都察院，都察院相当于现在的纪委。虽然“大理寺”有吏部和都察院牵制着，但是“大理寺”的权利绝对不可小看。大理寺的监狱专门关押有嫌疑的官员，虽然人数不会很多，但是是绝对有资格称之为“天牢”。
锦衣卫是明朝的一个特色，贯穿着整个明朝时期。后人每每提及这个锦衣卫的时候，总想起一句经典的台词“朱明王朝锦衣天下”。意思很明显，这个朝代是朱家当皇帝的明朝，但是真正掌权的是锦衣卫。锦衣卫才是真正控制大明王朝的人。虽然这么说有点夸张，但是足可以证明锦衣卫的嚣张和势力庞大。锦衣卫按职能分为南北镇抚司，北镇抚司的职能是巡逻和监管各个衙门；南镇抚司的职能是关押、审讯、处置一切有嫌疑的官员、世勋、宗室成员。南镇抚司有一个独立的监狱，足可以和刑部大牢和大理寺监狱分庭抗礼。不过这个监狱还有一个名字叫“诏狱”，意思是这里关押的人都是皇帝亲自下令过问的，没有皇帝的直接指令，任何人不得干预。为了区别，更是为了对这个监狱的歧视，一般的老百姓和官员人前人后称之为“南狱”。不但不承认这个监狱是“诏狱”，也不承认它是“天牢”，大家只把它看作皇帝的私人监狱。
比起臭名昭著的“南狱”，东厂的“黑房子”更是丑名远播。提及明朝的开国皇帝洪武爷朱元璋，不得不承认他是一个人物。无论是他的政敌还是战友，更或者是旁观者，都不得不对他产生敬意。他的最大功绩是推翻了元蒙帝国，恢复了汉家天下，重新让汉人翻身当家做主。第二个功绩是建立了一个当时相当强悍的王朝和军队，要不是精力有限的话，朱元璋说不定真的能够一统天下。第三个功绩是首次把反腐倡廉当做国家大事列入国策。虽然屡禁不止，贪污的官员越禁越多，但是给了后代皇帝和朝廷处置大贪官的决心和机会。第四个功绩就是“制衡之术”。“平衡”是一种策略，更是一种一劳永逸的方法。朱元璋知道自己的后人的优缺点。朱家不会出现一个惊世骇俗的天才，也不会再有朱元璋这种杀伐决断的绝世英主。因为朱家后代皇帝不会有朱元璋这种生平经历，更不会有朱元璋这**上天子的历练。没有一群生死兄弟保驾护航，也没有用一生为自己效忠的战争孤儿利用。可以英明的朱元璋发明了制衡之术，为自己的后代皇帝创造一个比较好走的道路。六部管理各个衙门，地方各级衙门负责监管下级衙门，每一级衙门由主管负全责。就算最小的县级衙门，也有正八品县丞牵制正七品知县；知府衙门由同知牵制正五品知府；省里布政使、按察使分权，防止他们权力过大，不好管理。在中央内阁牵制六部，内阁的品级不高，但是代表皇帝制衡六部尚书，六部尚书严禁插手其他部门的事情，限制他们的权限。后来内阁的权利越来越大，为了防止内阁学士权力过大，设置了都察院牵制。都察院不但有“听闻奏事”的权利，更有监管内阁的职责。一旦发现内阁有问题，都察院可以直接奏报皇帝。为了防止都察院权限过大，朱元璋下过严旨，都察院的官员不但品级不能过高，而且不能插手政务，只有监管官员生活作风和道德行为的权利。用锦衣卫监督百官，有自己家的奴才监控文武官员。这就是朱元璋的功绩之一。后来明朝的皇帝发现锦衣卫的权利还是不够大，监督朝中官员不够，需要扩大到监控全国各行各业，包括军队以及边关的地步。为了防止锦衣卫欺上瞒下，皇帝宣布建立东厂，配合和监督锦衣卫监控天下。锦衣卫半公开地监督百官，东厂暗地里渗透到民间各行各业，甚至于化装成老百姓当兵，监控边关军事和军队管理。为了能够控制好东厂，皇帝用亲信太监直接控制东厂，允许东厂独立设置监狱，默许东厂可以独立审讯和处置所有嫌疑人。锦衣卫的“南狱”就算再嚣张，也算是半军事化的朝廷机构，东厂的监狱简直就是无法无天的地方。所以大家连监狱的名分也不承认，直接把它叫做“黑房子”。但是不管怎么称呼，这个监狱依然是明朝四大“天牢”之一，而且是最黑暗的一个。
四大“天牢”如果按大小来区分的话，刑部大牢是最大的，锦衣卫的“南狱”也就是“诏狱”第二大，大理寺的监狱，又叫“官狱”属于第三大，东厂的“黑房子”最小。但是实际上监狱的大小和名声并不一致，效率和职能来说也是不这么排名的。从名声上来说，大理寺的监狱第一，锦衣卫的第二，东厂的第三，刑部大牢最后。从办事效率来说的话，东厂第一，锦衣卫第二，大理寺第三，刑部大牢垫底。就算从威信和震慑力来说的话，锦衣卫排第一，大理寺排第二，东厂排第三，刑部大牢依然垫底。为什么刑部大牢除了占地最大之外，其他的都比不上其他几个同行呢？这个问题一直困扰着外行人和老百姓，就连内阁和皇帝也是一知半解。
其实理由有很多，有自身原因，也有外界因素，还有客观原因等等。第一，自从有了监狱开始，就存在着黑暗和不平。冤狱的产生有一定的是无意造成的，但是更多的是因为有人在里面做手脚。这些人有些是坐堂的官员，更多的是下面的办事人员。明朝的官员俸禄普遍不高，甚至于养不活一家人，下面的人更是不好过了。以一个刑部大牢的牢头为例，他虽然是官府中人，但是没有品级。他一年的俸禄是四十五两银子，平均到每个月不到七两银子。再加上这些钱不会足额按时发放，实际每一年到手的钱不到三十七两银子。要是只有这些收入的话，不要说养活一家人了，就是养活他一个人也很勉强。可是这个牢头不但要养活家里的两个老人，一个老婆和七个子女，而且在外面还有三个“外室”。隔三差五还要请客，招呼手下人去酒楼大吃大喝。每个月的月初还要孝敬上级和师爷最少上千两银子。他哪里有这么多的银子？难道是自己拿家里的钱贴补吗？不是，因为他有自己的本事。要是外人知道这个牢头除了现在的一切之外，还有三家店铺和城外上千亩良田的话，绝对不会相信。其实这都是真的，他不过是一个刑部大牢普通的牢头而已。在刑部大牢像他这样的人有上百个，手下的狱卒更是上千个。
第二，锦衣卫和东厂分走了刑部大牢许多权限。甚至于不把刑部大牢当做同等看待，刑部大牢成为了锦衣卫和东厂的奴才。他们对刑部大牢的人轻者打骂，重者直接拔刀相向，甚至于杀人像杀鸡一样。
第三，这些年来刑部大牢判决的案子，冤假错案太多了。这严重影响到了刑部大牢的名誉，让老百姓和官员渐渐对刑部大牢失望。