宗教裁判所的根源可以追溯到十一和十二世紀，當時反對天主教的異議團體紛紛在天主教的歐洲各地出現。但宗教裁判所是在1184年，由教皇魯西斯(Lucius)三世在意大利威洛納宗教會議上正式創立的。由於神聖羅馬帝國皇帝腓特烈一世與之合作，教皇遂下詔，任何人若談論甚或思想與天主教相反的教義，就得被逐出教會和遭受世俗權威的懲罰。主教們受命去搜出（拉丁文：inquirere）相信異端的人。這就是所謂主教宗教裁判所的開始，亦即在主教管轄之下的宗教裁判所。

因此有一段時期並存著兩種宗教裁判所，稱為主教宗教裁判所和使節宗教裁判所，後者比前者手段更加毒辣。