宗教裁判所的根源可以追溯到十一和十二世纪，当时反对天主教的异议团体纷纷在天主教的欧洲各地出现。但宗教裁判所是在1184年，由教皇鲁西斯(Lucius)三世在意大利威洛纳宗教会议上正式创立的。由于神圣罗马帝国皇帝腓特烈一世与之合作，教皇遂下诏，任何人若谈论甚或思想与天主教相反的教义，就得被逐出教会和遭受世俗权威的惩罚。主教们受命去搜出（拉丁文：inquirere）相信异端的人。这就是所谓主教宗教裁判所的开始，亦即在主教管辖之下的宗教裁判所。

因此有一段时期并存着两种宗教裁判所，称为主教宗教裁判所和使节宗教裁判所，后者比前者手段更加毒辣。