創設の背景と「令外の官」としての性格

平安京への遷都後、都市の急速な発展に伴い、京中における犯罪の増加や社会秩序の混乱が深刻化した。しかし、律令制が定める従来の治安・司法組織（衛門府、弾正台、京職など）は、煩雑な手続きや縦割り行政が災いし、臨機応変な対応ができなくなっていた。こうした課題を解決するため、弘仁7年（816年）頃に嵯峨天皇によって臨時の警察組織として設置されたのが検非違使である。

検非違使は律令の規定に存在しない令外の官（りょうげのかん）であり、同時期に新設された蔵人所（くろうどどころ）と同様、天皇の意思を速やかに反映させて国政の硬直化を防ぐ実務本位の組織であった。当初は衛門府の役人が兼務する暫定的な官職であったが、その高い機動性と実効性から、次第に常設の独立した官庁としての体裁を整えていった。

権限の肥大化と「検非違使庁」の確立

当初は「違非（違法行為）を検察（取り締まり）する」という警察権のみを付与されていた検非違使であったが、時代が下るにつれてその権限は急速に膨張した。9世紀半ばには、逮捕した罪人を自ら取り調べ、判決を下して刑を執行する「司法権・刑罰権」をも獲得した。これにより、本来の司法機関であった刑部省や行政機関であった京職の権能は事実上奪われ、形骸化していった。

こうして検非違使の頂点である別当（べっとう）を首班とする検非違使庁が確立されると、彼らは律令の法典に拘束されず、「庁例（ちょうれい）」と呼ばれる独自の先例や慣習法に基づいて迅速かつ柔軟に実務を処理するようになった。死刑が廃止されていた平安貴族社会において、実質的な最高刑であった「流罪」や「財産没収」などを独自に執行し、京の住民に畏怖される存在となった。

武士の台頭と検非違使の衰退

平安時代末期、中央貴族の軍事力が低下すると、検非違使の傘下にあって実力行使を担う「下部（しもべ）」や「非人」だけでは治安維持が困難となった。そのため、院政期や平氏政権期には武士が検非違使の幹部として登用されるようになった。源平合戦（治承・寿永の乱）で活躍した源義経が、後白河法皇から「検非違使左衛門少尉」に任じられ、「九郎判官（判官殿）」と呼ばれたのはその代表例である。

しかし、鎌倉幕府が成立して京都に京都守護（のちの六波羅探題）が配置されると、京都の軍事・治安維持の実権は段階的に幕府側へと移行した。室町時代には室町幕府の侍所が京都の警察権を完全に掌握したため、朝廷の官職としての検非違使は実権を失い、完全に形骸化した名誉職となっていった。