Konsjeržerija yra viena seniausių Paryžiaus karališkųjų rūmų liekanų. XV a. šie rūmai buvo paversti kalėjimu. Būtent karalius Pilypas Teisingasis liepė pastatyti karališkuosius rūmus, kurie buvo verti jo padėties. Tuo metu rūmai buvo laikomi vienais gražiausių Europoje. Galiausiai XIV a. pabaigoje Prancūzijos karalystės karaliai persikėlė į Luvrą ir Vinceną. Tuomet Konciergerija buvo apleista. Konsjeržas - karaliaus paskirtas žmogus, turėjęs palaikyti tvarką ir prižiūrėti kalinius, nusprendė rūmus paversti kalėjimu. Prancūzijos revoliucijos metu Koncieržerija tapo pagrindiniu Prancūzijos kalėjimu.