Więzienie śledcze określane mianem Pawiak (nazwa od bliskiej ulicy Pawiej) istniało od czasów powstania listopadowego. W okresie okupacji hitlerowskiej mieściło się tu ciężkie więzienie śledcze, podlegające niemieckiej policji bezpieczeństwa – gestapo. W latach 1939-44 przeszło przez nie około 100 tys. więźniów, z tego około 37 tys. zginęło w egzekucjach lub w czasie przesłuchań, a kilkadziesiąt tysięcy wywieziono do obozów koncentracyjnych..
Muzeum Więzienia Pawiak powstało w 1965 r., z inicjatywy i przy współudziale byłych więźniów politycznych Pawiaka. Budynek Muzeum wzniesiono na ocalałych fundamentach podziemnych kazamat VII i VIII, wysadzonych w sierpniu 1944 r.
 Wysokość oryginalnych ścian w zrekonstruowanych celach wynosi 1,1 - 1,5 m. Do budowy wykorzystano większość znalezionych w czasie odgruzowywania obiektu krat, zawiasów, zamków oraz zabezpieczono wydobyte z ruin dokumenty, wyposażenie, przedmioty używane przez więźniów. W skład zespołu pomnikowego muzeum wchodzą ponadto fragment bramy wjazdowej, Pomnik Drzewa Pawiackiego - brązowa kopia słynnego wiązu, na którym rodziny ofiar od 1945 r. umieszczały tabliczki epitafijne.