Pražský městský archiv jako samostatná instituce byl zřízen v roce 1851

Jeho základ tvořily archiválie čtyř původně samostatných měst - Starého Města, Nového Města, Malé Strany a Hradčan, která byla spojena v roce 1784 pod magistrát, jehož sídlem se stala Staroměstská radnice.

K nejstarším dochovaným dokumentům tak patří tzv. privilegia (doklady o městských právech), písemnosti správy jednotlivých pražských měst, materiály soudní a také trojrozměrné předměty jako pečetidla, pečeti apod. 

Do městského archivu postupně přibývaly další listiny, rukopisy, tisky, plány, vyobrazení města… Pro jejich uložení byl vyčleněn prostor v severním křídle Staroměstské radnice, kde byly kromě depozitářů také studovna, fotoateliér a konzervační dílna. Po první světové válce byl pražský městský archiv jednou z nejmodernějších archivních institucí u nás.

Nenahraditelné škody utrpěl archiv v období nacistické okupace. Z obavy před bombardováním Prahy byla část archiválií odvezena do venkovských objektů, avšak zbytek shořel při požáru Staroměstské radnice 8. května 1945.

Po válce dostal archiv náhradní prostory v Clam-Gallasově paláci v Husově ulici, které se na dlouhá léta stala jeho hlavním sídlem. Na konci osmdesátých let využíval vedle Clam-Gallasova paláce ještě dalších osm převážně nevyhovujících pražských a mimopražských depozitářů, mezi nimiž nechyběl ani zámek či protiatomový kryt. Až v roce 1997 byla dokončena nová účelová archivní budova v Praze 4 na Chodově, kam byly postupně sestěhovávány archiválie z ostatních depozitářů.

Archiv hlavního města Prahy 170 let pečuje o doklady, které podávají svědectví o minulosti Prahy od středověkých počátků městského života až po současnost. Jeho fondy a sbírky zahrnují více než 750 000 položek v celkovém rozsahu přibližně 23 000 běžných metrů.