Archiv města Ostravy byl založen v roce 1923, kdy gymnaziální profesor Alois Adamus nastoupil do funkce městského archiváře. Od roku 1925 byl archiv zpřístupněn veřejnosti. V následujících dekádách prošel archiv mnoha organizačními změnami, mimo jiné během druhé světové války či v roce 1960, kdy došlo ke změně územního členění Československa. Od šedesátých let archiv vydává sborník „Ostrava“ i další publikace, začal rovněž pořádat výstavy a vyvíjel i další popularizační aktivity. Podílel se mimo jiné na oslavách sedmistého výročí založení Ostravy (1967) a u této příležitosti vydal „Průvodce po archivních fondech a sbírkách městského archivu“. Od roku 1969 archiv používá současný název „Archiv města Ostravy“. Po roce 1990, v období rehabilitací, restitucí a privatizací, se archiv intenzivně věnoval dohledávání spisů, vystavování potvrzení apod. Archiv je dodnes odborně i popularizačně činný, vydává mnoho publikací, pořádá přednášky a organizuje výstavy.

V současné době je Archiv města Ostravy, odbor Magistrátu města Ostravy, akreditovaným archivem územního samosprávného celku - statutárního města Ostravy podle zákona o archivnictví a spisové službě a o změně některých zákonů a na něj navazujících předpisů, v platném znění, č. 499/2004 Sb. Archiv se člení na oddělení archivní a oddělení služeb, organizačně k archivu náleží také kronikář města Ostravy. Archiv dohlíží na zajišťování předarchivní péče, přejímá archiválie k trvalému uložení, zpřístupňuje archiválie veřejnosti, vyhledává a poskytuje informace z archiválií, vyvíjí vědeckou a publikační činnost zaměřenou na historii Ostravy a ostravského regionu a zajišťuje vedení městské kroniky a metodickou činnost pro kronikáře městských obvodů.

Archiv města Ostravy v současnosti pečuje o 6358 běžných metrů archiválií z let 1362-2017. V archivu jsou uloženy dokumenty orgánů samosprávy a státní správy, které působily na úrovni města a okresu Ostrava, případně v obcích, které dnes tvoří součást města (obecní úřady, národní výbory, okresní úřad), orgánů justice (okresní soud, městská prokuratura), dokumenty školských a zdravotnických zařízení, působících na území města, spolků, církevní správy (farní úřady jednotlivých obcí), osobní fondy význačných osobností regionu aj. Součástí archivu jsou rovněž sbírky, např. sbírka map a plánů, fotografií a pohlednic, plakátů a úředních tisků, sbírka stavebních spisů demolovaných objektů a řada dalších. Ke konci roku 2017 bylo v Archivu města Ostravy uloženo 1505 archivních fondů a sbírek, z toho zpracovaných (přístupných nebo částečně přístupných veřejnosti) bylo 880.