Suunnitelmat katedraalin rakentamisesta alkoivat jo 1500-luvulla, mutta varsinaiset rakennustyöt käynnistyivät vasta kuningas Alfonso XII:n käskystä vuonna 1883. Töitä hidastivat muun muassa rahan puute ja sisällissota, ja ne kestivät lopulta yli sata vuotta. Arkkitehti Francisco de Cubas suunnitteli katedraalin alun perin uusgoottilaiseen tyyliin Reimsin tuomiokirkon innoittamana, mutta vuonna 1944 pidetyn suunnittelukilpailun voittaneilla Fernando Chuecalla ja Carlos Sidrolla oli muita ideoita. Uuden projektin tavoitteena oli ennen kaikkea, että rakennus sointuisi hyvin yhteen vieressä sijaitsevan kuninkaallisen palatsin kanssa. Lopputuloksena katedraali edustaa uusgoottilaisuutta sisältä ja uusklassismia ulkoa. Paavi Johannes Paavali II vihki katedraalin käyttöön 15. kesäkuuta 1993.
Katedraali on omistettu Almudenan neitsyelle (Virgen de la Almudena), Madridin suojeluspyhimykselle. Tarinan mukaan apostoli Jaakob rakennutti ensimmäisellä vuosisadalla Espanjaan pienen eremitaašin, jonne sijoitti Neitsyt Marian kuvan. Maurilaisvallan aikana kuva kätkettiin läheisen linnoituksen torniin. Niemimaan uudelleenvaltauksen jälkeen kuva löydettiin osan muurista romahdettua. Nimi Almudena tulee sanasta almudayna, joka on arabiaa ja tarkoittaa linnoitusta. Nykyinen katedraali sijaitsee paikalla, jolta kuva löydettiin.
22. toukokuuta 2004 katedraali toimi näyttämönä pääkaupungin juhliessa kuninkaallisia häitä ensimmäistä kertaa lähes sataan vuoteen, kun kuningas Juan Carlosin poika Asturian prinssi Felipe nai Letizia Ortizin.