12. novembra 1984. izašao je drugi album, Like A Virgin. Producent je bio Nile Rodgers. Album je imao ogroman uspeh. To je bio njen prvi album koji je dospeo na prvo mesto Billboardove top liste albuma, a pesma Like A Virgin je Madonin prvi hit broj jedan. Na prvom mestu se zadržao 6 nedelja i to je prvi put u istoriji top lista da se pominje reč Virgin (devica). 1984. prvu dodelu MTV muzičkih nagrada je otvorila Madona. Izvodila je Like A Virgin. Nijedan nastup nije izazvao toliko pažnje. Pojavila se u venčanici i prevrtala se po bini.
Drugi singl je bio Material Girl u kome je Madona kopirala nastup Merlin Monro dok je izvodila pesmu Diamonds Are a Girl's Best Friend u filmu Muškarci više vole plavuše (Gentlemen Prefer Blondes). Nadimak Material Girl (devojka koja voli pare) prati Madonu i do danas. Na snimanju spota je upoznala mladog, talentovanog glumca, Šon Pena. Svideli su se jedno drugom ali vez još nije počela. Tada je Madona izlazila sa Princom, tadašnjom velikom zvezdom. Pošto su bili različiti (Prince je bio usporen, neprirodan, a Madona eksplozivna i željna pažnje) Princ je raskinuo sa njom. Madona, naviknuta da ostavlja a ne da bude ostavljena, nedeljama ga je zvala: „Kako se usuđuješ da me ostaviš? Zar ti ne znaš ko sam ja?“
Like A Virgin je prodat u 19 miliona primeraka a sva četiri singla su ušla u prvih deset. Kritičari su govorili da je Madona samo prolazna zvezdica koja u životu više nikad neće imati ni jedan hit.