Bank Mandiri berdiri pada tanggal 2 Oktober 1998, sebagai bagian dari program restrukturisasi perbankan yang dijalankan Pemerintah Indonesia.
Kemudian pada 31 Juli 1999, empat bank milik pemerintah, yaitu Bank Bumi Daya (BBD), Bank Dagang Negara (BDN), Bank Ekspor Impor Indonesia (Bank Exim), dan Bank Pembangunan Indonesia (Bapindo) digabungkan ke Bank Mandiri.
Seiring perkembangannya, Mandiri telah memiliki 11 anak perusahaan yaitu Mandiri Sekuritas, Mandiri Manajemen Investasi, Bank Syariah Mandiri, Bank Mandiri Taspen, AXA-Mandiri Financial Services, Mandiri InHealth, Mandiri Tunas Finance, Mandiri Utama Finance, Mandiri International Remittance, Mandiri Europe, dan Mandiri Capital Indonesia.
Setelah mendapatkan limpahan aset dari merger Bank Syariah Indonesia (BSI) pada tahun 2021, Bank Mandiri menggeser BRI sebagai Bank dengan aset terbesar di Indonesia, dengan total aset sebesar Rp 1.584,1 triliun.