Pankki sai alkunsa vuonna 1887
Sampo Pankin toiminnan käynnisti vuonna 1887 Suomen valtion omistama Postisäästöpankki, joka otti vastaan yleisön talletuksia postikonttoreissa. Postisäästöpankin varat sijoitettiin aluksi valtion obligaatioihin, mutta toisen maailmansodan jälkeen pankkitoiminta laajeni vähitellen myös energia- ja teollisuusyrityksille sekä asuntorakentamiseen suunnattuun luotonantoon.
Merkittävä askel oli ensimmäisen modernin maksuliikejärjestelmän, postisiirron, käyttöönotto talvisodan alettua vuonna 1939. Vuonna 1958 Postisäästöpankista tuli Suomen ensimmäinen tietokoneaikaan siirtynyt yritys, kun pankki otti käyttöön IBM:n Ensi-nimiset "sähköaivot".
Valtion liikelaitoksena toiminut Postisäästöpankki muuttui Postipankiksi vuonna 1970. Vuonna 1988 pankista tuli valtion omistama osakeyhtiö ja samalla yksityisten liikepankkien tavoin toimiva täyden palvelun pankki.
Postipankki ja Suomen Vientiluotto yhdistyvät Leoniaksi vuonna 1997
Vuonna 1997 yhdistettiin valtion omistamat Postipankki ja Suomen Vientiluotto uudeksi yhtiöksi, joka nimettiin seuraavana vuonna Leonia-konserniksi.
Lokakuussa 1999 Vakuutusyhtiö Sammon omistajat ja Suomen valtio päättivät Sammon ja Leonian yhdistämisestä uudeksi täyden palvelun finanssikonserniksi. Yhdistyminen tapahtui vuoden 2000 viimeisenä päivänä. Postipankin ajoilta periytyvä yhteistyö Postin kanssa päättyi niin ikään vuonna 2000.
Osana uutta konsernia pankki toimi alkuvaiheessa nimellä Leonia Pankki. Helmikuussa 2001 nimi muuttui nykyiseksi Sampo Pankiksi.
Mandatum Pankki liittyy Sampoon vuonna 2001
Helmikuussa 2001 konserniin liittyi Mandatum Pankki. Se oli aloittanut toimintansa elokuussa 1998 Interbank Osakepankin ja Mandatum & Co:n fuusiosta. Interbank Osakepankki oli perustettu vuonna 1988 ja Mandatum & Co vuonna 1992.
Mandatum oli 1990-luvun aikana noussut johtavaksi pohjoismaiseksi yrityskauppojen neuvonantajaksi. Ostamalla Pankkiiriliike Protoksen Bank of Irelandilta vuonna 1998 Mandatum vahvisti osaamistaan myös arvopaperivälityksessä. Protoksen ja Mandatumin arvopaperivälitystoiminnasta muodostettiin tytäryhtiö Mandatum Pankkiiriliike. Mandatum Pankki asemoitui yksityishenkilöiden varainhoitopankiksi.
Sammon ja Mandatumin yhdistyttyä Sampo Pankki erikoistui sijoittamiseen ja säästämiseen. Sammosta tuli maan johtava sijoittamiseen keskittynyt pankki ja Mandatum jatkoi vanhalla linjallaan nousten Suomen arvostetuimmaksi yksityispankiksi.
Toiminta laajentuu Baltiaan 2000-luvulla
Sampo aloitti pankkiliiketoiminnan Virossa ostettuaan kesällä 2000 Optiva-pankin Viron keskuspankilta. Liettuassa Sammon pankkiliiketoiminta alkoi samana vuonna, kun se osti Lietuvos Vystymo Bankasin koko osakekannan. Latviassa Sampo osti Maras Bankan vuonna 2004. Viron pankkitoiminta käynnistyi nimellä AS Sampo Pank, Latvian pankki oli Sampo Banka AS ja Liettuan pankki puolestaan UAB Sampo Bankas.
Sampo Pankki osaksi Danske Bank -konsernia helmikuussa 2007
Tanskalainen Danske Bank A/S ilmoitti marraskuussa 2006 ostavansa Sampo Pankin Sampo Oyj:ltä. Kauppa vahvistettiin tarvittavien viranomaislupien saamisen jälkeen helmikuussa 2007.
Kaupassa siirtyivät osaksi Danske Bank -konsernia kaikki Sampo Pankki -konserniin kuuluvat yhtiöt, kuten suomalainen Sampo Pankki Oyj, sen Baltiassa ja Venäjällä toimivat tytärpankit sekä useita sijoituspalveluyrityksiä, joista keskeisimmät olivat Mandatum Omaisuudenhoito Oy, Sampo Rahastoyhtiö Oy, Mandatum & Co Oy ja Mandatum Pankkiiriliike Oy.
Sampo Pankki jatkaa toimintaansa omalla nimellään ja paikallisesti, viiden alue- ja finanssikeskuksen kautta johdettuna pankkitoimijana.
Mandatum Yksityispankki muutti nimeään Sampo Pankki Private Bankingiksi huhtikuun 2008 alussa. Jo aiemmin, vuoden 2007 syksyllä, Mandatum Omaisuudenhoito muuttui Danske Capitaliksi. Mandatum Pankkiiriliike toimii nykyään nimellä Danske Markets.
Yhdistymisen jälkeen Danske Bank -konserni on yksi suurimmista pankkiryhmistä Pohjois-Euroopassa. Sampo Pankki on Suomen kolmanneksi suurin pankki.