Vähem olulised krediidiasutused on pangad, kes ei täida ühtegi ühtse järelevalvemehhanismi määruses sätestatud olulisuse kriteeriumit erinevalt olulistest krediidiasutustest, kes täidavad neist kriteeriumitest vähemalt ühte. Olulisuse kriteeriumid käsitlevad muu hulgas panga suurust, selle tähtsust päritoluriigi või kogu ELi majanduse seisukohalt ja panga piiriülese tegevuse tähtsust. Enamjaolt on vähem olulised krediidiasutused väiksemad pangad, kelle varade väärtus ei ületa 30 miljonit eurot.
Vähem oluliste krediidiasutuste üle teevad järelevalvet riikide järelevalveasutused ja seda kontrollib EKP. Olulised krediidiasutused seevastu kuuluvad EKP otsese järelevalve alla.
EKP koostab järelevalve alla kuuluvate üksuste loetelu, kust saab vaadata, kas pank on liigitatud oluliseks või vähem oluliseks ja kes teeb panga üle järelevalvet. EKP vaatab iga panga olulisuse staatuse läbi vähemalt kord aastas.
EKP vastutab Euroopa pangandusjärelevalve kui terviku tõhusa ja järjepideva toimimise eest. Euroopa pangandusjärelevalve moodustavad EKP ja osalevate riikide pangandusjärelevalve asutused. Oma kontrollifunktsiooni täitmisel teeb EKP tihedat koostööd riikide järelevalveasutustega, et veelgi ühtlustada pangandusjärelevalvet reguleerivate eeskirjade rakendamist, tagades samal ajal ühtsete järelevalvestandardite järjepideva kohaldamise kogu süsteemis. See aitab kindlustada võrdsed tingimused kõigile pankadele. Vajaduse korral võib EKP kõrgete järelevalvestandardite järjepideva kohaldamise tagamiseks erandjuhtudel võtta üle vähem oluliste krediidiasutuste otsese järelevalve (vt ühtse järelevalvemehhanismi määruse artikli 6 lõike 5 punkt b).