Terminem tym określa się te banki, które nie spełniają żadnego z kryteriów istotności określonych w rozporządzeniu SSM (banki spełniające przynajmniej jedno kryterium mają status instytucji istotnych). Kryteria dotyczą m.in. wielkości banku, jego znaczenia dla gospodarki danego kraju lub całej Unii Europejskiej, a także skali jego działalności transgranicznej. Większość instytucji mniej istotnych stanowią banki, których aktywa nie przekraczają 30 mld euro.
Nadzór nad instytucjami mniej istotnymi sprawują krajowe organy nadzoru pod zwierzchnią kontrolą EBC (instytucje istotne są nadzorowane bezpośrednio przez EBC).
Na publikowanej przez EBC liście nadzorowanych podmiotów można sprawdzić, czy dany bank został zakwalifikowany jako istotny czy mniej istotny – i kto go w związku z tym nadzoruje. EBC weryfikuje status wszystkich banków co najmniej raz w roku.
EBC odpowiada za skuteczne i spójne działanie całego systemu europejskiego nadzoru bankowego, który tworzą krajowe organy nadzoru z państw uczestniczących w tym systemie oraz sam EBC. W ramach kontroli zwierzchniej nad tym systemem EBC ściśle współpracuje z nadzorcami krajowymi nad ciągłym ujednolicaniem zasad sprawowania nadzoru, a jednocześnie pilnuje, by wspólne standardy w tym zakresie były spójnie stosowane w całym systemie. Pomaga to stworzyć równe warunki działania dla wszystkich banków. Żeby zapewnić spójne stosowanie wysokich standardów nadzoru, EBC może w wyjątkowych wypadkach przejąć bezpośredni nadzór nad instytucjami mniej istotnymi (zob. art. 6 ust. 5 lit. b) rozporządzenia SSM).