Mnohdy nelze jednoznačně určit, do jaké třídy vektor příznaků patří, a je velká pravděpodobnost chybné klasifikace. Kritérium minimální chyby (tzv. Bayesův klasifikátor) je metoda, která nastaví klasifikátor tak, aby ztráty způsobené chybným rozhodnutím byly minimální.
Kritérium minimální chyby využívá k popisu úlohy pravděpodobnostního zápisu. Hodnotu pokládáme za náhodnou proměnnou. Pokud bychom znali pouze hodnoty apriorních pravděpodobností P(i), zařazovali bychom všechny obrazy do té třídy r, která má nejvyšší apriorní pravděpodobnost P(r). Pravděpodobnost chybné klasifikace by v takovém případě byla 1 - P(r).