贝叶斯分类器是运用概率模型给出样本的类别判断的方法。在通过样本得到概率模型之后，我们可以依据概率模型，给出样本属于某个类别的概率信息$$P(c_i|\pmb{x})$$，表明的是给定样本$$\pmb{x}$$判定为$$c_i$$类别的概率，那么可以给出相应的期望损失：
所给定的样本中共有$$N$$个类别，分别记为$$c_1, c_2, c_3, ...,c_N$$，$$\lambda_{ij}$$表明的是将真实标记为$$c_j$$的样本标记为$$c_i$$所产生的损失。$$R(c_i|\pmb{x})$$称为期望损失，即在样本$$\pmb{x}$$上的条件风险。