逻辑回归
逻辑回归(Logistic Regression,LR)是一种很常用的分类算法,对于一般的二分类情况,给定N个训练样本,(x1,y1),(x2,y2)...(xN,yN),其中xi∈Rn是一个n维向量,yi∈{
−1,+1}表示了其对应样本的标签,1代表正样本,-1代表负样本。一般的,逻辑回归模型就是使用sigmoid函数σ(x)=11+exp(−x)将样本特征向量与其属于正样本的概率联系起来:
p(yi=+1|xi,w)=σ(wTxi)=11+exp(−wTxi)