PPT《分类》

1、初始令,

2、for i=1 to n 循环a)令 为下面方程的解其中,由(3-3)对f的定义可知在本文中为某一实例(x,y)包含的特征数量.b)c)重复 a)至 收敛

3、算法结束 这里求解使用牛顿迭代法 迭代算法

1 初始令 i=0, ai=023???当,i++, 循环至2,4???算法结束, 为方程解, 最大熵统计模型的优点 最大熵统计模型获得的是所有满足约束条件的模型中信息熵极大的模型. 其次最大熵统计模型可以灵活地设置约束条件.通过约束条件的多少可以调节模型对未知数据的适应度和对已知数据的拟合程度. 另外最大熵模型还自然地解决了统计模型中参数平滑的问题. K近邻(KNN) 最近邻分类规则 对于测试样本点x,在集合中距离它最近的的x1.最近邻分类就是把x分为x1 所属的类别最近邻规则的一个推广- KNN没有好的相似度矩阵不能用 KNN 方法 目标:基于训练集N的对y分类确定在N中与y最相似的元素x得到k个最相似的集合设n1,n2分别为集合中属于c1,c2的个数如果p(c1|y)>p(c2|y),判为c1,否则判为c2 特点 其性能依赖于相似度矩阵效率问题 Thanks!