基于支持向量机的Digits手写数字识别

打印 上一主题 下一主题

主题 837|帖子 837|积分 2526


  • 加载查看Digits数据集,利用matshow方法将像素矩阵表现为图片。
           

结果如下:


利用差别核函数的支持向量机分类模型举行分类
2.1.正则化系数C的修改:
分别记录四种核函数在正则化参数C分别为0.01, 0.05, 0.1, 0.5, 1时的模型准确率。并利用网格搜索选择出最佳的模型参数和得分,最后实行交叉验证并计算模型的性能指标


结果如下:


2.2.多项式核下多项式维度参数degree的修改:
分别记录多项式核函数下维度参数为1, 3, 5, 7, 9时的模型准确率。

结果如下:



  • sklearn中SVC函数相关参数的修改
3.1.正则化系数C的修改
分别记录四种核函数在正则化参数C分别为0.01, 0.05, 0.1, 0.5, 1时的模型准确率。
正则化参数C
0.01
0.05
0.1
0.5
1
rbf核

0.111
0.914
0.947
0.978
0.981
linear核

0.978
0.983
0.975
0.975
0.975
poly核

0.089
0.344
0.569
0.922
0.964
sigmoid核

0.328
0.894
0.919
0.942
0.931

结果如下,并把结果记录在题目表格中:


3.2.多项式核下多项式维度参数degree的修改
分别记录多项式核函数下维度参数为1, 3, 5, 7, 9时的模型准确率。
维度degree
1
3
5
7
9
C=0.01

0.408
0.089
0.119
0.128
0.131
C=0.05

0.908
0.344
0.183
0.169
0.144
C=0.1

0.939
0.569
0.264
0.175
0.167
C=0.5

0.972
0.922
0.489
0.269
0.208

结果如下,并把结果记录在题目表格中:



  • 绘制ROC曲线
       请按照给出的代码示例编写代码,绘制数字8和9对应的两条ROC曲线。
      


结果如下:


5.生存模型,利用加载的模型举行预测


结果如下:



  • 结果分析
差别的核函数对模型精度有肯定的影响。可以看到在下表中,当正则化参数为0.01时,linear核的SVM模型准确率已经达到了0.978,sigmoid核的模型准确率较低为0.328,而其他核函数的模型准确率则非常低,可见在其他条件相同的情况下,利用差别的核函数对模型好坏有着比较大的影响。

差别的正则化参数对模型精度有肯定的影响。如下图所示,对于rbf核,正则化参数C为0.01时模型准确率为0.111,C为0.05时模型准确率就达到了0.914,随着C的继续增大,对模型准确率的影响逐渐减小。而对于linear核这种一开始表现就比较好的核函数,调整C的巨细对其结果的影响也是比较小的,甚至大概出现负优化,比如这里linear核的C从0.05到0.1的过程,模型准确率从0.983下降为0.975。同理,对于同一个多项式维度下的模型,差别的C也对模型的终极准确率产生了影响,并且对于差别的维度,C的影响力也不一样,这里在维度1下,C从0.01到0.05的过程对模型影响较大,而维度3下C从0.1到0.5的过程对模型的影响较大。


差别的多项式阶数对模型精度也有肯定的影响。如下图所示,在C=0.05的情况下,随着维度的增高,模型的准确率在下降,并且下降速率是先快后慢的。在差别正则化参数C的情况下,初始准确率越高的模型,随着维度的增高受到的影响越小,终极的模型准确率下降的相对较少,在C=0.01的时间,一维的准确率较低,随着维度的增长,模型准确率下降,甚至出现了“触底反弹”的情况;而对于C=0.1的情况,一维准确率较高,随着维度的增大,其下降幅度相对较小。


免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。
回复

使用道具 举报

0 个回复

倒序浏览

快速回复

您需要登录后才可以回帖 登录 or 立即注册

本版积分规则

大连全瓷种植牙齿制作中心

金牌会员
这个人很懒什么都没写!
快速回复 返回顶部 返回列表