【手写数字识别】基于matlab GUI贝叶斯+线性分类器手写数字识别【含Matlab源码 828期】

一、分类器手写数字识别简介

1 贝叶斯分类器
贝叶斯分类器是以贝叶斯原理为基础的分类器的总称，是一种生成式模型，朴素贝叶斯分类器是其中最简单的一种。要高明白贝叶斯分类器的原理，首先得明白一些基本概念。
1.1 基本概念
先验概率：根据统计/经验得到的某事情发生的概率，比如北京下雨的概率可以通过以往的经验或者统计结果得到。
后验概率：在一定条件下某事情发生的概率，比如北京天空出现乌云(因)会下雨(果)的概率。
条件概率：事情发生时某条件出现的概率，比如北京下雨(果)会出现乌云(因)的概率。
1.2 贝叶斯公式

1.3 朴素贝叶斯分类器




和其他数据挖掘或者模式识别中采用的分类器相同，应用贝叶斯分类器对对象或者数据进行分类的过程可以分成两步：第一步，对模型的训练，即从样本数据中进行学习；第二步是用训练出的模型对数据或者对象进行分类。在模型的训练过程以及后续的识别过程中，模型计算的复杂度会影响计算的效率以及结果。对于贝叶斯分类器而言，往往需要进行简化，本文采用主成分分析法来减少贝叶斯分类器的输入属性数目，从而减少训练分类器所消耗的时间。

2 线性分类器的原理和建立
2.1线性分类器的原理
当样本通过变换映射为特征向量以后，它就成为了特征空间中的点。而由于每个类中的样本会具有某些共性，即特征会有不同，那么属于一个类的样本集的点集，总是会与别的类的]点集相分离，那么如果我们可以找到一个函数，能够把不同的点集相分离，那我们的任务也就解决了。由于判别函数法不依赖于概率密度分布的统计学知识，我们可以理解为将样本通过他们的特征用几何方法，将整个空间分解为不同类的子空间。
判别函数法可以根据边界所代表的函数划分为线性和非线性分类器。由于线性分类器涉及数学方法较为简单，实现更简便，我们选取了线性分类器作为本文研究方向。
凤摘录对于手写数字识别，我们可以知道一共有10类模式to，t1…tg，而我们预处理后，共有49个特征值，那么我们可以用X=(X1，…x49)来表示样本。由于有10个模式类，那么线性判别函数形式为：

由于有10个模式类我们就需要给出10个判别函数：d0(X),d1(X），……d9(X），若X属于第i类，则有：

图1 线性多类分类器形式
2.2 “奖惩”算法
我们使用判别函数最大值的方式，由于手写数字识别的10个类，我们需要10个函数。
若在第k次迭代时，样品X(k）属于ti类，在“奖惩算法”中，我们需要对10个函数都进行计算。
2.2.1 若di[X(k)]>dj[X(k)]则权矢量不需要加以修正。

2.2.2 若di[X(k)]≤dj[X(k)]则按下式进行修正：

2.3 测试结果
以10000个样本作为测试集，进行测试，得到数据如下：

我们可以看到，在训练集样本容量增加超过10000后，正确率可达到84%上下波动，在测试了25000和35000个样本后，我们发现在训练集容量为30000，达到极大值82.41%。随着样本集容量增加，训练时间也会相应增加，每增加10000个样本，训练时间增加量会递增，但总体在0.5s以内，扔在可控范围之内。虽然得到了能够接受的训练成果，而且运算速度较快，算法实现简单，但是这样的正确率显然是不足以投入实际应用中去的。

二、部分源代码

function varargout = Classification(varargin)
% Begin initialization code - DO NOT EDIT
gui_Singleton = 1;
gui_State = struct('gui_Name',       mfilename, ...
                   'gui_Singleton',  gui_Singleton, ...
                   'gui_OpeningFcn', @Classification_OpeningFcn, ...
                   'gui_OutputFcn',  @Classification_OutputFcn, ...
                   'gui_LayoutFcn',  [] , ...
                   'gui_Callback',   []);
if nargin && ischar(varargin{1})
    gui_State.gui_Callback = str2func(varargin{1});
end

if nargout
    [varargout{1:nargout}] = gui_mainfcn(gui_State, varargin{:});
else
    gui_mainfcn(gui_State, varargin{:});
end
% End initialization code - DO NOT EDIT


% --- Executes just before Classification is made visible.
function Classification_OpeningFcn(hObject, eventdata, handles, varargin)
handles.output = hObject;
% Update handles structure
guidata(hObject, handles);

%--------------------------------------------------------------------------
global flag
flag=0;

if exist('template.mat','file')~=0
    load template pattern;
else
    pattern(1,1).num=0;
    pattern(1,1).feature=[];

    pattern(1,2).num=0;
    pattern(1,2).feature=[];

    pattern(1,3).num=0;
    pattern(1,3).feature=[];

    pattern(1,4).num=0;
    pattern(1,4).feature=[];

    pattern(1,5).num=0;
    pattern(1,5).feature=[];

    pattern(1,6).num=0;
    pattern(1,6).feature=[];

    pattern(1,7).num=0;
    pattern(1,7).feature=[];

    pattern(1,8).num=0;
    pattern(1,8).feature=[];

    pattern(1,9).num=0;
    pattern(1,9).feature=[];

    pattern(1,10).num=0;
    pattern(1,10).feature=[];
    save template pattern;
end
%------------------------------------------------------------------------

% --- Outputs from this function are returned to the command line.
function varargout = Classification_OutputFcn(hObject, eventdata, handles) 
varargout{1} = handles.output;


%--------------------------------------------------------------------------
%手写板实现---按下左键开始画直线
function figure1_WindowButtonDownFcn(hObject, eventdata, handles)
%clc

global flag
global pos0  %
global x0 y0

pos0=get(handles.WritingAxes,'currentpoint');
x0=pos0(1,1);
y0=pos0(1,2);
if (pos0(1,1)>=0&pos0(1,1)<=100) && (pos0(1,2)>=0&pos0(1,2)<=100)  
    flag=1;
end
%--------------------------------------------------------------------------



%--------------------------------------------------------------------------
function figure1_WindowButtonMotionFcn(hObject, eventdata, handles)
%clc
%手写板实现---移动鼠标进行画线实现的程序

global flag
global pos0
global x0 y0

 pos=get(handles.WritingAxes,'currentpoint');   
 x=pos(1,1);
 y=pos(1,2);
 if flag && (pos(1,1)>=0&pos(1,1)<100) && (pos(1,2)>=0&pos(1,2)<100)  
      line(x,y, 'marker', '.','markerSize',18, 'LineStyle','-','LineWidth',2,'Color','Black');
      if x>x0
          stepX=0.1;
      else
          stepX=-0.1;
      end
      if y>y0
          stepY=0.1;
      else
          stepY=-0.1;
      end
      X=x0:stepX:x;      
                          
      if abs(x-x0)<0.01    
          Y=y0:stepY:y;     
      else
         Y=(y-y0)*(X-x0)/(x-x0)+y0;   
      end
      line(X ,Y, 'marker', '.','markerSize',18, 'LineStyle','-','LineWidth',2,'Color','Black');
      x0=x;
      y0=y;
      pos0=pos;
 else
      flag=0;
 end
 %-------------------------------------------------------------------------
 
 

 %-------------------------------------------------------------------------
function figure1_WindowButtonUpFcn(hObject, eventdata, handles)
%clc
%手写板实现程序---释放鼠标左键结束画线的程序
global flag
flag=0;

%global data
data=[];
Img=getframe(handles.WritingAxes);
imwrite(Img.cdata,'当前手写数字.bmp','bmp');
I=imread('当前手写数字.bmp');
I=rgb2gray(I);
I=im2bw(I);    
imwrite(I,'当前手写数字.bmp','bmp');
I=imread('当前手写数字.bmp');
data=GetFeature(I);
%--------------------------------------------------------------------------
function y=BayesLeastRisk(data)
clc;
load template pattern;

%将数字特征转化为0、1两个数值表示
for i=1:10
    for j=1:25
        for k=1:pattern(1,i).num
            if pattern(1,i).feature(j,k)>0.1
               pattern(1,i).feature(j,k)=1;
            else
                pattern(1,i).feature(j,k)=0;
            end
        end
    end
end

[pc_template,pc_data]=pcapro(data); %主成分分析 
temp=0;
for i=1:10
    pattern(1,i).feature=pc_template(:,temp+1:temp+pattern(1,i).num);
    temp=temp+pattern(1,i).num;
end


%求协方差矩阵、协方差矩阵的逆矩阵、协方差矩阵的行列式
s_cov=[];
s_inv=[];
s_det=[];

for i=1:10
    s_cov(i).data=cov(pattern(1,i).feature');
    s_inv(i).data=inv(s_cov(i).data);
    s_det(i)=det(s_cov(i).data);
end



  

 

  
1
  
2
  
3
  
4
  
5
  
6
  
7
  
8
  
9
  
10
  
11
  
12
  
13
  
14
  
15
  
16
  
17
  
18
  
19
  
20
  
21
  
22
  
23
  
24
  
25
  
26
  
27
  
28
  
29
  
30
  
31
  
32
  
33
  
34
  
35
  
36
  
37
  
38
  
39
  
40
  
41
  
42
  
43
  
44
  
45
  
46
  
47
  
48
  
49
  
50
  
51
  
52
  
53
  
54
  
55
  
56
  
57
  
58
  
59
  
60
  
61
  
62
  
63
  
64
  
65
  
66
  
67
  
68
  
69
  
70
  
71
  
72
  
73
  
74
  
75
  
76
  
77
  
78
  
79
  
80
  
81
  
82
  
83
  
84
  
85
  
86
  
87
  
88
  
89
  
90
  
91
  
92
  
93
  
94
  
95
  
96
  
97
  
98
  
99
  
100
  
101
  
102
  
103
  
104
  
105
  
106
  
107
  
108
  
109
  
110
  
111
  
112
  
113
  
114
  
115
  
116
  
117
  
118
  
119
  
120
  
121
  
122
  
123
  
124
  
125
  
126
  
127
  
128
  
129
  
130
  
131
  
132
  
133
  
134
  
135
  
136
  
137
  
138
  
139
  
140
  
141
  
142
  
143
  
144
  
145
  
146
  
147
  
148
  
149
  
150
  
151
  
152
  
153
  
154
  
155
  
156
  
157
  
158
  
159
  
160
  
161
  
162
  
163
  
164
  
165
  
166
  
167
  
168
  
169
  
170
  
171
  
172
  
173
  
174
  
175
  
176
  
177
  
178
  
179
  
180
  
181
  
182
  
183
  
184
  
185
  
186
  
187
  
188
 

三、运行结果

四、matlab版本及参考文献

1 matlab版本
2014a

2 参考文献
[1] 蔡利梅.MATLAB图像处理——理论、算法与实例分析[M].清华大学出版社，2020.
[2]杨丹,赵海滨,龙哲.MATLAB图像处理实例详解[M].清华大学出版社，2013.
[3]周品.MATLAB图像处理与图形用户界面设计[M].清华大学出版社，2013.
[4]刘成龙.精通MATLAB图像处理[M].清华大学出版社，2015.

文章来源: qq912100926.blog.csdn.net，作者：海神之光，版权归原作者所有，如需转载，请联系作者。

原文链接：qq912100926.blog.csdn.net/article/details/116140257