回归预测 | MATLAB实现CNN-LSSVM卷积神经网络结合最小二乘支持向量机多输入单输出回归预测

回归预测 | MATLAB实现CNN-LSSVM卷积神经网络结合最小二乘支持向量机多输入单输出回归预测

预测效果

基本介绍

回归预测 | MATLAB实现CNN-LSSVM卷积神经网络结合最小二乘支持向量机多输入单输出回归预测
CNN-LSSVM卷积神经网络结合最小二乘支持向量机（Least Squares Support Vector Machine，LSSVM）的多输入单输出回归预测原理，主要基于CNN的特征提取能力和LSSVM的回归预测能力。以下是该方法的详细原理：

一、CNN的特征提取原理
CNN是一种前馈神经网络，特别适用于处理图像数据，但也可以用于其他类型的时序数据或具有局部特征的数据。其核心原理包括卷积和池化两个主要操作：

卷积层：通过卷积运算提取输入数据的局部特征。卷积运算使用多个卷积核（滤波器）对输入数据进行滑动，计算每个局部区域的加权和，生成特征图（Feature Map）。每个卷积核代表一种特征提取器，通过训练学习得到合理的权值，用于检测输入数据中的特定特征。
池化层：对特征图进行降维处理，减少计算量并防止过拟合。池化操作通过选取每个池化窗口内的最大值或平均值，进一步简化特征图。
经过多个卷积层和池化层的处理后，CNN能够从输入数据中提取出有用的特征向量，这些特征向量将作为后续回归任务的输入。

二、LSSVM的回归预测原理
LSSVM是对经典支持向量机（SVM）的一种改进，以等式约束代替原来的不等式约束，将经验风险改为偏差的二次方，通过求解一组线性方程来代替经典SVM中复杂的二次优化问题。其回归预测原理如下：

非线性映射：借助非线性映射将原空间映射到高维特征空间，并在此空间构造最优决策函数。
模型训练：使用训练集数据训练LSSVM模型，调整模型参数以最小化预测误差。在训练过程中，LSSVM通过最小化损失函数（即预测值与实际值之间的差异的平方和）来拟合数据。
回归预测：训练完成后，使用LSSVM模型对新输入的数据进行回归预测，输出一个连续的输出值。
三、CNN-LSSVM结合原理
在CNN-LSSVM模型中，CNN负责从输入数据中提取特征向量，而LSSVM则负责利用这些特征向量进行回归预测。具体结合原理如下：

数据预处理：首先，对输入数据进行预处理，包括数据清洗、归一化等步骤，以确保数据的完整性和准确性。
特征提取：将预处理后的数据输入CNN模型，通过多个卷积层和池化层提取出有用的特征向量。
特征向量输入：将CNN提取的特征向量作为LSSVM的输入。
模型训练与预测：使用训练集数据训练LSSVM模型，并使用测试集数据评估模型的预测性能。训练完成后，可以使用训练好的模型对新输入的数据进行回归预测。

程序设计

• 完整代码：MATLAB实现CNN-LSSVM卷积神经网络结合最小二乘支持向量机多输入单输出回归预测

%%  清空环境变量
warning off             % 关闭报警信息
close all               % 关闭开启的图窗
clear                   % 清空变量
clc  

%% 导入数据
data =  readmatrix('day.csv');
data = data(:,3:16);
res=data(randperm(size(data,1)),:);    %此行代码用于打乱原始样本，使训练集测试集随机被抽取，有助于更新预测结果。
num_samples = size(res,1);   %样本个数


% 训练集和测试集划分
outdim = 1;                                  % 最后一列为输出
num_size = 0.7;                              % 训练集占数据集比例
num_train_s = round(num_size * num_samples); % 训练集样本个数
f_ = size(res, 2) - outdim;                  % 输入特征维度


P_train = res(1: num_train_s, 1: f_)';
T_train = res(1: num_train_s, f_ + 1: end)';
M = size(P_train, 2);

P_test = res(num_train_s + 1: end, 1: f_)';
T_test = res(num_train_s + 1: end, f_ + 1: end)';
N = size(P_test, 2);

%  数据归一化
[p_train, ps_input] = mapminmax(P_train, 0, 1);
p_test = mapminmax('apply', P_test, ps_input);

[t_train, ps_output] = mapminmax(T_train, 0, 1);
t_test = mapminmax('apply', T_test, ps_output);

%%  数据平铺

for i = 1:size(P_train,2)
    trainD{i,:} = (reshape(p_train(:,i),size(p_train,1),1,1));
end

for i = 1:size(p_test,2)
    testD{i,:} = (reshape(p_test(:,i),size(p_test,1),1,1));
end


targetD =  t_train;
targetD_test  =  t_test;

numFeatures = size(p_train,1);


layers0 = [ ...

参考资料

[1] https://blog.csdn.net/kjm13182345320/article/details/128267322?spm=1001.2014.3001.5501
[2] https://blog.csdn.net/kjm13182345320/article/details/128234920?spm=1001.2014.3001.5501