当前位置: 首页 > article >正文

机器学习基础--基于线性回归房价预测

        经典的线性回归模型主要用来预测一些存在着线性关系的数据集。回归模型可以理解为:存在一个点集,用一条曲线去拟合它分布的过程。如果拟合曲线是一条直线,则称为线性回归。如果是一条二次曲线,则被称为二次回归。线性回归是回归模型中最简单的一种。
在线性回归中:
(1)假设函数是指,用数学的方法描述自变量和因变量之间的关系,它们之间可以是一个线性函数或非线性函数。 在本次线性回顾模型中,我们的假设函数为 Y’= wX+b ,其中,Y’表示模型的预测结果(预测房价),用来和真实的Y区分。模型要学习的参数即:w,b。
(2)损失函数是指,用数学的方法衡量假设函数预测结果与真实值之间的误差。这个差距越小预测越准确,而算法的任务就是使这个差距越来越小。 建立模型后,我们需要给模型一个优化目标,使得学到的参数能够让预测值Y’尽可能地接近真实值Y。这个实值通常用来反映模型误差的大小。不同问题场景下采用不同的损失函数。 对于线性模型来讲,最常用的损失函数就是均方误差(Mean Squared Error, MSE)。
(3)优化算法:神经网络的训练就是调整权重(参数)使得损失函数值尽可能得小,在训练过程中,将损失函数值逐渐收敛,得到一组使得神经网络拟合真实模型的权重(参数)。所以,优化算法的最终目标是找到损失函数的最小值。而这个寻找过程就是不断地微调变量w和b的值,一步一步地试出这个最小值。 常见的优化算法有随机梯度下降法(SGD)、Adam算法等等
import paddle
import numpy as np
import os
import matplotlib.pyplot as plt

(1)uci-housing数据集介绍

数据集共506行,每行14列。前13列用来描述房屋的各种信息,最后一列为该类房屋价格中位数。

PaddlePaddle提供了读取uci_housing训练集和测试集的接口,分别为paddle.dataset.uci_housing.train()和paddle.dataset.uci_housing.test()。

#设置默认的全局dtype为float64
paddle.set_default_dtype("float64")
#下载数据
print('下载并加载训练数据')
train_dataset = paddle.text.datasets.UCIHousing(mode='train')
eval_dataset = paddle.text.datasets.UCIHousing(mode='test')
train_loader = paddle.io.DataLoader(train_dataset, batch_size=32, shuffle=True)
eval_loader = paddle.io.DataLoader(eval_dataset, batch_size = 8, shuffle=False)

print('\n加载完成')

dataloder中的参数设置,首先选择要加载的数据集,batch_size表示每次加载数据的多少,shuffle表示加载时是否打乱顺序

对于线性回归来讲,它就是一个从输入到输出的简单的全连接层。

# 定义全连接网络
class Regressor(paddle.nn.Layer):
    def __init__(self):
        super(Regressor, self).__init__()
        # 定义一层全连接层,输出维度是1,激活函数为None,即不使用激活函数
        self.linear = paddle.nn.Linear(13, 1, None)
    
    # 网络的前向计算函数
    def forward(self, inputs):
        x = self.linear(inputs)
        return x

使用前13个来预测最后一位,故连接层输入为13,输出为1且不使用激活函数

model=Regressor() # 模型实例化
model.train() # 训练模式
mse_loss = paddle.nn.MSELoss()
opt=paddle.optimizer.SGD(learning_rate=0.0005, parameters=model.parameters())

模型实例化,使用SGD作为优化器,rate表示学习率,后面的传入的是模型参数


epochs_num=200 #迭代次数
for pass_num in range(epochs_num):
    for batch_id,data in enumerate(train_loader()):
        image = data[0]
        label = data[1]
        predict=model(image) #数据传入model
        loss=mse_loss(predict,label)
        
        if batch_id!=0 and batch_id%10==0:
            Batch = Batch+10
            Batchs.append(Batch)
            all_train_loss.append(loss.numpy()[0]) 
            print("epoch:{},step:{},train_loss:{}".format(pass_num,batch_id,loss.numpy()[0])  )      
        loss.backward()  #反向传播计算模型梯度     
        opt.step()    #更新模型参数
        opt.clear_grad()   #opt.clear_grad()来重置梯度
paddle.save(model.state_dict(),'Regressor')#保存模型

设置迭代轮次,将数据传入模型进行预测,然后计算损失值(mse代表使用均方误差来计算损失值),训练模型并保存

#模型评估
para_state_dict = paddle.load("Regressor") 
model = Regressor()
model.set_state_dict(para_state_dict) #加载模型参数
model.eval() #验证模式

losses = []
infer_results=[]
groud_truths=[]
for batch_id,data in enumerate(eval_loader()):#测试集
    image=data[0]
    label=data[1] 
    groud_truths.extend(label.numpy())    
    predict=model(image) 
    infer_results.extend(predict.numpy())      
    loss=mse_loss(predict,label)
    losses.append(loss.numpy()[0])
    avg_loss = np.mean(losses)
print("当前模型在验证集上的损失值为:",avg_loss)

进行模型评估并计算损失值


http://www.kler.cn/a/412812.html

相关文章:

  • android集成FFmpeg步骤以及常用命令,踩坑经历
  • Leetcode437. 路径总和 III(HOT100)
  • 35 基于单片机的精确电压表DA-AD转换
  • Scrapy图解工作流程-cnblog
  • Spring框架使用xml方式配置ThreadPoolTaskExecutor线程池,并且自定义线程工厂
  • 【CANOE】【Capl】【RS232】控制串口设备
  • 【好玩的经典游戏】Docker环境下部署贪吃蛇网页小游戏(二)
  • uniapp运行时,同步资源失败,未得到同步资源的授权,请停止运行后重新运行,并注意手机上的授权提示。
  • 钟睒睒的“傲慢与偏见”
  • vue3表单输入相关修饰符使用
  • AI写论文指令
  • Java全栈:超市购物系统实现
  • html+css+js打字游戏网页
  • 每日十题八股-2024年11月27日
  • 有什么好用的 tcp 性能测试工具 ?
  • 聚观早报 | 知乎Q3营收;华为Mate 70系列发布
  • C语言实例_12之求一正整数分解质因数
  • 贪心-区间问题——acwing
  • NFS搭建
  • docker里的jenkins迁移
  • 优化 Conda 下载速度:详细的代理配置和网络管理策略
  • 关于按天切割Tomcat的catalina.out日志文件的配置
  • 云技术-docker
  • 【text2sql】DB-GPT-Hub:text2sql的微调框架及基准测试套件
  • 开发常见问题及解决
  • JavaEE---计算机是如何工作的?