scikit-learn线性回归法进行利润预测
大家好，生成式人工智能无疑是一个改变游戏规则的技术，但对于大多数商业问题来说，回归和分类等传统的机器学习模型仍然是首选。
私募股权或风险投资这样的投资者利用机器学习，首先必须了解关注的数据以及它是如何被使用的。投资公司的决策不仅仅基于可量化的数据，如支出、增长和烧钱率等，还包括创始人的记录、客户反馈、产品体验等定性数据。
本文将介绍线性回归的基础知识，完整的代码可以从下面的链接获取。
1.项目设置
本文将使用Jupyter Notebook进行这个项目，首先导入一些库。
# 绘制图表
import matplotlib.pyplot as plt
# 数据管理和处理
from pandas import DataFrame
# 绘制热力图
import seaborn as sns
# 分析
from sklearn.metrics import r2_score
# 用于训练和测试的数据管理
from sklearn.model_selection import train_test_split
# 导入线性模型
from sklearn.linear_model import LinearRegression
# 代码注释
from typing import List2.数据
为了简化问题，本文将使用区域数据。这些数据代表了公司的支出类别和利润。可以看到一些不同数据点的示例。本文希望使用支出数据来训练一个线性回归模型并预测利润。
重要的是要理解本文将使用的数据描述的是一家公司的支出情况，只有将支出数据与收入增长、当地税收、摊销和市场状况等数据结合起来时，才能得到有意义的预测能力。
| R&D Spend | Administration | Marketing | Spend Profit |
|---|---|---|---|
| 165349.2 | 136897.8 | 471784.1 | 192261.83 |
| 162597.7 | 151377.59 | 443898.53 | 191792.06 |
| 153441.51 | 101145.55 | 407934.54 | 191050.39 |
加载数据
companies: DataFrame = pd.read_csv("companies.csv", header = 0)3.数据可视化
了解数据对于确定要使用的特征、需要进行归一化和转换的特征、从数据中删除异常值以及对特定数据点进行的处理是很重要的。
可以直接访问利润，使用DataFrame绘制直方图（Pandas使用Matplotlib来绘制数据帧）：
companies['Profit'].hist( color='g', bins=100);
可以看到，利润超过20万美元的异常值非常少，由此还可以从中推断出本文的数据代表的是具有特定规模的公司。由于异常值的数量相对较少，可以将其保留。
下面绘制支出特征直方图，希望可以看到使用特征的直方图并查看其分布情况，Y轴表示数字频率，X轴表示支出。
companies[[
"R&D Spend",
"Administration",
"Marketing Spend"
]].hist(figsize=(16, 20), bins=50, xlabelsize=8, ylabelsize=8)
还可以看到有一个健康的分布，只有少量的异常值，可以预期在研发和市场营销上花费更多的公司利润更高。从下面的散点图中可以看出，研发支出和利润之间存在明显的相关性。
profits: DataFrame = companies[["Profit"]]
research_and_development_spending: DataFrame = companies[["R&D Spend"]]
figure, ax = plt.subplots(figsize = (9, 9))
plt.xlabel("R&D Spending")
plt.ylabel("Profits")
ax.scatter(
research_and_development_spending,
profits,
s=60,
alpha=0.7,
edgecolors="k",
color='g',
linewidths=0.5
)
通过相关热图进一步探索支出和利润之间的相关性，从图中可以看出，研发和市场营销支出与利润的相关性比行政支出更高。
sns.heatmap(companies.corr())
4.模型训练
需要将数据集分割为训练集和测试集两部分，Sklearn提供了一个辅助方法来完成这个任务。鉴于本文的数据集很简单且足够小，可以按照以下方式将特征和目标分离开来。
features: DataFrame = companies[[
"R&D Spend",
"Administration",
"Marketing Spend",
]]
targets: DataFrame = companies[["Profit"]]
train_features, test_features, train_targets, test_targets = train_test_split(
features,
targets,
test_size=0.2
)
大多数人会使用不同的命名约定，如X_train、y_train或其他类似的变体，创建并训练模型。
model: LinearRegression = LinearRegression()
model.fit(train_features, train_targets)5.模型评估
对模型的性能及其可用性进行评估，首先查看计算得到的系数。在机器学习中，系数是用来与每个特征相乘的学习到的权重或数值，期望看到每个特征都有一个学习系数。
coefficients = model.coef_
"""
We should see the following in our console
Coefficients [[0.55664299 1.08398919 0.07529883]]
"""
正如上述所看到的，有3个系数，每个特征对应一个系数（“研发支出”、“行政支出”、“市场营销支出”）。还可以将其绘制成图表，以便更直观地了解每个系数。
plt.figure()
plt.barh(train_features.columns, coefficients[0])
plt.show()
为了解模型的误差率，将使用Sklearn的R2得分：
test_predictions: List[float] = model.predict(test_features)
root_squared_error: float = r2_score(test_targets, test_predictions)
"""float
We should see an ouput similar to this
0.9781424529214315
"""
离1越近，模型就越准确，实际上可以用一种非常简单的方式对这一点进行测试。
可以取数据集的第一行，如果使用下面的支出模型来预测利润，期望得到一个足够接近192261美元的数字。
"R&D Spend" | "Administration" | "Marketing Spend" | "Profit"
165349.2 136897.8 471784.1 192261.83
接下来创建一个推理请求：
inference_request: DataFrame = pd.DataFrame([{
"R&D Spend":165349.2,
"Administration":136897.8,
"Marketing Spend":471784.1
}])
运行模型：
inference: float = model.predict(inference_request)
"""
We should get a number that is around
199739.88721901
"""
现在可以看到的误差率是abs(199739-192261)/192261=0.0388，这说明模型是非常准确的。
综上，处理数据、搭建模型和分析数据有很多方法，没有一种解决方案适用于所有情况。当用机器学习解决业务问题时，其中一个关键过程是搭建多个旨在解决同一个问题的模型，并选择最有前途的模型。