ML |使用 Python 的逻辑回归
原文:https://www . geesforgeks . org/ml-logistic-回归-使用-python/
前提条件:理解逻辑回归
用户数据库–该数据集包含公司数据库中的用户信息。它包含用户标识、性别、年龄、估计工资、购买的信息。我们使用这个数据集来预测用户是否会购买该公司新推出的产品。
数据–用户 _ 数据
让我们建立逻辑回归模型,预测用户是否会购买产品。
输入库
import pandas as pd
import numpy as np
import matplotlib.pyplot as plt
正在加载数据集–用户数据
dataset = pd.read_csv('...\\User_Data.csv')
现在,要预测用户是否会购买该产品,需要找出年龄和预计工资之间的关系。在这里,用户标识和性别不是发现这一点的重要因素。
# input
x = dataset.iloc[:, [2, 3]].values
# output
y = dataset.iloc[:, 4].values
分割数据集进行训练和测试。75%的数据用于训练模型,25%的数据用于测试我们模型的性能。
from sklearn.cross_validation import train_test_split
xtrain, xtest, ytrain, ytest = train_test_split(
x, y, test_size = 0.25, random_state = 0)
现在,在这里执行要素缩放非常重要,因为年龄和估计薪资值位于不同的范围内。如果我们不缩放特征,那么当模型找到数据空间中数据点的最近邻居时,估计工资特征将主导年龄特征。
from sklearn.preprocessing import StandardScaler
sc_x = StandardScaler()
xtrain = sc_x.fit_transform(xtrain)
xtest = sc_x.transform(xtest)
print (xtrain[0:10, :])
输出:
[[ 0.58164944 -0.88670699]
[-0.60673761 1.46173768]
[-0.01254409 -0.5677824 ]
[-0.60673761 1.89663484]
[ 1.37390747 -1.40858358]
[ 1.47293972 0.99784738]
[ 0.08648817 -0.79972756]
[-0.01254409 -0.24885782]
[-0.21060859 -0.5677824 ]
[-0.21060859 -0.19087153]]
这里曾经看到年龄和估计工资特征值被囊化,现在在-1 到 1 之间。因此,每个特征在决策(即最终确定假设)中的作用是相同的。
最后,我们正在训练我们的逻辑回归模型。
from sklearn.linear_model import LogisticRegression
classifier = LogisticRegression(random_state = 0)
classifier.fit(xtrain, ytrain)
训练好模型后,就该用它对测试数据做预测了。
y_pred = classifier.predict(xtest)
让我们测试一下我们的模型——混淆矩阵的性能
from sklearn.metrics import confusion_matrix
cm = confusion_matrix(ytest, y_pred)
print ("Confusion Matrix : \n", cm)
输出:
Confusion Matrix :
[[65 3]
[ 8 24]]
满分 100 分: 真阳性+真阴性= 65 + 24 假阳性+假阴性= 3 + 8
性能测量-准确性
from sklearn.metrics import accuracy_score
print ("Accuracy : ", accuracy_score(ytest, y_pred))
输出:
Accuracy : 0.89
可视化我们模型的性能。
from matplotlib.colors import ListedColormap
X_set, y_set = xtest, ytest
X1, X2 = np.meshgrid(np.arange(start = X_set[:, 0].min() - 1,
stop = X_set[:, 0].max() + 1, step = 0.01),
np.arange(start = X_set[:, 1].min() - 1,
stop = X_set[:, 1].max() + 1, step = 0.01))
plt.contourf(X1, X2, classifier.predict(
np.array([X1.ravel(), X2.ravel()]).T).reshape(
X1.shape), alpha = 0.75, cmap = ListedColormap(('red', 'green')))
plt.xlim(X1.min(), X1.max())
plt.ylim(X2.min(), X2.max())
for i, j in enumerate(np.unique(y_set)):
plt.scatter(X_set[y_set == j, 0], X_set[y_set == j, 1],
c = ListedColormap(('red', 'green'))(i), label = j)
plt.title('Classifier (Test set)')
plt.xlabel('Age')
plt.ylabel('Estimated Salary')
plt.legend()
plt.show()
输出: 分析性能指标——准确性和混淆矩阵以及图表,我们可以清楚地说我们的模型表现非常好。
版权属于:月萌API www.moonapi.com,转载请注明出处