深度学习记录--初识向量化
什么是向量化？
之前计算logistic回归损失函数时，在代码实现时，讨论了for循环：过多的for循环会拖慢计算的速度(尤其当数据量很大时)
因此，为了加快计算，向量化是一种手段
运用python的numpy库，我们可以使用库函数，这些函数一般可以并行计算(类似矩阵计算)，加快计算的速度
向量化的作用
向量化能加快计算速度，能加快多少呢？
下面是一个例子：
要计算百万量级数组的相乘，运用numpy里的np.dot()函数计算，大大加快计算速度(相较于for循环)
import numpy as np
import time
a = np.random.rand(10000000)
b = np.random.rand(10000000)
tic = time.time()
c = np.dot(a,b)
toc = time.time()
print(c)
print("vectorized version: " + str(1000*(toc-tic)) + "ms")
c = 0
tic = time.time()
for i in range(10000000):
c += a[i]*b[i]
toc = time.time()
print(c)
print("for loop: " + str(1000*(toc-tic)) + "ms")运行结果如下：
可以看到，运用函数只需要5ms不到就可以完成计算，而for循环需要2100ms才可以完成计算
向量化加快计算的原因
numpy里的np,dot函数实际运用了并行计算的方法
对于计算机的GPU(Graphics Processing Unit)和CPU(Central Processing Unit)，它们十分擅长并行计算，也就是说，运用向量化，可以充分发挥计算机的性能