加载Word2Vec模型时候出现的错误总结
加载Word2Vec模型时候出现的错误总结
首先,要明确gensim
内置了训练和加载各种预训练的词向量模型,如Word2Vec
、FastText、GloVe等,所以我们这里有关Word2Vec
的错误要要联想到可能是gensim
库出现了问题!!!
源代码:
word_vectors = gensim.models.KeyedVectors.load_word2vec_format('./tool/zhwiki_2017_03.sg_50d.word2vec', binary=False)
vocab = word_vectors.wv.vocab
print('搜狗词向量语料加载,成功!')
错误1展示:
错误1原因:
从错误提示中可以看出,无属性wv,经过查找错误和官方文档发现,在gensim 4.0.0
及以上版本中,gensim库的最新版本(4.0.1及以上)已经将KeyedVectors作为一个独立的类,因此不再需要使用"wv"属性来访问词向量。您可以直接使用加载的KeyedVectors对象进行操作。
错误1解决办法:
既然版本升级以后,不再使用wv属性来访问,则直接将wv去掉
,直接去访问vocab
第一次修改后代码:
word_vectors = gensim.models.KeyedVectors.load_word2vec_format('./tool/zhwiki_2017_03.sg_50d.word2vec', binary=False)
vocab = word_vectors.vocab
print('搜狗词向量语料加载,成功!')
修改代码以后再次运行程序,发现开始出现错误2
错误2展示:
错误2原因:
从错误2的描述内容来看,错误的原因是在gensim 4.0.0及以上版本中,KeyedVectors类不再具有"vocab"属性,而是直接将词汇表作为字典存储在KeyedVectors对象中
错误2解决:
既然库版本升级以后,也不再使用vocab了,而是换了另外一种新的方式来访问,则将vocab
这种旧的访问方式去掉,换成新的访问方式
错误2修改后代码:
word_vectors = gensim.models.KeyedVectors.load_word2vec_format('./tool/zhwiki_2017_03.sg_50d.word2vec', binary=False)
vocab = word_vectors.key_to_index
print('搜狗词向量语料加载,成功!')
两个错误修改以后,再次启动,程序就可以正常运行了