本文目录一览：

• 1、Word2Vec原理详解
• 2、word2vec怎么读
• 3、word2vec概述
• 4、文本向量化的具体方法

Word2Vec原理详解

1、顾名思义，词向量是用来表示词的向量，也可被认为是词的特征向量或表征。把词映射为实数域向量的技术也叫词嵌入（word embedding）。近年来，词嵌入已逐渐成为自然语言处理的基础知识。

2、所以，负采样策略是对模型的效果影响很大，word2vec常用的负采样策略有均匀负采样、按词频率采样等等。

3、为什么要这样做呢，因为之前那个模型只考虑了前文，并没有后文的信息加入到预测中，word2vec把前后文信息也加入了。这里的输入层处理方式和NNLM里是一样的，也是乘一个投影矩阵，最后我们需要的也是那个投影矩阵。

word2vec怎么读

1、word2vec读法：/wd/ /tu/ /vek/ Word2vec，是一群用来产生词向量的相关模型。这些模型为浅而双层的神经网络，用来训练以重新建构语言学之词文本。

2、gensim (/dnsm/) 的读音是jen-sim，其中g发j音。gensim的名字来自于Generate Similar，意为生成相似的文本数据。

3、从图1可以看出Skip-gram就是用当前中心词 (banking)预测附近的词，图1中将窗口大小设为2，即需要预测左边的2个词和右边的2个词。

4、就是这个网络的第一层：将one-hot向量转换成低维词向量的这一层（虽然大家都不称之为一层，但在我看来就是一层），因为word2vec的输入是one-hot。

word2vec概述

1、Word2vec主要有CBOW和Skip-gram两种模式，其中CBOW是从原始语句推测目标字词，而Skip-gram是从目标字词推测出原始语句（滑动窗口范围内），其中CBOW对小型数据比较合适，Skip-fram在大型语料中表现得更好。

2、word2vec glove fasttext word2vec改进→doc2vec：word2vec丢失了文本的语序信息，而文本的语序包含了重要信息。

3、Estimation of Word Representations in Vector Space建立word2vector模型，与传统的词袋模型（bag of words）相比，word2vector能够更好地表达语法信息。深度学习在自然语言处理等领域主要应用于机器翻译以及语义挖掘等方面。

4、引入word2vec在大规模语料集上进行训练，获得具有更好语义信息的词向量表示，替代基于Tfidf等传统的统计特征。随后在TextCnn、TextRnn等深度学习算法进行更新迭代，尽管得到数字指标的提高，但是对于实际业务的帮助还是不足。

5、【Python学习】内容具体如下：Python开发基础：Python基础语法、数据类型、字符编码等。Python高级编程和数据库开发：面向对象开发、Socket网络编程、线程等。前端开发：Html、CSS、JavaScript开发等。

6、心态准备。编程是一门技术，也可说是一门手艺。如同书法、绘画、乐器、雕刻等，技艺纯熟的背后肯定付出了长时间的反复练习。不要相信几周速成，也不能急于求成。

文本向量化的具体方法

一般会根据ifidf值或者词频之类的做一些简单的过滤， 也有一些专门选取特征的方法，诸如信息增益，互信息，卡方统计等， 有文章专门介绍。文本向量化，tfidf这是90%以上的文章和相关机器学习库demo，论文里会提到的方法。

文本向量化有很多方法，切词、ngram是最常用方法。一般的，分词加预处理能更好的表达语义，我们通过预处理，过滤掉无效字符及停用词。

首先，如果不局限于NN的方法，可以用BOW+tf-idf+LSI/LDA的体系搞定，也就是俗称的01或one hot representation。其次，如果楼主指定了必须用流行的NN，俗称word-embedding的方法，当然首推word2vec（虽然不算是DNN）。

文本表示是自然语言处理中的基础工作，文本表示的好坏直接影响到整个自然语言处理系统的性能。文本向量化是文本表示的一种重要方式。文本向量化就是讲文本表示成一系列能够表达文本语义的向量。

工具/原料python；CMD命令行；windows操作系统方法/步骤首先下载安装python，建议安装7版本以上，0版本以下，由于0版本以上不向下兼容，体验较差。