這篇文章給大家介紹TensorFlow 中的指標(biāo)列與嵌入列如何理解，內(nèi)容非常詳細(xì)，感興趣的小伙伴們可以參考借鑒，希望對(duì)大家能有所幫助。

創(chuàng)新互聯(lián)公司服務(wù)項(xiàng)目包括峨山縣網(wǎng)站建設(shè)、峨山縣網(wǎng)站制作、峨山縣網(wǎng)頁(yè)制作以及峨山縣網(wǎng)絡(luò)營(yíng)銷策劃等。多年來(lái)，我們專注于互聯(lián)網(wǎng)行業(yè)，利用自身積累的技術(shù)優(yōu)勢(shì)、行業(yè)經(jīng)驗(yàn)、深度合作伙伴關(guān)系等，向廣大中小型企業(yè)、政府機(jī)構(gòu)等提供互聯(lián)網(wǎng)行業(yè)的解決方案，峨山縣網(wǎng)站推廣取得了明顯的社會(huì)效益與經(jīng)濟(jì)效益。目前，我們服務(wù)的客戶以成都為中心已經(jīng)輻射到峨山縣省份的部分城市，未來(lái)相信會(huì)繼續(xù)擴(kuò)大服務(wù)區(qū)域并繼續(xù)獲得客戶的支持與信任！

一般地，機(jī)器學(xué)習(xí)、深度學(xué)習(xí) feed 進(jìn)來(lái)的數(shù)據(jù)要求為數(shù)值型。如果某列取值為字符型，需要做數(shù)值轉(zhuǎn)換，今天就來(lái)總結(jié)下 TensorFlow 中的指標(biāo)列和嵌入列。

指標(biāo)列 ( indicator column ) 是指取值僅一個(gè)為 1，其他都為 0 的向量，它是稀疏的； 嵌入列 (embedding column) ，取值介于0和1之間，它是稠密的。

指標(biāo)列，采取 one-hot 編碼方法，有多少類輸入就會(huì)得到一個(gè)多少維的向量。如果輸入類別為 4 類，那么可以編碼為如下，0,1,2,3 類分別編碼為4維的向量。

TensorFlow 中通過(guò)調(diào)用 tf.feature_column.indicator_column 創(chuàng)建指標(biāo)列

categorical_column = ...

indicator_column = tf.feature_column.indicator_column(categorical_column)

但是，假設(shè)我們有一千萬(wàn)個(gè)可能的類別，或者可能有十億個(gè)，而不是只有四個(gè)。出于多種原因，隨著類別數(shù)量的增加，使用指標(biāo)列來(lái)訓(xùn)練神經(jīng)網(wǎng)絡(luò)變得不可行。

如何解決類別數(shù)量激增導(dǎo)致的指標(biāo)列不可行問(wèn)題？

使用嵌入列來(lái)克服這一限制，嵌入列并非將數(shù)據(jù)表示為很多維度的獨(dú)熱矢量，而是將數(shù)據(jù)表示為低維度普通矢量，其中每個(gè)單元格可以包含任意數(shù)字，而不僅僅是 0 或 1。通過(guò)使每個(gè)單元格能夠包含更豐富的數(shù)字，嵌入列包含的單元格數(shù)量遠(yuǎn)遠(yuǎn)少于指標(biāo)列。

每個(gè)嵌入向量的維度是怎么確定的呢？嵌入矢量中的值如何神奇地得到分配呢？

1、設(shè)定詞匯表單詞個(gè)數(shù)為 1 萬(wàn)。如果選用指標(biāo)列，則每個(gè)單詞的取值為 1 萬(wàn)維，采取嵌入列，每個(gè)單詞的維度僅為 10，這相比 one-hot 編碼絕對(duì)是低維度了，維度取值一般經(jīng)驗(yàn)公式是單詞個(gè)數(shù)的4次方根。

2、初始時(shí)，將隨機(jī)數(shù)字放入嵌入向量中，分配值在訓(xùn)練期間進(jìn)行，嵌入矢量從訓(xùn)練數(shù)據(jù)中學(xué)習(xí)了類別之間的新關(guān)系。

TensorFlow 中通過(guò)調(diào)用 tf.feature_column.embedding_column 創(chuàng)建嵌入列，

categorical_column = ...

embedding_column = tf.feature_column.embedding_column(

    categorical_column=categorical_column, dimension=dimension)

最后，以一個(gè)展示指標(biāo)列和嵌入列的區(qū)別實(shí)例作為結(jié)尾，

關(guān)于TensorFlow 中的指標(biāo)列與嵌入列如何理解就分享到這里了，希望以上內(nèi)容可以對(duì)大家有一定的幫助，可以學(xué)到更多知識(shí)。如果覺(jué)得文章不錯(cuò)，可以把它分享出去讓更多的人看到。

文章名稱：TensorFlow中的指標(biāo)列與嵌入列如何理解
瀏覽地址：http://www.chinadenli.net/article44/joigee.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供用戶體驗(yàn)、網(wǎng)站維護(hù)、網(wǎng)站設(shè)計(jì)、移動(dòng)網(wǎng)站建設(shè)、、建站公司

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請(qǐng)盡快告知，我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng)，如需處理請(qǐng)聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時(shí)需注明來(lái)源： 創(chuàng)新互聯(lián)