1 原理
對于生成對抗網(wǎng)絡(luò)GAN,一個簡單的理解是可以將其看做博弈的過程,我們可以將生成模型和判別模型看作博弈的雙方,比如在犯罪分子造假幣和警察識別假幣的過程中:
- 生成模型G相當(dāng)于制造假幣的一方,其目的是根據(jù)看到的錢幣情況和警察的識別技術(shù),去盡量生成更加真實的、警察識別不出的假幣。
- 判別模型D相當(dāng)于識別假幣的一方,其目的是盡可能的識別出犯罪分子制造的假幣。 這樣通過造假者和識假者雙方的較量和朝目的的改進(jìn),使得最后能達(dá)到生成模型能盡可能真的錢幣、識假者判斷不出真假的納什均衡效果(真假幣概率都為0.5)。
2 訓(xùn)練
生成器G的目標(biāo)是欺騙鑒別器D,其目標(biāo)是能夠區(qū)分真實數(shù)據(jù)和生成數(shù)據(jù)。因此,在訓(xùn)練生成器時,我們希望誤差最大化,同時我們想要使鑒別器的誤差最小化。
2.1 判別模型
目標(biāo)函數(shù)是:
max_D E_{x-p_r} [logD(x)]+E_{z-p_g } [log(1-D(x))]
其中D(x)是判別模型的輸出結(jié)果,是一個0-1范圍內(nèi)的實數(shù)值,用來判斷圖片是真實圖片的概率,其中Pr和Pg分別代表真實圖像的分布與生成圖像的數(shù)據(jù)分布情況,可以看出目標(biāo)函數(shù)是找到使得后面兩個式子之和最大的判別模型函數(shù)D(z),后面兩個式子是一個加和形式,其中:
E_{x-p_r} [logD(x)]
是指使得真實數(shù)據(jù)放入到判別模型D(x)輸出的計算值和整個式子值盡可能大。
E_{z-p_g } [log(1-D(x))]
指使得造假數(shù)據(jù)放入到判別模型D(x)輸出的計算值盡可能小和整個式子值盡可能大。
這樣整合下來就是使得目標(biāo)函數(shù)盡可能大,因此在訓(xùn)練時就可以根據(jù)目標(biāo)函數(shù)進(jìn)行梯度提升。
2.2 生成模型
目標(biāo)是讓判別模型無法區(qū)分真實圖片和生成圖片,其目標(biāo)函數(shù)是:
min_g (max_D E_{x-p_r} [logD(x)]+E_{z-p_g } [log(1-D(x))])
也就是找到生成函數(shù)g(z)使得生成模型的目標(biāo)函數(shù)盡量小。
學(xué)習(xí)更多編程知識,請關(guān)注我的公眾號:
[代碼的路]
-
神經(jīng)網(wǎng)絡(luò)
+關(guān)注
關(guān)注
42文章
4814瀏覽量
103560 -
GaN
+關(guān)注
關(guān)注
19文章
2206瀏覽量
76772 -
函數(shù)
+關(guān)注
關(guān)注
3文章
4379瀏覽量
64833
發(fā)布評論請先 登錄
硅無光束肖特基二極管 - 成對和四成對 skyworksinc

NVIDIA recsys-examples在生成式推薦系統(tǒng)中的高效實踐

生成式人工智能認(rèn)證:重構(gòu)AI時代的人才培養(yǎng)與職業(yè)躍遷路徑
功率GaN的新趨勢:GaN BDS
基于RV1126開發(fā)板網(wǎng)絡(luò)配置方法

我國生成式人工智能的發(fā)展現(xiàn)狀與趨勢
#新年新氣象,大家新年快樂!#AIGC入門及鴻蒙入門
AIGC入門及鴻蒙入門
不懂就問AI:AI大模型embeding是什么

羅姆宣布全面委托臺積電代工GaN產(chǎn)品
生成式人工智能的概念_生成式人工智能主要應(yīng)用場景
STAR AI進(jìn)軍美股科技星智能領(lǐng)跑生成式AI賽道

評論