欢迎光临 x-algo
关注算法在工业界应用
Hi, 这是一个关注大数据算法在工业界应用的网站

RankGAN

这个模型不一样的地方在于,将原来的Discriminator从二分类模型变为一个排序模型,也就是一个Leaning to Rank的问题.所以模型的两个神经网络为:一个generator和一个ranker.

ranker

整体的架构和SeqGAN类似,ranker部分模仿了搜索中pairwise的思路,构造比较的pair,计算相对排序.

WX20180409-223208@2x

其中G为生成的样本,H为抽样的真实的样本,U为抽样的真实的样本.

基本思想就是分别计算G和U,H和U的相似度,正常来说,H和U应该更相似.因为都是来自真实样本的分布.

这里H和U的采样方式论文中没有提,感觉构造的时候混入一些和G更相似的U和H可以有更好的训练效果.

计算rank得分的时候,是通过计算多组样本得到期望得分,具体为:

WX20180409-231919@2x WX20180409-231933@2x WX20180409-231951@2x

论文

<Adversarial Ranking for Language Generation>

未经允许不得转载:大数据算法 » RankGAN

评论 抢沙发

*

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址

关注大数据算法在工业界应用

本站的GitHub关于本站