欢迎光临 x-algo
关注算法在工业界应用
Hi, 这是一个关注大数据算法在工业界应用的网站

MaskGAN

 

  1. 通过"填空"的方式,避免了explosure bias,同时防止了数据稀疏导致的model dropping
  2. 算是开conditional GAN之先河
  3. 作用到generator局部的损失函数.(如果一个句子只有最后一个字生成不合适,不应该惩罚前面生成的"好前缀")
  4. 因为已经知道上下文,所以使用seq2seq作为generator的模型更合理
  5. discriminator也设计为了seq2seq模型,为更好的确定是哪个位置不合理,真实的context也作为输入.(这让人想到了,编辑距离为1的情况下,可以有多种情况将不合理的句子变合理)
  6. 引入了一个base reward,用来减少方差和生成"负作用"梯度,增加反向传播的"效率"

13.2.68

 

 

 

 

未经允许不得转载:大数据算法 » MaskGAN

分享到:更多 ()

评论 抢沙发

*

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址

关注大数据算法在工业界应用

本站的GitHub关于本站