产业气象站@归一化激活层的进化:谷歌QuocLe等人利用AutoML技术发现新ML模块( 三 )
文章图片
表4：在COCOval2017数据集上的MaskR-CNN目标检测和实例分割结果 。
研究者进一步测试了EvoNorms在训练GAN时的可用性 。 运用BigGAN的训练步骤进行训练后 ， 研究者在表5中给出了最佳表现的结果 。 使用EvoNorm-B0的BigGAN-deep生成的部分样本图像如图8所示 。
文章图片
表5：BigGAN-deep生成器中不同归一化激活层的图像合成性能 ， 其中使用批统计量与不使用批统计量的层是彼此分离的 。 如图所示 ， 中位数和最佳性能是在3个随机种子上取得的 。 IS值越高越好 ， FID值越低越好 。
文章图片
图8：BigGAN-deep+EvoNorm-B0生成的部分图像示例 。
与只依赖一种方差的传统归一化范式不同 ， EvoNorm-B0尝试在其denominator中混合两种方差 。 前者在同一mini-batch内捕捉不同图像的全局方差 ， 后者则捕捉每个图像的局部方差 。
文章图片
【产业气象站@归一化激活层的进化:谷歌QuocLe等人利用AutoML技术发现新ML模块】图9：EvoNorm-B0的计算图 。
推荐阅读
- 中国电子报智能传感器能占多大市场？，30万亿元智慧养老产业
- 长沙晚报打造“中国软件开发者产业中心城市”，长沙携手CSDN
- 数码狂人“云演唱会”会成为音乐产业新常态吗，5G+4K+VR+多视角技术融合
- 浙视频来看这份最新报告，想了解浙江人工智能产业发展全景
- 手机侃侃谈但王健林手里还有个世界第一产业，一年能赚800亿，去年亏7百亿
- 国商园区国贸电商产业园助力企业参展网上广交会
- 新龙网持续拓展5G、8K、半导体等产业边界，康佳科技创新步伐加快
- 燕赵都市报电商产业迅猛发展，肃宁：多措并举
- 雅格布别动不动就要做个平台、整合产业链
- 电商客节能产业加速度：全域节能增效化身“行业核动力”