具有线性竞争单元的随机深度网络用于模型预知元学习

这项工作通过考虑具有随机局部赢家通吃(LWTA)激活的深度网络来解决元学习(ML)问题.这种类型的网络单元导致每个模型层的稀疏表示,因为单元被组织成块,其中只有一个单元产生非零输出。.引入单元的主要操作原理依赖于随机原理,因为网络对竞争单元进行后验抽样,以选择赢家。.因此,所提出的网络被明确设计为提取稀疏随机性质的输入数据表示,而不是目前标准的确定性表示范式。.我们的方法在几张照片的分类和回归实验中产生了最先进的预测准确率,并在主动学习环境中减少了预测误差;这些改进是以极大的计算成本实现的。.

《Stochastic Deep Networks with Linear Competing Units for Model-Agnostic Meta-Learning》

论文地址:http://arxiv.org/abs/2208.01573v1

发表评论
留言与评论(共有 0 条评论) “”
   
验证码:

相关文章

推荐文章