您可以说 NAS 适合元学习或元机器学习的领域。

我从笔记中提取了 NAS 论文，这是我个人觉得非常有趣的论文/讲座合集。它按大致的时间降序排列，***意味着有影响力/必须阅读。

Quoc V. Le 和 Barret Zoph 是该主题的优秀作者。

• 进化的变压器
• 探索用于图像识别的随机连线神经网络
• 用于神经架构搜索的图形超网络
• 反向传播进化
• 渐进式神经架构搜索
• *** DARTS：可微架构搜索
• ***通过参数共享实现高效的神经架构搜索 - ENAS
• ***渐进式神经架构搜索
• AlphaX：使用深度神经网络和蒙特卡洛树搜索探索神经架构
• 自动机器学习 - Frank Hutter 教授
• Google Brain - 神经架构搜索 - Quoc Le
• ***图像分类器架构搜索的正则化演化
• Autostacker：组合进化学习系统
• 用神经网络生成神经网络
• 使用 UCT 在一天内找到具有竞争力的网络架构
• 神经进化：另一种深度学习
• 不断发展的深度神经网络
• Pieter Abbeel：深度学习机器人控制
• *** SMASH：通过 HyperNetworks 的 One-Shot 模型架构搜索

这里有两篇评论文章：

• Elsken, Metzen, Hutter：神经架构搜索：一项调查(2019)，机器学习研究杂志 20, 1-21

• He, Zhao, Chu：AutoML：最新技术概览（2019）

神经架构搜索 (NAS)是一种自动化人工神经网络设计（即超参数值的选择）的方法。有不同的方法来搜索神经网络架构的空间。例如，您可以使用强化学习或进化（或遗传）算法。

查看 Barret Zoph 和 Quoc V. Le 的论文Neural Architecture Search with Reinforcement Learning (2017)，作者使用强化学习（特别是REINFORCE）进行训练，这是一种循环神经网络（“控制器”）来生成（卷积和循环）神经网络架构，以便最大限度地提高验证数据集上生成架构的预期准确性。他们使用这种方法取得了一些好的结果。

另请参阅Hieu Pham、Melody Y. Guan、Barret Zoph、Quoc V. Le 和 Jeff Dean（其中包括NAS的一些作者）的Efficient Neural Architecture Search via Parameter Sharing (2018)，与NAS类似，但更高效，因此缩写为 ENAS（高效 NAS）。