如何“发现”新的神经网络架构

数据挖掘 神经网络
2021-09-29 07:12:19

这可能不是这里的主题,但手指交叉。

那里有各种各样的神经网络架构,从卷积网络到深度循环网络(甚至是深度循环网络)。一些网络架构开发我可以看到背后的直觉;循环网络允许考虑反馈循环类型的事情。其他想法似乎来自左领域并改变领域Yolo 就是一个很好的例子——我理解它是如何工作的,我已经在我自己的数据集上实现了它。但是,怎么有人来到允许 yolo 工作的设置。

它只是创造力,尝试随机架构和新想法,看看有什么坚持吗?是否有一些方法可以让我采取一些步骤来实现新的突破性架构?(我知道我实际上不会做下一个新架构,但了解过程很有趣)

1个回答

将神经网络视为数学,并问自己新数学是如何发现的?新数学来自理论、实验和社区反馈的结合。

而不是考虑创造力与随机性的术语,看看有什么新想法会坚持下去;我更喜欢从理论和实验的角度来思考。

当前用于新神经网络发现的方法与数学/工程的任何其他应用领域没有什么不同。