我的问题现在有了答案。我将简要分享我用于在生产中部署模型的主要步骤/技术。

我正在使用 Python 编程语言。在训练和生成有效模型之后，我使用 Python 编程语言和烧瓶编写了一个 restful api。

使用烧瓶，您可以编写一个宁静的 api。三个重点：

1-注意定义模型架构/初始化参数/定义会话的位置非常重要。每次调用 restful api 时避免这样做。这将非常昂贵。

2- Flask 提供了一种非常好的机制来在生产环境中运行服务器。阅读 flask + wcgi 避免直接运行服务器代码（resful api），在这种情况下，您将无法直接和完全控制。

3-观察内存和cpu使用情况，确保限制可以并行运行的最大实例数。请记住，这些模型可能会占用大量内存。

不幸的是，我无法与公众共享代码。但希望我的回答可以让您了解如何在生产中做到这一点。