我有一个每天收到约 1 万个请求的应用程序;每个请求都有多个参数,并通过一个包含多个步骤的管道,它们在大约 1 小时内完成。假设请求就像bake_cake [flavor=chocolate] [topping1=strawberry] [topping2=cream]
鉴于前几天的请求历史,是否有一个 ML 框架可以帮助我预测“今天到达的 100 个最喜欢的请求”,以便我可以缓存它们的结果?或者其他一些可以帮助我更快地交付部分请求的类似策略?
理想情况下,它将基于我通过更快交付获得多少收益,通过处理可能不会到来的请求而损失多少等;但现在更简单的算法可能会有很大帮助,因为目前还没有优化。