#5am
在做搜索的时候，学到一个很重要的进步方式分类: exploration & exploitation
Exploration, 一般是引入新的方法或者参数优化目标。搜索优化中，主要是算法上的优化。
Exploitation, 指的是用已有的知识和方法，最大限度优化目标。搜索优化中，主要是通过 case study, 发现现有算法排序中
在做搜索的时候，学到一个很重要的进步方式分类: exploration & exploitation
Exploration, 一般是引入新的方法或者参数优化目标。搜索优化中，主要是算法上的优化。
Exploitation, 指的是用已有的知识和方法，最大限度优化目标。搜索优化中，主要是通过 case study, 发现现有算法排序中
还有哪些问题。通过解决这些问题来迭代。
Exploration
一般很难预测，对于搜索，尤其是模型上的迭代。胜率低。bert成了，xlnet废了。很难解释。深度学习模型，俗称“炼丹”。
但万一成了，就是大招。
Exploitation
就是通过对用户query进行大量的case study，会更理解用户的需求分布。成功率高。
但会过拟合当前样本。
一般很难预测，对于搜索，尤其是模型上的迭代。胜率低。bert成了，xlnet废了。很难解释。深度学习模型，俗称“炼丹”。
但万一成了，就是大招。
Exploitation
就是通过对用户query进行大量的case study，会更理解用户的需求分布。成功率高。
但会过拟合当前样本。
如果目标是最小化损失的话，
如果一个算法没有exploration只有exploitation，那么regret就是线性的。如果有固定的exploration，那么total regret会比前一种情况更低一点的线性。如果是具有exploration-exploitation trade-off，那么就会有收敛的regret
推荐阅读：zhuanlan.zhihu.com/p/36428707
如果一个算法没有exploration只有exploitation，那么regret就是线性的。如果有固定的exploration，那么total regret会比前一种情况更低一点的线性。如果是具有exploration-exploitation trade-off，那么就会有收敛的regret
推荐阅读：zhuanlan.zhihu.com/p/36428707
微软对openai的投资，就是exploration的策略。一旦试成了。就是大招。
很多巨头都是这样搞的。普通打工人的副业sidehustle，其实也应该是这个性质。「万一成了呢」
很多巨头都是这样搞的。普通打工人的副业sidehustle，其实也应该是这个性质。「万一成了呢」
2014年以来，微软：
→ Acquired Minecraft for $2.5b
→ Acquired LinkedIn for $26b
→ Acquired GitHub for $7.5b
→ Acquired ZeniMax for $8.1b
→ Acquired Nuance for $19b
→ Bid $68b for Activision
→ Now ChatGPT + Bing
→ Acquired Minecraft for $2.5b
→ Acquired LinkedIn for $26b
→ Acquired GitHub for $7.5b
→ Acquired ZeniMax for $8.1b
→ Acquired Nuance for $19b
→ Bid $68b for Activision
→ Now ChatGPT + Bing
• • •
Missing some Tweet in this thread? You can try to
force a refresh
