线上召回

离线存储：

模型训练好之后，部署到线上做召回，快速找到用户感兴趣的物品。

对训练好的两个塔，线上服务前，先用右边的物品塔提取物品的特征做离线存储，记作特征向量b，把（b , id）二元组保存到数据库（Milvus、Faiss等）。然后对数据库建立索引，即划分几个区域，一个区域用一个向量表示，这样可以加速最近邻查找

线上召回：

用户塔不需要事先计算和存储用户向量，而是当用户发起推荐请求的时候，调用神经网络在线上现算特征向量a，然后把向量a作为quary取数据库中做检索，查找最近邻，即和用户相似度最高的k个红色向量。每一个红色向量对应一篇笔记，K近邻查找一共召回了k篇笔记，作为这条召回通道的结果返回。

双塔模型的召回：

接下来，召回的物品跟itemcf、swing、usercf 等召回通道的结果融合，经过排序，最终展示给用户。

为什么要离线存储物品信息，区别对待两个塔？

模型更新

全量更新：

 

增量更新：

基于工程实现的考量，增量更新是不断做梯度下降更新模型的embadding层，不更新神经网络其他部分的参数，全连接层的其他参数都是锁住的。只有做全量更新的时候才会更新全连接层。

用户id embadding是哈希表的形式，给定Id可以查出id embadding向量（用户的特征向量）。增量更新可以捕捉到用户的最新兴趣点。

发布用户id embadding会有延迟，xhs系统优化可以降低到几十分钟，刷新用户塔embadding参数，更新用户特征向量。

下面这张流程图中，要把前天的数据做random shuffle打乱，然后做随机梯度下降，只训练one epoch，即每条数据只过一遍。增量更新是分钟级别的。

能不能只做增量模型，不考虑全量？

两种都进行训练效果更好。用户在不同时间段行为偏差太大。

全量训练的模型更好，而增量训练的模型可以实时捕捉用户的兴趣。

总结：