商品 1001 的价格从 19900 分改为 17900 分。MySQL 已提交,用户刷新搜索页,却仍然看到 ¥199。这时,问题不在查询 DSL,而在 MySQL 到 Elasticsearch 的同步链路。
上一篇已经实现商品搜索。这一篇沿着这次改价,回答三个问题:变更怎样不丢、重复和乱序怎样处理、重建索引时怎样接住持续发生的变更。
本文延续 Elasticsearch 8.14.0 的学习环境:查询使用 products-read,正常同步写入使用 products-write,初始物理索引为 products-v1。HTTP 请求在 Kibana Dev Tools 中执行;SQL 和同步流程是架构示意,不是已接好数据库的完整工程。
1. 先确定:搜索文档由谁负责生成
MySQL 保存业务事实,ES 保存适合搜索的文档。标题、品牌、分类、价格和库存,在 MySQL 中可能来自多张表,在 ES 中则被整理成一条商品文档。
因此,同步的单位通常是“商品搜索文档”,而不是“某张表的一行”。商品改价要更新文档,品牌改名也要找到受影响的商品,重新生成它们的文档。漏掉后者,链路即使从未报错,数据仍然会过期。
先明确一个文档构建入口:输入 productId,输出完整搜索文档及其源版本。新增、修改、下架、补偿和重建共用字段转换规则,避免全量任务和增量消费者各写一套逻辑。
搜索可以接受约定范围内的延迟;下单时的价格、可售状态和库存校验仍由交易系统完成。否则搜索索引短暂落后,就会变成交易错误。
2. 为什么一个 @Transactional 解决不了双写
最直接的实现是在一个方法里先更新 MySQL,再调用 ES。问题是,普通 Spring 数据库事务只管理它绑定的数据库资源,不会把 ES HTTP 请求一起回滚。
| 执行顺序 | 最后留下的状态 |
|---|---|
| MySQL 已提交,进程在写 ES 前退出 | 数据库是 17900,搜索仍是 19900 |
| ES 已写成 17900,随后 MySQL 事务回滚 | 数据库仍是 19900,搜索却是 17900 |
把 ES 调用移到提交之后,只避开了第二种情况,没有补上第一种情况。“提交数据库后立即发 MQ”也有空隙:数据库提交成功,消息却没有发出去。
真正需要保存的,不只是新价格,还有“这次变更必须被同步”的事实。
3. 用本地消息表把同步任务一起提交
本地消息表也叫 outbox。业务更新和待发送事件写入同一个 MySQL 事务:要么都提交,要么都回滚。后台进程负责把已提交事件投递给 MQ;简单项目也可以由后台任务直接写 ES。
下面是 SQL 示意。假设相关表均使用 InnoDB,projection_version 记录商品搜索投影版本,消息表有唯一的 event_id。示例只展示改价,省略完整文档快照、领取租约和重试字段:
START TRANSACTION;
UPDATE productSET price = 17900, projection_version = projection_version + 1WHERE id = 1001;
INSERT INTO product_outbox (event_id, product_id, projection_version, event_type, status)SELECT UUID(), id, projection_version, 'PRODUCT_CHANGED', 'PENDING'FROM productWHERE id = 1001;
COMMIT;这里利用的是 MySQL 的本地事务能力;ES 写入发生在事务之外。MySQL 事务文档解释了 COMMIT 和 ROLLBACK 的边界。
投递器应在 MQ 确认接收后再标记已发送。若发送成功后进程退出,事件会被再发一次;消费者写 ES 成功后、确认消息前退出,也会再次收到同一事件。多投递器需要领取租约或等价机制,进程退出后任务能够重新领取。
因此,这条链路应按“至少一次投递”设计。outbox 消除了业务提交与记录同步意图之间的缺口,但没有自动提供端到端的“恰好一次”。
4. 稳定 ID 处理重复,源版本处理乱序
把商品 ID 用作 ES 的 _id,重复写 1001 会替换同一文档,不会生成两个商品。但它仍然可能写错价格:
事件 A:版本 11,价格 19900 ──网络重试──┐事件 B:版本 12,价格 17900 ──先写成功 │ └─ A 后到,把价格覆盖回 19900“消费者每次查 MySQL 最新数据”也不能独自解决这个问题。消费者 A 先读到旧值后停顿,消费者 B 读到新值并写入,A 恢复后仍可能最后覆盖。
一种处理方式是给每个商品搜索投影维护单调递增的源版本,然后使用 ES 的 version_type=external。ES 只接受比已存版本更大的值;重复版本和更旧版本返回 409。Index API 的版本控制说明给出了这个判断规则。
下面用独立的 products-version-demo 索引观察版本规则,不修改前文五条商品。先创建一次实验索引;如果已存在,继续观察已写入的版本即可,不要重复创建:
PUT /products-version-demo{ "settings": { "number_of_shards": 1, "number_of_replicas": 0 }, "mappings": { "properties": { "productId": { "type": "long" }, "price": { "type": "integer" } } }}这个实验只需要商品 ID 和价格,因此直接访问隔离的物理索引;正常同步仍通过 products-write 写入完整投影。
先让版本 12 到达:
PUT /products-version-demo/_doc/1001?version=12&version_type=external&refresh=wait_for{ "productId": 1001, "price": 17900}再模拟迟到的版本 11:
PUT /products-version-demo/_doc/1001?version=11&version_type=external{ "productId": 1001, "price": 19900}
GET /products-version-demo/_doc/1001第二次写入应返回版本冲突,读取仍得到 price: 17900 和 _version: 12。重复发送版本 12 也会冲突;这是重复事件的预期行为,不是需要通过普通覆盖写来“重置”的错误。在这套受控的外部版本协议下,可以把已应用或已过期事件记为处理完成;不能把其他场景的所有 409 一律吞掉。
版本的含义比参数本身更重要。 它必须覆盖文档的所有依赖:价格、库存、品牌、分类等任何会改变搜索文档的更新,都要推动对应商品的投影版本。只使用 product 表的版本,却从独立变化的库存表、品牌表拼文档,不能保证整个文档的新旧顺序。
文档内容与版本还必须来自同一份一致状态。可以在一致性事务中读出两者,或由投影构建器持久化“完整文档快照 + 版本”。不要拿事件中的旧版本搭配一次随意查询得到的新内容,也不要把同一版本分配给不同快照。示例中的 11/12 是教学数字,线上版本由源系统生成,全量、增量、修复共用同一规则。
如果暂时无法维护这种版本,可以按商品 ID 分区并严格串行处理:同一商品前一个任务完成后才允许下一个任务写入。这个边界要同时约束失败重试、补偿任务和全量导入;把失败消息丢到独立队列并行重试,就可能重新引入乱序。
下架和删除也有顺序问题
下架可以保留文档,写入新版本的 status: OFF_SALE,搜索始终过滤 ON_SALE。真正的业务删除也需要防止旧事件让商品“复活”。
ES 物理删除后用于版本判断的删除记录不会永久保留,受 index.gc_deletes 控制,因此“带版本调用一次 DELETE”不足以防住任意久以前的重放。Delete API说明了这个保留边界。
可行方案是持久化带版本的删除标记(tombstone):例如保留 productId、status: DELETED 及外部版本,清除不再需要的展示字段。重建索引也要带上这些标记,或从源端删除账本过滤旧事件。确认历史消息、重试和备份重放都不可能越过清理边界后,才能清除标记。
5. 失败要进入可恢复状态
可靠同步的关键不是“失败时打日志”,而是下一次执行能从哪里继续。消费者应区分以下结果:
| 结果 | 处理方式 |
|---|---|
| 明确写入成功 | 确认消息,推进完成进度 |
| 超时、连接断开 | 结果可能未知,按相同 ID 和源版本重试 |
429 或暂时性服务故障 | 有上限地退避重试,并减少并发 |
| Mapping 错误、字段格式错误 | 保存失败事件和原因,修复后重放 |
| 符合外部版本协议的旧版本冲突 | 记录被新版本覆盖,结束这次事件 |
达到重试上限后,事件进入失败表或死信队列,仍能按事件 ID、商品 ID 查询和重放。Bulk 要逐项检查响应,不能因为 HTTP 请求成功就确认整批消息;具体写法见第六篇。
链路至少要回答:最老未完成事件积压多久、失败是否在增长、消费者处理到哪个位置、抽样商品是否与源数据一致。最终一致性只有在失败能被发现、能重试、能补偿时才有实际意义。
6. Binlog 改变的是事件来源
另一条路线是通过 Canal 等 CDC 工具读取 MySQL Binlog,再把变更送到同步服务。它适合需要捕获数据库层变更、业务入口较多的系统,避免每个写入入口都手工发事件。Canal 官方项目介绍了基于 Binlog 的订阅方式。
但 Binlog 里的一行变化仍不是完整搜索文档。同步服务依然要处理多表依赖、品牌更新后的商品扇出、删除、重复和消费进度;还需要维护日志保留时间、断点恢复和表结构变更。消息表与 CDC 的选择取决于能控制哪些写入入口、团队能维护哪条链路,不能简单按项目大小决定。
7. 全量导入必须接上增量
第一次建索引、修改 Mapping、修复大范围脏数据,都需要全量任务。查询时使用主键游标,避免页码越大查询越慢,以及数据变化造成的偏移分页跳行:
-- SQL 示意;last_id 是上一批最后一个主键。SELECT idFROM productWHERE id > :last_idORDER BY idLIMIT :batch_size;每批组装完整文档,用 Bulk 写入,逐项确认后再保存进度。批量大小通过文档字节数和压力测试确定;这一段只描述遍历方式,主键游标本身不提供一致快照。
假设全量读到了 19900,随后业务改成 17900。如果增量先写新值、全量后写旧值,价格又会倒退。源版本可以防止覆盖,但不能找回一个从未捕获到的事件。因此需要同时解决两个问题:版本负责判断新旧,快照与增量衔接负责不遗漏变更。
典型流程如下,具体快照和日志位置应使用所选 CDC 工具支持的协议:
- 在扫描前建立可恢复的增量起点,持续保留之后的事件;取得与该起点正确衔接的一致快照,或使用工具支持的带水位快照流程。
- 把快照导入新索引
products-v2,记录任务和分批进度。线上查询仍使用旧索引。 - 从记录的起点回放增量到新索引,使用相同源版本处理重叠数据;新增、修改、删除都必须覆盖。
- 等新索引追上明确的消费水位,再校验关键字段、版本、删除标记和代表性查询。
水位可以是日志位置或消息分区的偏移量集合,不能随意用机器时间代替。outbox 的自增 ID 分配顺序也不等于事务提交顺序:仅按“当前最大 ID”划线,可能漏掉稍后才提交的较小 ID。需要覆盖未提交事务的交接协议,或扫描可恢复的未完成状态。
8. 切换别名前,先把写入交接好
别名让应用不用感知 v1 和 v2。它只负责切换路由,不负责自动补齐新索引的数据。_reindex 也只是把源索引快照中的文档复制到目标,并不会持续订阅复制期间的新变更。Reindex API说明了快照与目标版本的行为。
先按第二篇的 Mapping创建 products-v2,暂不附加线上别名,再完成上一节的导入与追平。一种较容易验证的交接方式是安排短暂的同步消费暂停窗口:
- 暂停所有写 ES 的消费者和补偿任务,等待在途请求结束,记录旧链路最后确认的水位
H。MySQL 可以继续接受业务写入,新事件留在持久化队列中。 - 确认新索引完整应用到
H,没有被跳过的失败项,再 refresh 新索引并进行最终校验。 - 在一次 aliases 请求中切换读、写别名,确认实际指向后,从
H之后恢复消费。写入端始终使用products-write,没有仍写旧物理索引的任务。
下面只展示第 2、3 步的 ES 请求,前提是新索引已经追平并校验完成,相关消费者已暂停,不能对空的 products-v2 直接执行:
POST /products-v2/_refresh
POST /_aliases{ "actions": [ { "remove": { "index": "products-v1", "alias": "products-read", "must_exist": true } }, { "remove": { "index": "products-v1", "alias": "products-write", "must_exist": true } }, { "add": { "index": "products-v2", "alias": "products-read" } }, { "add": { "index": "products-v2", "alias": "products-write", "is_write_index": true } } ]}
GET /_alias/products-read,products-write同一个请求可以原子更新别名,must_exist 则帮助阻止旧指向不符合预期时的部分执行;仍需检查响应及实际别名状态。请求超时不代表切换一定失败,应先查询状态再决定下一步。Aliases 文档区分了多动作切换与动作失败的处理。
不要在切换后立即删掉旧索引。先观察新链路的错误和延迟;如果需要回切,旧索引也必须补齐切换之后的变化,否则回滚只是把用户带回一份过期数据。
可以用四次演练验收链路:重复消费同一改价事件、先消费新版本再消费旧版本、在写 ES 后确认消息前停止消费者,以及在全量期间持续修改商品。每次都应能解释最终价格、消费进度和恢复路径。
下一篇处理同步之外的运行问题:已经写入却搜不到、查询变慢、集群出现异常时,应该先看什么证据。
上一篇:Spring Boot 集成与商品搜索实战 · 下一篇:性能优化与生产环境注意事项 · 返回系列目录
参考资料
If this article helped you, please share it with others!
Some information may be outdated






