Skip to content

新旧引擎数据转换工具

Axlgrep edited this page Sep 28, 2018 · 3 revisions

名称:

nemo_to_blackwidow

位置:

/pika-tools/nemo_to_blackwidow

目的:

将Nemo引擎格式的db转换成Blackwidow引擎格式的db

背景:

Pika3.0将数据引擎从Nemo替换成了Blackwidow, Blackwidow为了提高引擎性能对数据存储格式进行了重新设计,由于新引擎的数据格式和老引擎数据格式不同,所以提供了这个工具用于旧引擎db向新引擎db的转换

实现:

ClassifyThread

  1. 总共会起5个ClassifyThread,对应于Nemo db中的五种数据结构,也就是每一个分类线程对应于一种数据结构
  2. 扫描Nemo db中不同数据结构的库,将扫描出来的Key分发给Migrator

Migrator

  1. 获取到从ClassifyThread发送过来的key
  2. 对Key进行解析分类,不同数据结构的Key拿到不同的数据
  3. 调用blackwidow的接口将这些数据存储到blackwidow的数据库中

使用:

Usage:
        Nemo_to_Blackwidow reads data from Nemo DB and send to Blackwidow DB
        -h    -- displays this help information and exits
        -n    -- numbers of migrator, default = 6
        -l    -- whether write log, default = 0
        -b    -- number of members in multiple data structures per migration, default = 512
        example: ./nemo_to_blackwidow ./nemo_db ./blackwidow_db -n 10 -l 0 -b 512

地址:

Clone this wiki locally