Skip to content

Commit

Permalink
Preview PR pingcap/docs-cn#16683 and this preview is triggered from c…
Browse files Browse the repository at this point in the history
  • Loading branch information
Docsite Preview Bot committed Mar 5, 2024
1 parent a934d01 commit 740eccd
Show file tree
Hide file tree
Showing 11 changed files with 1,608 additions and 4 deletions.
27 changes: 23 additions & 4 deletions markdown-pages/zh/tidb/master/TOC.md
Original file line number Diff line number Diff line change
Expand Up @@ -4,7 +4,7 @@
- [文档中心](https://docs.pingcap.com/zh)
- 关于 TiDB
- [TiDB 简介](/overview.md)
- [TiDB 7.5 Release Notes](/releases/release-7.5.0.md)
- [TiDB 7.6 Release Notes](/releases/release-7.6.0.md)
- [功能概览](/basic-features.md)
- [与 MySQL 的兼容性](/mysql-compatibility.md)
- [使用限制](/tidb-limitations.md)
Expand Down Expand Up @@ -40,12 +40,16 @@
- [node-mysql2](/develop/dev-guide-sample-application-nodejs-mysql2.md)
- [mysql.js](/develop/dev-guide-sample-application-nodejs-mysqljs.md)
- [Prisma](/develop/dev-guide-sample-application-nodejs-prisma.md)
- [Sequelize](/develop/dev-guide-sample-application-nodejs-sequelize.md)
- [TypeORM](/develop/dev-guide-sample-application-nodejs-typeorm.md)
- [Next.js](/develop/dev-guide-sample-application-nextjs.md)
- [AWS Lambda](/develop/dev-guide-sample-application-aws-lambda.md)
- Ruby
- [mysql2](/develop/dev-guide-sample-application-ruby-mysql2.md)
- [Rails](/develop/dev-guide-sample-application-ruby-rails.md)
- 连接到 TiDB
- GUI 数据库工具
- [MySQL Workbench](/develop/dev-guide-gui-mysql-workbench.md)
- [Navicat](/develop/dev-guide-gui-navicat.md)
- [选择驱动或 ORM 框架](/develop/dev-guide-choose-driver-or-orm.md)
- [连接到 TiDB](/develop/dev-guide-connect-to-tidb.md)
Expand Down Expand Up @@ -107,6 +111,7 @@
- 规划集群拓扑
- [最小部署拓扑结构](/minimal-deployment-topology.md)
- [TiFlash 部署拓扑](/tiflash-deployment-topology.md)
- [TiProxy 部署拓扑](/tiproxy/tiproxy-deployment-topology.md)
- [TiCDC 部署拓扑](/ticdc-deployment-topology.md)
- [TiDB Binlog 部署拓扑](/tidb-binlog-deployment-topology.md)
- [TiSpark 部署拓扑](/tispark-deployment-topology.md)
Expand All @@ -130,6 +135,7 @@
- [从大数据量 MySQL 迁移数据到 TiDB](/migrate-large-mysql-to-tidb.md)
- [从小数据量分库分表 MySQL 合并迁移数据到 TiDB](/migrate-small-mysql-shards-to-tidb.md)
- [从大数据量分库分表 MySQL 合并迁移数据到 TiDB](/migrate-large-mysql-shards-to-tidb.md)
- [从 MariaDB 迁移数据到 TiDB](/migrate-from-mariadb.md)
- [从 CSV 文件迁移数据到 TiDB](/migrate-from-csv-files-to-tidb.md)
- [从 SQL 文件迁移数据到 TiDB](/migrate-from-sql-files-to-tidb.md)
- [从 Parquet 文件迁移数据到 TiDB](/migrate-from-parquet-files-to-tidb.md)
Expand Down Expand Up @@ -433,6 +439,7 @@
- [过滤 binlog 事件](/dm/dm-binlog-event-filter.md)
- [通过 SQL 表达式过滤 DML](/dm/feature-expression-filter.md)
- [Online DDL 工具支持](/dm/dm-online-ddl-tool-support.md)
- [自定义加解密 key](dm/dm-customized-secret-key.md)
- 迁移任务操作
- [任务前置检查](/dm/dm-precheck.md)
- [创建任务](/dm/dm-create-task.md)
Expand Down Expand Up @@ -559,6 +566,7 @@
- [双向复制](/ticdc/ticdc-bidirectional-replication.md)
- [单行数据正确性校验](/ticdc/ticdc-integrity-check.md)
- [主从集群一致性读和数据校验](/ticdc/ticdc-upstream-downstream-check.md)
- [TiCDC 行为变更说明](/ticdc/ticdc-behavior-change.md)
- 监控告警
- [基本监控指标](/ticdc/ticdc-summary-monitor.md)
- [详细监控指标](/ticdc/monitor-ticdc.md)
Expand Down Expand Up @@ -615,6 +623,13 @@
- [不同库名或表名的数据校验](/sync-diff-inspector/route-diff.md)
- [分库分表场景下的数据校验](/sync-diff-inspector/shard-diff.md)
- [基于 DM 同步场景下的数据校验](/sync-diff-inspector/dm-diff.md)
- TiProxy
- [概述](/tiproxy/tiproxy-overview.md)
- [配置文件](/tiproxy/tiproxy-configuration.md)
- [命令行参数](/tiproxy/tiproxy-command-line-flags.md)
- [监控指标](/tiproxy/tiproxy-grafana.md)
- [故障诊断](/tiproxy/troubleshoot-tiproxy.md)
- [性能测试报告](/tiproxy/tiproxy-performance-test.md)
- 参考指南
- 架构
- [概述](/tidb-architecture.md)
Expand Down Expand Up @@ -647,6 +662,7 @@
- [TiDB 分布式执行框架介绍](/tidb-distributed-execution-framework.md)
- [TiDB 全局排序](/tidb-global-sort.md)
- [系统变量](/system-variables.md)
- [服务器状态变量](/status-variables.md)
- 配置文件参数
- [tidb-server](/tidb-configuration-file.md)
- [tikv-server](/tikv-configuration-file.md)
Expand Down Expand Up @@ -709,6 +725,7 @@
- [`ADMIN PAUSE DDL`](/sql-statements/sql-statement-admin-pause-ddl.md)
- [`ADMIN RECOVER INDEX`](/sql-statements/sql-statement-admin-recover.md)
- [`ADMIN RESUME DDL`](/sql-statements/sql-statement-admin-resume-ddl.md)
- [`ADMIN [SET|SHOW|UNSET] BDR ROLE`](/sql-statements/sql-statement-admin-bdr-role.md)
- [`ADMIN SHOW DDL [JOBS|QUERIES]`](/sql-statements/sql-statement-admin-show-ddl.md)
- [`ADMIN SHOW TELEMETRY`](/sql-statements/sql-statement-admin-show-telemetry.md)
- [`ALTER DATABASE`](/sql-statements/sql-statement-alter-database.md)
Expand Down Expand Up @@ -761,7 +778,7 @@
- [`EXECUTE`](/sql-statements/sql-statement-execute.md)
- [`EXPLAIN ANALYZE`](/sql-statements/sql-statement-explain-analyze.md)
- [`EXPLAIN`](/sql-statements/sql-statement-explain.md)
- [`FLASHBACK CLUSTER TO TIMESTAMP`](/sql-statements/sql-statement-flashback-to-timestamp.md)
- [`FLASHBACK CLUSTER`](/sql-statements/sql-statement-flashback-cluster.md)
- [`FLASHBACK DATABASE`](/sql-statements/sql-statement-flashback-database.md)
- [`FLASHBACK TABLE`](/sql-statements/sql-statement-flashback-table.md)
- [`FLUSH PRIVILEGES`](/sql-statements/sql-statement-flush-privileges.md)
Expand Down Expand Up @@ -818,9 +835,7 @@
- [`SHOW FIELDS FROM`](/sql-statements/sql-statement-show-fields-from.md)
- [`SHOW GRANTS`](/sql-statements/sql-statement-show-grants.md)
- [`SHOW IMPORT JOB`](/sql-statements/sql-statement-show-import-job.md)
- [`SHOW INDEX`](/sql-statements/sql-statement-show-index.md)
- [`SHOW INDEXES`](/sql-statements/sql-statement-show-indexes.md)
- [`SHOW KEYS`](/sql-statements/sql-statement-show-keys.md)
- [`SHOW MASTER STATUS`](/sql-statements/sql-statement-show-master-status.md)
- [`SHOW PLACEMENT`](/sql-statements/sql-statement-show-placement.md)
- [`SHOW PLACEMENT FOR`](/sql-statements/sql-statement-show-placement-for.md)
Expand Down Expand Up @@ -968,6 +983,7 @@
- [概述](/performance-schema/performance-schema.md)
- [`SESSION_CONNECT_ATTRS`](/performance-schema/performance-schema-session-connect-attrs.md)
- [元数据锁](/metadata-lock.md)
- [TiDB DDL V2](/ddl-v2.md)
- UI
- TiDB Dashboard
- [简介](/dashboard/dashboard-intro.md)
Expand Down Expand Up @@ -1021,6 +1037,8 @@
- [版本发布时间线](/releases/release-timeline.md)
- [TiDB 版本规则](/releases/versioning.md)
- [TiDB 离线包](/binary-package.md)
- v7.6
- [7.6.0-DMR](/releases/release-7.6.0.md)
- v7.5
- [7.5.0](/releases/release-7.5.0.md)
- v7.4
Expand All @@ -1039,6 +1057,7 @@
- v6.6
- [6.6.0-DMR](/releases/release-6.6.0.md)
- v6.5
- [6.5.8](/releases/release-6.5.8.md)
- [6.5.7](/releases/release-6.5.7.md)
- [6.5.6](/releases/release-6.5.6.md)
- [6.5.5](/releases/release-6.5.5.md)
Expand Down
141 changes: 141 additions & 0 deletions markdown-pages/zh/tidb/master/dm/dm-command-line-flags.md
Original file line number Diff line number Diff line change
@@ -0,0 +1,141 @@
---
title: TiDB Data Migration 命令行参数
summary: 介绍 DM 各组件的主要命令行参数。
aliases: ['/docs-cn/tidb-data-migration/dev/command-line-flags/']
---

# TiDB Data Migration 命令行参数

本文档介绍 TiDB Data Migration (DM) 中各组件的主要命令行参数。

## DM-master

### `--advertise-addr`

- DM-master 用于接收客户端请求的外部地址
- 默认值为 `"{master-addr}"`
- 可选参数,可以为 `"域名:port"` 的形式

### `--advertise-peer-urls`

- DM-master 节点间通信的外部连接地址
- 默认值为 `"{peer-urls}"`
- 可选参数,可以为 `"http(s)://域名:port"` 的形式

### `--config`

- DM-master 配置文件路径
- 默认值为 `""`
- 可选参数

### `--data-dir`

- DM-master 用于存储自身数据的目录
- 默认值为 `"default.{name}"`
- 可选参数

### `--initial-cluster`

- 用于 bootstrap DM-master 集群的 `"{节点名}={外部地址}"` 列表
- 默认值为 `"{name}={advertise-peer-urls}"`
- 在未指定 `join` 参数时需要指定该参数。一个 3 节点集群的配置示例为 `"dm-master-1=http://172.16.15.11:8291,dm-master-2=http://172.16.15.12:8291,dm-master-3=http://172.16.15.13:8291"`

### `--join`

- DM-master 节点加入到已有集群时,已有集群的 `advertise-addr` 地址列表
- 默认值为 `""`
- 未指定 `initial-cluster` 参数时需要指定该参数。一个新节点加入到一个已有 2 个节点的集群的示例为 `"172.16.15.11:8261,172.16.15.12:8261"`

### `--log-file`

- log 输出文件名
- 默认值为 `""`
- 可选参数

### `-L`

- log 级别
- 默认值为 `"info"`
- 可选参数

### `--master-addr`

- DM-master 监听客户端请求的地址
- 默认值为 `""`
- 必选参数

### `--name`

- DM-master 节点名称
- 默认值为 `"dm-master-{hostname}"`
- 必选参数

### `--peer-urls`

- DM-master 节点间通信的监听地址
- 默认值为 `"http://127.0.0.1:8291"`
- 必选参数

### `--secret-key-path`

- 自定义加解密密钥路径
- 默认值为 `""`
- 可选参数

## DM-worker

### `--advertise-addr`

- DM-worker 用于接受客户端请求的外部地址
- 默认值为 `"{worker-addr}"`
- 可选参数,可以为 `"域名:port"` 的形式

### `--config`

- DM-worker 配置文件路径
- 默认值为 `""`
- 可选参数

### `--join`

- DM-worker 注册到集群时,相应集群的 DM-master 节点的 `{advertise-addr}` 列表
- 默认值为 `""`
- 必选参数,一个 3 DM-master 节点的集群配置示例为 `"172.16.15.11:8261,172.16.15.12:8261,172.16.15.13:8261"`

### `--log-file`

- log 输出文件名
- 默认值为 `""`
- 可选参数

### `-L`

- log 级别
- 默认值为 `"info"`
- 可选参数

### `--name`

- DM-worker 节点名称
- 默认值为 `"{advertise-addr}"`
- 必选参数

### `--worker-addr`

- DM-worker 监听客户端请求的地址
- 默认值为 `""`
- 必选参数

## dmctl

### `--config`

- dmctl 配置文件路径
- 默认值为 `""`
- 可选参数

### `--master-addr`

- dmctl 要连接的集群的任意 DM-master 节点的 `{advertise-addr}`
- 默认值为 `""`
- 需要与 DM-master 交互时为必选参数
35 changes: 35 additions & 0 deletions markdown-pages/zh/tidb/master/dm/dm-customized-secret-key.md
Original file line number Diff line number Diff line change
@@ -0,0 +1,35 @@
---
title: DM 自定义加解密 key
summary: 介绍 DM(Data Migration)在 v8.0.0 中引入的自定义加密和解密密钥功能,以及如何在使用 DM 进行数据迁移时配置和使用该功能。
---

# DM 自定义加解密 key

在 v8.0.0 之前,DM 使用了一个[固定的 AES-256 密钥](https://github.com/pingcap/tiflow/blob/1252979421fc83ffa2a1548d981e505f7fc0b909/dm/pkg/encrypt/encrypt.go#L27)来加密和解密数据源和迁移任务配置中的密码,但固定秘钥可能产生安全风险,特别是在对安全性要求较高的环境中。为了提高安全性,从 v8.0.0 开始,DM 移除了固定密钥,并支持设置自定义密钥。

## 使用方式

在 DM-master [启动参数](dm/dm-command-line-flags.md)[配置文件](/dm/dm-master-configuration-file.md) 中设置 `secret-key-path`,该参数指向密钥文件路径,文件内容必须是长度为 64 个字符的十六进制的 AES-256 密钥。

## 从 < v8.0.0 版本升级

从 v8.0.0 开始,DM 不再使用固定密钥,因此从低于 v8.0.0 的版本升级时需要注意:

- 如果[数据源配置](/dm/dm-source-configuration-file.md)[迁移任务配置](/dm/task-configuration-file-full.md)里使用的都是明文密码,则升级不需要做额外处理。
- 如果[数据源配置](/dm/dm-source-configuration-file.md)[迁移任务配置](/dm/task-configuration-file-full.md)里使用了加密密码,或者后续希望使用加密密码,则需进行以下操作:
1. 修改 [DM-master 配置文件](dm/dm-master-configuration-file.md),增加 `secret-key-path`。该参数指向密钥文件路径,文件内容必须是长度为 64 个字符的十六进制的 AES-256 密钥。如果升级前使用了 [固定的 AES-256 密钥](https://github.com/pingcap/tiflow/blob/1252979421fc83ffa2a1548d981e505f7fc0b909/dm/pkg/encrypt/encrypt.go#L27) 进行加密,可拷贝该秘钥到秘钥文件中。请确保所有 DM-master 节点使用相同的密钥配置。
2. 先滚动升级 DM-master,然后滚动升级 DM-worker,具体参考[滚动升级](/dm/maintain-dm-using-tiup.md#滚动升级)

## 更新加密 key

如需更新用于加密和解密的密钥,请按照以下顺序进行:

1. 更新 [DM-master 配置文件](dm/dm-master-configuration-file.md) 中的 `secret-key-path`

> **注意:**
>
> - 请确保所有 DM-master 节点更新为相同的密钥配置。
> - 在密钥更新期间,请不要创建新的[数据源配置文件](/dm/dm-source-configuration-file.md)[迁移任务配置文件](/dm/task-configuration-file-full.md)
2. 滚动重启 DM-master。
3. 使用 `tiup dmctl encrypt`(dmctl 版本需 >= v8.0.0) 加密的密码用于创建[数据源配置文件](/dm/dm-source-configuration-file.md)[迁移任务配置文件](/dm/task-configuration-file-full.md)
88 changes: 88 additions & 0 deletions markdown-pages/zh/tidb/master/dm/dm-export-import-config.md
Original file line number Diff line number Diff line change
@@ -0,0 +1,88 @@
---
title: TiDB Data Migration 导出和导入集群的数据源和任务配置
summary: 了解 TiDB Data Migration 导出和导入集群的数据源和任务配置。
---

# TiDB Data Migration 导出和导入集群的数据源和任务配置

`config` 命令用于导出和导入集群的数据源和任务配置。

> **注意:**
>
> 对于 v2.0.5 版本之前的集群,可使用 >= v2.0.5 且 < v8.0.0 的 dmctl 导出和导入集群的数据源和任务配置文件。
```bash
» help config
Commands to import/export config

Usage:
dmctl config [command]

Available Commands:
export Export the configurations of sources and tasks.
import Import the configurations of sources and tasks.

Flags:
-h, --help help for config

Global Flags:
-s, --source strings MySQL Source ID.

Use "dmctl config [command] --help" for more information about a command.
```

## 导出集群的数据源和任务配置

使用 `export` 子命令导出集群的数据源和任务配置到指定文件夹中。

```bash
config export [--dir directory]
```

### 参数解释

- `dir`
- 可选
- 指定导出文件夹路径
- 默认值为 `./configs`

### 返回结果示例

```bash
config export -d /tmp/configs
```

```
export configs to directory `/tmp/configs` succeed
```

## 导入集群的数据源和任务配置

使用 `import` 子命令从指定文件夹中导入集群的数据源和任务配置。

```bash
config import [--dir directory]
```

> **注意:**
>
> 对于 v2.0.2 版本之后的集群,暂不支持自动导入 relay worker 的相关配置,可以手动使用 `start-relay` 命令[开启 relay log](/dm/relay-log.md#开启关闭-relay-log)
### 参数解释

- `dir`
- 可选
- 指定导入文件夹路径
- 默认值为 `./configs`

### 返回结果示例

```bash
config import -d /tmp/configs
```

```
start creating sources
start creating tasks
import configs from directory `/tmp/configs` succeed
```
Loading

0 comments on commit 740eccd

Please sign in to comment.