zcbus使用数据抽取相当数据量实况
- 背景。业务环境部署zcbus融合平台。对客户数据库中数据进行抽取。
- 全量抽取。
1000万全表 | 根据条件抽取(10万数据) |
---|---|
√ | √ |
增量抽取
- 准备工作
客户数据库系统准备工作 | 是否需要 |
---|---|
客户db系统 oracle用户权限 | √ |
客户数据库添加ogg用户 | √ |
客户提供的ogg用户要具有查询权限 | √ |
需要在客户数据库系统部署ogg程序(推送端) | √ |
业务机准备工作 | 是否需要 |
---|---|
安装zcbus融合系统(docker) | √ |
通过windows电脑访问zcbus是否可用(能看到登录页面)通常需要客户开通访问业务机的端口,程序映射端口,如业务机ip:8890 | √ |
业务机安装ogg程序的接收端(管理端mgr) | √ |
安装问题点
1. 在客户db系统安装ogg配置需要注意。配置文件要增加ogg访问磁盘文件asm的账号密码。(没有可不配置应该是)。
- 这部分很重要,否则会导致ogg读取归档日志文件失败。
- 报错提示找不到文件路径。
2. ogg接收端(mgr)与推送端(ogg)调试。出现问题的点。
- 这个问题会很严重,会出现在推送段启动ogg,却报错日志。端口confused
3. 在准备工作完成后要在页面配置访问源库的连接(发布时配置的数据源)
-
配置时要使用oracle服务名。配置实例名会出现如下错误
-
可通过在目标库系统使用
sqlplus
命令进行测试。若能连接,页面也可配置,完成连接测试。如下
sqlplus <ogg用户>/<ogg用户密码>@<ip>:<port>/<服务名>
- 可通过
lsnrctr services
查询源库实服务名 - 页面配置。要配置服务名,此处是用ogg的方式发布的。
4. 系统之间端口访问问题
问题 | 解释 |
---|---|
端口telnet 可以联通不表示程序可以正常建立连接。是否证明程序可使用? | 因为中间的防火墙测录导致,切勿盲目尝试,应该去找客户反应情况,开通端口 |
- 如上问题举例:navicat创建数据库连接失败。但ip端口可通过telnet验证;浏览器无法访问zcbus系统,但是telnet通过验证。
5. 沟通问题
- 客户时间普遍会下午处理你的问题。特别是周一会在上午开会。尽量准备项目问题清单同意提供解决。
6. 处理问题操作机器。特别是防火墙类。未问勿动,避免远程连接中断影响使用,延误进度。
总结。
- 实际工作进度会加倍与计划的时间周期。若计划3天完成,会出现1周才能干完的情况。