当前位置: 首页 > news >正文

zcbus使用数据抽取相当数据量实况

  • 背景。业务环境部署zcbus融合平台。对客户数据库中数据进行抽取。
  • 全量抽取。
1000万全表根据条件抽取(10万数据)

增量抽取

  • 准备工作
客户数据库系统准备工作是否需要
客户db系统 oracle用户权限
客户数据库添加ogg用户
客户提供的ogg用户要具有查询权限
需要在客户数据库系统部署ogg程序(推送端)
业务机准备工作是否需要
安装zcbus融合系统(docker)
通过windows电脑访问zcbus是否可用(能看到登录页面)通常需要客户开通访问业务机的端口,程序映射端口,如业务机ip:8890
业务机安装ogg程序的接收端(管理端mgr)

安装问题点

1. 在客户db系统安装ogg配置需要注意。配置文件要增加ogg访问磁盘文件asm的账号密码。(没有可不配置应该是)。

  • 这部分很重要,否则会导致ogg读取归档日志文件失败。
    在这里插入图片描述
  • 报错提示找不到文件路径。

2. ogg接收端(mgr)与推送端(ogg)调试。出现问题的点。

在这里插入图片描述

  • 这个问题会很严重,会出现在推送段启动ogg,却报错日志。端口confused
    在这里插入图片描述

3. 在准备工作完成后要在页面配置访问源库的连接(发布时配置的数据源)

  • 配置时要使用oracle服务名。配置实例名会出现如下错误
    在这里插入图片描述

  • 可通过在目标库系统使用sqlplus命令进行测试。若能连接,页面也可配置,完成连接测试。如下

sqlplus <ogg用户>/<ogg用户密码>@<ip>:<port>/<服务名>
  • 可通过lsnrctr services查询源库实服务名在这里插入图片描述
  • 页面配置。要配置服务名,此处是用ogg的方式发布的。
    在这里插入图片描述

4. 系统之间端口访问问题

问题解释
端口telnet 可以联通不表示程序可以正常建立连接。是否证明程序可使用?因为中间的防火墙测录导致,切勿盲目尝试,应该去找客户反应情况,开通端口
  • 如上问题举例:navicat创建数据库连接失败。但ip端口可通过telnet验证;浏览器无法访问zcbus系统,但是telnet通过验证。

5. 沟通问题

  • 客户时间普遍会下午处理你的问题。特别是周一会在上午开会。尽量准备项目问题清单同意提供解决。

6. 处理问题操作机器。特别是防火墙类。未问勿动,避免远程连接中断影响使用,延误进度。

总结。

  • 实际工作进度会加倍与计划的时间周期。若计划3天完成,会出现1周才能干完的情况。
http://www.lryc.cn/news/586430.html

相关文章:

  • Scrapy爬虫中间件核心技术解析:定制化爬虫的神经中枢
  • CCS-MSPM0G3507-2-基础篇-定时器中断
  • 69 局部变量的空间分配
  • 通俗范畴论13 鸡与蛋的故事番外篇
  • C++类模板继承部分知识及测试代码
  • Golang操作MySQL json字段优雅写法
  • Hap包引用的Hsp报签名错误怎么解决
  • 【数据分析】03 - Matplotlib
  • LangChain 内存(Memory)
  • Java 大视界 -- Java 大数据机器学习模型在电商用户复购行为预测与客户关系维护中的应用(343)
  • C语言基础知识--动态内存管理
  • AD芯片(模数转换器)的有效位数(ENOB)
  • scrapy项目开发流程
  • C++中的容斥原理
  • Springboot aop面向切面编程
  • 虚拟商品交易维权指南:数字经济时代的消费者权益保护
  • Boost.Asio 中的定时器类 steady_timer
  • python如何把两张图片拼成一张
  • Gitee Push 失败 7 日谈:每天一个踩坑故事
  • Java中的方法传参机制
  • 如何解决pip安装报错ModuleNotFoundError: No module named ‘multiprocessing’问题
  • QT跨平台应用程序开发框架(6)—— 常用显示类控件
  • 使用FastAdmin框架开发
  • Java项目2——增强版飞机大战游戏
  • 【极客日常】后端任务动态注入执行策略的一种技术实现
  • R 语言绘制 10 种精美火山图:转录组差异基因可视化
  • 算法第三十一天:贪心算法part05(第八章)
  • CCF CSP第一轮认证一本通
  • 【理念●体系】模板规范篇:打造可标准化复用的 AI 项目骨架
  • 一分钟快速了解Apache