当前位置: 首页 > news >正文

数仓开发那些事_番外

一位神州的正式员工(没错,就是之前文章中出现的实习生):一闪,你今年涨工资了吗?

一闪:mad,一年辛苦到头只涨了500米

神州员工:你去年绩效不是优秀吗,怎么就涨了500米,还没我零头多

一闪:放肆!

(听说是当时招进来开的工资太高....导致涨薪的时候人资不通过....最后只涨了这么点.....)

一闪表示不理解,但是尊重

---------------------回到工作

老师傅:一闪,写Flink SQL的时候遇到个问题,来帮我看看。

-- Flink SQL
CREATE TEMPORARY VIEW temp AS
SELECT b.corp_name,a.sale_amount
FROM 
(SELECT corp_no,sale_amount -- 销售金额FROM 销售事实表 a -- Flink的流表
) a
inner join 
(selectcorp_no,corp_namefrom 门店_维度表 -- Flink的维表group by corp_no,corp_name
) b
on a.corp_no = b.corp_no
;

一闪:我先来分析一下你这段代码,你有一个事实表,里面存了公司编号和销售金额。你需要关联维度表来取到公司名称,不过的维度表原来是门店维度,所以你写了一个子查询,对该表里面的公司进行去重,确保公司关联公司数据不会重复。

老师傅:没错没错,就是这个需求,你来帮我看看代码上有啥问题没有?

一闪:好像没啥问题啊,至少运行不会报错,现在是有啥病症吗?

老师傅:每次任务重启的时候,数据都没问题,但是过了一段时间之后,数据就不准了,估计只能坚挺48小时不到......(我为什么要用坚挺这个词??)

一闪:(作为一名数据开发的资深叼毛,对数据的敏感性突现)48小时不到....并且刚重启时是正常的,理性分析一波,我猜问题应该是出在维度数据上...(但是flink的维表一般是不可能数据过期的啊)

------------去厕所放空一下

!!!!想明白了,问题应该在Flink的过期参数上!table.exec.state.ttl!!这个参数正好是36小时,小于老师傅说的48小时。

------------裤子一提冲出厕所

一闪默认流数据过期时间36小时,所以你的表数据过期了,导致关联的时候出了问题。既然你说任务刚重启时没有问题,我理解事实表的逻辑没有问题,所以(BGM起)心机之蛙一直摸你肚子,凶手就是你的子查询让维表被系统解析成了流表,36小时后自动失效,导致结果数据出现问题。

老师傅:卧槽牛b,那么大师,我该怎么改呢,要不我把参数改成永不失效?

一闪:(流汗)亲,建议你直接做一张公司的维度表吧,你如果把参数改成永不失效,我相信代码和你都可以跑了

http://www.lryc.cn/news/380147.html

相关文章:

  • Vue3+TypeScript项目实战——打造雨雪交加的智慧城市
  • 经典游戏案例:植物大战僵尸
  • Go 与 Java 字符编码选择:UTF-8 与 UTF-16 的较量
  • vscode+picgo+gitee实现Markdown图床
  • 【thinkphp问题栏】tp5.0分页技巧
  • 获取时间戳是使用System.currentTimeMillis()还是使用new Date().getTime()(阿里开发规范)?
  • 仿饿了么加入购物车旋转控件 - 自带闪转腾挪动画 的按钮
  • Docker部署nacos集群
  • centos查找文件 及 操作写入的进程
  • 构建高可用Java微服务架构的秘籍
  • VBA学习(18):VBA制作任意工作表均可使用的聚光灯
  • 【STM32-启动文件 startup_stm32f103xe.s】
  • 51学习记录(一)——51介绍及震动感应灯
  • 2024GLEE生活暨教育(上海)博览会,8月20-22日,国家会展中心(上海)
  • debug调试高级功能 断点、布局 及Android Studio常用快捷按键使用详情
  • 51单片机STC89C52RC——6.1 中断系统
  • Redis源码学习:高性能Hash表的设计与实现
  • 如何防范常见的数据库安全问题
  • [Day 19] 區塊鏈與人工智能的聯動應用:理論、技術與實踐
  • 【Hadoop学习笔记】认识Hadoop
  • CISP-PTE综合靶机-WinServer2003
  • sklearn之各类朴素贝叶斯原理
  • 年薪50w+的项目经理,手把手教你如何复盘
  • Web3新视野:Lumoz节点的潜力与收益解读
  • 【shell脚本速成】mysql备份脚本
  • 高考志愿填报,理科生如何分析选专业?
  • qt 简单实验 json格式的文件写入配置文件
  • 将WIN10的wifi上网分享给以太网接口
  • 在 iPhone 上恢复已删除联系人的 5 种简便方法
  • 小白指南:前端使用javascript如何判断集合是不是空集合?