当前位置: 首页 > news >正文

MongoDB 字段中数据类型不一致序列化异常排查与处理

MongoDB 字段中数据类型不一致序列化异常排查与处理

背景如下,因为项目迁移愿意,一个使用Mongodb的业务拥有C#和Java两组Api。Java Api开发和测试都很顺利。上线一段时间后,客服反馈记录都不见了。查看数据库发现,时间字段拥有两种格式,其中一种是数组类型(如:[636693353404905287, 480]),另一种是日期类型(如:0001-01-01T00:00:00Z)

排查原因

首先看了原有C#代码的逻辑,使用的是DateTimeOffset类型存入的数据库。Java使用的是LocalDateTime类型。经过调用Api测试后,发现使用C#接口创建的数据,是数组格式。接下来就是在Java中对这个Document的序列化进行处理。

解决方案

首先看到[636693353404905287, 480],想到的就是时间戳,第二位应该保存的是时区。写了一个测试方法,将636693353404905287转为LocalDatetime,初步测试,将初始时间1901-01-01,时区偏移为480分钟。经过多种类型的测试,转化为了正确的时间(人工记忆创建记录的时间)。

知道了如何转化,就要在java解析时使用自定义的序列化器。

首先创建List转LocalDateTime的序列化器

import org.springframework.core.convert.converter.Converter;
import org.springframework.data.convert.ReadingConverter;
import java.time.Instant;
import java.time.LocalDateTime;
import java.time.ZoneOffset;
import java.util.List;/***** 包含如下格式脏数据,[636693353404905287, 480], 经测试是旧版c#接口导致的,并试验起始时间是"0001-01-01T00:00:00Z"* 并且此时间戳不需要进行时区转换*/
@ReadingConverter
public class ArrayListToLocalDateTimeConverter implements Converter<List<Object>, LocalDateTime> {@Overridepublic LocalDateTime convert(List<Object> source) {if (source.size() >= 2 && source.get(0) instanceof Long) {long timestamp = (Long) source.get(0);// 假设起始时间是"1601-01-01T00:00:00Z",请根据需要进行调整Instant startInstant = Instant.parse("0001-01-01T00:00:00Z");// 注意:原始时间戳可能需要根据实际情况调整计算方式Instant actualInstant = startInstant.plusMillis(timestamp / 10_000);return LocalDateTime.ofInstant(actualInstant, ZoneOffset.UTC);}throw new IllegalArgumentException("Invalid source for conversion: " + source);}
}

然后在MongoDB的配置类中注册

import com.mongodb.MongoClientURI;
import org.springframework.beans.factory.annotation.Value;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
import org.springframework.context.annotation.Primary;
import org.springframework.data.mongodb.MongoDbFactory;
import org.springframework.data.mongodb.core.MongoTemplate;
import org.springframework.data.mongodb.core.SimpleMongoDbFactory;
import org.springframework.data.mongodb.core.convert.MappingMongoConverter;
import org.springframework.data.mongodb.core.convert.MongoCustomConversions;import java.util.Arrays;@Configuration
public class MongoConfig {@Value("${spring.data.mongodb.uri}")private String uri;@Bean(name = "mongoTemplate")@Primarypublic MongoTemplate mongoTemplate() {MongoTemplate template = new MongoTemplate(mongoDbFactory());customizeMongoTemplate(template);return template;}@Bean@Primarypublic MongoDbFactory mongoDbFactory() {return new SimpleMongoDbFactory(new MongoClientURI(uri));}/*** 为了解决mongodb中的时间戳转换问题*/@Beanpublic MongoCustomConversions mongoCustomConversions() {return new MongoCustomConversions(Arrays.asList(new ArrayListToLocalDateTimeConverter()));}private void customizeMongoTemplate(MongoTemplate template) throws Exception {MappingMongoConverter converter = (MappingMongoConverter) template.getConverter();converter.setCustomConversions(mongoCustomConversions());converter.afterPropertiesSet();}}

uri:其中uri时从配置文件中读取的,mongo 的数据库连接。
mongoTemplate:注入MongoTemplate,用于操作数据库。
mongoCustomConversions:注入自定义的转换器,用于将数据库中的数据转换为Java中的数据。
customizeMongoTemplate:将自定义的转换器注入到MongoTemplate中。

这种是单数据源配置,如果要有多数据源,将MongoTemplate和MongoDbFactory复制,的注入名称修改为不同的名称即可。

总结

经过配置,如果类型是数组,则会触发进行解析。该字段正常的数据可以直接映射。

后续会将C#的流量转发到Java接口,然后将C#接口下线。

http://www.lryc.cn/news/294853.html

相关文章:

  • 网络安全简介
  • 【Docker】.NET Core 6.0 webapi 发布上传到Docker Desktop并启动运行访问,接口返回数据乱码解决方法
  • 【Android Gradle 插件】自定义 Gradle 插件模块 ⑤ ( 完整总结 )
  • 浅析现代计算机启动流程
  • 七月论文审稿GPT第2.5和第3版:分别微调GPT3.5、Llama2 13B以扩大对GPT4的优势
  • Android Studio导入项目 下载gradle很慢或连接超时
  • 如何使用VSCode上运行Jupyter,详细案例过程出可视化图
  • Linux中有名管道和无名管道
  • [SWPUCTF 2021 新生赛]easyupload1.0
  • 【Linux网络编程三】Udp套接字编程(简易版服务器)
  • 【Rust】字符串,看这篇就够了
  • 单片机和 ARM 的区别
  • JavaScript从入门到精通系列第三十一篇:详解JavaScript中的字符串和正则表达式相关的方法
  • 23、数据结构/查找相关练习20240205
  • 【VSTO开发-WPS】下调试
  • git 的基本概念
  • 《统计学习方法:李航》笔记 从原理到实现(基于python)-- 第6章 逻辑斯谛回归与最大熵模型(1)6.1 逻辑斯谛回归模型
  • Go 中如何检查文件是否存在?可能产生竞态条件?
  • 红日靶场1搭建渗透
  • ChatGPT之搭建API代理服务
  • Kotlin手记(一):基础大杂烩
  • redis源码之:集群创建与节点通信(2)
  • 2024.2.5 寒假训练记录(19)
  • 游戏服务器租赁多少钱一台?26元,服不服?
  • wpf 引入本项目的图片以及引入其他项目的图像资源区别及使用方法
  • jsp页面,让alert弹出信息换行显示
  • 【IC设计】Windows下基于IDEA的Chisel环境安装教程(图文并茂)
  • IF=82.9!高分文献解读|吉西他滨联合顺铂化疗激活肿瘤免疫新机制
  • 【QT+QGIS跨平台编译】之二十八:【Protobuf+Qt跨平台编译】(一套代码、一套框架,跨平台编译)
  • 代码解析:list.stream().filter(Objects::nonNull).collect(Collectors.toList())