当前位置: 首页 > news >正文

使用Feign 的远程调用,把mysql数据导入es

要把数据库数据导入到elasticsearch中,包括下面几步:

1)将商品微服务中的分页查询商品接口定义为一个FeignClient,放到feign-api模块中

2)搜索服务编写一个测试业务,实现下面功能:

调用item-service提供的FeignClient,分页查询商品 PageDTO<Item>

将查询到的商品封装为一个ItemDoc对象,放入ItemDoc集合

将ItemDoc集合批量导入elasticsearch中

注意:数据库中的商品数量多达9万多个,不可查询索引导入。一定要分页导入。

第一步,分页查询item接口对外暴露,在feign-api中定义接口

 @FeignClient("itemservice")
public interface ItemFeignClient {@GetMapping(path = "/item/list")public ResponseEntity<PageDTO<Item>> list(@RequestParam(value = "page", defaultValue = "1") Integer page, @RequestParam(value = "size", defaultValue = "10") Integer size);}


第二步 ,在es服务和数据服务分别引入fegin-api依赖

<dependency><groupId>com.hmall</groupId><artifactId>feign-api</artifactId><version>1.0</version>
</dependency>

es服务配置文件:

spring:application:name: searchserviceelasticsearch:rest:uris: http://192.168.xxx.xxx:xxxx


第三步,es服务入口类中调用feign,要开启feign扫描

@SpringBootApplication
@EnableFeignClients(basePackages = "com.hmall.api")
public class SearchApplication {public static void main(String[] args) {SpringApplication.run(SearchApplication.class, args);}
}

第四步,编写一个测试类,分页查询并批量导入

@SpringBootTest
@RunWith(SpringRunner.class) //Junit 4 需要  ,  Junit 5 不需要
public class BulkItemImportTest {@Autowiredprivate ItemFeignClient itemFeignClient;@Autowiredprivate RestHighLevelClient restHighLevelClient;@Testpublic void bulkItemImportTest() throws IOException {Integer page = 1, size = 1000;while (true) {//1. 查询商品列表ResponseEntity<PageDTO<Item>> responseEntity = itemFeignClient.list(page, size);PageDTO<Item> pageDTO = responseEntity.getBody();//如果查询的数据未空代表, 所有数据已经完成导入, 终止循环if (pageDTO.getList() == null || pageDTO.getList().size() == 0) {break;}//2. 导入数据到ES//2.1 创建请求对象BulkRequest request = new BulkRequest();//2.2 封装DSL语句pageDTO.getList().stream().forEach(item -> {ItemDoc itemDoc = new ItemDoc(item);request.add(new IndexRequest("hmall_item").id(item.getId() + "").source(JSON.toJSONString(itemDoc), XContentType.JSON));});//2.3 发送请求restHighLevelClient.bulk(request, RequestOptions.DEFAULT);page++;}}
}
http://www.lryc.cn/news/109543.html

相关文章:

  • Java课题笔记~ MyBatis接口开发(代理开发)
  • 从数学到深度学习的学习资料及教程合集
  • nn.CrossEntropyLoss()报错
  • 【BASH】回顾与知识点梳理(一)
  • AWS Amplify 部署node版本18报错修复
  • K8S添加yum源并安装kubectl/kubeadm/kubelet组件
  • kafka生产者指定ip
  • python 封装sql 增删改查连接MySQL
  • Flink正常消费一段时间后,大量反压,看着像卡住了,但又没有报错。
  • 软件测试需求分析的常用方法
  • 数据结构10 -查找_树表查找
  • 第126天:内网安全-隧道技术SSHDNSICMPSMB上线通讯LinuxMac
  • 开发一个饲料商城小程序需要多少钱
  • Emacs之set-face-attribute与font-lock-add-keywords用法区别(一百二十八)
  • JavaScript高阶函数和闭包
  • 私有化部署企业IM即时通讯:提升效率、防止泄密、高效协同办公
  • react ant icon的简单使用
  • 用Rust实现23种设计模式之原型模式
  • visual studio 2022 编译时出现MSB3721问题
  • Android 获取网络连接状态新方法
  • 可缝合神经网络
  • Android优化篇|网络预连接
  • pyspark使用XGboost训练模型实例
  • 完整模型的训练套路
  • PtahDAO:全球首个DAO治理资产信托计划的金融平台
  • 从零搭建一个react + electron项目
  • MATLAB /Simulink 快速开发STM32(使用st官方工具 STM32-MAT/TARGET),以及开发过程
  • LeetCode 热题 100 JavaScript--102. 二叉树的层序遍历
  • 常见Git命令
  • 在C语言中调用汇编语言的函数