当前位置: 首页 > news >正文

计算机毕业设计hadoop+spark+hive知识图谱酒店推荐系统 酒店数据分析可视化大屏 酒店爬虫 高德地图API 酒店预测系统 大数据毕业设计

流程:
1.Python爬取去哪儿网全站旅游数据约10万+,存入mysql;
2.使用pandas+numpy/hadoop+mapreduce对mysql中旅游数据进行数据清洗,使用高德API计算地理信息,最终转为.csv文件上传hdfs;
3.hive建库建表导入.csv文件作为数据集;
4.一半指标使用离线hive_sql分析完成,一半指标使用实时Spark之Scala完成;
5.分析结果使用sqoop导入mysql;
6.使用Flask+echarts构建可视化大屏;
创新点:大屏可视化、Python爬虫、高德地图、Spark实时计算、Hadoop+Hive离线计算全部实现
选装(如果觉得功能太简单或者工作量不够)-->推荐系统、预测系统、知识图谱、后台管理

核心算法代码分享如下:

package com.bigdata.storm.kafka.util;import redis.clients.jedis.Jedis;
import redis.clients.jedis.JedisPool;
import redis.clients.jedis.JedisPoolConfig;/*** @program: storm-kafka-api-demo* @description: redis工具类* @author: 小毕* @company: 清华大学深圳研究生院* @create: 2019-08-22 17:23*/
public class JedisUtil {/*redis连接池*/private static JedisPool pool;/***@Description: 返回redis连接池*@Param: *@return: *@Author: 小毕*@date: 2019/8/22 0022*/public static JedisPool getPool(){if(pool==null){//创建jedis连接池配置JedisPoolConfig jedisPoolConfig = new JedisPoolConfig();//最大连接数jedisPoolConfig.setMaxTotal(20);//最大空闲连接jedisPoolConfig.setMaxIdle(5);pool=new JedisPool(jedisPoolConfig,"node03.hadoop.com",6379,3000);}return pool;}public static Jedis getConnection(){return getPool().getResource();}/*    public static void main(String[] args) {//System.out.println(getPool());//System.out.println(getConnection().set("hello","world"));}*/}

http://www.lryc.cn/news/374357.html

相关文章:

  • 简单谈谈云服务器私网IP的存在意义及优势
  • python错题(2)
  • 禁止methtype联网
  • 【iOS】UI学习——cell的复用及自定义cell
  • 【详细介绍下PostgreSQL】
  • 基于Matlab停车场车牌识别计时计费管理系统 【W2】
  • 码住!详解时序数据库不同分类与性能对比
  • 【C/C++】实参与形参的区别
  • ---异常---
  • python如何终止程序运行
  • 网络:用2个IP地址描述一个连接
  • Nodejs--构建web应用
  • C++ 二分查找法【面试】
  • 【Docker】docker-compose常用的构建docker容器的yml文件
  • 华为坤灵路由器初始化开局的注意事项,含NAT配置
  • HTTP!!!
  • Mybatis用Map接收返回值可能出现的问题
  • Web爬虫--fofa-资产信息搜集
  • mySql的事务(操作一下)
  • UniApp或微信小程序中scroll-view组件使用show-scrollbar在真机Android或IOS中隐藏不了滚动条的解决办法
  • 每天五分钟深度学习框架pytorch:多维tensor向量在某一维度的拼接和分割
  • 从C语言到C++(五)
  • 数据结构——栈(Stack)详解
  • 1.Element的table表高度自适应vue3+js写法
  • 联想电脑电池只能充到80%,就不在充电了,猛一看以为坏了,只是设置了养护模式。
  • Unity接入PS5手柄和Xbox手柄以及Android平台的(以及不同平台分析)
  • vue+java实现简易AI问答组件(基于百度文心大模型)
  • 刷代码随想有感(104):动态规划——01背包问题/二维dp数组
  • Docker-Portainer可视化管理工具
  • SqlSugar 集成