当前位置: 首页 > news >正文

爬虫框架- feapder + 爬虫管理系统 - feaplat 的学习简记

文章目录

  • feapder 的使用
  • feaplat 爬虫管理系统
    • 部署

feapder 的使用

feapder是一款上手简单,功能强大的Python爬虫框架
feapder 官方文档
文档写的很详细,可以直接上手。
基本命令:

  1. 创建爬虫项目
feapder create -p first-project
  1. 创建爬虫
feapder create -s <spider_name> <spider_type>
  1. 创建 item
feapder create -i <item_name>

feaplat 爬虫管理系统

特性

  • 支持任何python脚本,包括不限于feapder、scrapy
  • 支持浏览器渲染,支持有头模式。浏览器支持playwright、selenium 支持部署服务,可自动负载均衡 支持服务器集群管理
  • 支持监控,监控内容可自定义 支持起多个实例,如分布式爬虫场景 支持弹性伸缩 支持4种定时启动方式
  • 支持自定义worker镜像,如自定义java的运行环境、机器学习环境等,即根据自己的需求自定义(feaplat分为master-调度端和worker-运行任务端)
  • docker一键部署,架设在docker swarm集群上

部署

详细文档地址,跟着文档一步一步走,就没什么大问题的。

在这里插入图片描述
感觉还是很好用的 ~~

http://www.lryc.cn/news/132075.html

相关文章:

  • 设计模式详解-享元模式
  • BDA初级分析——用SQL筛选数据
  • (成功踩坑)electron-builder打包过程中报错
  • 【STM32】 工程
  • Git概述
  • ubuntu 编译安装nginx及安装nginx_upstream_check_module模块
  • 近 2000 台 Citrix NetScaler 服务器遭到破坏
  • MySQL MVCC的详解之Read View
  • 基于springboot+vue的考研资讯平台(前后端分离)
  • 学习网络编程No.3【socket理论实战】
  • Linux学习之ssh和scp
  • 录制游戏视频的软件有哪些?分享3款软件!
  • 每日一题——螺旋矩阵
  • 前端面试的性能优化部分(12)每天10个小知识点
  • SAP BTEs 业务交易事件/增强(Business Transaction Event)
  • leetcode做题笔记90. 子集 II
  • “开发和运维”只是一个开始,最终目标是构建高质量的软件工程
  • 自学C#,要懂得善用MSDN
  • mac上如何压缩视频大小?
  • git merge规则
  • 【周末闲谈】关于“数据库”你又知道多少?
  • C++ 对象生成:构造函数
  • RFID如何在汽车混流生产中进行车辆跟踪?
  • 差值结构的复合底部
  • 在Docker 上使用 Nginx 配置https及wss
  • git回退操作
  • C++系列-类和对象-静态成员
  • SAP MM学习笔记26- SAP中 振替转记(转移过账)和 在库转送(库存转储)2- 品目Code振替转记 和 在库转送
  • 【Python机器学习】实验13 基于神经网络的回归-分类实验
  • 【数据结构】二叉树的链式结构的实现 -- 详解