0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

GitHub上开源了个集众多数据源于一身的爬虫工具箱——InfoSpider

人工智能与大数据技术 来源:开源最前线 作者:开源最前线 2020-11-23 11:28 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

国内一位开发者在 GitHub 上开源了个集众多数据源于一身的爬虫工具箱——InfoSpider,一不小心就火了!!!

有多火呢?开源没几天就登上GitHub周榜第四,标星1.3K,累计分支172个(GitHub地址:https://github.com/kangvcar/InfoSpider) 在这样一个信息爆炸的时代,每个人都有很多个账号,账号一多就会出现这么一个情况:个人数据分散在各种各样的公司之间,就会形成数据孤岛,多维数据无法融合,这个项目可以帮你将多维数据进行融合并对个人数据进行分析,这样你就可以更直观、深入了解自己的信息。 InfoSpider 是一个集众多数据源于一身的爬虫工具箱,旨在安全快捷的帮助用户拿回自己的数据,工具代码开源,流程透明。并提供数据分析功能,基于用户数据生成图表文件,使得用户更直观、深入了解自己的信息。

目前支持数据源包括GitHub、QQ邮箱、网易邮箱、阿里邮箱、新浪邮箱、Hotmail邮箱、Outlook邮箱、京东、淘宝、支付宝、中国移动、中国联通、中国电信、知乎、哔哩哔哩、网易云音乐、QQ好友、QQ群、生成朋友圈相册、浏览器浏览历史、12306、博客园、CSDN博客、开源中国博客、简书。 根据创建者介绍,InfoSpider 具有以下特性:

安全可靠:本项目为开源项目,代码简洁,所有源码可见,本地运行,安全可靠。

使用简单:提供 GUI 界面,只需点击所需获取的数据源并根据提示操作即可。

结构清晰:本项目的所有数据源相互独立,可移植性高,所有爬虫脚本在项目的 Spiders 文件下。

数据源丰富:本项目目前支持多达24+个数据源,持续更新。

数据格式统一:爬取的所有数据都将存储为json格式,方便后期数据分析。

个人数据丰富:本项目将尽可能多地为你爬取个人数据,后期数据处理可根据需要删减。

数据分析:本项目提供个人数据的可视化分析,目前仅部分支持。

InfoSpider使用起来也非常简单,你只需要安装python3和Chrome浏览器,运行 python3 main.py,在打开的窗口点击数据源按钮, 根据提示选择数据保存路径,接着输入账号密码,就会自动爬取数据,根据下载的目录就可以查看爬下来的数据。 是不是很简单呢,如果你对InfoSpider也感兴趣,赶紧试一下。

责任编辑:lq

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 开源
    +关注

    关注

    3

    文章

    4348

    浏览量

    46446
  • GitHub
    +关注

    关注

    3

    文章

    489

    浏览量

    18763
  • 爬虫
    +关注

    关注

    0

    文章

    87

    浏览量

    8178

原文标题:一款爆红的开源爬虫工具箱

文章出处:【微信号:TheBigData1024,微信公众号:人工智能与大数据技术】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    Python全栈课通(470)(12.96 GB)-网盘资源下载

    ”——部门间的沟通壁垒、接口联调的互相推诿、需求传递的信息损耗。 Python 全栈的经济学价值,首先体现在“边界消除”。当你同时掌握 Web 开发、接口设计与自动化测试时,你实际一个人的身上
    发表于 04-19 16:30

    探秘HCS412:集安全与高效于一身的编码芯片

    探秘HCS412:集安全与高效于一身的编码芯片 在电子工程领域,安全与高效始终是设计的核心追求。HCS412作为款融合先进技术的芯片,为逻辑和物理访问控制提供卓越的解决方案。今天
    的头像 发表于 04-07 11:45 193次阅读

    M41ST85W:实时时钟、微处理器与NVRAM管理于一身的芯片

    M41ST85W:实时时钟、微处理器与NVRAM管理于一身的芯片 在电子设计领域,款功能全面且性能稳定的芯片往往能为项目带来事半功倍的效果。M41ST85W就是这样款值得关注的芯
    的头像 发表于 03-02 16:55 670次阅读

    LTC3559/LTC3559 - 1:充电与稳压于一身的理想之选

    LTC3559/LTC3559 - 1:充电与稳压于一身的理想之选 在电子设备设计中,电源管理模块的性能直接影响到整个系统的稳定性、续航能力和用户体验。今天,我们就来深入探讨 Linear
    的头像 发表于 02-24 16:45 630次阅读

    解析MAX14529E:多功能于一身的过压保护芯片

    解析MAX14529E/MAX14530E:多功能于一身的过压保护芯片 在电子设备的设计中,过压保护、充电器检测、低功耗稳压以及静电放电(ESD)保护等功能都是至关重要的。今天,我们就来深入探讨
    的头像 发表于 02-09 16:35 257次阅读

    探索FRDM-STBA-A8964传感器工具箱开发板:开启创新传感之旅

    探索FRDM-STBA-A8964传感器工具箱开发板:开启创新传感之旅 作为电子工程师,我们总是在寻找那些能够助力开发、提升效率的优质工具和开发板。今天,就带大家详细了解下NXP
    的头像 发表于 12-25 10:50 646次阅读
    探索FRDM-STBA-A8964传感器<b class='flag-5'>工具箱</b>开发板:开启创新传感之旅

    探索FRDM-K22F-A8974传感器工具箱开发板:从入门到精通

    的FRDM-K22F-A8974传感器工具箱开发板为工程师们提供强大而便捷的平台,用于评估和开发传感器相关的应用。今天,就让我们起深
    的头像 发表于 12-25 10:50 457次阅读

    探索FRDM - STBA - A8967传感器工具箱开发板

    传感器工具箱开发板,起来深入了解它吧。 文件下载: NXP Semiconductors FXLS8967AF用传感器工具箱开发板.pdf 资源获取与社区交流 在线资源查找 NXP半导体在传感器评估板
    的头像 发表于 12-25 10:50 727次阅读
    探索FRDM - STBA - A8967传感器<b class='flag-5'>工具箱</b>开发板

    IR2166:PFC与镇流器控制于一身的高效芯片

    IR2166:PFC与镇流器控制于一身的高效芯片 在电子工程师的日常设计工作中,寻找款能高效集成多种功能且具备可靠保护机制的芯片至关重要。今天,我们就来深入探讨国际整流器公司
    的头像 发表于 12-24 17:25 948次阅读

    RE46C105:多功能于一身的压电喇叭驱动芯片

    RE46C105:多功能于一身的压电喇叭驱动芯片 在电子设备的设计中,款性能优良且功能丰富的驱动芯片往往能为产品增色不少。今天要给大家介绍的是Microchip Technology旗下RE
    的头像 发表于 12-17 16:40 646次阅读

    探索Type 2FR:多功能于一身的无线模块

    探索Type 2FR:多功能于一身的无线模块 在当今的物联网(IoT)领域,无线连接技术的发展日新月异。对于电子工程师来说,选择款性能卓越、功能丰富且易于集成的无线模块至关重要。今天,我们就来
    的头像 发表于 12-16 15:55 523次阅读

    DP1363F 多协议NFC 兼容CLRC663开发资料

    ​DP1363F是高度集成的收发器芯片,用于13.56Mhz的非接触式通讯。强大的多协议支持、最高射频输出功率,以及突破性技术低功耗卡片检测等优势于一身,满足市场对更高集成度、更小外壳和互操作性
    发表于 11-03 14:01

    CANape的CASL工具箱

    在汽车电子ECU(电子控制单元)开发与测试领域,CANape是核心的测量、标定与诊断工具,而其专属的CASL(CalculationandScriptingLanguage)语言,凭借接近C语言
    的头像 发表于 10-29 10:03 704次阅读
    CANape的CASL<b class='flag-5'>工具箱</b>

    微软开源GitHub Copilot Chat,AI编程迎来新突破

    30分,微软首席执行官Satya Nadella向大家展示VS Code的最新AI开源编辑器GitHub Copilot Chat。 GitHub Copilot Chat的
    的头像 发表于 07-02 09:34 1427次阅读
    微软<b class='flag-5'>开源</b><b class='flag-5'>GitHub</b> Copilot Chat,AI编程迎来新突破

    Made with KiCad(104):Cynthion - 用于构建、分析和 Hack USB 设备的多功能工具

    “  Cynthion 是 USB 设备构建、测试、监控和实验于一身工具。采用基于 FPGA 的独特架构,其数字硬件可根据应用进行完全定制。因此,它可以充当不折不扣的高速 US
    的头像 发表于 04-30 16:47 2999次阅读
    Made with KiCad(104):Cynthion - 用于构建、分析和 Hack USB 设备的多功能<b class='flag-5'>工具</b>