0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

Photon情报搜集爬虫的主要功能与安装使用说明

python爬虫知识分享 来源:python爬虫知识分享 作者:python爬虫知识分享 2022-06-23 16:35 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

Photon是一个由s0md3v开源的情报搜集爬虫,其主要功能有:

1.爬取链接(内链、外链)。
2.爬取带参数的链接,如(pythondict.com/test?id=2)。
3.文件(pdf, png, xml)。
4.密钥(在前端代码中不小心被释放出来的)。
5.js文件和Endpoint(spring中比较重要的监视器)
6.匹配自定义正则表达式的字符串。
7.子域名和DNS相关数据。

你可以用它来干很多事,比如爬图片、找漏洞、找子域名、爬数据等等。

不仅如此,它甚至支持json格式 ,仅需要在输入命令的时候加上json参数:

python photon.py -u "http://example.com" --export=json

1、下载安装

https://github.com/s0md3v/Photon/archive/refs/heads/master.zip

2、简单使用

注意,使用的时候要在Photon文件夹下。比如我们随便提取一个网站的URL试一下,在终端输入以下命令:

python photon.py -u https://bk.tencent.com/

它会在当前目录下产生一个你测试的域名的文件夹,比如在我这里是 bk.tencent.com:

结果如下:

pYYBAGK0JCWAGbHpAABO34wJ3lQ540.png

嘻嘻,让我们看看里面有什么东西,有没有程序员留下的小彩蛋,打开external.txt,这是该网站的外链的存放位置。可以看到,这里不仅仅是只有网站页面,连CDN文件地址都会放在这里,所以external可能是个藏宝库哦。


3、扩展

这个项目的价值,不仅在于能够快速拉取你想要得到的数据,还在于能够构建一个牛逼轰轰的情报系统(如果你技术够强的话)。因为它是能不断延伸下去的,比如从外链出发,你能找到很多和这个网站相关的讯息。

相比于搜索引擎搜索的结果,实际上这些信息更符合情报的要求。因为存在禁止搜索引擎爬取的 robot.txt, 所以不是网站的所有信息都能在搜索引擎搜索得到,而通过这个Photon,你可以顺藤摸瓜找到那些隐藏在互联网世界的它们。

审核编辑:汤梓红

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 开源
    +关注

    关注

    3

    文章

    4039

    浏览量

    45582
  • python
    +关注

    关注

    57

    文章

    4858

    浏览量

    89609
  • 爬虫
    +关注

    关注

    0

    文章

    87

    浏览量

    7961
  • photon
    +关注

    关注

    0

    文章

    33

    浏览量

    3861
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    综合配电柜主要功能喝应用场景是什么

    是综合配电柜的主要功能和应用场景的详细说明: 一、核心功能 电能分配 将输入的电力(如三相电或单相电)通过断路器、隔离开关等设备分配到多个输出回路,为不同负载(如电机、照明、空调等)提供独立电源。 支持多路输出,满足复
    的头像 发表于 10-10 10:41 297次阅读

    医院专用数据记录仪主要功能有哪些

    数据记录仪的主要功能在于采集、存储并分析各类数据,在众多领域有着广泛而深入的应用,为不同行业的发展带来了新的活力与变革。那么,医院专用数据记录仪主要功能有哪些?有何产品推荐?下面就让小编来为大家简单
    发表于 09-28 14:53

    窗口看门狗定时器(WWDT)的主要功能是什么?

    窗口看门狗定时器(WWDT)的主要功能是什么?
    发表于 08-26 06:23

    手持采集器是干什么用的 PDA采集器的主要功能与应用场景

    的“得力助手”。下面就来详细说说手持采集器的主要功能和常见应用场景。一、手持采集器的核心功能1.多形式数据采集手持采集器最核心的能力就是“采集”,它支持条形码、二维码
    的头像 发表于 08-20 15:09 839次阅读
    手持采集器是干什么用的 PDA采集器的<b class='flag-5'>主要功能与</b>应用场景

    PLC温度控制系统的主要功能

    PLC温度控制系统作为工业加热、恒温场景的核心控制单元,通过整合传感器、执行器与逻辑控制算法,实现对温度的精准调控,其主要功能可归纳为以下六大核心模块: 一、实时温度检测与采集 系统
    的头像 发表于 08-07 17:59 752次阅读

    一维二维码条码识读器的主要功能有哪些

    在信息化快速发展的当下,一维二维码条码识读器已成为各行各业高效处理信息的重要工具。从超市收银到物流追踪,它凭借快速准确的信息识别能力,大幅提升了工作效率。那么,一维二维码条码识读器的主要功能有哪些呢
    的头像 发表于 08-01 15:59 765次阅读
    一维二维码条码识读器的<b class='flag-5'>主要功能</b>有哪些

    图像采集卡的主要功能与应用

    图像采集卡是一种安装在计算机内部(通常是PCIe插槽)或通过外部接口(如USB3.0,)连接的硬件设备。它的主要功能是将来自摄像头、摄像机、传感器或其他视频源的模拟或数字视频信号,捕获、数字化并传输
    的头像 发表于 07-23 13:47 725次阅读
    图像采集卡的<b class='flag-5'>主要功能与</b>应用

    直流负载箱的主要功能有哪些?

    直流负载箱是专门用于模拟和测试直流电源系统负载的设备,其主要功能包括以下几点: 直流负载箱可以模拟各种不同类型的负载,如电阻、电感、电容等,以满足不同应用场景的需求。通过调整负载箱的参数,可以实现
    发表于 06-17 13:34

    Aigtek:功率放大器的主要功能有哪些

    功率放大器是一种重要的电子设备,其主要功能是将输入信号的功率增加到足够高的水平,以便推动负载或驱动输出设备。功率放大器在各个领域中都具有广泛的应用,例如音频系统、射频通信、雷达、无线电等。下面安泰
    的头像 发表于 03-19 10:40 577次阅读
    Aigtek:功率放大器的<b class='flag-5'>主要功能</b>有哪些

    稳压管的功能与应用

    具有反向击穿特性,可以在反向电压超过一定值时,通过稳定电压来保护电路免受电压波动的影响。本文将探讨稳压管的主要功能及其应用。1.稳压管的主要功能稳压管的主要功能是稳
    的头像 发表于 02-17 10:37 2825次阅读
    稳压管的<b class='flag-5'>功能与</b>应用

    Abaqus软件介绍:主要功能及模块、优势与特点等

    通过有限元方法对各种工程问题进行数值模拟,帮助工程师和研究人员优化设计、提高产品性能和安全性。 2. 主要功能 结构分析:Abaqus能够
    的头像 发表于 02-13 09:44 2861次阅读

    功率分析仪使用说明

    功率分析仪的使用说明主要包括安装、设置、测量及数据分析等步骤,以下是详细的使用指南:
    的头像 发表于 01-28 14:55 2097次阅读

    电流感应放大器主要功能_电流感应放大器工作原理

    电流感应放大器是一种基于磁耦合原理的电路,主要功能包括以下几个方面:   一、信号放大   电流感应放大器的主要功能之一是将低电平的信号放大到可以被检测的范围内。在电子测量、工业自动化
    的头像 发表于 01-27 11:39 2152次阅读

    继电器的主要功能与应用

    、温度继电器等。 按工作原理分类 :电磁继电器、静态继电器、固态继电器等。 按用途分类 :保护继电器、控制继电器、信号继电器等。 二、继电器的主要功能 信号放大 :继电器可以将微弱的信号放大到足以驱动其他设备的信号强度。
    的头像 发表于 12-28 09:33 2953次阅读

    ADL系列外置互感器导轨式多功能电能表安装使用说明书V1.5

    电子发烧友网站提供《ADL系列外置互感器导轨式多功能电能表安装使用说明书V1.5.pdf》资料免费下载
    发表于 12-16 14:19 0次下载